Azref

Pour quelle raison? A moins que ce ne soit juste l'habituel "ils devraient rester en France et se faire matraquer fiscalement."

On dirait un mélange entre 1984 et une partie de Cyberpunk 2077 mal digérée.

Il y a moyen de forcer même après le résumé du contexte précédent de toujours maintenir les instructions SYSTEM/USER pour éviter ce genre de choses. Le contexte de discussion peut être une fenêtre mouvante de x tokens, par exemple 16000, mais parmi ceux-ci, on en réserve 2500 pour fixer les instructions importantes et on se débrouille pour qu'ils soient le plus près de l'output possible. Ce qui donne une fois le contexte plein, dans la nouvelle session : [Résumé des actions précédentes] SYSTEM : RAPPEL DES REGLES -> NE PAS FAIRE CECI, NE PAS FAIRE CELA (inséré dynamiquement) Réponse OK, je ne connais pas bien le fonctionnement d'openclaw, j'ai supposé qu'il tournait en tapant sur un LLM local sur le mac mini qui lui même contrôlait le serveur email de la dame par API. D'où sa précipitation pour aller le débrancher. Sans LLM, pas d'agent.

Oui on verra bien, mais à ce jour si je ne vérifie pas ce que je demande, même aux meilleurs modèles (claude sonnet 4.6, gpt 5.2, gemini 3.0/3.1, tous les modèles avec le "thinking mode" activé), ils commettent des erreurs. Alors bien moins qu'il y a un an, et encore moins depuis qu'ils ont tous un mode Chain Of Thoughts, mais quand même. Note que cela me fait gagner un temps fou et me permet de faire des choses que je n'aurai pas imaginé possible, donc le temps de vérification est bien moins important que si j'avais fait les choses moi même de bout en bout. Pour la personne au dessus, au final je ne suis pas sûr du modèle utilisé, mais si elle parle d'un mac mini je ne pense pas qu'il s'agisse du modèle le plus performant, et apparemment le soucis c'est qu'il a perdu le contexte des instructions : C'est une erreur de débutant, normalement ce genre d'instructions doivent toujours être dans le contexte actif du modèle. Je n'ai généralement pas un amour fou des gens issus des services "AI Safety", et ça me conforte dans mes pensées.

Non, les excuses n'ont aucun intérêt. Plus le LLM est petit/"bête", moins il a d'attention ou est capable de suivre des règles complexes. En l’occurrence, jamais je ne donnerai le contrôle par API en écriture à un LLM, même le meilleur, pour la génération actuelle.

Rien de surprenant, le type est "entrepreneur dans l'IA". Le monde des entrepreneurs IA est assez étrange, ça peut aller de "L'IA c'est comme la bombe atomique il faut une législation pour leur sûreté (préférablement avec les règles qui m'arrangent dedans) à "l'IA c'est magique et n'a jamais besoin d'intervention humaine". En tant qu'utilisateur régulier de LLMs, j'ai beaucoup de mal à m'y retrouver en terme de vraie analyse intelligente qui n'est pas juste un encart publicitaire, un coup de com ou un scénario d'un livre de science fiction.

Note que la plupart des web front LLMs, de copilot à chatgpt en passant par claude, offrent des souscriptions entreprise qui contiennent expressément une clause de non utilisation des prompts utilisés.

Reverse image search avec google, et avec un peu de chance si tu trouves une source plus vieille que 2022 tu seras sûr que ce n'est pas de l'IA.

Ah mais je suis d'accord, j'avais juste écrit comme si j'avais utilisé chatgpt pour la (mauvaise) blague! Les modèles les moins chers (chatgpt gratuit, copilot, gemini flash), sont très faciles à détecter en tout cas.

Oui elles complètent bien puisque la première c'est aussi les pontes d'OpenAI qui vendent le fait que leur prochain modèle est tellement avancé qu'il ont en peur (juste avant un round de financement bien sûr). Et la seconde, c'est celle du quidam qui utilise suffisamment tous les modèles mais là on est irl sur un vrai usage, donc pas le putaclic des réseaux sociaux/youtube.

Mais, du coup — et c’est là que tout se joue — l’usage de l’IA serait donc, en somme, *indétectable* sans ce paragraphe?

Ca pas vraiment sur le court terme mais par contre un médecin dont la productivité est démultipliée car une partie du boulot d'analyse a déjà été fait, et il n'a plus qu'à appliquer un tampon de validation à ce que l'IA indique comme étant les tests à faire, les médicaments à prescrire, les opérations etc. Le zéro intervention humaine je n'y crois pas, mais les spécialistes qui y gagnent du temps et en expertise, oui. Sur le long terme aucune idée, sinon je serai milliardaire.

50% du discours médiatique (sur les réseaux sociaux/youtube) à propos de l'IA est de type apocalyptique : "on va tous mourir", tel "père de l'IA" nous expliquant que c'est bientôt skynet/la fin du monde. Pendant ce temps, l'autre moitié dit l'exact opposé, càd "l'IA est stupide", avec la même partition que l'on a eu à la création de wikipedia (et probablement de toutes les démocratisations du savoir précédentes) : l'outil raconte n'importe quoi et il ne faut pas l'utiliser, et puis regardez toutes ces vidéos inutiles et toute cette consommation énergétique. Dans les deux cas, la conclusion est la même d'une certaine façon.

Taxe type fioul sur les recharges de véhicules partout où c'est possible? En gros chez soi, on pousse progressivement à l'usage de wallbox (plus rapide, plus pratique...), puis dans un second temps on oblige à l'usage de wallbox et on lui applique une taxe spécifique, contribution solidaire pour une électricité durable ou un truc comme ça, le mot pour que les français gobent étant bien sûr "solidaire". On démarre avec une taxe très basse, et voila, le tour est joué.

Panique ou pas, j’espère qu'ils poussent dans leur profession en interne à comprendre comment ça fonctionne et s'en servir, plutôt que de juste faire peur dessus ou de faire semblant que ça n'existe pas.

Je trouve amusant que claude soit probablement le plus puritain des modèles concernant les contenus adultes/violent fictionnels (encore plus que ceux d'Openai, d'ailleurs il a été fondé par des chercheurs qui trouvaient la politique d'Openai trop timorée sur ce sujet), mais par contre, s'associer à des raids militaires, aucun soucis.

Ainsi que les politiciens plus jeunes aux dents longues qui souhaitent prendre la place de la vieille garde?

Evidemment, une fois les vannes ouvertes, chacun va pousser sa demande d'interdiction de tel ou tel truc avec obligation d'identification pour tout le monde.

Macron continue dans sa croisade contre l'anonymat sur internet. Après les lois sur "la haine", celles transformant l'Arcep en "Big Brother" Arcom, celles sur l'obligation en pratique de ne plus être anonyme sur les sites adultes, tout en poussant pour introduire une porte dérobée en Europe avec Chat Control, voila maintenant que l'on s'inspire de l'Australie pour interdire les réseaux sociaux aux moins de 15 ans, ce qui en pratique veut simplement dire à terme la fin de l'anonymat sur les réseaux sociaux. Jamais un chef d'Etat n'aura autant détricoté pas à pas la liberté d'expression permise par Internet, le tout bien sûr pour "protéger les enfants".

Ce truc mourra avec la fin de son mandat.

J'ai dû relire deux fois avant de voir le "sans". Incroyable en effet.