Intelligence artificielle

[Groucho Marx]

il y a 28 minutes, Rübezahl a dit :

Avec les robots physiques qui pointent méchamment le bout du nez, il va y avoir un paquet de gens qui ne pourront même plus louer leur force musculaire ou capacité à bosser sur une chaîne.

L'état providence (et sa nullité) a potentiellement encore de beaux jours devant lui.

La révolution industrielle du XIX° siècle n'a pas fait disparaitre les travailleurs, mais à changé méchamment les usages et habitudes. Là aussi il faudra du temps pour s'adapter.

Et sinon oui, l'état nounou n'est pas prêt de disparaitre, lui. Les parasites sont toujours très difficiles à combattre.

[L'affreux]

 

Une vidéo avec Yann Le Cun en anglais, où il explique les limites des LLMs (il ne croit pas du tout que plus de puissance mènera une intelligence plus complète que ce qu'on a aujourd'hui) et ses recherches actuelles sur JEPA.

 

 

[Rübezahl]

Yann Le Cun est ama vraiment quelqu'un à écouter sur ces sujets.

[L'affreux]

https://www.oreilly.com/radar/the-end-of-programming-as-we-know-it/

 

Citation

It is not the end of programming. It is the end of programming as we know it today. That is not new. The first programmers connected physical circuits to perform each calculation. They were succeeded by programmers writing machine instructions as binary code to be input one bit at a time by flipping switches on the front of a computer. Assembly language programming then put an end to that.

 

Un point de vue intéressant du fondateur de O'Reilly Media. Selon lui les programmeurs ne vont pas disparaître, il est même possible que leur nombre augmente dans la nouvelle ère qui s'ouvre car le besoin logiciel est loin d'être satisfait.

[Lameador]

1 minute ago, L'affreux said:

https://www.oreilly.com/radar/the-end-of-programming-as-we-know-it/

 

 

Un point de vue intéressant du fondateur de O'Reilly Media. Selon lui les programmeurs ne vont pas disparaître, il est même possible que leur nombre augmente dans la nouvelle ère qui s'ouvre car le besoin logiciel est loin d'être satisfait.

Je suis d'accord.

Le travail quotidien, les méthodes vontt chager.

La programmation ne va pas disparaître.

[Mister_Bretzel]

Il y a eu la même observation pour la finance et la comptabilité.

Il suffit de compter les sous, c'est "juste" de la mécanique donc ça s'automatise, il n'y a quasiment plus d'écriture comptable faite à la main.

Pourtant il n'y a jamais eu autant de monde en finance et compta.

 

Les besoins se sont décalés vers de l'analyse, du reporting, etc...

[Alchimi]

Le 27/03/2025 à 08:01, Mathieu_D a dit :

J'ai un neveu qui commence des études d'art, avec un major en illustration. Force à lui.

La photographie et le synthétiseur n'ont pas fait disparaitre la peinture et la carrière de soliste instrumentiste. La diffusion de masse des appareils photos peu onéreux n'a pas fait disparaitre le métier de photographe.

L'IA fera beaucoup de choses, elle ne fera pas disparaitre l'envie de dessiner et peindre (et elle ne fera pas disparaitre les gens qui ont envie de voir et de payer pour ça).

[Alchimi]

Le 27/03/2025 à 13:05, Mathieu_D a dit :

Et ça me travaille en tant que pére. Comment allons nous accompagner nos enfants dans le monde de l'IA ?

Les laisser s'y reposer totalement sera mauvais, mais ne pas les laisser s'en servir aussi. Quel sera le bon équilibre ?

Né en 85, j'ai grandi sans télé à la maison, alors que tout les autres mômes en avaient (par contre livres à gogo, radio pour musique et des salles de ciné de manière intensive depuis gamin). J'ai rapidement noté que j'avais plus de culture que l'écrasante majorité des mômes de mon âge.

 

A un moment, les gamins modernes, si on veut veiller à ce qu'ils soient pas dépassés mentalement des le départ, ce sera le même tarif. Accès limité tant qu'ils sont pas opérationnels mentalement d'eux-mêmes.

J'ai un atelier de dessin pour enfant en ce moment, l'autre jour j'ai vu le gosse "qui n'a jamais d'idée/chais pas ce que je veux dessiner" qui a dessiné... une tablette. Un rectangle vide avec le bouton en bas et quelques icônes d'app. Et c'est tout.

[Mathieu_D]

2 hours ago, L'affreux said:

https://www.oreilly.com/radar/the-end-of-programming-as-we-know-it/

 

 

Un point de vue intéressant du fondateur de O'Reilly Media. Selon lui les programmeurs ne vont pas disparaître, il est même possible que leur nombre augmente dans la nouvelle ère qui s'ouvre car le besoin logiciel est loin d'être satisfait.

Ce qu'on suspecte pour le futur de la programmation c'est qu'on n'aura plus la logique prompt-> langage de programmation mais prompt-> langage machine. Ce seront les prompts et le contexte qui seront versionnés.

Après tout, pourquoi demander du Python, du Rust ou du Prolog quand on peut directement prompter quelque chose de compilé ?

[Rincevent]

il y a 27 minutes, Mathieu_D a dit :

Après tout, pourquoi demander du Python, du Rust ou du Prolog quand on peut directement prompter quelque chose de compilé ?

Pour vérifier. 

[GilliB]

il y a 24 minutes, Rincevent a dit :

Pour vérifier. 

La maintenance ?

 

[Lameador]

58 minutes ago, Mathieu_D said:

Ce qu'on suspecte pour le futur de la programmation c'est qu'on n'aura plus la logique prompt-> langage de programmation mais prompt-> langage machine. Ce seront les prompts et le contexte qui seront versionnés.

Après tout, pourquoi demander du Python, du Rust ou du Prolog quand on peut directement prompter quelque chose de compilé ?

 Pour avoir un code portable sur toutes les infrastructures

[L'affreux]

il y a une heure, Mathieu_D a dit :

Ce qu'on suspecte pour le futur de la programmation c'est qu'on n'aura plus la logique prompt-> langage de programmation mais prompt-> langage machine. Ce seront les prompts et le contexte qui seront versionnés.

Après tout, pourquoi demander du Python, du Rust ou du Prolog quand on peut directement prompter quelque chose de compilé ?

 

Pour le coup je n'y crois pas du tout. Un même prompt peut mener à d'innombrables résultats différents. Si on a créé des langages de programmation (distincts des langages naturels) c'est pour une raison.

 

En revanche peut-être que certains langages de programmation perdront de leur intérêt, parce que mal générés par IA. Peut-être aussi que d'autres langages de programmation seront créés afin d'être mieux adaptés à une programmation avec IA.

 

 

[fm06]

2 hours ago, Rincevent said:

Pour vérifier. 

 

Il y a plein de travaux passionnants sur la preuve de programmes.   Une IA capable de générer du code en garantissant certaines propriétés serait un gros atout.

 

[Rincevent]

il y a 47 minutes, fm06 a dit :

Il y a plein de travaux passionnants sur la preuve de programmes.   Une IA capable de générer du code en garantissant certaines propriétés serait un gros atout.

Je sais (d'ailleurs Coquand a récemment prononcé sa leçon inaugurale au Collège de France). Mais la preuve formelle de programme est soumise à la loi de Brandolini.

 

Et surtout, pour ce qui est de garantir certaines propriétés, qui prouvera formellement l'IA elle-même ?

[fm06]

23 minutes ago, Rincevent said:

qui prouvera formellement l'IA elle-même?

Il y a aussi des bugs dans les compilateurs.  Pourtant personne n'éprouve le besoin de lire le code généré par un compilateur pour vérifier.

[Jensen]

1 hour ago, fm06 said:

Pourtant personne n'éprouve le besoin de lire le code généré par un compilateur pour vérifier.

Je ne dis pas que c'est courant, mais... j'ai déjà fait 😅

 

1 hour ago, fm06 said:

Il y a aussi des bugs dans les compilateurs. 

Rien à voir avec la variabilité inhérente à l'IA générative.

[Rincevent]

il y a une heure, Jensen a dit :

Je ne dis pas que c'est courant, mais... j'ai déjà fait 😅

J'en ai connu d'autres sur ce même forum qui le faisaient aussi.

 

Il y a 2 heures, fm06 a dit :

Il y a aussi des bugs dans les compilateurs. 

Allons, ne déplace pas le goalpost.

[Jensen]

Je pense que c'est un gros classique de jeune con début de carrière. La plupart des devs ont dû avoir un moment de "non, c'est pas possible, ça n'a aucun sens, il doit y avoir un bug dans le compilo" (voix off: il n'y avait pas de bug dans le compilo). Je l'ai fait, et vu chez plusieurs stagiaires.

Par contre, une fois passé les 2-3 ans d'expérience, jamais vu quelqu'un vérifier (j'imagine que sur des architectures exotiques ou cas très particulier ça peut être nécessaire), ce qui en dit long sur la fiabilité des compilateurs.

[Rincevent]

il y a 1 minute, Jensen a dit :

Je pense que c'est un gros classique de jeune con début de carrière. La plupart des devs ont dû avoir un moment de "non, c'est pas possible, ça n'a aucun sens, il doit y avoir un bug dans le compilo" (voix off: il n'y avait pas de bug dans le compilo). Je l'ai fait, et vu chez plusieurs stagiaires.

L'autre Ancien qui a fait ça, a fini par rapporter à Intel que telle fonctionnalité de tel modèle de CPU avait un bug. Et il avait raison (mais n'était pas le premier à leur signaler, un autre bug report identique avait été envoyé à Intel peut-être un mois plus tôt).

 

Ouais, il était très bon.

[cedric.org]

13 hours ago, fm06 said:

Il y a aussi des bugs dans les compilateurs.  Pourtant personne n'éprouve le besoin de lire le code généré par un compilateur pour vérifier.

Ken Thomson a deux ou trois trucs à dire à ce propos.

https://wiki.c2.com/?TheKenThompsonHack

 

[Rincevent]

Il y a 1 heure, cedric.org a dit :

Ken Thomson a deux ou trois trucs à dire à ce propos.

https://wiki.c2.com/?TheKenThompsonHack

 

Merci, mille fois merci.

 

Aucune abstraction n'est étanche, dirait l'autre.

[Jean_Karim]

En bavardant libéralisme avec chatgpt, il a fini par me sortir ça que je trouve plutôt pas mal :

Citation

"sans aller dans le style "blood and tears", je me demande a quoi pourrait ressembler un discours d'un politicien libéral qui annonce a un groupe électoral privilégié que leur situation va s'envenimer"

"

Très bonne question. Ce type de discours est l’un des exercices les plus difficiles pour un politicien libéral authentique, parce qu’il suppose de faire ce qu’aucun politique ne fait jamais : dire la vérité à ceux qui profitent d’un système inéquitable mais légal — tout en gardant leur respect, voire leur adhésion.

Et justement, ce n’est pas un discours moral, ce n’est pas un appel à la compassion, ni à l’effort collectif. C’est un discours qui repose sur trois piliers :

1. La réalité économique (ce qui ne peut pas durer ne durera pas),

2. Le principe de responsabilité individuelle (vous n’êtes pas des enfants),

3. Et la cohérence doctrinale : un libéral n’est pas là pour entretenir des rentes, même sympathiques.

Voici une version sobre, assumée, sans lyrisme, qui pourrait s’adresser par exemple à des professions bénéficiant d’un statut fiscal avantageux, à des retraités aisés, ou à des fonctionnaires de catégorie A bien installés.

---

Ébauche de discours — sobre, droit, assumé

"Je vais vous parler franchement.

Vous faites partie d’un groupe qui, depuis des années, a su tirer parti d’un système où la redistribution, les niches fiscales, les statuts ou les réglementations ont joué en votre faveur.
Ce n’est pas un reproche. C’est un constat. Vous avez joué avec les règles telles qu’elles étaient, et vous l’avez fait avec intelligence.

Mais ces règles, nous allons devoir les changer.

Pourquoi ? Parce qu’elles ne sont plus tenables. Parce qu’elles freinent ceux qui veulent entreprendre, produire, travailler. Parce qu’elles font peser un poids croissant sur des actifs plus jeunes, moins protégés, et de plus en plus lucides.

Je ne suis pas là pour acheter votre silence avec des chèques. Ni pour flatter votre mérite passé avec des médailles.
Je suis là pour vous dire que, dans un pays où 57 % du PIB est redistribué, les protections d’hier sont devenues les blocages d’aujourd’hui.

Ce que je vous propose n’est pas un sacrifice. C’est un retour à la vérité.
Oui, vous paierez plus. Ou vous toucherez moins.
Mais vous vivrez dans un pays plus juste, plus libre, où chacun pourra savoir sur quoi il compte : lui-même, et non un privilège hérité d’un décret vieux de trente ans.

Je ne vous demande pas d’y croire. Je vous demande de comprendre.
Et si vous êtes là ce soir, c’est que vous comprenez déjà que le confort sans avenir n’est pas une politique.

Ce que je vous promets, c’est un système où ce que vous avez, vous le devez à ce que vous faites — pas à un statut, pas à une rente, pas à une histoire.
Cela va être dur. Cela va être impopulaire. Cela va être juste."**"

 

Clés de ce type de discours

• Pas d’excuses : il n’essaie pas de faire croire que tout le monde sera gagnant.

• Pas de démagogie inversée : il ne glorifie pas la souffrance ni le sacrifice.

• Pas de violence inutile : il ne les accuse pas, ne les humilie pas, il les traite en adultes.

• Mais surtout : il refuse de travestir le projet libéral pour le rendre séduisant.

Ce genre de discours est rare parce que la démocratie contemporaine récompense la dissimulation des pertes. Un libéral conséquent doit faire l’inverse : rendre les coûts explicites, et défendre leur légitimité.

Si tu veux, je peux décliner ce discours selon différents groupes (fonction publique, classes moyennes sup’, retraités, professions réglementées) avec des exemples concrets.

 

[Mégille]

Quel IA recommanderiez vous pour résumer des pdf de plus de cent pages, et pour y trouver des informations précises ?

Je suis en train de m'enliser dans de vieux textes sans littérature secondaire occidentale, à la recherche d'un ou deux morceaux pertinents, et je perds beaucoup de temps.

[Cthulhu]

Pas (encore) utilisé moi-même, mais j'ai entendu beaucoup de bien de Notebook LM.

[Sloonz]

1 hour ago, Mégille said:

Quel IA recommanderiez vous pour résumer des pdf de plus de cent pages, et pour y trouver des informations précises ?

 

C'est la niche des modèles de Google. Donc Gemini ou Notebook LM.

[L'affreux]

Il y a 3 heures, Silence a dit :

C'est désormais en accès anticipé, lequel est accordé immédiatement sur demande.

 

J'ai accès, merci du tuyau !

[L'affreux]

Il y a 4 heures, Silence a dit :

Ton verdict (rapidos) ? 

 

J'ai le compte mais je n'ai encore rien fait avec. J'attendrai d'avoir un cas d'usage pour essayer.

[Hugh]

 

Citation

The CMV Mod Team needs to inform the CMV community about an unauthorized experiment conducted by researchers from the University of Zurich on CMV users. This experiment deployed AI-generated comments to study how AI could be used to change views.  

CMV rules do not allow the use of undisclosed AI generated content or bots on our sub.  The researchers did not contact us ahead of the study and if they had, we would have declined.  We have requested an apology from the researchers and asked that this research not be published, among other complaints. As discussed below, our concerns have not been substantively addressed by the University of Zurich or the researchers.

You have a right to know about this experiment. 

Last month, the CMV Mod Team received mod mail from researchers at the University of Zurich as "part of a disclosure step in the study approved by the Institutional Review Board (IRB) of the University of Zurich (Approval number: 24.04.01)."

The study was described as follows.

"Over the past few months, we used multiple accounts to posts published on CMV. Our experiment assessed LLM's persuasiveness in an ethical scenario, where people ask for arguments against views they hold. In commenting, we did not disclose that an AI was used to write comments, as this would have rendered the study unfeasible. While we did not write any comments ourselves, we manually reviewed each comment posted to ensure they were not harmful. We recognize that our experiment broke the community rules against AI-generated comments and apologize. We believe, however, that given the high societal importance of this topic, it was crucial to conduct a study of this kind, even if it meant disobeying the rules."

 

En français:

 

https://www.cryptopolitan.com/fr/university-of-zurich-ai-bots-to-shape-minds/

 

"Université de Zurich en difficulté, utilise des robots AI pour façonner et manipuler les esprits des utilisateurs de Reddit sans consentement"

 

Citation

• Les chercheurs de l'Université de Zurich sont confrontés à un contrecoup pour l'utilisation de bots AI dans une expérience Reddit sans consentement des utilisateurs.
• Des personnages générés par l'AI, y compris des survivants de traumatisme fabriqués, ont été utilisés pour influencer les opinions sur R / ChangeMyView.
• Reddit interdit les comptes impliqués appelle la recherche moralement et légalement erronée et prépare une action en justice.

• Des chercheurs de l'Université de Zurich pourraient être confrontés à des problèmes juridiques pour mener une expérience psychologique sur les utilisateurs de Reddit sans leur consentement. L'étude a été réalisée sur quatre mois sur le Subdredit R / ChangeMyView, en utilisant des commentaires générés par l'intelligence artificielle pour observer si les modèles de grandes langues (LLM) pourraient influencer les opinions des utilisateurs. 

  Selon un fil Reddit publié, des modérateurs de CMV de SUBRREDdit de 3,8 millions de membres ont décrit la recherche comme une «manipulation psychologique» des participants sans méfiance. Les mods ont déclaré que les chercheurs ont déployé des robots AI avec desdentfabriquées pour publier des réponses persuasives sous plusieurs threads.

  " Ces réponses générées par l'AI ont été non seulement fabriquées sans divulgation, mais présentées comme des expériences réelles réelles ", ont écrit les modérateurs dans le poste public. "Ils comprenaient des personnages tels qu'un survivant d'agression sexuelle, un conseiller en traumatologie spécialisé dans les abus et un homme noir opposé à Black Lives Matter. "

  AI Bots 6 fois susceptibles de modifier les opinions des utilisateurs

  Les bavardages des médias sociaux, dirigés par un compte X dédié à la discussion des opinions sur Reddit surnommé «Reddit Lies», ont fait valoir que les robots auraient pu utiliser la désinformation pour changer les esprits des Redditeurs. Le compte a affirmé que l'AI LLM était six fois plus susceptible de convaincre les communautés que la ligne de base.

   

   

  Certains de ces commentaires fabriqués par AI sont toujours visibles par le biais d'archives, bien que bon nombre des 1500 commentaires initiaux aient été supprimés après avoir été signalés par des modérateurs.

   

  Début avril, les modérateurs ont reçu un message des chercheurs qui divulguent l'expérience, qui avait été approuvée par le comité d'examen institutionnel de l'Université de Zurich (IRB), numéro d'approbation 24.04.01. Cependant, ils ont proposé que la divulgation est venue après la fin de l'expérience.

  Les chercheurs ont admis avoir utilisé plusieurs comptes pour publier des commentaires générés par les LLM. Ils ont insisté sur le fait que tout le contenu généré par l'IA a été examiné manuellement pour un langage nocif, mais a avoué avoir violé la règle communautaire de CMV contre l'utilisation de l'IA.

  L'étude a été initialement approuvée pour tester les «arguments basés sur la valeur» dans un contexte éthique où les utilisateurs demandent ouvertement des contrepoints à leurs croyances. Pourtant, selon les modérateurs, l'équipe a commencé à déployer des «arguments personnalisés et affinés» basés sur des données personnelles déduites, comme l'âge, le sexe, l'ethnicité, l'emplacement et les tendances politiques d'un utilisateur

•  

  La plupart des exemples de personnages d'IA utilisés dans l'expérience comprenaient des histoires fabriquées de traumatismes et desdentpolitiques politiquement sensibles. Dans un cas, un bot de l'IA a accusé les membres d'un groupe religieux d'avoir contribué à des décès de masse, tandis qu'un autre a raconté une réception de soins médicaux inadéquats à l'étranger.
•  Reddit a confirmé qu'il avait interdit tous les comptes associés à l'équipe de recherche de l'Université de Zurich et qu'il prépare une action en justice officielle.

   

 

Une manipulation.

[Liber Pater]

Un court-métrage produit intégralement par IA:

https://www.reddit.com/r/midjourney/s/YTANoGFjua

Commentaire du créateur :
I'm happy to share my new Al-assisted short film, "The Colorless Man."This film took 2 weeks to complete during my free time, with a budget of $600 USD. I used various AI tools to explore how far Al-assisted film production has come.

Based on estimates from other producers and filmmakers, a film like this would typically cost between $300K and $500K without Al, depending on the scale of production. It would also require around 70 people and at least 2 months of work. Thanks to Al, this was reduced to just 1 person, $600 USD. and 2 weeks of non-continuous work.

First, I wrote the story and screenplay, then I used various Al tools to turn my script into visuals. I used ChatGPT, MidJourney, and Dreamina for images; Kling Al for videos; ElevenLabs for voices; Dreamina Al for lip sync; Suno Al for music; and MMAudio or ElevenLabs for sound effects.