L'affreux

Voilà une casserole derriere Milei...

Je ne pense pas. Je pense que la volonté est plutôt une conséquence de la conscience, et la conscience est une notion mal comprise. On n'obtiendra pas un outil efficace dans ce domaine sans avoir compris comment ça marche. À moins qu'elle émerge bien sûr mais ce serait une surprise. Note que c'est le principe de fonctionnement d'un outil comme le Copilot des développeurs. C'est effectivement plus puissant de travailler en plusieurs fois : première étape, le LLM génère une liste détaillée de tâches à partir de la demande de l'utilisateur. Deuxième étape, il exécute la liste des tâches. Cela consiste à réfléchir avant d'agir.

C'est exactement ça. Peut-être que les IA deviendront conscientes mais aujourd'hui ce n'est pas le cas. Les sociétés qui investissent en ce moment des dizaines de milliards de dollars dans des clusters de GPU ne font pas le pari de l'émergence d'une conscience, ce serait déraisonnable. Si elles investissent autant c'est parce qu'elles voient le bout du tunnel. Et le bout du tunnel est une capacité de raisonnement plus puissante que celle humaine, à la demande (des humains).

Pour éviter les hallucinations et faire en sorte que l'IA donne les sources, la bonne manière est de faire un RAG (avec par exemple Llamaindex) mais ce serait alors un outil maison à développer.

Pour le moment Anthropic & co fabriquent des machines capables de raisonner dénuées de volonté. Ça marche déjà très bien mais il faut micromanager, l'ambition est que les IA soient capables de raisonner mieux que les meilleurs humains et gagnent en autonomie sur les tâches qu'on leur donne. Je n'ai pas l'impression que Dario parle d'une machine ayant une volonté propre. C'est d'ailleurs peut-être pour ça qu'il évite le terme AGI. Les entrepreneurs restent donc humains. Après tu peux demander à une IA de diriger une boîte mais n'importe quel humain le peut tout autant, en payant bien sûr pour l'utilisation. C'est @Rübezahl qui a raison, l'IA est un outil.

Merci, j'ai pigé 👍. Du point de vue du patron qui souhaite faire tourner son business, c'est effectivement aussi simple que cela. Cela dit dans beaucoup de métiers l'intelligence ne suffira pas, il faudra des corps aussi, et sur ce point la timeline n'est pas la même, nous aurons le temps de voir venir. Mais effectivement il y a un risque majeur de concentration du pouvoir économique. Ou pas, dans la mesure où chaque humain a lui-même du capital et peut utiliser l'IA pour produire et proposer un service. C'est une différence entre un humain et un cheval : le premier est un acteur économique.

Je me rends compte que j'utilise de plus en plus l'application "Le Chat" de Mistral, parce qu'elle marche bien et qu'elle est de loin la plus véloce.

Tant que la machine coûte quelque chose à faire fonctionner et/ou a fabriquer, alors même si elle surpasse l'humain en toute chose il me semble que l'échange avec l'humain reste fructueux pour les deux parties. Il me semble que c'est le sujet de la théorie des avantages comparatifs de Ricardo.

Et clairement les dizaines de milliards d'argent privé ne sont pas investis juste pour déployer et vendre des ChatGPT de 2024.

Après, ça fait longtemps que les industries répondent à presque tous les besoins et il y a toujours un vaste marché pour le "fait main" et le "fait maison". On peut donc imaginer que, dans le monde prédit par Dario, il y aura de la même manière un marché pour le "pensé cerveau".

Le papier de Dario Amodei fait un peu peur effectivement, il y a des points positifs pour lui dont on pourrait discuter. Concernant le besoin de travailler pour un esprit humain, je comparerais ça au besoin de travailler pour le corps humain. Beaucoup de jobs n'ont plus besoin d'un effort physique particulier et on ne va pourtant pas vers une société d'atrophiés. Les gens compensent en allant dans des salles de sport, sans forcément vouloir faire du sport de haut niveau ou que cela ait un sens particulier, ce qui n'a rien de malsain et est plutôt efficace finalement. Je suppose que l'on pourrait voir fleurir des clubs de mind-building qui fonctionneront à l'image du bodybuilding.

Ce n'est pas mon impression. Et la rapidité d'adoption alors que la technologie est pourtant clairement loin d'être aboutie n'a strictement rien à voir avec les précédentes révolutions technologiques dont on a souvenir. Les plus grandes sociétés technologiques de notre époque, on parle de boîtes raisonnables qui se sont construites sur des business réels, viennent de mettre chacune des dizaines de milliards de dollars sur la table afin de suivre le mouvement. Je n'ai aucun souvenir qui ressemble à un effort spontané pareil, je pense que ça n'était jamais arrivé. À mon avis, mais c'est juste une intuition, lorsque des historiens se retourneront vers le passé dans quelques centaines d'années, l'avènement de l'IA sera vu comme le seul point majeur à retenir. L'invention de l'électricité, puis de l'électronique, puis l'informatique, puis Internet, tout cela sera perçu et compressé comme des éléments précurseurs du seul tournant qui compte de notre époque. La vague de fond a la taille d'un tsunami. Et pour remonter à une révolution historique dont les effets sur l'humanité se ressentent jusqu'à aujourd'hui, on pourrait comparer à l'invention de la roue.

@Rincevent inclut sûrement aussi les femmes qui s'identifient "hommes".

Non. Le monde change et ce tournant-ci est majeur, peut-être plus important que Internet ou l'électricité, et les grognons font de la résistance au changement. Ça ne sert à rien de répondre point par point. Il n'y aura pas besoin d'attendre longtemps pour qu'ils changent d'avis ou deviennent de vieux aigris sans importance.

Perso j'ai toujours perdu les mots, je passais parfois des jours à rechercher un mot qui me manquait et que j'avais "sur le bout de la langue". Ça a été ma première utilisation de ChatGPT et dès le début il était incroyablement efficace sur ce point.

La prochaine fois, demande à un LLM. 😉

Le CEO de Anthropic (la boîte de l'IA Claude) situe la création d'une IA surpuissante d'ici un ou deux ans et envisage les conséquences : Négatives : jusqu'ici l'humanité a échappé à l'horreur parce que les personnes les plus destructrices sont rarement en capacité d'accomplir la destruction. Les personnes capables sont les plus intelligentes, ont beaucoup étudié et ont donc plus à perdre, elles cherchent à préserver leur réputation et sont incitées à ne pas détruire. L'IA va faire sauter cette sécurité. Positives : dans beaucoup de domaines nous sommes habitués à ce que la quantité d'intelligence soit le facteur limitant pour progresser. Nous allons pouvoir approvisionner la quantité d'intelligence en fonction du besoin. Et cela mènera à des avancées drastique dans les domaines de la biologie, les neurosciences, l'économie, la gouvernance et le sens que l'on donne au travail. Sur les conséquences positives : https://darioamodei.com/machines-of-loving-grace Son interview par Lex Fridman il y a quelques mois :

Gaspard Koenig a choisi le camp des réactionnaires. https://www.linkedin.com/posts/gaspard-koenig-36b49647_comment-lia-par-ses-applications-de-plus-activity-7294999723113873408-ykzQ Aussi apparemment Macron a bousculé un peu les choses hier. Quelqu'un a regardé ?

C'est le plus long podcast que j'ai jamais écouté. Beaucoup d'idées claires et zéro bullshit.

Une blockchain apporterait une garantie que les comptes ne sont pas trafiqués après coup. Mais pour l'opacité je ne vois pas trop non plus. Par exemple pour ajouter un budget opaque de 50 millions sur un registre, blockchain ou non, il suffit d'écrire : "budget opaque, 50 millions". ÉDIT : Ah mais non en fait une blockchain dédiée n'apporterait aucune garantie d'immutabilité. Parce que ce qui rend une blockchain immutable c'est que aucun acteur n'a une puissance de calcul supérieure à celle de tous les autres acteurs combinés. Or, si une blockchain était créée pour tenir un registre étatique, l'État serait à peu près seul dessus.

Merci pour les tests. Pour ma part, j'ai utilisé v0 dernièrement pour générer une UI avec du faux contenu et ça a fonctionné direct. Puis je lui ai demandé une modification (dupliquer une partie et en faire deux colonnes) et ça a encore fonctionné direct. Je n'ai pas essayé de lui demander quoi que ce soit côté backend, ni aucune logique qui demanderait un peu d'algo. La prochaine fois que j'ai besoin de démarrer un petit projet, je ne me priverai pas de demander une UI avant de démarrer.

Bien vu. À condition qu'elle soit clairement identifiée, ce qui n'est jamais le cas avant son effondrement, je la verrais comme une cousine des addictions et autres jeux d'argent. Une pyramide de Ponzi fonctionne comme un jeu de chaise musicale inversé : à chaque tour il y a de la place pour plus de monde, et ceux qui gagnent sont ceux qui sortent. C'est aussi le principe du jeu de "quitte ou double". EDIT: je ne pense pas que le coin de Trump soit un Ponzi.

Du temps du premier mandat de Trump je trouvais qu'il manquait une réaction popcorn 🍿, maintenant il la faudrait à nouveau mais plus grosse.

Les IA qui génèrent des applications à partir d'un prompt : https://v0.dev/ https://bolt.new/ https://lovable.dev/ https://replit.com/ Il y a aussi un outil pour les devops : https://infra.new/ Un fork de l'éditeur VSCode spécialisé dans l'assistance par IA : https://www.cursor.com/ . Je n'ai pas essayé mais l'interview de l'équipe derrière par Lex Fridman est sympa (réservé aux geeks) :

Pour le code j'utilise Claude également par défaut dans copilot. Il nous faut un sujet code d'ailleurs.