Claude & la vision de Dario Amodei

[Lancelot]

Si l'IA sait mieux que toi, elle sait aussi mieux que toi qu'elle ne peut pas vendre des trucs si personne n'a les moyens pour les acheter. Donc elle baisse les prix jusqu'à ce que le capital des gens, si petit soit-il, suffise. Et on se retrouve dans une situation où des trucs qui coûtaient extrêmement cher avant s'achètent pour une bouchée de pain, un peu comme après la révolution industrielle, ce qui est objectivement très bien.

[Sloonz]

Ça ne résout toujours pas le problème ?

 

Tu as de l’argent. Tu veux acquérir des biens de consommations. Route directe : argent -> achat de biens de consommation auprès de l’IA. Route indirecte : argent -> achat de biens de production auprès de l’IA -> production de biens de consommation.

 

La seconde est économiquement moins efficace. Toute personne qui s’y essaie verra son capital fondre plus vite que celui qui prend la route directe. Allocation efficace des capitaux dans un marché libre, tout ça.

[Mégille]

On peut tout à fait imaginer (et puisqu'on fait de la sci-fi, imaginer des trucs est bien le jeu auxquels on joue) un monde dans lequel les humains, devenus tous improductifs comparativement aux machines autonomes, se répartissent en, d'un coté, plus ou moins gros propriétaires de machines, tirant un revenu de celles-ci et en disposant à leur guise, et d'un autre, manants entretenus par les gros propriétaires (privés ou étatiques) pour le plaisir de se sentir bons et puissants, et ne jouissant que de ce que leur offre leur patron, que ce soit des moyens de dépense ou directement des services. (On peut aussi ajouter, pour le fun, un troisième groupe composé de punks vivant dans des tas de ferrailles et qui troquent entre eux de la viande de rats contre du kérozène, mais ça ne change pas grand chose à ce qui nous occupe)

 

Si on devient vraiment capable de créer des machines qui peuvent surpasser l'humain sur n'importe quel tâche, et s'il est vraiment toujours plus avantageux (moins cher, plus fiable) d'avoir recours à une telle machine plutôt qu'à un humain, alors, c'est sans doute un scénario comme celui-ci qui serait le plus probable.

[L'affreux]

il y a 28 minutes, Mégille a dit :

Si on devient vraiment capable de créer des machines qui peuvent surpasser l'humain sur n'importe quel tâche, et s'il est vraiment toujours plus avantageux (moins cher, plus fiable) d'avoir recours à une telle machine plutôt qu'à un humain

 

Tant que la machine coûte quelque chose à faire fonctionner et/ou a fabriquer, alors même si elle surpasse l'humain en toute chose il me semble que l'échange avec l'humain reste fructueux pour les deux parties. Il me semble que c'est le sujet de la théorie des avantages comparatifs de Ricardo.

[Lancelot]

45 minutes ago, Sloonz said:

Ça ne résout toujours pas le problème ?

 

Tu as de l’argent. Tu veux acquérir des biens de consommations. Route directe : argent -> achat de biens de consommation auprès de l’IA. Route indirecte : argent -> achat de biens de production auprès de l’IA -> production de biens de consommation.

 

La seconde est économiquement moins efficace. Toute personne qui s’y essaie verra son capital fondre plus vite que celui qui prend la route directe. Allocation efficace des capitaux dans un marché libre, tout ça.

Avec un tel raisonnement le marché du luxe ne devrait pas pouvoir exister. Si tu veux vraiment voir l'économie s'effondrer il faut aller plus loin dans la SF que ça vers des situation de post scarcity, et même là les antécédents historiques proches (par exemple l'échange de données avec Internet) ne me rendent pas pessimiste.

[Tramp]

J’ai du mal à voir en quoi l’IA annule la theorie des avantages comparatifs. Surtout que l’IA consomme des ressources pour fonctionner, le coût marginal n’est pas 0. 

[Rincevent]

Il y a 4 heures, Mégille a dit :

Les citoyens spartiates, qui bossaient encore moins que les citoyens athéniens, étaient beaucoup moins va-t-en-guerre que ceux là. Et puis, contrairement à la possession d'esclaves, la possession de machines ne sera a priori pas (ou pas primairement) le résultat des guerres. 

Il y a toujours un oubli de taille dans ta thèse. 

[Sloonz]

1 hour ago, Lancelot said:

Avec un tel raisonnement le marché du luxe ne devrait pas pouvoir exister.

 

Je ne comprend pas le rapport. Le très célèbre marché du luxe, image du marché indirect où les clients achètent des triboulets pour se mettre à l’orfèvrerie ?

 

1 hour ago, L'affreux said:

Il me semble que c'est le sujet de la théorie des avantages comparatifs de Ricardo.

 

1 hour ago, Tramp said:

J’ai du mal à voir en quoi l’IA annule la theorie des avantages comparatifs. Surtout que l’IA consomme des ressources pour fonctionner. 

 

C’est l’essence de ma discussion avec Lancelot.

 

Je ne comprend vraiment pas ce que vous ne comprenez pas. Ça me paraît niveau Econ 101 pourtant.

 

 

Un humain, comme une IA, a besoin d’une certaine quantité de capital pour complémenter son travail — la combinaison des deux forme une capacité de production.

 

Dans la théorie classique des avantages comparatifs, qui se focalise sur l’échange entre pays, cette capacité de production est présupposée. Parce qu’un pays sans capital, ça n’existe pas. Mais cette suppositon est importante : sans elle, pas de théorie classique des avantages comparatifs.

 

C’est sauvable en ajoutant une possibilité, celle que la partie moins avantagée n’a pas de capacité de production par manque de capital, mais que la productivité marginale du capital de la partie moins avantagée excède la productivité marginale du capital de la partie plus avantagée. Dans ce cas la théorie des avantages comparatifs est restaurée.

 

Mais ces deux suppositions ne sont pas automatiquent satisfaites (il y a d’autres suppositions implicites dans la théorie qui sautent probablement également dans le monde de Dario, mais ne rentront pas dans des détails inutiles).

 

La version intuitive du point précédent est : si 1€ investi dans la capacité de travail d’un humain produit moins que 1€ investi dans la capacité de travail d’une IA, alors la théorie des avantages comparatifs ne sauvera pas le travail de l’humain.

 

(exercice pour le lecteur : pourquoi est-ce que la théorie des avantages comparatifs n’a pas sauvé les chevaux de la révolution industrielle ?)

[Domi]

Je n'ai pas eu le temps de me plonger dans le coeur des arguments et j'espère ne pas être à côté du sujet mais s'il n'y a plus de travail pour les humains, il y a deux solutions, peut-être insatisfaisantes :

- sur le plan économique : tous les humains ont un capital, aussi réduit soit-il qui leur permet de vivre, tout coûtant moins cher avec l'IA,

- sur le plan social : pour se sentir utile, les humains auront peut-être recours au troc. Entre un musicien et un boulanger : j'écoute ta musique si tu acceptes de manger mon pain

[Tramp]

il y a 50 minutes, Sloonz a dit :

Dans la théorie classique des avantages comparatifs, qui se focalise sur l’échange entre pays, cette capacité de production est présupposée. Parce qu’un pays sans capital, ça n’existe pas. Mais cette suppositon est importante : sans elle, pas de théorie classique des avantages comparatifs.

Enfin, on a dépassé la theorie classique des avantages comparatifs il y a bien longtemps. On l’applique aux agents économiques et non plus aux pays. 

[Sloonz]

6 minutes ago, Tramp said:

Enfin, on a dépassé la theorie classique des avantages comparatifs il y a bien longtemps. On l’applique aux agents économiques et non plus aux pays. 

 

C’est essentiellement pour ça que j’ai introduit la seconde variante, où on regarde plus la productivité marginale du capital.

 

Et le point principal n’est pas "échange entre pays", c’est l’existence d’une présupposition implicite "existence garantie d’une capacité de production de la partie désavantagée".

[L'affreux]

Il y a 7 heures, Sloonz a dit :

La version intuitive du point précédent est : si 1€ investi dans la capacité de travail d’un humain produit moins que 1€ investi dans la capacité de travail d’une IA, alors la théorie des avantages comparatifs ne sauvera pas le travail de l’humain.

 

Merci, j'ai pigé 👍. Du point de vue du patron qui souhaite faire tourner son business, c'est effectivement aussi simple que cela. Cela dit dans beaucoup de métiers l'intelligence ne suffira pas, il faudra des corps aussi, et sur ce point la timeline n'est pas la même, nous aurons le temps de voir venir. Mais effectivement il y a un risque majeur de concentration du pouvoir économique. Ou pas, dans la mesure où chaque humain a lui-même du capital et peut utiliser l'IA pour produire et proposer un service. C'est une différence entre un humain et un cheval : le premier est un acteur économique.

[Marlenus]

 

Les mégacorporations vont bientôt arriver.

 

 

[Rübezahl]

Il y a 10 heures, Mégille a dit :

On peut tout à fait imaginer (et puisqu'on fait de la sci-fi, imaginer des trucs est bien le jeu auxquels on joue) un monde dans lequel les humains, devenus tous improductifs comparativement aux machines autonomes, se répartissent en, d'un coté, plus ou moins gros propriétaires de machines, tirant un revenu de celles-ci et en disposant à leur guise, et d'un autre, manants entretenus par les gros propriétaires (privés ou étatiques) pour le plaisir de se sentir bons et puissants, et ne jouissant que de ce que leur offre leur patron, que ce soit des moyens de dépense ou directement des services.

Ce n'est pas de la sci-fi, c'est bel et bien déjà ainsi que fonctionne une partie du monde (depuis longtemps).

(L'être humain est, entre autres, un utilisateur / exploiteur d'outils. Ceux qui excellent à cet art surpassent les autres).
Sauf qu'il y a la caste bureaucrates / politiques qui jouent les bons et puissants et passent leurs vies à essorer les autres.

[Lancelot]

10 hours ago, Sloonz said:

Je ne comprend pas le rapport. Le très célèbre marché du luxe, image du marché indirect où les clients achètent des triboulets pour se mettre à l’orfèvrerie ?

Les produits de luxe coûtent plus cher à produire et se vendent plus cher alors qu'ils sont fonctionnellement équivalents à des produits "génériques" plus abordables. Selon ta théorie ils devraient disparaître puisque "économiquement inefficaces". En fait j'ai l'impression que cette histoire réintroduit un peu une théorie de la valeur objective.

 

10 hours ago, Sloonz said:

Un humain, comme une IA, a besoin d’une certaine quantité de capital pour complémenter son travail — la combinaison des deux forme une capacité de production.

 

Dans la théorie classique des avantages comparatifs, qui se focalise sur l’échange entre pays, cette capacité de production est présupposée. Parce qu’un pays sans capital, ça n’existe pas. Mais cette suppositon est importante : sans elle, pas de théorie classique des avantages comparatifs.

Je ne vois pas ce qui te permet de dire que les IA supprimeraient le capital des humains. Au contraire mon impression est que dans ton scénario elles enrichissent tout le monde de fait (en rendant les biens plus abordables) et même intentionnellement si leur objectif est de faire du profit en vendant à des humains (parce que le capital c'est aussi ce qui permet d'acheter des trucs).

 

10 hours ago, Sloonz said:

(exercice pour le lecteur : pourquoi est-ce que la théorie des avantages comparatifs n’a pas sauvé les chevaux de la révolution industrielle ?)

Du point de vue économique les chevaux sont un outil, pas un agent.

[Rincevent]

il y a 11 minutes, Lancelot a dit :

En fait j'ai l'impression que cette histoire réintroduit un peu une théorie de la valeur objective.

C'est intéressant que ça aille main dans la main avec la réintroduction du sens de l'Histoire, par le truchement d'une connaissance (d'apparence scientifique et matérialiste) des processus historiques.

[Sloonz]

9 hours ago, L'affreux said:

Ou pas, dans la mesure où chaque humain a lui-même du capital et peut utiliser l'IA pour produire et proposer un service

 

Il faut différencier trois choses dans ce cas de figure :

• L’humain l’investisseur qui fait fructifier son capital initial. Et effectivement, c’est un point que je n’ai pas abordé, rien n’empêche l’humain d’investir son capital dans l’équivalent du SP500 et de profiter de ces fruits.
• L’humain entrepreneur, qui utilise du capital pour monter une entreprise pour fournir un produit ou service. Dans ce cas-ci : l’humain est moins efficace que l’IA, et l’allocation efficace des capitaux par un marché libre signifie que l’entreprise fera faillite. Que l’origine du capital vienne du même humain ne change rien au résultat.
• L’humain travailleur, dont on a déjà parlé.

 

6 hours ago, Lancelot said:

Les produits de luxe coûtent plus cher à produire et se vendent plus cher alors qu'ils sont fonctionnellement équivalents à des produits "génériques" plus abordables. Selon ta théorie ils devraient disparaître puisque "économiquement inefficaces". En fait j'ai l'impression que cette histoire réintroduit un peu une théorie de la valeur objective.

 

C’est toi qui introduit cette notion de valeur objective à travers "fonctionnellement équivalent". Mon point sur l’inefficience économique porte sur la méthode d’acquisition d’un même produit (achat direct du produit fini vs achat de biens intermédiaires puis fabrication du produit).

 

6 hours ago, Lancelot said:

Je ne vois pas ce qui te permet de dire que les IA supprimeraient le capital des humains. Au contraire mon impression est que dans ton scénario elles enrichissent tout le monde de fait (en rendant les biens plus abordables) et même intentionnellement si leur objectif est de faire du profit en vendant à des humains (parce que le capital c'est aussi ce qui permet d'acheter des trucs).

 

J’ai dit que l’IA supprimera le capital des humains qui seront assez stupides pour :

• Consommer plus qu’ils ne gagnent (ce qui ne nécessite aucune IA pour ça, le marché actuel s’en charge déjà très bien)
• Essayer de concurrencer l’IA sur  le marché de l’investissement actif (ce qui inclut l’auto-entreprenariat)

Effectivement j’aurais du pointer qu’une stratégie d’investissement passif permet à un humain de garder et faire fructifier son capital.

[Rübezahl]

[L'affreux]

Il y a 8 heures, Sloonz a dit :

L’humain entrepreneur, qui utilise du capital pour monter une entreprise pour fournir un produit ou service. Dans ce cas-ci : l’humain est moins efficace que l’IA

 

Pour le moment Anthropic & co fabriquent des machines capables de raisonner dénuées de volonté. Ça marche déjà très bien mais il faut micromanager, l'ambition est que les IA soient capables de raisonner mieux que les meilleurs humains et gagnent en autonomie sur les tâches qu'on leur donne. Je n'ai pas l'impression que Dario parle d'une machine ayant une volonté propre. C'est d'ailleurs peut-être pour ça qu'il évite le terme AGI. Les entrepreneurs restent donc humains.

 

Après tu peux demander à une IA de diriger une boîte mais n'importe quel humain le peut tout autant, en payant bien sûr pour l'utilisation. C'est @Rübezahl qui a raison, l'IA est un outil.

[Rübezahl]

Un compte X vraiment recommandable pour un peu de bon sens sur le sujet : https://x.com/ylecun

[Rübezahl]

[Lancelot]

19 hours ago, Sloonz said:

C’est toi qui introduit cette notion de valeur objective à travers "fonctionnellement équivalent". Mon point sur l’inefficience économique porte sur la méthode d’acquisition d’un même produit (achat direct du produit fini vs achat de biens intermédiaires puis fabrication du produit).

Si d'une part j'achète un gâteau, et d'autre part j'achète des ingrédients et je cuisine un gâteau, est-ce que tu considères que c'est le même produit ? Je dis que c'est fonctionnellement équivalent parce qu'au final tu as un gâteau dans les deux cas. Cependant pour plein de raisons tu peux accorder plus de valeur à l'une ou l'autre option.

 

19 hours ago, Sloonz said:

J’ai dit que l’IA supprimera le capital des humains qui seront assez stupides pour :

• Consommer plus qu’ils ne gagnent (ce qui ne nécessite aucune IA pour ça, le marché actuel s’en charge déjà très bien)
• Essayer de concurrencer l’IA sur  le marché de l’investissement actif (ce qui inclut l’auto-entreprenariat)

Effectivement j’aurais du pointer qu’une stratégie d’investissement passif permet à un humain de garder et faire fructifier son capital.

Peut-être qu'une des sources de mon incompréhension est que pour moi le débat n'est pas tant la concurrence entre AI et humain qu'entre humain assisté par AI et humain non assisté. Effectivement si on compare disons à la révolution industrielle, un propriétaire d'usine sera avantagé par rapport à un artisan qui fait tout à la main (même si de tels artisans survivent encore aujourd'hui).

[Sloonz]

14 hours ago, L'affreux said:

Pour le moment Anthropic & co fabriquent des machines capables de raisonner dénuées de volonté. Ça marche déjà très bien mais il faut micromanager, l'ambition est que les IA soient capables de raisonner mieux que les meilleurs humains et gagnent en autonomie sur les tâches qu'on leur donne. Je n'ai pas l'impression que Dario parle d'une machine ayant une volonté propre. C'est d'ailleurs peut-être pour ça qu'il évite le terme AGI. Les entrepreneurs restent donc humains.

 

Je ne comprend pas la remarque. La "volonté" n’est pas simplement la combinaison de objectif + raisonnement ?

 

Les IA actuelles n’ont pas de "volonté propre de coder". Tu peux les faire coder juste avec un prompt "Tu es un développeur expériementé. Créé moi un programme qui..."

 

Rien n’empêche un prompt du style "Tu es un investisseur expérimenté chargé de faire fructifier un capital, en gestion active". "Tu es un entrepreneur expérimenté chargé de créer et diriger l’entreprise XXX, dont l’objectif est de fournir le service YYY". Et plus important : rien n’empêche le second prompt d’avoir été généré par le premier !

 

Oui, ça nécessite de remplacer l’interface bien connue "prompt - réponse" par une architecture plus complexe où l’IA peut créer des sous-tâches, répondre à des événements, faire des actions et réagir aux résultats de ces actions, etc. Mais c’est déjà quelque chose de possible, cf https://github.com/e2b-dev/awesome-ai-agents. Voir aussi des choses comme https://docs.anthropic.com/en/docs/build-with-claude/computer-use, https://docs.anthropic.com/en/docs/build-with-claude/tool-use ou https://docs.anthropic.com/en/docs/build-with-claude/mcp.

 

Dario dit qu’il n’aime pas le terme "AGI" parce que trop flou, mais sa vision ne laisse guère de place au doute. Je te conseille de lire la section commençant par "By powerful AI, I have in mind an AI model—likely similar to today’s LLM’s in form, though it might be based on a different architecture, might involve several interacting models, and might be trained differently—with the following properties".

 

14 hours ago, L'affreux said:

Après tu peux demander à une IA de diriger une boîte mais n'importe quel humain le peut tout autant, en payant bien sûr pour l'utilisation.

 

Mais le point central est qu’une boite dirigée par une IA sera économiquement beaucoup plus compétitive qu’une boite gérée par un humain, et que dans un marché libre la seconde disparaitra.

 

2 hours ago, Lancelot said:

Si d'une part j'achète un gâteau, et d'autre part j'achète des ingrédients et je cuisine un gâteau, est-ce que tu considères que c'est le même produit ? Je dis que c'est fonctionnellement équivalent parce qu'au final tu as un gâteau dans les deux cas. Cependant pour plein de raisons tu peux accorder plus de valeur à l'une ou l'autre option.

 

Et j’ai déjà répondu à ça ? Dans ce cas tu paies plus cher pour un hobby (la cuisine). Ce qui est une préférence valide, mais bel et bien un hobby (un drain sur tes finances), pas un métier (une source de revenus).

 

2 hours ago, Lancelot said:

Peut-être qu'une des sources de mon incompréhension est que pour moi le débat n'est pas tant la concurrence entre AI et humain qu'entre humain assisté par AI et humain non assisté. Effectivement si on compare disons à la révolution industrielle, un propriétaire d'usine sera avantagé par rapport à un artisan qui fait tout à la main (même si de tels artisans survivent encore aujourd'hui).

 

La relation entre un monarche âgé de 7 ans et un conseiller de 40 ans n’est pas décrite comme "un monarche assisté par un conseiller". C’est une régence. Dario parle d’un écart de capacité équivalent (« In terms of pure intelligence⁴, it is smarter than a Nobel Prize winner across most relevant fields – biology, programming, math, engineering, writing, etc. This means it can prove unsolved mathematical theorems, write extremely good novels, write difficult codebases from scratch, etc. »)

 

Si tu es face à un problème de Maths, et que tu as embauché Terence Tao pour le résoudre, je ne pense pas que "je suis assisté par Terence Tao" soit une description très fidèle de la dynamique sous-jacente.

 

Tu vas me dire : "si : le problème de Maths n’est qu’un sous-problème d’un problème plus large, Terence Tao m’assiste sur le problème plus large en résolvant cette sous-tâche".

 

Qu’est-ce qui empêche une IA avec de telles capacités de résoudre le problème plus large ?

 

Si on itère suffisamment sur cette question, on retombe sur "l’humain donne un objectif global, l’IA exécute".

 

(ceci dit cette nuance de l’artisan est correcte : tant qu’il y a des humains pour donner de la valeur en soi à "fait par un humain", indépendamment du prix et de la qualité objective du produit fini, il restera une petite place dans l’économie pour une petite partie de la population — mais ça me semble un point de détail plutôt que la dynamique global)

[Lancelot]

3 hours ago, Sloonz said:

Et j’ai déjà répondu à ça ? Dans ce cas tu paies plus cher pour un hobby (la cuisine). Ce qui est une préférence valide, mais bel et bien un hobby (un drain sur tes finances), pas un métier (une source de revenus).

La concurrence et la valeur accordée par le public à différents produits se jouent sur des tas de tableaux différents. Le marché s'accommode très bien de différentes gammes de produits. Bref ton approche est trop réductrice.

 

3 hours ago, Sloonz said:

C’est une régence. Dario parle d’un écart de capacité équivalent (« In terms of pure intelligence⁴, it is smarter than a Nobel Prize winner across most relevant fields – biology, programming, math, engineering, writing, etc. This means it can prove unsolved mathematical theorems, write extremely good novels, write difficult codebases from scratch, etc. »)

Oui alors avant tout il faut avoir conscience qu'on s'aventure très loin dans le domaine de la SF ici, et je suis assez peu convaincu de manière générale par les arguments du type "si ma tante en avait". Mais admettons, quand bien même...

 

3 hours ago, Sloonz said:

Si tu es face à un problème de Maths, et que tu as embauché Terence Tao pour le résoudre, je ne pense pas que "je suis assisté par Terence Tao" soit une description très fidèle de la dynamique sous-jacente.

Si je veux couper un arbre, ça sera infiniment plus facile si j'ai un bulldozer que si j'y vais à main nue. Pour autant le bulldozer ne peut pas être correctement décrit comme un employé qui ferait tout le boulot à ma place, ce n'est pas un agent que j'embauche, c'est un outil que j'utilise. Je ne vois pas comment tu sors de ce problème à moins de faire encore un autre saut encore beaucoup plus loin dans la SF vers des IA conscientes. Et à partir de là tu auras d'autant plus de mal à me convaincre que je devrais considérer ça comme une menace existentielle à la place d'un exercice littéraire.

[L'affreux]

Il y a 1 heure, Lancelot a dit :

Si je veux couper un arbre, ça sera infiniment plus facile si j'ai un bulldozer que si j'y vais à main nue. Pour autant le bulldozer ne peut pas être correctement décrit comme un employé qui ferait tout le boulot à ma place, ce n'est pas un agent que j'embauche, c'est un outil que j'utilise. Je ne vois pas comment tu sors de ce problème à moins de faire encore un autre saut encore beaucoup plus loin dans la SF vers des IA conscientes.

 

C'est exactement ça. Peut-être que les IA deviendront conscientes mais aujourd'hui ce n'est pas le cas. Les sociétés qui investissent en ce moment des dizaines de milliards de dollars dans des clusters de GPU ne font pas le pari de l'émergence d'une conscience, ce serait déraisonnable. Si elles investissent autant c'est parce qu'elles voient le bout du tunnel. Et le bout du tunnel est une capacité de raisonnement plus puissante que celle humaine, à la demande (des humains).

[L'affreux]

Il y a 5 heures, Sloonz a dit :

Je ne comprend pas la remarque. La "volonté" n’est pas simplement la combinaison de objectif + raisonnement ?

 

Je ne pense pas. Je pense que la volonté est plutôt une conséquence de la conscience, et la conscience est une notion mal comprise. On n'obtiendra pas un outil efficace dans ce domaine sans avoir compris comment ça marche. À moins qu'elle émerge bien sûr mais ce serait une surprise.

 

Il y a 5 heures, Sloonz a dit :

Oui, ça nécessite de remplacer l’interface bien connue "prompt - réponse" par une architecture plus complexe où l’IA peut créer des sous-tâches

 

Note que c'est le principe de fonctionnement d'un outil comme le Copilot des développeurs. C'est effectivement plus puissant de travailler en plusieurs fois : première étape, le LLM génère une liste détaillée de tâches à partir de la demande de l'utilisateur. Deuxième étape, il exécute la liste des tâches. Cela consiste à réfléchir avant d'agir.

[Rübezahl]

il y a 34 minutes, L'affreux a dit :

Si elles investissent autant c'est parce qu'elles voient le bout du tunnel.

En général elles investissent surtout sur ce qui leur semble le prochain relais de croissance à la hauteur de leurs capacités (eg META).

C'est juste un impératif existentiel.

(et elles copient aussi un peu leurs concurrents bien sûr).

[Sloonz]

1 hour ago, Lancelot said:

La concurrence et la valeur accordée par le public à différents produits se jouent sur des tas de tableaux différents. Le marché s'accommode très bien de différentes gammes de produits. Bref ton approche est trop réductrice.

 

Où ai-je supposé qu’il y a une seule gamme de produit ?

 

1 hour ago, Lancelot said:

Si je veux couper un arbre, ça sera infiniment plus facile si j'ai un bulldozer que si j'y vais à main nue. Pour autant le bulldozer ne peut pas être correctement décrit comme un employé qui ferait tout le boulot à ma place, ce n'est pas un agent que j'embauche, c'est un outil que j'utilise. Je ne vois pas comment tu sors de ce problème à moins de faire encore un autre saut encore beaucoup plus loin dans la SF vers des IA conscientes. Et à partir de là tu auras d'autant plus de mal à me convaincre que je devrais considérer ça comme une menace existentielle à la place d'un exercice littéraire.

 

À aucun moment dans mes messages je n’ai présupposé la conscience de l’IA ? Ni Dario ?

 

10 minutes ago, L'affreux said:

Je ne pense pas. Je pense que la volonté est plutôt une conséquence de la conscience, et la conscience est une notion mal comprise. On n'obtiendra pas un outil efficace dans ce domaine sans avoir compris comment ça marche. À moins qu'elle émerge bien sûr mais ce serait une surprise.

 

À quel moment l’hypothèse "conscience" est nécessaire dans ce que j’ai dit ?

 

Je rappelle l’hypothèse de base de l’essai dont on discute : l’existence d’une IA qui dépasse l’être humain dans toute tâche cognitive, que ce soit au niveau du prix, vitesse et fiabilité (incluant manipulations physiques une fois connecté à des machines/des robots). La conscience n’est  jamais rentrée dans la discussion et n’est pas une hypothèse nécessaire ?

[Sloonz]

56 minutes ago, L'affreux said:

Et le bout du tunnel est une capacité de raisonnement plus puissante que celle humaine, à la demande (des humains).

 

Et je ne comprend pas quel travail fait cette supposition "à la demande".

 

En quoi : "En gestion active, fait fructifier ce capital" n’est pas "à la demande" ? En quoi n’est-ce pas une tâche cognitive ? (IA investisseuse).

 

En quoi : "Créé et gère une entreprise fournissant le service XXX" n’est pas "à la demande" ? En quoi n’est-ce pas une tâche cognitive ? (IA entrepreneuse).

 

En quoi l’IA entrepreneuse n’est pas un sous-plan entièrement envisageable découlant potentiellement de l’IA investisseuse ?

[Lancelot]

2 hours ago, Sloonz said:

Où ai-je supposé qu’il y a une seule gamme de produit ?

 

À aucun moment dans mes messages je n’ai présupposé la conscience de l’IA ? Ni Dario ?

Dans ce cas le problème qui t'inquiète n'existe pas : il y aura des produits dont la fabrication implique plus ou moins d'IA, le marché s'en accommodera très bien et le niveau de richesse global augmentera.