Hugh Posted March 29, 2023 Report Share Posted March 29, 2023 https://www.lesechos.fr/tech-medias/hightech/la-lettre-ouverte-choc-qui-met-en-garde-lhumanite-contre-le-danger-de-lintelligence-artificielle-1920390 "La lettre ouverte choc qui met en garde l'humanité contre le danger de l'intelligence artificielle" Citation Dans ce texte, les milliers de signataires appellent les laboratoires d'IA à faire une pause dans le développement de leur technologie. Sont des "neo-luddites" ou est très importante faire cette pause? Link to comment
fm06 Posted March 30, 2023 Report Share Posted March 30, 2023 Haha, Elon Musk qui appelle à faire une pause sur l’IA, alors que les Tesla en regorgent, c’est une blague. Ou alors c’est une ruse grossière pour que les autres fassent une pause pendant qu’il accélère. 2 Link to comment
Sekonda Posted March 30, 2023 Report Share Posted March 30, 2023 il y a 19 minutes, fm06 a dit : Haha, Elon Musk qui appelle à faire une pause sur l’IA, alors que les Tesla en regorgent, c’est une blague. Ou alors c’est une ruse grossière pour que les autres fassent une pause pendant qu’il accélère. Une pause sur les LLM plus puissant que GPT-4. L'impact n'est pas du tout le même que ce qu'il y a dans un Tesla dont le périmètre est bien défini. Link to comment
Sekonda Posted March 30, 2023 Report Share Posted March 30, 2023 La meilleure ressources grand public sur le sujet est cette interview de Eliezer Yudkowsky https://www.lesswrong.com/posts/FKNtgZrGYwgsz3nHT/bankless-podcast-159-we-re-all-gonna-die-with-eliezer Je n'ai pas d'avis arrêté sur le sujet mais il est plutôt convainquant. Link to comment
Azref Posted March 30, 2023 Report Share Posted March 30, 2023 J'ai beaucoup de mal à comprendre : on parle d'interdire quoi, le machine learning? Ou la recherche sur une "Intelligence artificielle forte" (AGI) ? Quel est l'état de la recherche sur cette dernière, joue-t-on à se faire peur à cause de la hype médiatique sur chatpgt&co ? Link to comment
Prouic Posted March 30, 2023 Report Share Posted March 30, 2023 Bah le ML porte en son sein la prédiction, et la prédiction qualitative ne peut se réaliser que si tu injectes pas du chaos, ce que le système actuel fait toute la journée. Donc on se retrouve encore dans le débat de la destruction créatrice, ou les marchands de plusieurs bougies ne veulent pas d'un soleil uni. Ca consiste donc comme toujours à noter ce qui ne va pas car c'est facile, et pas ce qui va car c'est difficile, comme des solutions à des problèmes complexes qui auraient amené de nouvelles possibilités. En plus le monde 2023 ne pense qu'en une dimension : la solution instantanée à tout problème futur, donc non seulement il est facile et pratique de produire une solution comme "eliminons la source de la discorde" , mais en plus on refuse catégoriquement d'investir dans l'avenir. Il ne peut donc en être autrement en terme de proposition média. 2 Link to comment
Lancelot Posted March 30, 2023 Report Share Posted March 30, 2023 19 minutes ago, Azref said: joue-t-on à se faire peur Oui. C'est grotesque. Le dernier avatar de l'idéologie anti-tout. 3 Link to comment
Sekonda Posted March 30, 2023 Report Share Posted March 30, 2023 il y a 9 minutes, Prouic a dit : En plus le monde 2023 ne pense qu'en une dimension : la solution instantanée à tout problème futur, donc non seulement il est facile et pratique de produire une solution comme "eliminons la source de la discorde" , mais en plus on refuse catégoriquement d'investir dans l'avenir. Il ne peut donc en être autrement en terme de proposition média. Là, ce ne sont pas 3 sociologues de Rennes II qui découvrent le sujet mais des théoriciens et praticiens depuis bien avant l'IA reviennent dans l'actualité. Link to comment
Azref Posted March 30, 2023 Report Share Posted March 30, 2023 il y a 9 minutes, Lancelot a dit : Oui. C'est grotesque. Le dernier avatar de l'idéologie anti-tout. Entre les signataires qui proposent un moratoire (là au moins je comprends l'avantage concurrentiel pour eux de demander ça), et des types qui proposent rien moins que l'interdiction totale sur toute la planète (wtf), on est passé de "L'IA est raciste" à "On va tous mourir" en quelques semaines, c'est assez impressionnant à voir. Link to comment
Lugaxker Posted March 30, 2023 Report Share Posted March 30, 2023 À quand le jihad butlérien ? 2 2 1 Link to comment
fm06 Posted March 30, 2023 Report Share Posted March 30, 2023 13 minutes ago, Sekonda said: Là, ce ne sont pas 3 sociologues de Rennes II qui découvrent le sujet mais des théoriciens et praticiens depuis bien avant l'IA reviennent dans l'actualité. Il y a ce qu'on voit: 1100 "théoriciens et praticiens depuis bien avant l'IA" qui s'inquiètent (et leurs raisons de s'inquiéter sont légitimes, même si leur appel à une pause de 6 mois est puéril) et ce qu'on ne voit pas: des dizaines ou des centaines de milliers de personnes qui travaillent dans l'IA et qui ne vont pas s'arrêter de bosser pour rassurer les anxieux. Link to comment
Sekonda Posted March 30, 2023 Report Share Posted March 30, 2023 il y a 14 minutes, fm06 a dit : Il y a ce qu'on voit: 1100 "théoriciens et praticiens depuis bien avant l'IA" qui s'inquiètent (et leurs raisons de s'inquiéter sont légitimes, même si leur appel à une pause de 6 mois est puéril) et ce qu'on ne voit pas: des dizaines ou des centaines de milliers de personnes qui travaillent dans l'IA et qui ne vont pas s'arrêter de bosser pour rassurer les anxieux. Si ça rend "anxieux" Yoshua Bengio et Stuart Russell, il y a tout de même de quoi prendre ça au sérieux. Ceux qui découvrent ces noms n'ont pas assez travaillé le sujet pour avoir une opinion pertinente (mais ont le droit de l'exprimer tout de même). 1 Link to comment
Lancelot Posted March 30, 2023 Report Share Posted March 30, 2023 L'argument d'autorité ça va bien deux minutes mais personne n'est immunisé au fait de dire ou penser des conneries. Surtout quand c'est un scientifique qui pontifie sur un truc adjacent à son domaine. 3 Link to comment
cedric.org Posted March 30, 2023 Report Share Posted March 30, 2023 8 minutes ago, Sekonda said: Stuart Russell La dernière fois que j'ai ouvert un de ses livres, c'était de la mauvaise science fiction... Link to comment
Rincevent Posted March 30, 2023 Report Share Posted March 30, 2023 il y a 39 minutes, Lugaxker a dit : À quand le jihad butlérien ? "C'est une bonne situation, mentat ?" 3 Link to comment
Prouic Posted March 30, 2023 Report Share Posted March 30, 2023 il y a 33 minutes, Sekonda a dit : Si ça rend "anxieux" Yoshua Bengio et Stuart Russell, il y a tout de même de quoi prendre ça au sérieux. Ceux qui découvrent ces noms n'ont pas assez travaillé le sujet pour avoir une opinion pertinente (mais ont le droit de l'exprimer tout de même). 'Coucou Didier Raoult.' Et c'est bien ce tapis dans lequel les pieds viennent d'être pris que je mets en valeur: "Oh encore une peur planétaire initiée par la repétition des media dans lequel on va commencer par appeler 10 experts dans les journaux d'opinion, jouer à la quequette de l'autorité, passer 3 ans sur le sujet technique sans avoir aucune philosophie le concernant, pour connaitre la vérité à la fin" et blablabla... par rapport à un non sujet initial, dans lequel on va déployer tous les efforts possible pour aller dans le mauvais sens à grand coûts de décisions arbitraires merdique. Tout ça pour ne pas mettre en danger le modèle systémique dont tous les acteurs savent qu'il est à bout de souffle mais jouent aux marchands de chandelle. n est au moins à la 4eme itération du pattern 'le virus informatique/biologique qu'il est méchant car inperceptible", faudrait songer à reconnaitre l'initialisation du procédé. Link to comment
Rincevent Posted March 30, 2023 Report Share Posted March 30, 2023 Et puis bon, arrêter la recherche, qui croit sincèrement que les Tinois s'arrêteront aussi gentiment ? 2 Link to comment
Calembredaine Posted March 30, 2023 Report Share Posted March 30, 2023 Une "pause" c'est grotesque. Une pause en attendant quoi? Si c'est de la communication, je la trouve très dangereuse, compte tenu des imbéciles qui sont élus un peu partout dans le monde. Quant à interdire totalement l'IA, c'est clairement une position de luddites. 5 Link to comment
Calembredaine Posted March 30, 2023 Report Share Posted March 30, 2023 Il y a 5 heures, Sekonda a dit : Si ça rend "anxieux" Yoshua Bengio et Stuart Russell, il y a tout de même de quoi prendre ça au sérieux. Ceux qui découvrent ces noms n'ont pas assez travaillé le sujet pour avoir une opinion pertinente (mais ont le droit de l'exprimer tout de même). Non, @Sekonda , sans déconner 😁 "seul mon avis importe car je connais deux spécialistes". A propos, Russell et son CSER, me fait penser à Yann Arthus-Bertrand qui à fait tout une carrière de photographe en hélico et qui, à la retraite, dénie à quiconque le droit d'en faire autant. 2 Link to comment
Adrian Posted March 30, 2023 Report Share Posted March 30, 2023 Une source d'économie pour les dépenses publiques ! Link to comment
Sloonz Posted March 30, 2023 Report Share Posted March 30, 2023 2 hours ago, Calembredaine said: "seul mon avis importe car je connais deux spécialistes". Ce n’est pas ce qu’esaie de dire Sekonda. Enfin, je ne pense pas. Parmis les signataires et les "anxieux", vous avez des gens sceptiques sur la panique autour du changement climatique, des transhumanistes qui rèvent de la possibilité de faire de l’ingénierie génétique sur des embryons humains, des libertariens qui n’ont cessé de crier "FDA delenda est" pendant la pandémie. Les mettre par réflexe dans le panier "luddites et socialistes obstructionnistes habituels" est une erreur. 3 Link to comment
Calembredaine Posted March 30, 2023 Report Share Posted March 30, 2023 Il y a 2 heures, Sloonz a dit : Les mettre par réflexe dans le panier "luddites et socialistes obstructionnistes habituels" est une erreur. Tu as raison, il faut ajouter les dérangés. Link to comment
Rincevent Posted March 30, 2023 Report Share Posted March 30, 2023 En tous cas ça semble faire du bruit... à moins que ce ne soit un bon plan de com'. Lex Fridman (ancien prof d'IA au MIT) reçoit ESY : Link to comment
Marlenus Posted March 30, 2023 Report Share Posted March 30, 2023 7 hours ago, Calembredaine said: Une "pause" c'est grotesque. Une pause en attendant quoi? C'est expliqué si je ne me trompe, en attendant que l'on ait les outils pour repérer les deep fakes. En gros, ce qu'ils disent, si j'ai bien compris, c'est que très rapidement il sera absolument impossible de savoir si c'est bien Biden (ou Trump ou Macron ou qui vous voulez) qui a dit cela ou pas. Et ils estiment que c'est un danger, donc demandent à ce que l'on ralentisse le temps que l'on trouve le moyen de contrer ce problème. 1 Link to comment
cedric.org Posted March 30, 2023 Report Share Posted March 30, 2023 2 hours ago, Marlenus said: C'est expliqué si je ne me trompe, en attendant que l'on ait les outils pour repérer les deep fakes. En gros, ce qu'ils disent, si j'ai bien compris, c'est que très rapidement il sera absolument impossible de savoir si c'est bien Biden (ou Trump ou Macron ou qui vous voulez) qui a dit cela ou pas. Et ils estiment que c'est un danger, donc demandent à ce que l'on ralentisse le temps que l'on trouve le moyen de contrer ce problème. Ce qui par définition est strictement impossible, à moins de réserver une technologie supérieure à quelques heureux élus qui pourront, entre autres, repérer les Deep fake. Et ça, ca serait mon réel cauchemar, que ce soit une entreprise privée ayant un monopole imposé par l'état ou directement l'état. Quand je dis depuis 10 ans que la transparence et la traçabilité sont les réels enjeux nécessaires du 21eme siècle, je ne pensais pas avoir raison à ce point. 1 Link to comment
Liber Pater Posted March 30, 2023 Report Share Posted March 30, 2023 Ce n'est pas un danger, c'est juste qu'on évitera peut-être plus le message que le messager. Et ça c'est un bien Link to comment
Azref Posted April 4, 2023 Report Share Posted April 4, 2023 Je suis assez d'accord avec ce point de vue. Link to comment
Rincevent Posted April 4, 2023 Report Share Posted April 4, 2023 Citation When you keep forecasting the apocalypse and it doesn't happen, what's next? Do you just deny you ever said the things you said, or do you try to make it happen yourself? I see what he did here. 😏 Link to comment
Cthulhu Posted May 25, 2023 Report Share Posted May 25, 2023 Le 30/03/2023 à 10:15, Rincevent a dit : En tous cas ça semble faire du bruit... à moins que ce ne soit un bon plan de com'. Lex Fridman (ancien prof d'IA au MIT) reçoit ESY : C'est probablement en partie mon biais anti-fedora, mais je suis à 20 minutes de son interview sur EconTalk (3h avec Lex, non merci) et je le trouve vraiment mauvais. A l'autre opposé du débat, j'avais trouvé Robin Hanson beaucoup plus convaincant lors de son passages au CSPI Link to comment
Recommended Posts
Create an account or sign in to comment
You need to be a member in order to leave a comment
Create an account
Sign up for a new account in our community. It's easy!
Register a new accountSign in
Already have an account? Sign in here.
Sign In Now