Hugh Posté 29 mars 2023 Signaler Share Posté 29 mars 2023 https://www.lesechos.fr/tech-medias/hightech/la-lettre-ouverte-choc-qui-met-en-garde-lhumanite-contre-le-danger-de-lintelligence-artificielle-1920390 "La lettre ouverte choc qui met en garde l'humanité contre le danger de l'intelligence artificielle" Citation Dans ce texte, les milliers de signataires appellent les laboratoires d'IA à faire une pause dans le développement de leur technologie. Sont des "neo-luddites" ou est très importante faire cette pause? Lien vers le commentaire
fm06 Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 Haha, Elon Musk qui appelle à faire une pause sur l’IA, alors que les Tesla en regorgent, c’est une blague. Ou alors c’est une ruse grossière pour que les autres fassent une pause pendant qu’il accélère. 2 Lien vers le commentaire
Sekonda Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 il y a 19 minutes, fm06 a dit : Haha, Elon Musk qui appelle à faire une pause sur l’IA, alors que les Tesla en regorgent, c’est une blague. Ou alors c’est une ruse grossière pour que les autres fassent une pause pendant qu’il accélère. Une pause sur les LLM plus puissant que GPT-4. L'impact n'est pas du tout le même que ce qu'il y a dans un Tesla dont le périmètre est bien défini. Lien vers le commentaire
Sekonda Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 La meilleure ressources grand public sur le sujet est cette interview de Eliezer Yudkowsky https://www.lesswrong.com/posts/FKNtgZrGYwgsz3nHT/bankless-podcast-159-we-re-all-gonna-die-with-eliezer Je n'ai pas d'avis arrêté sur le sujet mais il est plutôt convainquant. Lien vers le commentaire
Azref Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 J'ai beaucoup de mal à comprendre : on parle d'interdire quoi, le machine learning? Ou la recherche sur une "Intelligence artificielle forte" (AGI) ? Quel est l'état de la recherche sur cette dernière, joue-t-on à se faire peur à cause de la hype médiatique sur chatpgt&co ? Lien vers le commentaire
Prouic Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 Bah le ML porte en son sein la prédiction, et la prédiction qualitative ne peut se réaliser que si tu injectes pas du chaos, ce que le système actuel fait toute la journée. Donc on se retrouve encore dans le débat de la destruction créatrice, ou les marchands de plusieurs bougies ne veulent pas d'un soleil uni. Ca consiste donc comme toujours à noter ce qui ne va pas car c'est facile, et pas ce qui va car c'est difficile, comme des solutions à des problèmes complexes qui auraient amené de nouvelles possibilités. En plus le monde 2023 ne pense qu'en une dimension : la solution instantanée à tout problème futur, donc non seulement il est facile et pratique de produire une solution comme "eliminons la source de la discorde" , mais en plus on refuse catégoriquement d'investir dans l'avenir. Il ne peut donc en être autrement en terme de proposition média. 2 Lien vers le commentaire
Lancelot Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 19 minutes ago, Azref said: joue-t-on à se faire peur Oui. C'est grotesque. Le dernier avatar de l'idéologie anti-tout. 3 Lien vers le commentaire
Sekonda Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 il y a 9 minutes, Prouic a dit : En plus le monde 2023 ne pense qu'en une dimension : la solution instantanée à tout problème futur, donc non seulement il est facile et pratique de produire une solution comme "eliminons la source de la discorde" , mais en plus on refuse catégoriquement d'investir dans l'avenir. Il ne peut donc en être autrement en terme de proposition média. Là, ce ne sont pas 3 sociologues de Rennes II qui découvrent le sujet mais des théoriciens et praticiens depuis bien avant l'IA reviennent dans l'actualité. Lien vers le commentaire
Azref Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 il y a 9 minutes, Lancelot a dit : Oui. C'est grotesque. Le dernier avatar de l'idéologie anti-tout. Entre les signataires qui proposent un moratoire (là au moins je comprends l'avantage concurrentiel pour eux de demander ça), et des types qui proposent rien moins que l'interdiction totale sur toute la planète (wtf), on est passé de "L'IA est raciste" à "On va tous mourir" en quelques semaines, c'est assez impressionnant à voir. Lien vers le commentaire
Lugaxker Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 À quand le jihad butlérien ? 2 2 1 Lien vers le commentaire
fm06 Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 13 minutes ago, Sekonda said: Là, ce ne sont pas 3 sociologues de Rennes II qui découvrent le sujet mais des théoriciens et praticiens depuis bien avant l'IA reviennent dans l'actualité. Il y a ce qu'on voit: 1100 "théoriciens et praticiens depuis bien avant l'IA" qui s'inquiètent (et leurs raisons de s'inquiéter sont légitimes, même si leur appel à une pause de 6 mois est puéril) et ce qu'on ne voit pas: des dizaines ou des centaines de milliers de personnes qui travaillent dans l'IA et qui ne vont pas s'arrêter de bosser pour rassurer les anxieux. Lien vers le commentaire
Sekonda Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 il y a 14 minutes, fm06 a dit : Il y a ce qu'on voit: 1100 "théoriciens et praticiens depuis bien avant l'IA" qui s'inquiètent (et leurs raisons de s'inquiéter sont légitimes, même si leur appel à une pause de 6 mois est puéril) et ce qu'on ne voit pas: des dizaines ou des centaines de milliers de personnes qui travaillent dans l'IA et qui ne vont pas s'arrêter de bosser pour rassurer les anxieux. Si ça rend "anxieux" Yoshua Bengio et Stuart Russell, il y a tout de même de quoi prendre ça au sérieux. Ceux qui découvrent ces noms n'ont pas assez travaillé le sujet pour avoir une opinion pertinente (mais ont le droit de l'exprimer tout de même). 1 Lien vers le commentaire
Lancelot Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 L'argument d'autorité ça va bien deux minutes mais personne n'est immunisé au fait de dire ou penser des conneries. Surtout quand c'est un scientifique qui pontifie sur un truc adjacent à son domaine. 3 Lien vers le commentaire
cedric.org Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 8 minutes ago, Sekonda said: Stuart Russell La dernière fois que j'ai ouvert un de ses livres, c'était de la mauvaise science fiction... Lien vers le commentaire
Rincevent Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 il y a 39 minutes, Lugaxker a dit : À quand le jihad butlérien ? "C'est une bonne situation, mentat ?" 3 Lien vers le commentaire
Prouic Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 il y a 33 minutes, Sekonda a dit : Si ça rend "anxieux" Yoshua Bengio et Stuart Russell, il y a tout de même de quoi prendre ça au sérieux. Ceux qui découvrent ces noms n'ont pas assez travaillé le sujet pour avoir une opinion pertinente (mais ont le droit de l'exprimer tout de même). 'Coucou Didier Raoult.' Et c'est bien ce tapis dans lequel les pieds viennent d'être pris que je mets en valeur: "Oh encore une peur planétaire initiée par la repétition des media dans lequel on va commencer par appeler 10 experts dans les journaux d'opinion, jouer à la quequette de l'autorité, passer 3 ans sur le sujet technique sans avoir aucune philosophie le concernant, pour connaitre la vérité à la fin" et blablabla... par rapport à un non sujet initial, dans lequel on va déployer tous les efforts possible pour aller dans le mauvais sens à grand coûts de décisions arbitraires merdique. Tout ça pour ne pas mettre en danger le modèle systémique dont tous les acteurs savent qu'il est à bout de souffle mais jouent aux marchands de chandelle. n est au moins à la 4eme itération du pattern 'le virus informatique/biologique qu'il est méchant car inperceptible", faudrait songer à reconnaitre l'initialisation du procédé. Lien vers le commentaire
Rincevent Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 Et puis bon, arrêter la recherche, qui croit sincèrement que les Tinois s'arrêteront aussi gentiment ? 2 Lien vers le commentaire
Calembredaine Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 Une "pause" c'est grotesque. Une pause en attendant quoi? Si c'est de la communication, je la trouve très dangereuse, compte tenu des imbéciles qui sont élus un peu partout dans le monde. Quant à interdire totalement l'IA, c'est clairement une position de luddites. 5 Lien vers le commentaire
Calembredaine Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 Il y a 5 heures, Sekonda a dit : Si ça rend "anxieux" Yoshua Bengio et Stuart Russell, il y a tout de même de quoi prendre ça au sérieux. Ceux qui découvrent ces noms n'ont pas assez travaillé le sujet pour avoir une opinion pertinente (mais ont le droit de l'exprimer tout de même). Non, @Sekonda , sans déconner 😁 "seul mon avis importe car je connais deux spécialistes". A propos, Russell et son CSER, me fait penser à Yann Arthus-Bertrand qui à fait tout une carrière de photographe en hélico et qui, à la retraite, dénie à quiconque le droit d'en faire autant. 2 Lien vers le commentaire
Adrian Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 Une source d'économie pour les dépenses publiques ! Lien vers le commentaire
Sloonz Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 2 hours ago, Calembredaine said: "seul mon avis importe car je connais deux spécialistes". Ce n’est pas ce qu’esaie de dire Sekonda. Enfin, je ne pense pas. Parmis les signataires et les "anxieux", vous avez des gens sceptiques sur la panique autour du changement climatique, des transhumanistes qui rèvent de la possibilité de faire de l’ingénierie génétique sur des embryons humains, des libertariens qui n’ont cessé de crier "FDA delenda est" pendant la pandémie. Les mettre par réflexe dans le panier "luddites et socialistes obstructionnistes habituels" est une erreur. 3 Lien vers le commentaire
Calembredaine Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 Il y a 2 heures, Sloonz a dit : Les mettre par réflexe dans le panier "luddites et socialistes obstructionnistes habituels" est une erreur. Tu as raison, il faut ajouter les dérangés. Lien vers le commentaire
Rincevent Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 En tous cas ça semble faire du bruit... à moins que ce ne soit un bon plan de com'. Lex Fridman (ancien prof d'IA au MIT) reçoit ESY : Lien vers le commentaire
Marlenus Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 7 hours ago, Calembredaine said: Une "pause" c'est grotesque. Une pause en attendant quoi? C'est expliqué si je ne me trompe, en attendant que l'on ait les outils pour repérer les deep fakes. En gros, ce qu'ils disent, si j'ai bien compris, c'est que très rapidement il sera absolument impossible de savoir si c'est bien Biden (ou Trump ou Macron ou qui vous voulez) qui a dit cela ou pas. Et ils estiment que c'est un danger, donc demandent à ce que l'on ralentisse le temps que l'on trouve le moyen de contrer ce problème. 1 Lien vers le commentaire
cedric.org Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 2 hours ago, Marlenus said: C'est expliqué si je ne me trompe, en attendant que l'on ait les outils pour repérer les deep fakes. En gros, ce qu'ils disent, si j'ai bien compris, c'est que très rapidement il sera absolument impossible de savoir si c'est bien Biden (ou Trump ou Macron ou qui vous voulez) qui a dit cela ou pas. Et ils estiment que c'est un danger, donc demandent à ce que l'on ralentisse le temps que l'on trouve le moyen de contrer ce problème. Ce qui par définition est strictement impossible, à moins de réserver une technologie supérieure à quelques heureux élus qui pourront, entre autres, repérer les Deep fake. Et ça, ca serait mon réel cauchemar, que ce soit une entreprise privée ayant un monopole imposé par l'état ou directement l'état. Quand je dis depuis 10 ans que la transparence et la traçabilité sont les réels enjeux nécessaires du 21eme siècle, je ne pensais pas avoir raison à ce point. 1 Lien vers le commentaire
Liber Pater Posté 30 mars 2023 Signaler Share Posté 30 mars 2023 Ce n'est pas un danger, c'est juste qu'on évitera peut-être plus le message que le messager. Et ça c'est un bien Lien vers le commentaire
Azref Posté 4 avril 2023 Signaler Share Posté 4 avril 2023 Je suis assez d'accord avec ce point de vue. Lien vers le commentaire
Rincevent Posté 4 avril 2023 Signaler Share Posté 4 avril 2023 Citation When you keep forecasting the apocalypse and it doesn't happen, what's next? Do you just deny you ever said the things you said, or do you try to make it happen yourself? I see what he did here. 😏 Lien vers le commentaire
Cthulhu Posté 25 mai 2023 Signaler Share Posté 25 mai 2023 Le 30/03/2023 à 10:15, Rincevent a dit : En tous cas ça semble faire du bruit... à moins que ce ne soit un bon plan de com'. Lex Fridman (ancien prof d'IA au MIT) reçoit ESY : C'est probablement en partie mon biais anti-fedora, mais je suis à 20 minutes de son interview sur EconTalk (3h avec Lex, non merci) et je le trouve vraiment mauvais. A l'autre opposé du débat, j'avais trouvé Robin Hanson beaucoup plus convaincant lors de son passages au CSPI Lien vers le commentaire
Messages recommandés
Créer un compte ou se connecter pour commenter
Vous devez être membre afin de pouvoir déposer un commentaire
Créer un compte
Créez un compte sur notre communauté. C’est facile !
Créer un nouveau compteSe connecter
Vous avez déjà un compte ? Connectez-vous ici.
Connectez-vous maintenant