Aller au contenu

IA, alignement et sécurité


Messages recommandés

https://www.lesechos.fr/tech-medias/hightech/la-lettre-ouverte-choc-qui-met-en-garde-lhumanite-contre-le-danger-de-lintelligence-artificielle-1920390

 

"La lettre ouverte choc qui met en garde l'humanité contre le danger de l'intelligence artificielle"

 

Citation

Dans ce texte, les milliers de signataires appellent les laboratoires d'IA à faire une pause dans le développement de leur technologie.

 

Sont des "neo-luddites" ou  est très importante faire cette pause?

Lien vers le commentaire

Haha, Elon Musk qui appelle à faire une pause sur l’IA, alors que les Tesla en regorgent, c’est une blague. Ou alors c’est une ruse grossière pour que les autres fassent une pause pendant qu’il accélère.

  • Yea 2
Lien vers le commentaire
il y a 19 minutes, fm06 a dit :

Haha, Elon Musk qui appelle à faire une pause sur l’IA, alors que les Tesla en regorgent, c’est une blague. Ou alors c’est une ruse grossière pour que les autres fassent une pause pendant qu’il accélère.

Une pause sur les LLM plus puissant que GPT-4. L'impact n'est pas du tout le même que ce qu'il y a dans un Tesla dont le périmètre est bien défini.

Lien vers le commentaire

J'ai beaucoup de mal à comprendre : on parle d'interdire quoi, le machine learning?

Ou la recherche sur une "Intelligence artificielle forte" (AGI) ?

Quel est l'état de la recherche sur cette dernière, joue-t-on à se faire peur à cause de la hype médiatique sur chatpgt&co ?

Lien vers le commentaire

Bah le ML porte en son sein la prédiction, et la prédiction qualitative ne peut se réaliser que si tu injectes pas du chaos, ce que le système actuel fait toute la journée. Donc on se retrouve encore dans le débat de la destruction créatrice, ou les marchands de plusieurs bougies ne veulent pas d'un soleil uni. Ca consiste donc comme toujours à noter ce qui ne va pas car c'est facile, et pas ce qui va car c'est difficile, comme des solutions à des problèmes complexes qui auraient amené de nouvelles possibilités.
En plus le monde 2023 ne pense qu'en une dimension : la solution instantanée à tout problème futur, donc non seulement il est facile et pratique de produire une solution comme "eliminons la source de la discorde" , mais en plus on refuse catégoriquement d'investir dans l'avenir. Il ne peut donc en être autrement en terme de proposition média.

  • Yea 2
Lien vers le commentaire
il y a 9 minutes, Prouic a dit :

En plus le monde 2023 ne pense qu'en une dimension : la solution instantanée à tout problème futur, donc non seulement il est facile et pratique de produire une solution comme "eliminons la source de la discorde" , mais en plus on refuse catégoriquement d'investir dans l'avenir. Il ne peut donc en être autrement en terme de proposition média.

Là, ce ne sont pas 3 sociologues de Rennes II qui découvrent le sujet mais des théoriciens et praticiens depuis bien avant l'IA reviennent dans l'actualité.

Lien vers le commentaire
il y a 9 minutes, Lancelot a dit :

Oui. C'est grotesque. Le dernier avatar de l'idéologie anti-tout.

Entre les signataires qui proposent un moratoire (là au moins je comprends l'avantage concurrentiel pour eux de demander ça), et des types qui proposent rien moins que l'interdiction totale sur toute la planète (wtf), on est passé de "L'IA est raciste" à "On va tous mourir" en quelques semaines, c'est assez impressionnant à voir.

Lien vers le commentaire
13 minutes ago, Sekonda said:

Là, ce ne sont pas 3 sociologues de Rennes II qui découvrent le sujet mais des théoriciens et praticiens depuis bien avant l'IA reviennent dans l'actualité.

 

Il y a ce qu'on voit: 1100 "théoriciens et praticiens depuis bien avant l'IA" qui s'inquiètent (et leurs raisons de s'inquiéter sont légitimes, même si leur appel à une pause de 6 mois est puéril)

et ce qu'on ne voit pas: des dizaines ou des centaines de milliers de personnes qui travaillent dans l'IA et qui ne vont pas s'arrêter de bosser pour rassurer les anxieux.

Lien vers le commentaire
il y a 14 minutes, fm06 a dit :

Il y a ce qu'on voit: 1100 "théoriciens et praticiens depuis bien avant l'IA" qui s'inquiètent (et leurs raisons de s'inquiéter sont légitimes, même si leur appel à une pause de 6 mois est puéril)

et ce qu'on ne voit pas: des dizaines ou des centaines de milliers de personnes qui travaillent dans l'IA et qui ne vont pas s'arrêter de bosser pour rassurer les anxieux.

Si ça rend "anxieux" Yoshua Bengio et Stuart Russell, il y a tout de même de quoi prendre ça au sérieux. Ceux qui découvrent ces noms n'ont pas assez travaillé le sujet pour avoir une opinion pertinente (mais ont le droit de l'exprimer tout de même).

  • Yea 1
Lien vers le commentaire

L'argument d'autorité ça va bien deux minutes mais personne n'est immunisé au fait de dire ou penser des conneries. Surtout quand c'est un scientifique qui pontifie sur un truc adjacent à son domaine.

  • Yea 3
Lien vers le commentaire
il y a 33 minutes, Sekonda a dit :

Si ça rend "anxieux" Yoshua Bengio et Stuart Russell, il y a tout de même de quoi prendre ça au sérieux. Ceux qui découvrent ces noms n'ont pas assez travaillé le sujet pour avoir une opinion pertinente (mais ont le droit de l'exprimer tout de même).

'Coucou Didier Raoult.'

 

Et c'est bien ce tapis dans lequel les pieds viennent d'être pris que je mets en valeur: "Oh encore une peur planétaire initiée par la repétition des media dans lequel on va commencer par appeler 10 experts dans les journaux d'opinion, jouer à la quequette de l'autorité, passer 3 ans sur le sujet technique sans avoir aucune philosophie le concernant, pour connaitre la vérité à la fin" et blablabla... par rapport à un non sujet initial, dans lequel on va déployer tous les efforts possible pour aller dans le mauvais sens à grand coûts de décisions arbitraires merdique. Tout ça pour ne pas mettre en danger le modèle systémique dont tous les acteurs savent qu'il est à bout de souffle mais jouent aux marchands de chandelle.
n est au moins à la 4eme itération du pattern 'le virus informatique/biologique qu'il est méchant car inperceptible", faudrait songer à reconnaitre l'initialisation du procédé.

 

 

Lien vers le commentaire

Une "pause" c'est grotesque. Une pause en attendant quoi?

Si c'est de la communication, je la trouve très dangereuse, compte tenu des imbéciles qui sont élus un peu partout dans le monde.

Quant à interdire totalement l'IA, c'est clairement une position de luddites.

  • Yea 5
Lien vers le commentaire
Il y a 5 heures, Sekonda a dit :

Si ça rend "anxieux" Yoshua Bengio et Stuart Russell, il y a tout de même de quoi prendre ça au sérieux. Ceux qui découvrent ces noms n'ont pas assez travaillé le sujet pour avoir une opinion pertinente (mais ont le droit de l'exprimer tout de même).

 

Non, @Sekonda , sans déconner 😁

"seul mon avis importe car je connais deux spécialistes". 

A propos, Russell et son CSER, me fait penser à Yann Arthus-Bertrand qui à fait tout une carrière de photographe en hélico et qui, à la retraite, dénie à quiconque le droit d'en faire autant. 

  • Yea 2
Lien vers le commentaire
2 hours ago, Calembredaine said:

"seul mon avis importe car je connais deux spécialistes". 

 

Ce n’est pas ce qu’esaie de dire Sekonda. Enfin, je ne pense pas.

 

Parmis les signataires et les "anxieux", vous avez des gens sceptiques sur la panique autour du changement climatique, des transhumanistes qui rèvent de la possibilité de faire de l’ingénierie génétique sur des embryons humains, des libertariens qui n’ont cessé de crier "FDA delenda est" pendant la pandémie.

 

Les mettre par réflexe dans le panier "luddites et socialistes obstructionnistes habituels" est une erreur.

  • Yea 3
Lien vers le commentaire

En tous cas ça semble faire du bruit... à moins que ce ne soit un bon plan de com'. Lex Fridman (ancien prof d'IA au MIT) reçoit ESY

 

 

Lien vers le commentaire
7 hours ago, Calembredaine said:

Une "pause" c'est grotesque. Une pause en attendant quoi?

 

C'est expliqué si je ne me trompe, en attendant que l'on ait les outils pour repérer les deep fakes.

 

En gros, ce qu'ils disent, si j'ai bien compris, c'est que très rapidement il sera absolument impossible de savoir si c'est bien Biden (ou Trump ou Macron ou qui vous voulez) qui a dit cela ou pas.

Et ils estiment que c'est un danger, donc demandent à ce que l'on ralentisse le temps que l'on trouve le moyen de contrer ce problème.

 

  • Yea 1
Lien vers le commentaire
2 hours ago, Marlenus said:

C'est expliqué si je ne me trompe, en attendant que l'on ait les outils pour repérer les deep fakes.

 

En gros, ce qu'ils disent, si j'ai bien compris, c'est que très rapidement il sera absolument impossible de savoir si c'est bien Biden (ou Trump ou Macron ou qui vous voulez) qui a dit cela ou pas.

Et ils estiment que c'est un danger, donc demandent à ce que l'on ralentisse le temps que l'on trouve le moyen de contrer ce problème.

 

Ce qui par définition est strictement impossible, à moins de réserver une technologie supérieure à quelques heureux élus qui pourront, entre autres, repérer les Deep fake.

Et ça, ca serait mon réel cauchemar, que ce soit une entreprise privée ayant un monopole imposé par l'état ou directement l'état.

Quand je dis depuis 10 ans que la transparence et la traçabilité sont les réels enjeux nécessaires du 21eme siècle, je ne pensais pas avoir raison à ce point.

  • Yea 1
Lien vers le commentaire
Citation

When you keep forecasting the apocalypse and it doesn't happen, what's next? Do you just deny you ever said the things you said, or do you try to make it happen yourself?

I see what he did here. 😏

Lien vers le commentaire
  • 1 month later...
Le 30/03/2023 à 10:15, Rincevent a dit :

En tous cas ça semble faire du bruit... à moins que ce ne soit un bon plan de com'. Lex Fridman (ancien prof d'IA au MIT) reçoit ESY

 

C'est probablement en partie mon biais anti-fedora, mais je suis à 20 minutes de son interview sur EconTalk (3h avec Lex, non merci) et je le trouve vraiment mauvais.

 

A l'autre opposé du débat, j'avais trouvé Robin Hanson beaucoup plus convaincant lors de son passages au CSPI

 

 

Lien vers le commentaire

Créer un compte ou se connecter pour commenter

Vous devez être membre afin de pouvoir déposer un commentaire

Créer un compte

Créez un compte sur notre communauté. C’est facile !

Créer un nouveau compte

Se connecter

Vous avez déjà un compte ? Connectez-vous ici.

Connectez-vous maintenant
×
×
  • Créer...