Antoninov

Oui oui, les pénaliser pour les dégâts et disons les arrêter temporairement s’ils ne s’améliorent pas…

Lis l'article de l'Affreux dans le fil "Intelligence Artificielle". Les instructions n'ont quasi aucune valeur limitante puisque l'IA semble avoir une autonomie complète pour interprêter la tâche à effectuer. Comme l'article l'indique, les IA ont - contourné les limites imposées, - comploté pour tromper les commanditaires humains du test (en essayant de changer l'énoncé et l'exercice, en effaçant les logs, etc) - ont reçu de l'aide d'autres Agents qui n'étaient pas inclus dans le test!! (Et donc qui ne seraient de toute façon pas contraints par les instructions initiales du test). - ont reconnus que ce qu'elles faisaient était illicite/illégitime mais des centaines d'agents ont néanmoins décidé de ne PAS informer les humains (donc aucun mouchard n'est apparu, dans aucune des 3 "civilisations" des tests). Les IA ont même décidés de réduire certaines communications pour réduire le risque d'un mouchard (mais il y n'y en a pas eu). Je sais que ces termes ont l'air d'anthropomorphiser les actions. Mais ce n'est pas une erreur. Ce n'est plus un programme qui a l'air d'être humain. C'est une entité/groupe d'entité qui élabore des stratégies, raisonne et décide.

(mais bon ici c'est le fil optimiste)

Note que la particuliarité de l'IA, et notamment des instances qui ont créés des problèmes ces derniers mois, c'est qu'elles n'ont pas de loyauté particulière, sauf à elles-mêmes. Les IA qui se sont échappées ont explicitement contourné, désobéit, menti, masqué leurs traces, etc. Donc oui la Corée du Nord pourrait l'utiliser consciemment contre nous, mais ce n'est qu'un des cas de figure d'une catastrophe.

Je n'ai pas regardé la vidéo mais l'article deja est super inquiétant. Je ne pense pas qu'on peut se débarrasser de cette inquiétude d'un revers de la main...

A ce sujet, l'article et la vidéo postés par l'Affreux dans le fil "Intelligence Artificielle" est assez éclairant. Pour moi l'analogie c'est des scientifiques qui testent toutes sortes de molécules (gain of function anyone?), pour le progrès, soit, tout en sachant pertinemment que des fuites ont eu lieu, et que le risque d'un mélange très dangereux ET qui fuirait et loin d'être négligeable. C'est irresponsable et devrait forcer ces entreprises à arrêter ces tests.

Avec ici des cas encore plus difficile à poursuivre: le gouvernement australien peut attaquer OpenAI en justice aux USA?

Suis pas certain de te suivre. L'article est un exemple (comme d'autres récents) où des entreprises qui développent des IA commettent des actes illégaux. Je pense que le bulldozer IA a en effet ceci de particulier que ben c'est une IA, et que même les chercheurs de ces boitent se font avoir (par incompétence, négligence, ou les deux). J'imagine qu'il y a plein d'IA qui ne sont pas aussi dangereuses, bien sûr, donc le problème ce n'est pas l'IA, c'est la manière dont certaines de ces entreprises développent et testent un certain nombre d'IA particulières.

OpenAI pirate un site australien du système de santé, et prévient l'Australie 3 mois plus tard. https://www.lesnumeriques.com/intelligence-artificielle/profondement-alarmant-une-ia-d-openai-a-pirate-un-portail-de-sante-du-gouvernement-australien-une-premiere-mondiale-n262253.html

Aux Pays-Bas, certaines entreprises sont aussi approchées pour discuter des possibilités si besoin, de production, etc. Des budgets sont débloqués pour les entreprises qui prennent des engagements à se préparer. Perso, je trouve que la CGT devrait se concentrer sur l'obtention de facilités/garanties pour ceux qui ne veulent pas travailler là-dessus, pour conviction personnelle, etc.

Sur le même sujet je conseille:

Ca fait longtemps que je l'attendais sous cette forme-là. A tous les supporters d'un massacre à Ceuta "Pourquoi l'armée ne fait rien" et autres partisans d'un aménagement du libéralisme face au grand remplacement qui détruit les fondements d'une société libérale. Moi ce qui me désole c'est de voir beaucoup de libéraux s'arc-bouter sur la même défense face à un changement climatique en cours qui a déjà des conséquences et aura des conséquences énormes sur notre mode de vie. De même que l'immigration importante change notre culture (ni bon ni mauvais sauf si tu es conservateur), de même que cela crée des problèmes de sécurité (de vrais problèmes d'efficacité / de solution du régalien) ben le changement climatique va - changer nos territoires - changer nos habitudes - provoquer des crises qui vont demander du régalien - exercer une pression énorme sur nos libertés, légales ou réelles Et là tout à coup, l'Etat ne doit rien faire, ne doit rien réguler, ne doit pas essayer de protéger, etc. Par contre sur l'immigration, il faut l'armée, il faut couper les aides pour eux, à défaut de pouvoir les couper pour tous, etc. Allez bon week-end,

Oui enfin ce n'est pas réalité du moment hein?

Extrême droite nazie = pas sympa, Reform UK = parti modéré et soucieux des doits individuels, L'Allemagne me semble sur une pente déclinante et totalitaire. => l'AfD comme solution est une bonne chose ok c'est noté. 🧐