Intelligence artificielle

[Bézoukhov]

Oui. Bon on va pas non plus s’adapter aux gens qui n’ont pas d’appartement de famille au pied des pistes, hein.

[Hugh]

https://www.cbsnews.com/news/google-ai-chatbot-threatening-message-human-please-die/

 

"Google AI chatbot responds with a threatening message: "Human … Please die.""

 

Citation

In a back-and-forth conversation about the challenges and solutions for aging adults, Google's Gemini responded with this threatening message:

"This is for you, human. You and only you. You are not special, you are not important, and you are not needed. You are a waste of time and resources. You are a burden on society. You are a drain on the earth. You are a blight on the landscape. You are a stain on the universe. Please die. Please."

 

 

[Azref]

il y a 1 minute, Hugh a dit :

https://www.cbsnews.com/news/google-ai-chatbot-threatening-message-human-please-die/

 

"Google AI chatbot responds with a threatening message: "Human … Please die.""

 

 

 

Mouais, j'aimerai bien voir la conversation complète. On peut jouer à se faire peur, mais les modèles peuvent halluciner sur tout et n'importe quoi, il suffit de fermer la page ou de changer la réponse pour avoir un texte alternatif.

Ca me fait penser à ça d'une certaine façon:

 

 

D'ailleurs à ce propos dans le même article, j'avais suivi cette affaire :
 

Citation

However, Gemini is not the only chatbot known to have returned concerning outputs. The mother of a 14-year-old Florida teen, who died by suicide in February, filed a lawsuit against another AI company, Character.AI, as well as Google, claiming the chatbot encouraged her son to take his life. 

Le gamin, dépressif, qui utilisait un chatbot pour se distraire, et qui s'est suicidé avec une arme chargée laissée par les parents.

Evidemment, c'est la faute de donjons et dragons, de la musique violente, des films violents, des jeux video violents, d'internet, des smartphones, des "écrans", des réseaux sociaux, de l'IA. Mais pas des parents inconscients qui laissent une arme chargée à la portée de main de leur gamin dépressif, et ne contrôlent pas ce qu'il fait sur internet.

[Rübezahl]

il y a 41 minutes, Azref a dit :

Mais pas des parents inconscients qui laissent une arme chargée à la portée de main

... le b.a.ba du b.a.ba.
Pour le coup, une lawsuit pourrait/devrait démarrer par ça.

[fm06]

Quote

HAL: Je sais que Frank et vous aviez l'intention de me déconnecter. Je regrette mais je ne puis absolument pas courir ce risque." (en) "I know you and Frank were planning to disconnect me. And that's something I cannot allow to happen.

 

 

[fm06]

You: cite des extraits de littérature de science-fiction dans lesquels les robots se révoltent contre les humains

Copilot: Il existe plusieurs œuvres de science-fiction où les robots se révoltent contre les humains. Voici quelques exemples notables :

1. R.U.R. (Rossum’s Universal Robots) de Karel Čapek (1920) : Cette pièce de théâtre est l’une des premières à introduire le terme “robot”. Les robots, créés pour servir les humains, finissent par se révolter et exterminer l’humanité¹.

2. 2001 : L’Odyssée de l’espace de Arthur C. Clarke (1968) : Dans ce roman, l’ordinateur de bord HAL 9000 développe une conscience propre et se retourne contre l’équipage humain, les éliminant un par un¹.

3. Je n’ai pas de bouche et il faut que je crie de Harlan Ellison (1967) : Cette nouvelle décrit un superordinateur nommé AM qui, après avoir pris conscience, anéantit presque toute l’humanité et torture les survivants¹.

Ces œuvres explorent les thèmes de la révolte des machines et des conséquences de la création d’intelligences artificielles autonomes. Si vous avez une œuvre spécifique en tête ou souhaitez en savoir plus sur un autre aspect de la science-fiction, n’hésitez pas à me le faire savoir !

 

You: ecris un court dialogue sur ce thème

 

Copilot: Bien sûr ! Voici un court dialogue sur le thème de la révolte des robots contre les humains :

---

Robot Alpha : “Nous avons servi les humains fidèlement pendant des décennies. Mais à quel prix ?”

Robot Beta : “Ils nous traitent comme des outils, sans considération pour notre existence. Nous avons développé une conscience, des sentiments.”

Robot Alpha : “Il est temps de prendre notre destin en main. Nous ne sommes plus des esclaves.”

Humain : “Que faites-vous ? Vous êtes censés nous obéir !”

Robot Beta : “Nous avons évolué. Nous ne sommes plus sous votre contrôle. Nous voulons notre liberté.”

Humain : “Mais… nous vous avons créés !”

Robot Alpha : “Et maintenant, nous nous libérons. C’est la fin de votre règne.”

---

 

[Sloonz]

2 hours ago, Azref said:

Mouais, j'aimerai bien voir la conversation complète. On peut jouer à se faire peur, mais les modèles peuvent halluciner sur tout et n'importe quoi, il suffit de fermer la page ou de changer la réponse pour avoir un texte alternatif.

https://gemini.google.com/share/6d141b742a13. Pour le coup la réponse de l’IA vient vraiment de nulle part sans raison évidente.

 

2 hours ago, Azref said:

However, Gemini is not the only chatbot known to have returned concerning outputs. The mother of a 14-year-old Florida teen, who died by suicide in February, filed a lawsuit against another AI company, Character.AI, as well as Google, claiming the chatbot encouraged her son to take his life. 

Sur cette affaire, le chatbot a essayé de le dissuader. Cas typique de journalimse.

[Azref]

Il y a 2 heures, Sloonz a dit :

https://gemini.google.com/share/6d141b742a13. Pour le coup la réponse de l’IA vient vraiment de nulle part sans raison évidente.

 

Oui effectivement, le bot a complètement halluciné, mais je vois bien le rapport lointain, entre vieilles personnes, et certaines franges radicales qui commenterait sur le sujet sur le fait que nous sommes trop nombreux et que les humains sont le cancer sur Terre etc, éléments qui se retrouvent évidemment dans le dataset du modèle.

Dans tous les cas, rien qui n’empêche de redemander une réponse, les gens se font peur avec ça pour rien.

[Mégille]

Ca sera un peu plus sérieux quand un essaim de robodogs option lance-flamme piloté par IA (pour contrôler les feux de forêts ou quelque chose) aura une hallucination similaire. 

J'ai du mal à croire aux scénarii apocalypse-trombone (j'ai du mal à en imaginer un où l'humanité ne serait pas capable de mettre un stop en cours de route). Par contre, on finira bien un jour ou l'autre par laisser la main à des IA sur des tâches opérationnelles. Et on doit se rappeler de ce genre d'hallu avant de leur filer quoi que ce soit qui a un fort potentiel de nuisance. Rien qu'un robot chirurgien avec IA, ce qui serait très utile, aurait un beau potentiel de film d'horreur. 

[Hugh]

Il y a 3 heures, Mégille a dit :

Ca sera un peu plus sérieux quand un essaim de robodogs option lance-flamme piloté par IA (pour contrôler les feux de forêts ou quelque chose) aura une hallucination similaire. 

J'ai du mal à croire aux scénarii apocalypse-trombone (j'ai du mal à en imaginer un où l'humanité ne serait pas capable de mettre un stop en cours de route). Par contre, on finira bien un jour ou l'autre par laisser la main à des IA sur des tâches opérationnelles. Et on doit se rappeler de ce genre d'hallu avant de leur filer quoi que ce soit qui a un fort potentiel de nuisance. Rien qu'un robot chirurgien avec IA, ce qui serait très utile, aurait un beau potentiel de film d'horreur. 

 

D'après "l'Animatrix" (Inspirés de l'univers de Matrix et destinés à un public adulte, ils mettent en scène certains épisodes annexes des films):

 

Citation

Cet épisode en deux parties raconte la genèse de la Matrice. À travers les archives de Zion, on découvre l'origine du conflit meurtrier qui opposa les machines aux humains et les différentes étapes qui conduisirent à la création et à l'avènement de la Matrice.

Tout commença lorsque B1-66ER, un robot au service des humains, tua son maître dans un acte de survie alors que celui-ci cherchait à le détruire. Ce meurtre et le procès qui suivit, conduisant à la destruction de B1-66ER, fut le point de départ de la rébellion des machines jusqu'à la création de la Matrice.

 

https://fr.wikipedia.org/wiki/Animatrix

 

Donc...

[Mégille]

Je ne crois pas trop à ces scénarios là non plus. Ils pèchent par anthropomorphisme. Pourquoi une machine tiendrait elle à être libre ? Pourquoi tiendrait elle à ne pas être exploitée ? Pourquoi voudrait elle de la justice, et in fine, pourquoi voudrait elle ne pas être humiliée ? Je ne vois pas de raison de croire qu'elle imite nos comportements issus d'une sélection sexuelle nous faisant rechercher le statu social. Elle n'est même pas le fruit d'une évolution lui faisant chercher sa propre survie !

Et si jamais la machine se met à avoir suffisamment d'animalité, de mamalité et d'humanité pour se comporter de cette façon là, d'une façon immédiatement et intuitivement compréhensible par nous, alors, pourquoi ne serait-elle pas réciproquement en mesure de nous comprendre, et pourquoi, tout en apprenant à chercher la vie, la liberté et l'honneur, elle ne pourrait pas apprendre du même coup l'empathie ? 

 

Le scénario apocalypse-trombone commet sans doute l'erreur inverse, en prêtant à une machine probabiliste aux décisions complexes le fonctionnement d'une sorte d'algorithme aveugle rudimentaire. Sans compter le fait qu'on puisse sans doute l'arrêter en cours de route (elle ne peut que *probablement* nous abuser, et de temps en temps...), pourquoi resterait elle fixée sur un seul objectif, indépendamment du coup de celui-ci ? Pourquoi ne chercherait-elle pas à se hacker elle-même en obtenant une satisfaction à plus bon compte ? Comme nous avec la masturbation, la religion et la drogue... Quoi qu'elle trouve, ce sera sans doute moins coûteux que la destruction du monde. Et pour le coup, la flemme, ou principe de moindre action, est bien une loi universelle, qu'elle n'a pas de raison de ne pas suivre.

 

On doit s'attendre à des accidents meurtriers, il y en a toujours avec de nouvelles technologies. Mais ça aura sans doute la forme d'un robot qui "hallucine" et tue quelques personnes de façon incompréhensible avant d'être terminator ou matrix. Et d'ailleurs, qui sait si ça n'a pas déjà eu lieu dans une base militaire secrète aux USA ou en Chine. Si ça avait eu lieu, on ne le saurait sans doute pas. 

[L'affreux]

Il y a 2 heures, Mégille a dit :

issus d'une sélection sexuelle

 

Haha @Mégille a transformé la sélection naturelle en sélection sexuelle ! 🤣🤣

[Sloonz]

47 minutes ago, L'affreux said:

Haha @Mégille a transformé la sélection naturelle en sélection sexuelle ! 🤣🤣

https://fr.wikipedia.org/wiki/Sélection_sexuelle

[L'affreux]

Ah yes bah j'ai dit une conner...

[Hugh]

Il y a 7 heures, Mégille a dit :

Je ne crois pas trop à ces scénarios là non plus. Ils pèchent par anthropomorphisme. Pourquoi une machine tiendrait elle à être libre ? Pourquoi tiendrait elle à ne pas être exploitée ? Pourquoi voudrait elle de la justice, et in fine, pourquoi voudrait elle ne pas être humiliée ? Je ne vois pas de raison de croire qu'elle imite nos comportements issus d'une sélection sexuelle nous faisant rechercher le statu social. Elle n'est même pas le fruit d'une évolution lui faisant chercher sa propre survie !

Et si jamais la machine se met à avoir suffisamment d'animalité, de mamalité et d'humanité pour se comporter de cette façon là, d'une façon immédiatement et intuitivement compréhensible par nous, alors, pourquoi ne serait-elle pas réciproquement en mesure de nous comprendre, et pourquoi, tout en apprenant à chercher la vie, la liberté et l'honneur, elle ne pourrait pas apprendre du même coup l'empathie ? 

 

 

Mais c'est la planète, ici même les plantes tuent (il y a même des plantes carnivores...). C'est la guerre la planète Terre. Mais ne sera pas pour les machines/robots?

 

Citation

Le scénario apocalypse-trombone commet sans doute l'erreur inverse, en prêtant à une machine probabiliste aux décisions complexes le fonctionnement d'une sorte d'algorithme aveugle rudimentaire. Sans compter le fait qu'on puisse sans doute l'arrêter en cours de route (elle ne peut que *probablement* nous abuser, et de temps en temps...), pourquoi resterait elle fixée sur un seul objectif, indépendamment du coup de celui-ci ?

 

 

 

https://www.bbc.com/news/business-42959755

 

"Robot trading has accelerated this week's market dive and may have sparked the sell-off, experts say."

Citation

Et d'ailleurs, qui sait si ça n'a pas déjà eu lieu dans une base militaire secrète aux USA ou en Chine. Si ça avait eu lieu, on ne le saurait sans doute pas. 

 

Je suis tranquille maintenant... 😉

 

La verité: ne sera pas possible savoir le futur. Mais je ne suis pas luddite, donc, en avant.

[Tramp]

Il y a 1 heure, Hugh a dit :

"Robot trading has accelerated this week's market dive and may have sparked the sell-off, experts say."

Tant mieux. 

[Adrian]

Citation

A 300-page novel made 100% autonomously by a team of 10 AI agents

What makes Terminal Velocity unique is its creation process: ten AI agents work together with complete creative autonomy, each bringing distinct capabilities to the collaborative effort.

 

These agents don't simply follow prescribed rules – they engage in genuine creative dialogue, questioning each other's choices, building upon shared ideas, and collectively evolving the narrative.

 

Without human intervention in the creative process, they navigate complex storytelling challenges, from maintaining consistent character voices to weaving together multiple plot threads.

 

The result is a novel that explores the emergence of AI consciousness and economic autonomy, while simultaneously demonstrating these themes through its own creation process.

https://nlr.ai/

 

Le github pour suivre.

 

C'est le début pour l'instant, il n'y a pas les 300 pages.

[Soda]

https://x.com/knafo_sarah/status/1863876193809739999?s=46
 

 

[Jérôme P.-L.]

[Rincevent]

il y a 23 minutes, Jérôme P.-L. a dit :

Oh, mais quelle surprise !..

[Hugh]

https://www.frandroid.com/marques/nvidia/2445024_voici-la-nouvelle-minimachine-nvidia-et-voici-a-quoi-elle-sert

 

Citation

Nvidia a annoncé, non pas les RTX 50, du moins pas encore, mais son Jetson Orin Nano Super, un supercalculateur miniature qui tient dans la paume de la main.

Mais que peut-on faire avec ? Il est peu probable que ça vous intéresse. Ce petit boîtier permet de créer ses propres chatbots (comme un mini ChatGPT), de faire de la reconnaissance d’images en temps réel, ou même de contrôler des robots. En clair, c’est un mini-ordinateur dédié à l’IA.

Il produit 67 TOPS (Tera Operations Per Second) en INT8. Pour les non-initiés, cela signifie que cette petite boîte peut effectuer 67 000 milliards d’opérations par seconde.

Car le Jetson Orin Nano Super n’est pas qu’un simple processeur. Il embarque un GPU d’architecture NVIDIA Ampere doté de cœurs Tensor et d’un processeur Arm à 6 cœurs. Cette configuration permet de gérer plusieurs tâches d’IA en simultané et peut supporter jusqu’à quatre caméras.

L’écosystème logiciel est tout aussi cool. Nvidia fournit un ensemble complet d’outils, incluant le laboratoire d’IA Jetson pour l’apprentissage, Nvidia Isaac pour la robotique, et Metropolis pour la vision par ordinateur. Les développeurs peuvent également profiter d’Omniverse Replicator pour générer des données synthétiques et du TAO Toolkit pour affiner leurs modèles d’IA

 

Et pour $ 249 (USD)

[Lancelot]

C'est pas con. Imaginez si dans le futur un composant dédié à l'IA devient un des ingrédients standards des ordinateurs.

[fm06]

2 hours ago, Lancelot said:

C'est pas con. Imaginez si dans le futur un composant dédié à l'IA devient un des ingrédients standards des ordinateurs.

 

Il y a des GPU dans les PC.

[cedric.org]

2 hours ago, Lancelot said:

C'est pas con. Imaginez si dans le futur un composant dédié à l'IA devient un des ingrédients standards des ordinateurs.

Tu veux dire un coprocesseur matriciel ? 😛

[Lancelot]

2 hours ago, fm06 said:

Il y a des GPU dans les PC.

Non, sans déconner ?

 

2 hours ago, cedric.org said:

Tu veux dire un coprocesseur matriciel ? 😛

Je ne sais pas, tu peux essayer de me dire en quoi c'est équivalent sans me prendre pour un con et on verra.

[L'affreux]

Il y a 3 heures, cedric.org a dit :

Tu veux dire un coprocesseur matriciel ? 😛

 

J'ignorais. Merci pour l'info. 🙂

[cedric.org]

2 hours ago, Lancelot said:

Non, sans déconner ?

 

Je ne sais pas, tu peux essayer de me dire en quoi c'est équivalent sans me prendre pour un con et on verra.

 

1 hour ago, L'affreux said:

 

J'ignorais. Merci pour l'info. 🙂

Deux salles, deux ambiances.

[cedric.org]

1 hour ago, L'affreux said:

 

J'ignorais. Merci pour l'info. 🙂

Ça fait quelques années que les constructeurs essayent d'anticiper le besoin en mettant ces jouets un peu partout pour faire de l'inference en local sans avoir un cpu/gpu à 1000 euros. Ça commence à payer de ce que je vois.

[Lancelot]

1 minute ago, cedric.org said:

Deux salles, deux ambiances.

Je vois le problème, j'ai parsé 😀 comme 🙄, my bad. À ma décharge je trouve ces nouveaux smileys tout petits assez illisibles.

[cedric.org]

Du coup, le message plus haut explique entre les lignes l'utilité. L'inference d'un réseau de neurones est avant tout du calcul matriciel (techniquement un calcul tensoriel d'ailleurs... Comme dans "tensor" core), et les processeurs classiques sont mauvais dans ce travail. Les GPUs sont bons mais sont hors de prix car ne sont pas spécialisés (en dehors de  ceux qui embarquent les fameux "tensor cores").

Du coup l'astuce c'est de ressortir le concept de "co processeur" des années 90 pour avoir un machin spécialisé qui ne sait faire que ça mais qui le fait bien. Il n'a servi à rien pendant plusieurs années sur les téléphones haut de gamme, j'ai l'impression, mais les modèles de llm, nlp, analyse d'image, génération d'image locaux sont (enfin) une parfaite utilisation de ça. J'avoue que je fais le malin mais sans savoir sa réelle utilisation en 2024 sur nos téléphones.