Intelligence Artificielle, Morale et Politique

[0100011]

2 hours ago, L'affreux said:

 

Merci pour la découverte. Cet article notamment. Mais ça m'étonne que l'incitation à augmenter la dissipation de l'énergie puisse guider vers de l'organisation. Si c'est pour dissiper l'énergie, les modèles les moins élaborés font mieux que ceux plus avancés. 

@Kassad en avais-tu entendu parler ? 

 

Je ne connaissais pas. La première idée qui me vient, qui me rend sceptique,  est que c'est étrange d'un point de vue expérimental. En effet si les lois de la physiques suffisent à inéluctablement aboutir à une organisation comme la vie comment ce fait il que cette dernière n'existe quasiment pas dans l'univers visible ?

 

Quote

Si vous éclairez assez longtemps un bouquet aléatoire d’atomes, vous obtiendrez une usine 

 

Il y a des masses d'endroits ou des paquets aléatoires d'atomes ont été éclairé une grosse masse de temps et pourtant on ne voit pas d'auto-organisation semblables à la vie sur terre jusqu'à preuve du contraire. Bon il faudrait que je lise les articles scientifiques originaux.

 

1 hour ago, Rübezahl said:

Une fois qu'une structure dynamique est stable, il est inévitable qu'elle serve elle-même de base à la poursuite (aléatoire ou pas) de l'exploration de l'espace des états, et à dégoter d'autres dynamiques stables

Cette notion d'inéluctabilité me pose des soucis au niveau philosophique : si les humains coopèrent pour parsemer le globe d'explosifs nucléaires ils pourraient peut être réduire toute forme de vie à néant. Et donc au niveau macro on repart à 0 du fait même de l'auto-organisation qui aboutit à sa propre destruction. C'est étrange.

[Johnathan R. Razorback]

il y a 6 minutes, Kassad a dit :

Et donc au niveau macro on repart à 0 du fait même de l'auto-organisation qui aboutit à sa propre destruction. C'est étrange.

 

Je ne vois pas ce que ça a d'étrange, ça me paraît même tout à fait cohérent avec une vision cyclique (c.a.d. non-progressiste) du devenir.

[Johnathan R. Razorback]

il y a 14 minutes, Kassad a dit :

Je ne connaissais pas. La première idée qui me vient, qui me rend sceptique,  est que c'est étrange d'un point de vue expérimental. En effet si les lois de la physiques suffisent à inéluctablement aboutir à une organisation comme la vie comment ce fait il que cette dernière n'existe quasiment pas dans l'univers visible ?

 

Parce que les conditions de son émergence sont très difficiles à réunir et/ou qu'on ne connaît qu'une petite portion de l'univers ?

 

ça ne me semble pas incompatible avec l'idée de l'inéluctabilité. Si on est matérialiste, l'organisation du vivant à partir d'éléments non-vivants est inéluctable à partir du moment où elle est possible (c.a.d non-contradictoire avec la nature de la matière): tout ce qu'il manque pour que la matière teste toutes les combinaisons possibles jusqu'à créer du vivant, c'est suffisamment de temps.

 

Le même raisonnement implique qu'elle se re-formera inéluctablement si jamais elle s'auto-supprime. Peut-être que c'est même déjà arrivé, et que l'univers n'en est plus à son coup d'essai avec la vie sur Terre.

[0100011]

13 minutes ago, Johnathan R. Razorback said:

 

Je ne vois pas ce que ça a d'étrange, ça me paraît même tout à fait cohérent avec une vision cyclique (c.a.d. non-progressiste) du devenir. 

Le premier qualificatif de la phrase est "stable" or un phénomène qui s'auto-détruit est tout sauf stable (ou alors il faut utiliser le terme périodique).

[Rübezahl]

il y a une heure, Kassad a dit :

Cette notion d'inéluctabilité me pose des soucis au niveau philosophique : si les humains coopèrent pour parsemer le globe d'explosifs nucléaires ils pourraient peut être réduire toute forme de vie à néant. Et donc au niveau macro on repart à 0 du fait même de l'auto-organisation qui aboutit à sa propre destruction. C'est étrange.

Même réponse que Jonathan.

J'évoque l'inéluctabilité de la survenance d'un événement, aucunement le fait que par la suite ça dure éternellement.

Une expérience de vie réussie sur une planète ... puis ça croise un astéroïde. Et voilà, terminus.

 

Sans même parler de phénomènes macroscopiques spectaculaires de ce genre (et plus rares),

je parie que des milliers d'amorces de vie se sont mal terminées. Effondrement de micro-cheminées, cheminées, etc.

 

edit : je ne crois pas que stable soit synonyme d'éternel.

Un phénomène qui dure 10 minutes, 1 siècle ou 1000 ans, ama ça mérite le qualificatif de stable.

 

[Rübezahl]

Il y a 1 heure, Rincevent a dit :

Dans une casserole sur le feu, une cellule de convection est une structure auto-organisée permettant une meilleure dissipation de l'énergie thermique (merci à mes vieilles lectures de Prigogyne).

C'est ama une des structures absolument primordiales.

 

De toutes manières, gravité ou lumière, voilà déjà 2 forces totalement orientées/vectorisées/biaisées qui viennent frapper le désordre atomique.

On quitte forcément l'environnement où il n'y avait que du désordre aléatoire qui s'ajoutait à du désordre aléatoire.

 

La gravité est un truc crucial.

Tout comme la lumière.

... et je dois en oublier.

(et gravité, tout comme lumière, surgissent pourtant du désordre atomique).

 

 

 

[Rincevent]

il y a une heure, Kassad a dit :

Je ne connaissais pas. La première idée qui me vient, qui me rend sceptique,  est que c'est étrange d'un point de vue expérimental. En effet si les lois de la physiques suffisent à inéluctablement aboutir à une organisation comme la vie comment ce fait il que cette dernière n'existe quasiment pas dans l'univers visible ?

Pourquoi c'est certain : https://fr.wikipedia.org/wiki/Loi_du_zéro-un_de_Kolmogorov

 

Pourquoi c'est lent et rare : https://fr.wikipedia.org/wiki/Paradoxe_du_singe_savant

Mais bon, tu sais tout ça.

[0100011]

1 hour ago, Rincevent said:

Pourquoi c'est lent et rare : https://fr.wikipedia.org/wiki/Paradoxe_du_singe_savant


Je n'arrive pas à souscrire à l'unicité dans cette proposition.

 

Fondamentalement je pense qu'on part à l'envers : notre manière de réfléchir et de modéliser le monde n'impose rien à ce dernier. C'est dans le sens inverse que ça se passe : la manière dont l'univers fonctionne impose des contraintes au phénomène de la cognition qui n'est qu'un phénomène particulier de l'univers. 

 

Par construction notre cognition est limitée. C'est le fameux paradoxe du menteur : une partie de l'univers, mon cerveau, est justement ce qui permet de comprendre l'univers : il n'y a pas assez de place pour que ça rentre. 

[Nick de Cusa]

un résumé dépassionné pour les non epxerts

 

https://www.linkedin.com/pulse/state-artificial-intelligence-2018-edition-kevin-gepford/

[POE]

Pour faire suite à l'article sur les travaux de Jeremy England, l'originalité est l'application des principes de la thermodynamique et de l'entropie croissante à des systèmes biologiques. 

C'est à dire que les mêmes principes qui conduisent des structures chimiques à s'organiser d'une certaine manière de façon à maximiser la dissipation de l'énergie pourrait s'appliquer aux êtes vivants et expliquer la manière dont ils évoluent.

Cela rejoint la discussion sur l'entropie puisqu'il semble proposer rien de moins qu'une sorte de définition universelle de l'entropie qui expliquerait l'émergence de structures ordonnées depuis la molécule jusqu'à la vie animale et humaine.

J'avoue que j'ai un peu de mal à suivre, il faudrait faire un rappel sur les notions d'entropie et les lois de la thermodynamiques...

[Rübezahl]

on en bavarde précisément ici :

 

 

 

 

 

[ttoinou]

Ca mérite un split

[0100011]

Un article de Vox à la rue complet : https://www.vox.com/future-perfect/2018/12/21/18126576/ai-artificial-intelligence-machine-learning-safety-alignment

 

Plusieurs affirmations sont directement fausses. 

 

Au delà on a droit aux scénari habituels qu'on croirait écrits par des gamins de 11 ans on retrouve cette idée que l'éthique ne pourrait pas émerger d'une super-intelligence. C'est à dire il y a cette contradiction interne suivante : on parle d'intelligence générale et en même temps on présente cette intelligence générale comme bornée et priorisant ses calculs sur tout le reste. C'est-à-dire qu'on garde une idée de l'IA qui est la maximisation d'une fonction pour intuiter l'idée du comportement d'une IA qui dépasserait l'humain.

 

Sinon c'est marrant de voir comment le journaliste répond tout simplement "oui" à la question de savoir si une IA peut être aussi intelligente que l'homme sans donner aucun argument. Même pas un argument d'autorité.

 

 

Ça me motiver ait presque pour faire un article pour contrepoints...

[L'affreux]

il y a 31 minutes, Kassad a dit :

Ça me motiver ait presque pour faire un article pour contrepoints... 

 

Super !

Pense à donner le lien ici.

[Sloonz]

1 hour ago, Kassad said:

C'est-à-dire qu'on garde une idée de l'IA qui est la maximisation d'une fonction pour intuiter l'idée du comportement d'une IA qui dépasserait l'humain

 

Non, l’idée est que même s’il n’y a pas de fonction d’utilité explicitement codée dans le code source de l’IA, une IA super-intelligente sera, on peut l’espérer du moins, rationnelle, et que tout agent rationnel suit une fonction d’utilité, même implicite (https://en.wikipedia.org/wiki/Von_Neumann%E2%80%93Morgenstern_utility_theorem).

 

Le problème évident étant que si cette fonction d’utilité est en contradiction avec TES intérêts et TES valeurs, tu te retrouves avec un agent super-intelligent qui a tout intérêt à te manipuler ou à te bypasser.

[0100011]

17 minutes ago, Sloonz said:

 

Non, l’idée est que même s’il n’y a pas de fonction d’utilité explicitement codée dans le code source de l’IA, une IA super-intelligente sera, on peut l’espérer du moins, rationnelle, et que tout agent rationnel suit une fonction d’utilité, même implicite (https://en.wikipedia.org/wiki/Von_Neumann%E2%80%93Morgenstern_utility_theorem).

 

Le problème évident étant que si cette fonction d’utilité est en contradiction avec TES intérêts et TES valeurs, tu te retrouves avec un agent super-intelligent qui a tout intérêt à te manipuler ou à te bypasser.

 

C'est vraiment similaire au raisonnement d'un enfant qui pense que quand il sera grand il va tout faire. 

 

D'autre part c'est supposer qu'une AIG est une fonction à maximiser dans un certain espace. Au mieux ça paraît douteux, au pire ça ressemble à du mauvais Jules Vernes qui faisait une règle de trois pour calculer la quantité de poudre nécessaire pour projeter un vaisseau sur la lune (alors que la vitesse de déflagration de n'importe quel explosif est inférieur à la vitesse de libération).

[L'affreux]

Le 20/12/2018 à 12:47, Kassad a dit :

En effet si les lois de la physiques suffisent à inéluctablement aboutir à une organisation comme la vie comment ce fait il que cette dernière n'existe quasiment pas dans l'univers visible ?

 

Cela me fait penser qu'il y a eu au moins deux passages importants, dont la probabilité est peut-être faible. 1/ Le passage de l'inerte au vivant. 2/ Le passage de l'animal à l'animal intelligent. Peut-être que l'intelligence est rare. D'autre part, je ne sais pas si les végétaux étaient là avant ou après les animaux ni si nous avons un ancêtre commun.

 

Il y a 3 heures, Kassad a dit :

le journaliste répond tout simplement "oui" à la question de savoir si une IA peut être aussi intelligente que l'homme sans donner aucun argument.

 

Certaines IA dépassent déjà l'humain sur des tâches intelligentes qui demandent de l'apprentissage comme de la reconnaissance d'images ou des jeux de société. Mais en fait les IA actuelles ne sont pas conscientes. Tant qu'il n'y a pas de conscience, les IA ne sont que des outils. Arriverons-nous à créer une "conscience artificielle" de la manière dont nous nous y prenons ? Rien ne le prouve. Si un jour des consciences artificielles émergeaient, ça changerait la donne et effectivement de nombreuses questions d'ordre moral devraient être résolues.

[Rübezahl]

il y a une heure, L'affreux a dit :

Peut-être que l'intelligence est rare.

ama oui, et certainement à l'époque de son émergence.

Mais après la 1° occurrence, c'en est fini de la rareté.

J'ai quelques plantes "rares" chez moi. Une fois que la 1° a été plantée, ça a rejetonné et c'en a été fini de la rareté.

[POE]

Il ne faut pas oublier que l'intelligence en biologie n'est pas qu'une question de structure cérébrale mais dépend d'un apprentissage social fondé sur la parenté, la nourriture, les relations sociales.

Aucun cerveau humain ne passerait le test de Turing s'il n'avait pas bénéficié d'une éducation humaine c'est à dire basée sur l'intelligence mais aussi sur les émotions, les besoins fondamentaux.

 

 

[0100011]

2 hours ago, L'affreux said:

Certaines IA dépassent déjà l'humain sur des tâches intelligentes qui demandent de l'apprentissage comme de la reconnaissance d'images ou des jeux de société. Mais en fait les IA actuelles ne sont pas conscientes. Tant qu'il n'y a pas de conscience, les IA ne sont que des outils. Arriverons-nous à créer une "conscience artificielle" de la manière dont nous nous y prenons ?

Le problème de fond est de penser que l'intelligence est une fonction qui sur certaines entrées va produire certains résultats. C'est d'ailleurs à mon avis le pire biais du QI quant à la mesure de l'intelligence : on mesure à travers des réponses. Or ce n'est pas uniquement dans les réponses aux questions que se trouve l'intelligence, je parlerais plutôt d'habileté. 

 

D'ailleurs je sais que le fonctionnement de mon cerveau n'est pas le même quand je joue aux échecs et quand je résoud un problème d'échecs où on me dit "mat en 5". C'est complètement différent. Nécessairement les tests de QI mesurent la deuxième activité. Peut être qu'elle est corrélée à la première mais je sais qu'elles sont différentes.

 

Ce que les humains, voire des animaux, sont capables de faire est de changer les règles du jeu (le fameux "think outside the box") pour des raisons x. A ce jour les IA ne font que répéter en mieux des schémas connus (qui sont enfouis dans des tonnes de data d'où elles apprennent). Je n'ai jamais vu une IA avoir une idée de rupture. Jamais. Qu'elles soient capables de calculer un prix de marché mieux que moi en prenant en compte des tonnes de paramètres : par exemple sur Airbnb en calculant le prix de l'appartement que je loue, c'est clair. Qu'elles soient capables de penser à une application comme Airbnb, pour le  moment c'est non. Et on en est très loin. Une IA joue mieux aux échecs que moi mais moi j'ai inventé des variantes du jeu lui même (pour lesquelles elles finiront par jouer mieux que moi). 

 

La dernière idée qui ne marche pas est celle de l'accélération infinie de l'intelligence. Il y a des arguments très profonds (en Calculabilité et en complexité également : les super IA ne feront pas écrouler les classes de complexité et donc comme déjà des problèmes d'optimisation qu'on peut expliquer à un enfant de 5 ans ne sont pas tractable car exponentiels on voit mal comment une super IA pourrait d'un coup tout résoudre par magie).

 

 

[L'affreux]

il y a 3 minutes, Kassad a dit :

Je n'ai jamais vu une IA avoir une idée de rupture.

 

Je travaille sur de la reconnaissance de formes dans des images en ce moment. Les IA que je manipule n'ont pas d'idée : elles ne peuvent pas en avoir par construction. Ce sont des machines faites pour estimer la probabilité de chaque possibilité. Après je ne connais que peu de choses et le domaine de l'IA est géant.

[Boz]

11 minutes ago, Kassad said:

 A ce jour les IA ne font que répéter en mieux des schémas connus (qui sont enfouis dans des tonnes de data d'où elles apprennent). Je n'ai jamais vu une IA avoir une idée de rupture. Jamais. 

 

J'ai entendu dire que les spécialistes du jeu de go considéraient certains mouvements d'Alpha Go lors de sa victoire contre Lee Sedol comme incroyablement créatifs (allant à l'encontre de tous les usages humains millénaires). Qu'est ce qui empêcherait de considérer ça comme une rupture ?

[Mégille]

Il y a 2 heures, L'affreux a dit :

1/ Le passage de l'inerte au vivant. 2/ Le passage de l'animal à l'animal intelligent. Peut-être que l'intelligence est rare. D'autre part, je ne sais pas si les végétaux étaient là avant ou après les animaux ni si nous avons un ancêtre commun.

Notre plus récent ancêtre commun avec les plantes est sans doute un eucaryote unicellulaire d'il y a plus de deux milliards d'années, qui est entré en endosymbiose avec l'organisme qui deviendra la mitochondrie. Ensuite, on a eu une séparation entre les unikonta, qui ont une seule flagelle, et les bikonta, qui en ont deux. Les bikonta sont entré en endosymbiose avec les plastes, leur permettant de devenir autotrophe (de transformer la matière inorganique en matière organique). Les bikonta ont donné les plantes, les unikonta, les champignons et les animaux. Etant donné que nous sommes hétérotrophes, il me semble que les plantes (enfin, des colonies d'algues unicellulaires, au moins) ont due se développer avant nous pour que nous puissions voir le jour. Mais étant donné que les branches les plus basses de l'arbre des animaux pluricellulaires sont des éponges, les animaux n'ont sans doute pas été automatiquement plus "intelligent" que les champignons ou les plantes.

 

Ce que j'ai du mal à comprendre, est le lien entre l'intelligence d'un animal quelconque, d'un homme spécifiquement, qui se demande ce qu'est l'intelligence, et d'une IA. A-t-on la moindre raison de croire que le mot "intelligence" renvoie à la même chose à chaque fois ?

[L'affreux]

il y a 1 minute, Mégille a dit :

Ce que j'ai du mal à comprendre, est le lien entre l'intelligence d'un animal quelconque, d'un homme spécifiquement, qui se demande ce qu'est l'intelligence, et d'une IA. A-t-on la moindre raison de croire que le mot "intelligence" renvoie à la même chose à chaque fois ?

 

Non, je ne pense pas. Nous ne comprenons tout simplement pas ce qu'est l'intelligence pour le moment.

[0100011]

14 minutes ago, Boz said:

 

J'ai entendu dire que les spécialistes du jeu de go considéraient certains mouvements d'Alpha Go lors de sa victoire contre Lee Sedol comme incroyablement créatifs (allant à l'encontre de tous les usages humains millénaires). Qu'est ce qui empêcherait de considérer ça comme une rupture ?

Car c'est notre manière à nous de considérer ce coup qui fait qu'on le range dans le créatif. Créer des règles du jeu n'est pas du même niveau que de résoudre une équation combinatoire.

 

De la même manière les coups de Stockfish aux échecs vont parfois à l'encontre de l'académisme échiquéen : mais c'est juste que nous en tant qu'humain on utilise des heuristiques (qui sont ce qu'on apprend dans les écoles d'échecs) parce que nous sommes incapables de gérer l'explosion combinatoire. La machine trouve des coups à jouer par une exploration exhaustive que de notre point de vue on qualifie de créatives (par exemple Caruana a raté un gain vu par les machines dont Kasparov disait que c'était inimaginable qu'un homme le trouve). 

 

[0100011]

18 minutes ago, Mégille said:

ce que j'ai du mal à comprendre, est le lien entre l'intelligence d'un animal quelconque, d'un homme spécifiquement, qui se demande ce qu'est l'intelligence, et d'une IA. A-t-on la moindre raison de croire que le mot "intelligence" renvoie à la même chose à chaque fois ?

On pourrait dire en première approximation qu'il s'agit d'avoir un modèle du monde qui permette de faire des prédictions sans avoir à faire l'expérience de manière concrète : ainisi une meute de chiens africains qui se sépare en deux groupes pour chasser (un qui aboie pour rabattre sur le second groupe), l'humain qui imagine les conséquences de ses actions avant de les mettre en œuvre montrent ce même trait. La profondeur et la complexité des mécanismes mentalement simulables donne des degrés. 

 

[0100011]

32 minutes ago, L'affreux said:

 

Je travaille sur de la reconnaissance de formes dans des images en ce moment. Les IA que je manipule n'ont pas d'idée : elles ne peuvent pas en avoir par construction. Ce sont des machines faites pour estimer la probabilité de chaque possibilité. Après je ne connais que peu de choses et le domaine de l'IA est géant.

C'est la même chose pour les IA qui jouent à des jeux combinatoires. Le problème est que pour jouer à ce même jeu les humains utilisent leur intelligence pour court circuiter ces calculs complexes : deux chemins différents pour arriver au même endroit. Une fois au même lieu il y en a qui soutiennent que l'IA a fait preuve d'intelligence en antropomorphisant et en constatant qu'elles arrivent au même résultat que la réflexion humaine.

[L'affreux]

il y a 12 minutes, Kassad a dit :

La machine trouve des coups à jouer par une exploration exhaustive

 

Ce n'est pas ce que j'ai lu. Alpha Zéro apprend en jouant contre lui-même. Il est donc dans la situation d'un joueur autodidacte ayant développé ses aptitudes sans tenir compte du savoir existant. Il n'est pas dans la situation d'un joueur ayant exploré toutes les situations d'une manière exhaustive. Plus l'IA est performante et moins il lui faut d'essais pour son entraînement, ce qui implique je pense qu'une IA de bonne facture n'explore pas tout… et puisse se faire battre par surprise sur une stratégie délaissée.

[Boz]

5 minutes ago, L'affreux said:

 

Ce n'est pas ce que j'ai lu. Alpha Zéro apprend en jouant contre lui-même. Il est donc dans la situation d'un joueur autodidacte ayant développé ses aptitudes sans tenir compte du savoir existant. Il n'est pas dans la situation d'un joueur ayant exploré toutes les situations d'une manière exhaustive. Plus l'IA est performante et moins il lui faut d'essais pour son entraînement, ce qui implique je pense qu'une IA de bonne facture n'explore pas tout… et puisse se faire battre par surprise sur une stratégie délaissée.

Je crois que c'est un mélange de deep learning comme tu dis avec de la bonne vieille puissance brute associée à des bases de données (c'est à dire des tonnes de parties réelles, comme pour le vieux Deep Blue). 

[L'affreux]

il y a 22 minutes, Kassad a dit :

Le problème est que pour jouer à ce même jeu les humains utilisent leur intelligence pour court circuiter ces calculs complexes

 

Sur ce point, je pense au contraire que le réseau de neurones d'une IA court-circuite les calculs complexes de manière comparable à celui d'un être vivant. On présente un situation complexe au réseau de neurone, et il donne son estimation sans passer par du calcul, juste par une sorte de "reconnaissance approximative".