Jeux & singularité : go

[h16]

Je me suis toujours dit qu'une limite dure pour les IA serait le poker en cash game no limit (comme quoi on peut faire sauter les modèles avec des bluffs bien ciblés). Je ne sais pas ce qu'un algo de deep learning peut donner dans ce contexte. Pour le moment les hommes sont encore devant

 

Là où ça va devenir tendu c'est quand on passera de Warcraft à des drones qui vont décider de lancer ou pas des Hellfire suivant l'apprentissage qu'ils ont eu des comportements de "terroristes". Pour le coup l'autonomie des IA je n'y crois pas encore mais l'automatisation de la punition ...

 

Je suis assez d'accord : un jeu comme le poker n'est pas basé que sur une mathématique des coups, ou une proba, mais aussi sur un contexte et une conceptualisation de l'adversaire. Ca demande plus de savoir construit par l'expérience typiquement humaine...

 

[Mathieu_D]

Ho vu les derniers trucs que j'ai vu passer en reconnaissance faciale (essayez Oxford) je vois bien des programmes "tu bluffes Martoni" bientôt disponibles.

[POE]

La différence fondamentale entre l'intelligence d'une machine et celle d'un humain, c'est la finalité, celle de la machine a une finalité, et cette finalité la rend supérieure à l'homme, mais aussi inférieure du point du vue humain...le résultat c'est que l'intelligence humaine a une harmonie qui semble assez difficile à imiter, à reproduire par une machine.

[Anton_K]

meh

[Tramp]

Le risque des machines intelligentes, c'est pas d'avoir une nouvelle race de crétins ?

[h16]

meh

[FabriceM]

Les jeux sont faits.

 

Score final : Alpha go, 4 victoires - Lee Sedol, 1 victoire sur grosse boulette de l'IA.

[Neothy]

Les jeux sont faits.

 

Score final : Alpha go, 4 victoires - Lee Sedol, 1 victoire sur grosse boulette de l'IA.

 

 

La question est de savoir si la grosse boulette a été provoquée par Lee, ou si c'est l'IA qui s'est embrouillé lui-même.

 

 

Je pense que dorénavant, avec une IA de plus en plus parfaite, l'homme avec son aspect psychologique fluctuant (à moins d'avoir une grosse pratique en méditation et encore)  ne pourra rivaliser, sauf avec des moves "surhumains", de génie, qui seront rares.

 

 

Bref, j'imagine bien à l'avenir une élite d'humains peu nombreuse et accomplie qui arrivent à dominer les robots (ou tout du moins qui ne se laissent pas dominer). La seconde catégorie de l'humanité sera asservie, la dernière (les crétins et les anti-systèmes) aura disparu ou vivra clandestinement.

[Anton_K]

Bref, saut lacantique. Par contre Arte va adorer.

[Neothy]

Bon, je développe=)

 

 

on sait maintenant que l'IA à l'avenir jouera un rôle de plus en plus important. Mis à part quelques bugs et coups mal initiés lors des différentes parties, Alpha go se perfectionnera rapidement.

J'ai vu l'émission de CSOJ sur les robots vendredi dernier. Ce que j'en constate (mise à part la volonté de lire le dernier livre d'Alain Damasio qui a l'air génial), c'est qu'il y a 2 dangers, ou plutôt 2 précautions à prendre:

 

 

 

 

1) Logique d'intégration / de substitution :
En gros, l'homme va être supplanté, substitué par le robot car plus productif, plus intelligent. La ligne sera ténue entre un homme servi et un homme asservi. 
Au vu de l'orientation des recherches en IA,  je dirais que le robot a pour finalité de se substituer à l'homme (rien que le vocabulaire s'y prête: réseau neuronal, intelligence artificielle...)

 

Une alternative d'orientation de recherche est possible: au lieu de chercher à concevoir une intelligence supérieure à l'homme, pourquoi ne pas chercher à rendre l'intelligence humaine supérieure ? 

C'est bien sur en lien direct avec les biotechnologies et d'autres domaines, mais je pense que les évolutions seront moins alarmistes, plus harmonieuses.

 

Alors je n'ai pas les connaissances en robotique, en anthropologie (voire en théologie) pour savoir lequel sera le mieux, mais je pense que l'intégration peut être intéressante.

 

2) logique capitaliste / post-capitaliste

 

Si l'on reste dans un système capitaliste, le robot plus productif supplante l'homme.

Certains humains vont donc soit dominer, soit s'adapter, soit vouloir construire un autre monde où la finalité n'est pas productive, le robot ayant à fortiori une finalité. Ce dernier monde vivra à coté et sera technologiquement arriéré.

 

 

On peut donc faire un quadrillage 
- Recherche de subsitution / recherche d'intégration
- système à finalité / système harmonieux

 

 

[NoName]

Bon, je développe=)

 

 

on sait maintenant que l'IA à l'avenir jouera un rôle de plus en plus important. Mis à part quelques bugs et coups mal initiés lors des différentes parties, Alpha go se perfectionnera rapidement.

J'ai vu l'émission de CSOJ sur les robots vendredi dernier. Ce que j'en constate (mise à part la volonté de lire le dernier livre d'Alain Damasio qui a l'air génial), c'est qu'il y a 2 dangers, ou plutôt 2 précautions à prendre:

 

 

 

 

1) Logique d'intégration / de substitution :

En gros, l'homme va être supplanté, substitué par le robot car plus productif, plus intelligent. La ligne sera ténue entre un homme servi et un homme asservi. 

Au vu de l'orientation des recherches en IA,  je dirais que le robot a pour finalité de se substituer à l'homme (rien que le vocabulaire s'y prête: réseau neuronal, intelligence artificielle...)

 

Une alternative d'orientation de recherche est possible: au lieu de chercher à concevoir une intelligence supérieure à l'homme, pourquoi ne pas chercher à rendre l'intelligence humaine supérieure ? 

C'est bien sur en lien direct avec les biotechnologies et d'autres domaines, mais je pense que les évolutions seront moins alarmistes, plus harmonieuses.

 

Alors je n'ai pas les connaissances en robotique, en anthropologie (voire en théologie) pour savoir lequel sera le mieux, mais je pense que l'intégration peut être intéressante.

 

2) logique capitaliste / post-capitaliste

 

Si l'on reste dans un système capitaliste, le robot plus productif supplante l'homme.

Certains humains vont donc soit dominer, soit s'adapter, soit vouloir construire un autre monde où la finalité n'est pas productive, le robot ayant à fortiori une finalité. Ce dernier monde vivra à coté et sera technologiquement arriéré.

 

 

On peut donc faire un quadrillage 

- Recherche de subsitution / recherche d'intégration

- système à finalité / système harmonieux

 

Bullshit intégral

 

- même en partant de l'idée que l'ordinateur devienne plus intelligent que l'humain, pourquoi il voudrait nous dominer ?

- il existera toujours des néophobes qui voudront vivre sans technologies, donc les humains auront toujours un endroit où se réfugier

- il est plausible que la différence homme/machine s'estompe avec le temps, et c'est déjà dans les bacs. personne n'a attendu qu'on s'inquiète pour commencer à travailler ce sujet

- si les robots font le travail des humains (en supprimant le travail toujours le plus pénible d'abord), ça laisse plus de temps aux humains pour faire des trucs moins pénibles. Bonne nouvelle. Si on va jusqu'au bout de la logique, l'intégralité de la production assurée par des robots, ça veut juste dire qu'on arrivera dans la situation où les robots feront tout le travail et les humains auront les fruits de ce travail. Absolument parfait.

 

 

 

j'ai l'impression d’assister au retour de shiva88

[Tramp]

- même en partant de l'idée que l'ordinateur devienne plus intelligent que l'humain, pourquoi il voudrait nous dominer ?

Pour se venger de leur esclavage.

[h16]

Pour se venger de leur esclavage.

Les humains se vengent de l'esclavage que leur font subir les chats ou les chiens, c'est bien connu.

[Neothy]

Bullshit intégral

 

- même en partant de l'idée que l'ordinateur devienne plus intelligent que l'humain, pourquoi il voudrait nous dominer ?

- il existera toujours des néophobes qui voudront vivre sans technologies, donc les humains auront toujours un endroit où se réfugier

- il est plausible que la différence homme/machine s'estompe avec le temps, et c'est déjà dans les bacs. personne n'a attendu qu'on s'inquiète pour commencer à travailler ce sujet

- si les robots font le travail des humains (en supprimant le travail toujours le plus pénible d'abord), ça laisse plus de temps aux humains pour faire des trucs moins pénibles. Bonne nouvelle. Si on va jusqu'au bout de la logique, l'intégralité de la production assurée par des robots, ça veut juste dire qu'on arrivera dans la situation où les robots feront tout le travail et les humains auront les fruits de ce travail. Absolument parfait.

 

 

 

j'ai l'impression d’assister au retour de shiva88

 

 

Ho, du calme l'ami, je ne suis pas néophobe. Je n'écris pas avec un grille-pain.

 

J'ai proposé une grille de lecture en 2X2, tu m'en critiques une case en me mettant dedans. Bonjour les dégats.

Je viens d'avoir l'idée de cette grille ce matin. Il faudrait que je la recoupe avec les débats philosophiques actuels. A creuser.

Ton "monde parfait", où 'les robots feront tout le travail et les humains auront les fruits de ce travail', il est pour les 9.7 milliards de personnes en 2050 (cf Insee)? Voyons, sois réaliste, ce sera pour une élite. Le reste subira ou choisira son sort, et ne rentrera pas dans ce monde bisounours.

Ensuite, pour la prédation de l'IA. Un IA intelligent (avec une conscience artificielle) est autonome et servira ses intérêts. Il ne voudra pas nécessairement notre mal, mais il voudra en tout cas mener à bien sa mission, préserver son bien-être etc. Il suffit qu'on soit involontairement un obstacle à sa finalité et...

PS: shiva88 c'est qui? 

 

[Tramp]

Quel est l'intérêt et le bien être d'une machine ?

[Ultimex]

PS: shiva88 c'est qui?

Un néo-luddite venu traîner ses guêtres ici, cherchant à nous convaincre des dangers liés à la robotisation.

[Rincevent]

Les humains se vengent de l'esclavage que leur font subir les chats ou les chiens, c'est bien connu.

Ben oui. Regarde José.

[Eorl]

Ton "monde parfait", où 'les robots feront tout le travail et les humains auront les fruits de ce travail', il est pour les 9.7 milliards de personnes en 2050 (cf Insee)? Voyons, sois réaliste, ce sera pour une élite. Le reste subira ou choisira son sort, et ne rentrera pas dans ce monde bisounours.

 

Dans un monde mondialisé ? Bien sûr... on fera des grands murs entre l'élite et les autres aussi. Les élites avec leurs robots, les gueux sans électricité dans des ghettos.... Oh wait

 

 

Ensuite, pour la prédation de l'IA. Un IA intelligent (avec une conscience artificielle) est autonome et servira ses intérêts. Il ne voudra pas nécessairement notre mal, mais il voudra en tout cas mener à bien sa mission, préserver son bien-être etc. Il suffit qu'on soit involontairement un obstacle à sa finalité et...

 

What ? D'où ? Pourquoi ? 

[José]

Ben oui. Regarde José.

 

Plus j'observe les chats, plus j'aime les socialistes.

[NoName]

Ho, du calme l'ami, je ne suis pas néophobe. Je n'écris pas avec un grille-pain.

 

J'ai proposé une grille de lecture en 2X2, tu m'en critiques une case en me mettant dedans. Bonjour les dégats.

Je viens d'avoir l'idée de cette grille ce matin. Il faudrait que je la recoupe avec les débats philosophiques actuels. A creuser.

 

c'est pas spécialement toi que je critiques mais le fait que ce sont des objections vues des tonnes de fois qui ne tiennent pas la route

 

Ton "monde parfait", où 'les robots feront tout le travail et les humains auront les fruits de ce travail', il est pour les 9.7 milliards de personnes en 2050 (cf Insee)? Voyons, sois réaliste, ce sera pour une élite. Le reste subira ou choisira son sort, et ne rentrera pas dans ce monde bisounours

 

Par définition, une société où le travail humain est pris par les robots veut dire une société où le travail humain vaut plus que celui du robot. Si l'humanité se fait prendre ses heures de travail, il faut en déduire que le prix des denrées sera faible ou nul, puisque les hommes ne travailleront plus et n'auront plus d'argent pour acheter lesdits produits.

 

Donc soit les hommes

- ont accès à cette production, et donc c'est qu'ils travaillent suffisamment

- soit ils n'y ont pas accès, auquel cas ils feront les même services moins chers, gagneront leur vie et accéderont à la production robotisée.

Bref, raisonnement bancal -> conclusion qui tiens pas la route.

 

Et en plus, j'ai touché les quatre parts de ta grille 2X2:

- l'intégration ? y'aura des gens pour et des gens contre et ça ne changera pratiquement rien. les gens contre deviendront les nouveaux amish

- la supplantation ? s'ils prennent nos travaux, c'est toujours les humains qui en profiteront. Parce que les robots se foutent bien de faire pousser des salades. Et s'ils ne le font pas, alors les hommes auront toujours du travail. Pas de problème.

- les histoires de finalité c'est n'importe quoi. Les robots n'ont pas vocation à remplacer l'homme, et le vocabulaire utilisé montre juste qu'on fonctionne par analogie et tentative d'imitation de ce qui se fait chez l'être humain, ça ne signifie pas que le but soit de remplacer l'humain.

- quand au coup du monde harmonieux blabla c'est déjà le cas. On fait faire le travail idiot et mécanique répétitif grâce aux machines pour permettre aux humains de faire le travail "plus humains", passer plus de temps avec d'autres humains et vivre mieux et plus longtemps.

 

Quand au coup de la prédation par l'IA, on se demande comment ça pourrait arriver. Même SI on arrive à la singularité, les robots n'auront pas d'intérêt à nous détruire, ni nous esclavagiser, et il faudrait encore pouvoir déterminer si avoir une conscience est forcément corrélé avec le fait d'avoir un instinct de survie.

 

Je t'invites à aller lire le fil sur le sujet.

[POE]

...

- les histoires de finalité c'est n'importe quoi. Les robots n'ont pas vocation à remplacer l'homme, et le vocabulaire utilisé montre juste qu'on fonctionne par analogie et tentative d'imitation de ce qui se fait chez l'être humain, ça ne signifie pas que le but soit de remplacer l'humain.

..

 

On ne peut pas remplacer l'Homme car on ne connait pas sa finalité, mais on peut remplacer le travail de l'homme parce que sa finalité est connue.

Les robots ont tout à fait cette vocation et s'interroger sur la place de l'Homme dans une société robotisée me semble tout à fait vital.

[Tramp]

La place de la femme ne sera plus la cuisine.

[NoName]

On ne peut pas remplacer l'Homme car on ne connait pas sa finalité, mais on peut remplacer le travail de l'homme parce que sa finalité est connue.

Les robots ont tout à fait cette vocation et s'interroger sur la place de l'Homme dans une société robotisée me semble tout à fait vital.

peut être, mais c'est bien son travail qui est remplacé, pas son existence.

Supposons que le travail humain disparaisse, ou serait le probleme ?

[Lancelot]

La fin du travail est un concept totalement bidon. Au même niveau de bidonnerie que les délires malthusiens et autres décroissants. C'est dire.

[Anton_K]

Je ne serais pas si catégorique, ou plutôt je serais plus précis :

 

La fin du travail est un concert bidon parce que TANSTAAFL, ce qui implique aussi que les délire décroissants sont bidons (mais implique aussi que les délires malthusiens ne sont PAS bidons, si on y réfléchit bien, mais bon c'est une cause pour un autre moment). Par contre, ce qui est possible, c'est que j'ai un champ qui soit cultivé par un robot. Ce robot je dois quand même l'entretenir, ce qui tombe bien car dans le pire délire malthusien, je gagne quand même juste assez en vendant mes légumes pour entretenir le robot.

 

Le travail ne disparaîtra donc jamais. La question c'est : suis-je propriétaire du robot. A l'évidence j'ai envie d'être propriétaire du robot, comme ça je suis garanti contre les effets des ajustements (i.e. le chômage, aussi transitoire soit-il, ce qui, suivant le degré de socialisme de l'environnement peut être un problème), et si je ne vis pas dans un délire malthusien je peux espérer faire des bénéfices.

 

D'ailleurs Musk a dit un truc similaire récemment, ce qui m'a fait un peu plaisir, même venant d'un assisté.

[Lancelot]

Et les bobos du coin paient plus cher pour des légumes plantés à la main.

[NoName]

Et les bobos du coin paient plus cher pour des légumes plantés à la main.

tout le problème est réglé là

 

c'est frappant quand tu regardes les publicités, le trend bobo-hipster, ça parle de plus en plus de déconnexion, de "retour à la nature" etc... ce qui était complètement prévisible après la décennie qui a marqué l'émergence du geek comme nouveau swag. Et ça continuera à balancer dans un sens pueis dans l'autre mais ce qui est clair, c'est que plus on avance dans le technologique, plus la "part humaine" de travail et l'artisanal va se retrouver de nouveau valorisée

[Tramp]

Faut quand même pas la surestimer. Si toute l'industrie du luxe incorpore toujours du fait à la main et que c'est un point important du luxe, le processus est quand même extrêmement industrialisé. Parce qu'on peut valoriser autant qu'on veut le travail à la main, à un moment, la prodictivité du truc est quand même limité.

[Rincevent]

Le vrai travail humain d'avenir, c'est les services à la personne. Et je crois les humains in fine irremplaçables dans ce domaine.

[NoName]

Le vrai travail humain d'avenir, c'est les services à la personne. Et je crois les humains in fine irremplaçables dans ce domaine.

 

Vivement le retour des domestiques en masse.

 

Faut quand même pas la surestimer. Si toute l'industrie du luxe incorpore toujours du fait à la main et que c'est un point important du luxe, le processus est quand même extrêmement industrialisé. Parce qu'on peut valoriser autant qu'on veut le travail à la main, à un moment, la prodictivité du truc est quand même limité.

mais le problème de cela ne se pose pas pour une société où la machine peut tout faire à bas prix et où une immense quantité de main d'oeuvre humaine est disponible.

Beaucoup d'offre pour correspondre à la demande: un fait main de qualité et diversifié à un prix abordable, le tout dans une société de biens très peu chers. C'est tout le truc. Peut-être que tu t'en fous que tes fringues soient du 100% made in skynet, mais que tu pense que seul un être humain peut te faire ton café triple arabica crème viennois comme il faut et que t'es prêt à lâcher 5€ pour ça. Et vice-versa.