"Droits" des robots proposés par un avocat

[ph11]

http://www.lopinion.fr/edition/economie/creation-d-droit-robots-face-a-rupture-technologique-25686

 

http://www.lemonde.fr/sciences/article/2013/02/17/donnons-des-droits-aux-robots_1832927_1650684.html

 

 

Fallait bien que ça arrive un jour, après les partisans des droits des animaux…

[Tramp]

On a quand même droit à tous les poncifs idiots habituels dans l'interview. Le petit passage sur la méchante pub...

[Johnathan R. Razorback]

On a quand même droit à tous les poncifs idiots habituels dans l'interview. Le petit passage sur la méchante pub...

"La scène du monde ne s'allume que d'éternels poncifs."

-Michel Clouscard, Le capitalisme de la séduction, 1981.

[ph11]

Pour le dire autrement : c'est dans la nature des machines d'être nos esclaves.

 

Étymologiquement, robot signifie travail, corvée, servage…

[Sloonz]

Le propos de l'argument de la chambre chinoise, c'est qu'en l'état actuel des logiciels, des lignes de codes qui se contentent d'utiliser du binaire, il est probablement impossible que ce que nous appelons "conscience" apparaisse.

 

Ça n’empêche pas les architectures différentes ni d'autres mécanismes d'échanges d'information que les codes actuels.

L’expérience de pensée de la chambre chinoise a pour objectif de critiquer le point de vue que le test de Turing serait un test pertinent pour décider de la conscience ou non d’une entité. L’argument c’est qu’un dictionnaire de questions-réponses passerait le test de turing, tout en étant « intuitivement » trivialement non-conscient.

L’argument de la chambre chinoise n’aborde jamais la question du mécanisme exact du dictionnaire. Et c’est intéressant que tu en parles, parce que c’est précisément là qu’est le talon d’achille de cette expérience de pensée. L’idée de base de la chambre chinoise, c’est que le dictionnaire n’est qu’un ensemble de couples (question, réponse). Il suffit de réfléchir 5 secondes pour voir que ce design ne passera jamais le test de turing : prend 5 potes avec toi, qui seront les interlocuteurs A1, A2... A5 ; tu es B. B pose une question à A1 (sans que A2-A5 ne soient au courant de l’échange), A1 lui répond, B lui compose une réponse mais l’envoie à A2 (qui a connaissance juste de la réponse de B, pas du reste de l’échange), ce qui donne un échange de type B-A1-B-A2-B-A3-B-A4-B-A5-B-A1-B-A2. Si on regarde ça comme un test de turing entre B et A, il y a peu de chances que A passe le test.

Le dictionnaire se complexifie pas mal ; il ne doit pas seulement faire une association question-réponse, il doit encoder des conversations complètes. Si tu ne places pas de limite sur la longueur d’une conversation, ton dictionnaire aura un nombre infini indénombrable d’entrées. Mettons que tu souhaites limiter chaque conversation à 50 échanges ; qu’une phrase fasse en moyenne 100 caractères dans un alphabet à 10 symboles ; ça veut dire que ton dictionnaire contiendra (à la très grosse louche) 10⁵⁰⁰⁰ entrées. Pour info, on estime à environ 10⁸⁰ le nombre d’atomes dans l’univers.

Donc au final, pour que la chambre chinoise puisse fonctionner, cela signifie que le système derrière doit être assez « intelligent » et sophistiqué pour pouvoir trouver la localisation précise d’une phrase dans une bibliothèque (beaucoup beaucoup) beaucoup plus grande que l’univers observable, et chercher la réponse pour la donner à l’utilisateur. Postuler gratuitement la possibilité d’existence d’un système capable de répondre à ces exigences tout en étant dénué intelligent, ça me semble pour le moins hardi.

[ph11]

Pourquoi pas les machines ? Après tout, on a bien donné des droits aux noirs.

[José]

On donnera des droits aux robots le jour où ils pourront répondre correctement à une femme qui leur demande si la robe qu'elle porte lui va pour aller à un cocktail avec des copines.

Et pour le coup, on pourra même leur laisser la direction du monde.

[Johnathan R. Razorback]

On donnera des droits aux robots le jour où ils pourront répondre correctement à une femme qui leur demande si la robe qu'elle porte lui va pour aller à un cocktail avec des copines.

 

Je doute que bien des humains passent ce test avec succès.

[Gilles]

Je doute que bien des humains passent ce test avec succès.

 

C'est bien pour ça qu'il ne faut pas leur laisser la direction du monde.

 

D'où les origines du libéralisme.

[Lancelot]

Ouch.

Ben la rationalité subjective c'est entre autres la base de l'épistémologie autrichienne.

 

Tu veux donner des droits aux Formiques, traitre ?

 

ho je connais le cas des vampires de rothbard

il se goure à 100%. Le sang deviendrait juste une marchandise au même titre que la bouffe. Fin du problème.

Comme souvent Rothbard est intéressant parce qu'il trouve une manière originale de se gourer.

 

c'est quoi un zombi philosophique ?

C'est exactement pareil qu'un humain à l'exception qu'il ne possède pas de conscience. Selon la manière dont on définit la conscience ça pose tout un tas de questions amusantes, dont si j'en étais un, est-ce que je m'en rendrais compte ?

http://www.francoisloth.com/les-zombies-philosophiques/

 

Le propos de l'argument de la chambre chinoise, c'est qu'en l'état actuel des logiciels, des lignes de codes qui se contentent d'utiliser du binaire, il est probablement impossible que ce que nous appelons "conscience" apparaisse.

Comme dit Sloonz, on peut répondre à la chambre chinoise en disant que pour que ça marche réellement il faut qu'il y ait de la conscience quelque part dans le système (par exemple dans le dictionnaire).

Mais de toute manière on se trompe de débat parce qu'on ne peut pas retenir la conscience seule comme critère. Parce que sinon pas besoin d'aller chercher des robots, on peut trivialement observer de la conscience chez les animaux.

[José]

c'est quoi un zombi philosophique ?

 

Il y en a un sur le forum. 

 

[Atika]

Ben la rationalité subjective c'est entre autres la base de l'épistémologie autrichienne.

 

Oui mais quel subjectivisme ? Faut déjà s'entendre là dessus parce qu'il y a des querelles. Je t'ai déjà bien sûr entendu sur apriorisme vs évolutionnisme, apriorisme vs empirisme mais jamais sur le subjectivisme radical de Lachmann

 

http://www.copeau.org/2/2008/04/05/la-querelle-de-lhermeneutique-et-lecole-austro-americaine/

 

Ca tape un peu fort sur Rothbard mais c'est mérité

[Tremendo]

Le jour où les robots seront libéraux nous leur donnerons des droits. Et alors nous submergeront le monde de robots libéraux pour gagner les élections.

[ph11]

[NoName]

Il y en a un sur le forum. 

 

balance le nom et je t'envoie un alcool en fedex

 

sinon je découvre que je ne sais pas ce que veux dire le mot herméneutique.

[Lancelot]

Oui mais quel subjectivisme ? Faut déjà s'entendre là dessus parce qu'il y a des querelles. Je t'ai déjà bien sûr entendu sur apriorisme vs évolutionnisme, apriorisme vs empirisme mais jamais sur le subjectivisme radical de Lachmann

sinon je découvre que je ne sais pas ce que veux dire le mot herméneutique.

En gros l'herméneutique c'est l'art (dire "la science" serait anachronique) de l'interprétation. Pour situer ça comprend l'exégèse religieuse, la glose juridique et c'est un concept de base des traditions hermétiques (et tac). Plus récemment c'est un courant épistémologique dont le message est qu'on ne peut réellement comprendre un phénomène qu'en comprenant sa signification pour ceux qui y participent.

Par exemple en critique littéraire ça implique que pour comprendre l'usage de telle métaphore dans tel poème il faut connaitre la vie et l’œuvre complète de l'auteur, ses influences, le contexte symbolique de son époque et tout ce qui s'ensuit. Mais tout ça ne permet d'accéder qu'à un seul point de vue, celui de l'auteur. On peut aussi étudier la métaphore telle qu'elle a pu être perçue par les contemporains, à travers les âges et les cultures et jusqu'à aujourd'hui. Y compris par moi en tant que critique littéraire. Bref c'est un peu le bordel, surtout que ces gens sont des petits trolls malins qui se complaisent à rajouter des couches et des couches de mise en abyme (l'héritage de l'esthétique hermétique sans doute). Je dois ajouter que les psychanalystes adorent ces trucs (l'observé observe l'observateur en train de l'observer, tout ça).

Bien sûr ce n'est pas limité à quelques illuminés. On pourrait dire que n'importe quelle science sociale qui cherche à prendre en compte des différences entre individus, entre cultures et au cours du temps pour la manière de percevoir un phénomène est touchée d'herméneutisme, et bien souvent c'est une perspective absolument légitime. Le problème étant de ne pas se laisser sombrer dans la tentation récursive à outrance parce que le relativisme et le solipsisme guettent au tournant.

Si je comprend bien le lien d'Atika, l'herméneutisme en économie dit qu'il est important d'étudier les buts et les motivations des individus afin de comprendre pourquoi ils prennent leurs décisions.

Pour Lachmann, les motifs des agents dans les actes d’échange ne sauraient être négligés. Et ces motifs ne peuvent être appréhendés par la simple mesure de l’utilité en termes de plaisir, à la mode utilitariste (Bentham, Mill), fût-elle une utilité subjective, comme le propose Jevons. Lachmann propose donc, pour explorer les motifs véritables des agents dans l’échange, d’ « ouvrir » d’autres champs d’analyse, comme l’herméneutique. Lachmann propose ainsi de s’inspirer des travaux de Max Weber, lequel conjuguait une explication tirée de l’économie mengérienne et l’explication « compréhensive » des agents. Lachmann invite les économistes à reconnaître que les agents sont porteurs de projets ; les effets des actions, tant volontaires qu’involontaires, imposent alors de chercher l’intention qui a présidé au choix d’agir, et si le projet est mené à bien selon cette intention, de déterminer si ce succès est marqué a priori par une grande part d’effets attendus.

Or, qui dit volonté d’un agent à l’œuvre dit aussi compréhension de cette volonté par l’observateur qui analyse son comportement. C’est à ce moment que l’herméneutique s’introduit dans la science sociale. Les choix formés par l’agent sur la base de croyances et soumis à des révisions, des changements de croyances, etc., présentent toujours matière à interprétation. Lachmann voit là pour la position autrichienne une pertinence supplémentaire.

Rothbard s'y oppose parce qu'il la voit comme une quête inutile et impossible, qui ne peut qu'aboutir à la tentation relativiste.

L’herméneutique, selon Rothbard, fournit une théorie, ou plutôt plusieurs, voire autant qu’on en veut ; elle est principe de création de principes, alors que la conception misésienne du monde, au contraire, prétend réduire au minimum ces derniers en vue de laisser s’imposer d’eux-mêmes à tous et sans discussion.

Pour les herméneutes, s’il n’y a pas d’action sans agent, il n’y a donc pas non plus de volonté manifestée par l’action sans signification. L’interprétation de cette volonté et le sens de cette action sont les objets de la méthode herméneutique. Les herméneutes ne se limitent donc pas à comprendre, mais expliquent des phénomènes dont ils comprennent les causes, c’est-à-dire les motivations des comportements manifestés. Pour Lachmann, les conséquences volontaires des actions sont aussi importantes que les conséquences involontaires et c’est en les rapportant aux agents, qui prennent en compte leurs échecs comme leurs succès, que leur signification se comprend. Les agents révisent alors leurs croyances et leurs jugements en vue de nouvelles actions et rien ne saurait endiguer ni figer ce mouvement permanent .

L’interprétation herméneutique contraint les économistes à se pencher sur la signification de l’action par le fait même qu’ils traitent une question d’économie - qui n’est jamais simplement donnée ; les économistes doivent prendre en compte leur propre position d’observateur et leur manière de poser les questions.

Et il tranche entièrement ce sac de nœuds par l'apriorisme : les actions sont rationnelles, la valeur est subjective. C'est comme ça épicétout.

Le relativisme subjectiviste des herméneutes n’est pas l’étude de la subjectivité de l’agent, que défend l’école autrichienne. Il s’agit de la subjectivité du scientifique, qui analyse des « textes » en fonction de sa seule appréciation personnelle. Se trouve ainsi interdit tout accès à un savoir véritable, qui devient impossible par définition.

A contrario, l’exactitude de concepts définis a priori est fondamentale. La praxéologie offre la perspective claire d’une déductibilité totale du monde : l’extrémisme de la position n’est autre que sa cohérence même, et Rothbard nierait qu’elle fût naïve si l’on considérait que l’entendement seul doit servir de guide à la science.

Le problème des axiomes est le même que celui du domaine régalien : puisque fondamentalement c'est arbitraire, on peut y mettre n'importe quoi. Et cette nature arbitraire rapproche en fait plus qu'elle éloigne les axiomatistes des relativistes, en particulier quand ces axiomes sont revendiqués comme irréfutables.

En ce qui me concerne, comme je l'ai déjà laissé entendre, chercher à comprendre les motivations propres des individus est un but tout à fait utile et légitime (même si je ne suis pas certain que ça soit le boulot de l'économie). Je n'ai pas peur du relativisme parce que je reconnais qu'il existe des vérités objectivables dans la mesure où je peux les partager avec n'importe quel humain.

Edit. Pour en revenir aux robots, à votre avis combien de temps avant que les féministes nous sortent le premier procès pour viol de sexbot ?

[Atika]

" En ce qui me concerne, comme je l'ai déjà laissé entendre, chercher à comprendre les motivations propres des individus est un but tout à fait utile et légitime (même si je ne suis pas certain que ça soit le boulot de l'économie)."

 

Bah justement Lachmann applique son subjectivisme radical en économie, ce qui fait que toute auto-régulation ( même imparfaite) du marché est impossible.  Les plans des uns et des autres n'étant pas une connaissance objective, intersubjectivité oblige, il ne peut y avoir presque que des mauvais plans et des mauvaises prédictions. Quelques bons par pur hasard

[Lancelot]

Bah justement Lachmann applique son subjectivisme radical en économie, ce qui fait que toute auto-régulation ( même imparfaite) du marché est impossible.  Les plans des uns et des autres n'étant pas une connaissance objective, intersubjectivité oblige, il ne peut y avoir presque que des mauvais plans et des mauvaises prédictions. Quelques bons par pur hasard

Avec le recul, en fait, je peine à voir l'opposition.

L'axiomatique dit : "les décisions sont prises de manière rationnelle, toute action est en soi la preuve que l'individu produisant cette action la considérait comme la plus appropriée en fonction de ses motivations subjectives à ce moment précis".

L'herméneutique dit : "pour comprendre réellement une action il est nécessaire d'accéder aux motifs et à l'intention qui l'ont justifiée, et on peut dès lors comparer les effets attendus par l'individu et ce qui s'est réellement produit".

Ce que dit l'herméneutique n'est pas contradictoire avec le fait que l'individu prenne la meilleure décision possible étant donné ses connaissances et ses motivations subjectives à l'instant T. Il propose juste d'étudier ces connaissances et ces motivations tandis que l'axiomatique les mets dans une boîte noire et étudie plutôt les conséquences de ces décisions une fois agrégées (ce qui l'amène à l'auto-organisation sociale).

[NoName]

woah, j'ai tellement rien compris.

c'est quoi l'hermétique ?

[Alchimi]

On parlait des droits de l’électro-ménager à roulettes, sales white-cis dominateurs!

[Lancelot]

woah, j'ai tellement rien compris.

Il paraît que je suis bon vulgarisateur. Qu'est-ce que ça serait si j'étais mauvais ?

 

c'est quoi l'hermétique ?

En fait pour être précis je n'aurais pas dû parler d'hermétisme mais d'ésotérisme, dont l'hermétisme est un courant. Et du coup il s'agit de tous les enseignements secrets et mystiques réservés à des initiés (par opposition aux péons comme nouzôtres) membres de sociétés secrètes (genre francs-maçons). Toujours est-il qu'on s'en fout un peu, mon propos était juste de dire que l'herméneutique (donc le fait de cacher et de chercher du sens caché dans des textes) est un concept fondamental dans ces traditions.

[NoName]

Il paraît que je suis bon vulgarisateur. Qu'est-ce que ça serait si j'étais mauvais ?

 

En fait pour être précis je n'aurais pas dû parler d'hermétisme mais d'ésotérisme, dont l'hermétisme est un courant. Et du coup il s'agit de tous les enseignements secrets et mystiques réservés à des initiés (par opposition aux péons comme nouzôtres) membres de sociétés secrètes (genre francs-maçons). Toujours est-il qu'on s'en fout un peu, mon propos était juste de dire que l'herméneutique (donc le fait de cacher et de chercher du sens caché dans des textes) est un concept fondamental dans ces traditions.

ha non toi c'était très clair, je parle du charabia (de lachmann je suppose)

 

l'hermétisme, je l'ai vu appelé hérémétisme ou ermetisme, je savais en fait du coup 

[Atika]

L'article a été écrit par Copeau

[L'affreux]

Pour ceux qui l'auraient manqué, un débat sur l'intelligence artificielle avait été lancé par H16 ici l'année dernière : http://www.liberaux.org/index.php/topic/52168-the-internet-is-not-the-answer/page-2