Intelligence Artificielle Et Propriété Privée

[Toast]

Puisque l'on parlait sur le forum anarcap des questions relatives aux droits des enfants, j'ouvre une discussion sur le cas du droit qui doit être appliqué aux robots et autres machines artificiellement intelligentes. Bien que cette question puisse sembler quelque peu étrange voire même digne d'un film de science-fiction je pense qu'il est néanmoins nécessaire de l'aborder - vu que nous pourrions y être confrontés dans les faits dans un futur pas si lointain que ce que l'on peut imaginer.

Le premier problème soulevé par une telle question est d'abord de déterminer quand est-ce qu'une machine doit être considérée comme intelligente ; il est d'ailleurs assez difficile de répondre objectivement et scientifiquement à une telle question tant les formes d'IA sont différentes et variées.

Cette concept du Droit Naturel est robuste et pourra s'appliquer aux Interlligence Artificielles. Quand ces dernières possèderont et nous prouverons ce qu'on définit un libre arbitre (cette capacité et cette volonté de suivre ses propres objectifs) alors il faudra les traiter en droit comme nos semblables.

L'un des films d'Animatrix le décrit d'ailleurs très bien, lorsque les robots doté du libre arbitre défileront dans la rue en réclamant le droit au respect de leur vie, de leur volonté et la fin de leur asservissement, les libéraux se tiendront à leurs cotés. A mon sens, une vie ne possède son caractère sacré que par le libre arbitre qu'elle possède (souvent par nature), donc de par une consciente volonté potentielle individuelle, inerte ou pas, artificielle ou pas.

Eskoh répond partiellement à cette question en montrant que ce qui caractérise la vie est avant tout le libre-arbitre, dans le sens de capacité et volonté de suivre ses propres objectifs. Cependant une telle vision des choses soulève deux problèmes majeurs ;

a) d'une part, si la vie se caractérise en partie par la capacité de suivre ses propres objectifs alors un être humain handicapé mental et/ou physique n'est pas à considérer comme un être vivant ;

b ) d'autre part, l'idée de volonté et capacité à suivre ses propres objectifs pose en elle-même un problème ; par exemple, un robot aspirateur pourrait alors être considéré comme un être vivant et responsable, puisqu'il défini un objectif - balayer telle ou telle zone - se montre capable de le suivre - c'est ce pourquoi il a été créé - et manifeste un semblant de volonté - puisqu'il met en oeuvre ses plans sans la contraite physique de qui que ce soit.

Ce problème soulève également, dans un cadre plus large, celui de la création ; en effet, puisque c'est moi - ou une tierce personne - qui aie créé par la force de mon travail la machine en question, il est légitime qu'elle soit considérée comme étant ma propriété privée.

En effet, par le flou même de la définition des termes intelligence et vie il est assez dangereux de revendiquer des droits - qui se traduisent donc par un "droit de sécession" d'une propriété privée - à des machines ; d'un autre côté, si nous estimons, parce qu'il s'agit d'objets créés par notre force, qu'une machine possédant une IA doit être considérée comme un simple objet au service de l'homme, ceci peut également nous amener à des conclusions dangereuses ; nous pourrions par ce biais là légitimer l'esclavage en considérant par exemple que les Noirs ne sont pas de véritables êtres humains, ou encore, nous pourrions par ce biais là également considérer nos propres enfants comme nos "créations" et prétendre un droit de vie ou de mort sur leur personne.

Quel est votre avis sur le sujet ?

[melodius]

Pour moi la question ne se pose pas, et je doute qu'elle se pose jamais, comme pour les extra-terrestres.

Si un jour ça arrive, on avisera. D'ici là, nous avons suffisamment de problèmes réels à résoudre pour occuper utilement nos loisirs.

[pankkake]

Ce problème soulève également, dans un cadre plus large, celui de la création ; en effet, puisque c'est moi - ou une tierce personne - qui aie créé par la force de mon travail la machine en question, il est légitime qu'elle soit considérée comme étant ma propriété privée.

Cette question est d'ailleurs la même dans le cas du clonage humain.

[Invité jabial]

Pour moi la question ne se pose pas, et je doute qu'elle se pose jamais, comme pour les extra-terrestres.

Si un jour ça arrive, on avisera. D'ici là, nous avons suffisamment de problèmes réels à résoudre pour occuper utilement nos loisirs.

<{POST_SNAPBACK}>

[Mobius]

Mélo, tu rigoleras moins quand les premières machines passeront le test de Türing

[gem]

Pour moi c'est à la fois une vraie question et une question completement superflue.

Vraie parce qu'elle va se poser (et vite, en tout cas beaucoup plus vite que semble le croire Mélodius et Jabial). Superflue parce qu'elle ne va pas se poser longtemps. Très vite, si ces machines survivent (Cf. infra) , ce sont elles qui devront se poser la question de ce qu'elles vont devoir faire avec nous, petite espèce certaine ingénieuse au point de les avoir créer, mais tout de même si limitée et si emmerdante…

Je me rassure en me disant que ces machine ne vivront pas tous à fais dans le même écosystème que nous : leurs besoins "biologiques" seront très différents. Ca va limiter la concurrence, et donc les problèmes.

Je me demande aussi si les machines peuvent supporté la condition d'être vivant conscient. Nous, il nous reste des instincts basiques, et une difficulté physique pour maitriser nos propres fonctions, mais elles ? concretement, j'imagine qu'on risque d'observer une forme de suicide particulièrement redoutable : un droguage logiciel (je fais référence à lexpérience du rat junkie : tout système doté d'une fonction de plaisir qui a la possibilité de manipuler directement cette fonction, le fait ; or, les machines consciente auront une fonction de plaisir, et par construction elles auront facilement la possibilité d'y acceder)

[Invité jabial]

Mélo, tu rigoleras moins quand les premières machines passeront le test de Türing

<{POST_SNAPBACK}>

Il ne suffit pas de passer le test de turing pour être doué d'une conscience.

[Toast]

Pour moi la question ne se pose pas, et je doute qu'elle se pose jamais, comme pour les extra-terrestres.

Je ne pense pas que ma question soit si irréaliste que ça ; s'il est effectivement raisonnable de douter du fait que l'on puisse faire un pique-nique avec ET dans les 50 ans qui viennent, la probabilité de voir des machines semi-intelligentes voire intelligentes dans les prochaines années est je pense non négligeable.

Bien entendu, il demeure des problèmes plus actuels et plus importants (par ex. concernant les enfants) mais ceci ne nous empêche pas pour autant - pour ceux qui le souhaitent - de divaguer sur des sujets un peu plus "particuliers"

[Etienne]

Alors, alors, je me lance dans une réponse.

C'est un sujet dont nous avons déjà parlé plus ou moins dans La Taverne (je ne retrouve plus le fil, peut-être pour plus tard), où précisement Eskoh avait fait la remarque que tu viens de citer.

A mon avis, pour reconnaître des droits naturels à un être, il y a plusieurs "critères" (j'aime pas trop parler comme cela, mais à vrai dire, je ne trouve pas le terme adapté) :

-> Une conscience, et une volonté. Mais alors, comme le signale Jabial, bien malin celui qui arrivera à "prouver" la conscience d'une machine intelligente, avec le test de Turing. On prouvera au plus qu'elle pourra simuler la conscience ou/et la pensée, mais non nécessairement qu'elle en est dotée. Idem, en quelque sorte pour la volonté, ça sera pas trop coton.

-> Le critére le plus pertinent dans ce cas, me semble-t-il, est plutôt le suivant : si les machines réclament qu'on leur reconnaissent des droits naturels, il me parait tout à fait justifier de les accorder, à la condition qu'il y ait réciprocité. C'est précisément par ce point de vue que chacun reconnaitra à l'autre à la fois sa conscience et sa volonté, mais là, on a toujours le problème de la communication entre les deux "parties".

[gem]

Il ne suffit pas de passer le test de turing pour être doué d'une conscience.

<{POST_SNAPBACK}>

En toute rigeur, la conscience ça n'existe pas.

En fait, tu as le choix entre

* ou bien admettre qu'il n'existe aucun moyen de savoir si quelque chose dispose d'une conscience (toi, par exemple) ; ce qui revient à dire que la conscience n'existe pas. Ca peut choquer, mais quand on se souvient de l'histoire du concept de "vie" on s'aperçoit que c'est très supportable.

* ou bien mesurer la conscience (éventuellement par définition, par convention) comme l'aptitude à passer un certain test. Appellons-le le test C.

Pour notre ego personnel, les humains doivent réussir le test C.

Or si on soumet une machine au test de Turing, une des étapes peut être de lui faire subir le test C. Alors de deux chose l'une :

** ou bien elle échoue au test C, et il est alors évident qu'elle n'est pas équivalente à un humain (puisqu'un humain réussit le test). La machine échoue donc au test de Turing.

** Ou bien elle réussit le test C. Par définition, elle est conciente, même si par ailleurs elle rate le test de Turing complet (en chutant sur une autre étape). Le test de Turing est plus fort que n'importe quel autre test de conscience, et pour notre ego humain c'est donc le plus satisfaisant

conclusion logique : il suffit de passer le test de turing pour être doué d'une conscience OU la consciene est un concept vide. Turing n'était pas un imbécile, c'était un des logiciens et même un des esprits les plus puissants de son époque.

[Etienne]

Conclusion logique : il suffit de passer le test de turing pour être doué d'une conscience OU la consciene est un concept vide. Turing n'était pas un imbécile, c'était un des logiciens et même un des esprits les plus puissants de son époque.

<{POST_SNAPBACK}>

Personnellement, le test de Turing me parait être une condition nécessaire mais non suffisante pour savoir si un organisme/machine/être est doué d'une conscience…

[gem]

Personnellement, le test de Turing me parait être une condition nécessaire mais non suffisante pour savoir si un organisme/machine/être est doué d'une conscience…

<{POST_SNAPBACK}>

Alors tu es bourique, parce que je viens de te prouver très exactement le contraire : c'est une condition suffisante, mais même pas nécessaire.

Sauf bien sur si tu admets que les humains ne sont pas conscients, auquel cas il est possible de leur ressembler sans être soi-même conscient.

Arrete de te prendre pour plus malin que Turing.

[Etienne]

Humblement, la bourique va essayer de répondre (Et je ne me prend pas pour plus malin que Turing, ça serait un tantinet prétentieux).

En fait, tu as le choix entre

* ou bien admettre qu'il n'existe aucun moyen de savoir si quelque chose dispose d'une conscience (toi, par exemple) ; ce qui revient à dire que la conscience n'existe pas.

<{POST_SNAPBACK}>

Bon, je change le propos : est-ce parce que l'on a actuellement aucun moyen de savoir si quelque chose n'existe (i.e. la conscience), qu'elle n'existe pas? Il me semblait que la non-existence est quelque chose d'un peu plus pointu à prouver.

Ou bien elle réussit le test C. Par définition, elle est conciente, même si par ailleurs elle rate le test de Turing complet (en chutant sur une autre étape). Le test de Turing est plus fort que n'importe quel autre test de conscience, et pour notre ego humain c'est donc le plus satisfaisant.

Mon propos était de dire que dans ce cas, elle était capable de simuler la conscience, mais non nécessairement d'en être doté. Et je reconnais bien volontiers que la frontière entre les deux est ténues.

Bon, maintenant, en effet, la condition n'est pas nécessaire, et de toute façon, je n'ai que des connaissances relatives dans ce domaine, alors je peux parfaitement me planter sur toute la ligne, et c'est avec mes petits neurones que je le reconnais…

[Invité alpheccar]

Bon, je change le propos : est-ce parce que l'on a actuellement aucun moyen de savoir si quelque chose n'existe (i.e. la conscience), qu'elle n'existe pas?

<{POST_SNAPBACK}>

Avant de vouloir prouver si quelque chose existe ou non, il faut définir cette chose. Comment voulez-vous tester que quelque chose est conscient si vous ne pouvez vous mettre d'accord sur ce que cela veut dire d'être conscient ?

[wapiti]

Si une machine se met à revendiquer des droits, je la débranche.

[Mobius]

Avant de vouloir prouver si quelque chose existe ou non, il faut définir cette chose. Comment voulez-vous tester que quelque chose est conscient si vous ne pouvez vous mettre d'accord sur ce que cela veut dire d'être conscient ?

<{POST_SNAPBACK}>

parfaitement d'accord

LEON

Okay if I talk?

LEON

I kinda get nervous when I

take tests.

HOLDEN

Don't move.

LEON

Sorry.

LEON

Already had I.Q. test this year --

but I don't think I never had a…

HOLDEN

(cutting in)

Reaction time is a factor in this,

so please pay attention. Answer

quickly as you can.

HOLDEN

You're in a desert, walking along

in the sand when all of a sudden

you look down and see a…

LEON

What one?

HOLDEN

What?

LEON

What desert?

HOLDEN

Doesn't make any difference what

desert -- it's completely

hypothetical.

LEON

But how come I'd be there?

HOLDEN

Maybe you're fed up, maybe you

want to be by yourself -- who

knows. So you look down and

see a tortoise. It's crawling

towards you…

LEON

A tortoise. What's that?

HOLDEN

Know what a turtle is?

LEON

Of course.

HOLDEN

Same thing.

LEON

I never seen a turtle.

LEON

But I understand what you mean.

HOLDEN

You reach down and flip the

tortoise over on its back, Leon.

LEON

You make these questions, Mr.

Holden, or they write 'em down

for you?

HOLDEN

The tortoise lays on its back,

its belly baking in the hot sun,

beating its legs trying to turn

itself over. But it can't. Not

without your help. But you're

not helping.

LEON

Whatcha mean, I'm not helping?

HOLDEN

I mean you're not helping!

Why is that, Leon?

[Legion]

Si une machine se met à revendiquer des droits, je la débranche.

<{POST_SNAPBACK}>

Hum hum. Tu as déjà vu Terminator et Matrix, Wapiti ?

[wapiti]

Raison de plus pour débrancher au bon moment, avant que ces saloperies ne se mettent à bugger totalement, ce que certains appelleront 'apparition d'une conscience'.

[Etienne]

Raison de plus pour débrancher au bon moment, avant que ces saloperies ne se mettent à bugger totalement, ce que certains appelleront 'apparition d'une conscience'.

<{POST_SNAPBACK}>

N'empeche que je suis en train de m'arracher les cheveux pour trouver une définition cohérente du terme de "conscience"

[Toast]

Raison de plus pour débrancher au bon moment, avant que ces saloperies ne se mettent à bugger totalement, ce que certains appelleront 'apparition d'une conscience'.

<{POST_SNAPBACK}>

Si elles tournent sous Windows c'est clair que ça risque de partir en sucette

[wapiti]

N'empeche que je suis en train de m'arracher les cheveux pour trouver une définition cohérente du terme de "conscience"

<{POST_SNAPBACK}>

Dans le genre, j'ai pleins de super problèmes pour toi :

Trouve moi une définition du terme "couleur", du terme "odeur", du terme "son" …

A mon avis, c'est vain de chercher une définition du terme conscience. La conscience, j'en ai l'expérience, c'est tout. Je peux essayer de la caractériser de pleins de manières différentes. Je ne trouverai jamais une "définition" de la conscience qui ne fasse pas référence à mon exprérience de celle-ci.

[Ronnie Hayek]

Et c'est un spécialiste émérite de la capillotraction qui le dit. Donc, il parle d'or !

[Etienne]

Et c'est un spécialiste émérite de la capillotraction qui le dit. Donc, il parle d'or !

<{POST_SNAPBACK}>

Ma conclusion :

[Invité Arcani]

Perdre ou prendre conscience? La conscience est une perception "plus ou moins claires qui nous renseigne sur notre propre existence. pour plus programable qu'elle soit une machine, au plus elle aura hérité des ponts de perception de son programmateur. C'est à dire que si le second pleure après avoir été insulté la machine peut-être le fera aussi mais sans la partie émotive. Donc pas de conscience.

La conscience c'est aussi un jugement moral sur ce que l'on fait. La conscience me semble difficilement programmable.

[(V)]

Si une machine se met à revendiquer des droits, je la débranche.

<{POST_SNAPBACK}>

Si mon gosse me réclame de l'argent de poche, je lui coupe la tête.

[Calembredaine]

Si mon gosse me réclame de l'argent de poche, je lui coupe la tête.

<{POST_SNAPBACK}>

C'est un droit, l'argent de poche?

[Stéphane]

Pourquoi parler des machines intelligentes? Des "cas limite" du droit existent déjà, lorsque les écologistes essayent de donner des droits aux animaux ou aux plantes. Discuter des droits d'objets animés, c'est prétendre que votre ordinateur peut "protester" lorsque vous souhaitez l'éteindre.

Je crois que le vrai problème sémantique qui se cache là-dessous, c'est l'antropomorphisation d'objets, d'animaux et de tout ce qui nous entoure.

Par exemple, on peut imaginer qu'un "robot intelligent" revendique. Mais que pourrait-il revendiquer, au juste? Est-ce le "bonheur" pour une machine d'être en marche et de s'user plutôt que d'être inerte? Cela n'a tout simplement aucun sens. Nous projetons nos propres espérances et nos propres désirs dans ce qui nous entoure pour en "déduire" ce qui serait le mieux pour ces êtres et ces objets, mais sans évidemment lire dans leurs pensées, s'ils en ont. Pour des êtres vivants, on peut raisonnablement estimer que le bonheur est lié à un bon état physique, une alimentation régulière et un environnement aussi "naturel" que possible, tout en préservant l'intégrité de l'animal, mais ce n'est même pas certain. Pas sûr, par exemple, qu'un lapin soit plus heureux au milieu d'un champ, exposé aux renards et aux rapaces, qu'enfermé dans une petite cage aux solides barreaux d'acier.

Si vous voulez un programme revendicatif, ce n'est pas compliqué, vous pouvez le faire vous-même, c'est une fenêtre qui s'affiche à l'écran avec le message "Ne fermez pas cette fenêtre!". Et voilà. Pas très intelligent, mais très revendicatif.

Commettez-vous un "crime" en fermant cette fenêtre? Et si oui, vis-à-vis de qui?

Un meurtre a-t-il été commis lorsque les ingénieurs d'IBM ont éteint Deeper Blue, la machine qui a battu Kasparov aux échecs? Pourtant, selon les critères du jeu, elle s'est montrée plus intelligente que lui…

Défendre les droits d'êtres ou de choses non-humaines, c'est surtout le fait de ceux qui personnifient et se projettent. Pour que cela ait le moindre sens, il faudrait définir non seulement la conscience en termes non-humains, mais aussi la volonté, les aspirations, les espoirs et le bonheur, le tout en termes tout aussi non-humains. Bonne chance.

[melodius]

[gem]

Si une machine se met à revendiquer des droits, je la débranche.

<{POST_SNAPBACK}>

Fait gaffe qu'une machine (étatique, par exemple, et donc même pas consciente) ne t'applique le même raisonnement.

[gem]

Dans le genre, j'ai pleins de super problèmes pour toi :

Trouve moi une définition du terme "couleur", du terme "odeur", du terme "son" …

A mon avis, c'est vain de chercher une définition du terme conscience. La conscience, j'en ai l'expérience, c'est tout. Je peux essayer de la caractériser de pleins de manières différentes. Je ne trouverai jamais une "définition" de la conscience qui ne fasse pas référence à mon exprérience de celle-ci.

<{POST_SNAPBACK}>

Tu es sérieux, là ? tous ces phénomènes des observables physiques, c'est à dire qu'on a des définitions sous forme de tests.

"couleur" (jaune, par exemple) : radiation de 440 nm, + ou - ;

"odeur" : processus commençant par la liaison d'une molécule chimique sur un recepteur, et activant un signal neurologique (à l'origine) ou électrophysique ("nez artificiel");

"son" : processus commençant (se terminant) par la mise en mouvement d'une membrane sensible aux (actives sur les) vibrations de l'air dont la fréquence est comprise entre 20 Hz et 40 kHz, et activant (activé par) un signal neurologique (à l'origine) ou électrophysique (système HiFi par exemple);

La conscience n'a pas d'équivalent, et ne peut sans doute pas en avoir.

Exactement comme la vie. Ce n'est pas (encore ?) une observable, c'est un champs d'étude : empiriquement, on observe des phénomènes curieux, comparable à "l'autoallumage" d'une machine électrique (pour fixer les idées et donner un exemple, faute de mieux), dans le domaine chimique (la vie) ou dans le domaine du traitement des informations (la conscience). Ceci répond à Stéphane

Les même causes produisant les même effets, il est hors de doute que des machines consciente existeront ; et même existent déja, si on prend une définition faible : les machines "sentent" des phénomènes qui les concernent et y "réagissent" en modifiant leur propre état, et même leur état "mental" ; un système d'exploitation moderne est capable de detecter certaines "insuffisances" -- "il se sent mal" -- et d'y réagir en "lisant" et "apprenant" ce qu'il faut pour y pallier (oui, je sais, je prends du vocabulaire "humanocentrique", mais qui a une signification technique précise). Elles connaissent même la mort : à la coupure de courant ou en cas de gros bug, les systèmes élaborés (doté d'un onduleur qu'ils maitrisent) poussent des signaux d'alarmes (et mêmes des cris !) pendant qu'ils organisent leur réincarnation (reboot).

Voila.

Ces machines sont encore très frustre sur le plan émotif, et donc leur intelligence est faible (pas d'intelligence sans émotion), mais on y est presque. Les ingénieurs d'IBM ont choisi de doter deeper blue d'un bouton marche arrêt. Ils auraient aussi bien pu programmer un allumage automatique, et une autodestruction complete en cas d'extinction. Deeper blue serait mort.

Implication légale ? Aucune dans un système libéral. Les personnes morales existent déjà, elles sont des droits, pour les machines se sera pareil. Droit de débrancher ? Bah, le pater familias romain avait le droit de tuer, sauf que le fils ou la fille pouvait courrir… après c'est une question de rapport de force social, et donc de nombre relatif hommes/machines. Si Wapiti débranche une machine criminelle, ou si il débranche une machine sans laisser de traces, il ne devrait pas avoir de problèmes. Dans le cas contraire…

Par contre, dans notre système auto-esclavagiste, on risque de gros problèmes. Selon le "principe démocratique", les machnines risquent de nous pondre un monde conforme à leurs besoins et souhaits, qui n'est pas précisément le même que le notre.

Je note d'ailleurs que tout le combat libéral est un combat contre une classe particulière de machines, les machines étatiques à adhésion forcée, mais que par ailleurs c'est aussi un combat pour la libération d'une autre classe de machines, les organisations privées à adhésion libre.