Intelligence Artificielle Et Propriété Privée

[Sous-Commandant Marco]

[…]

Bref je considère le non respect du droit comme immoral, en revanche des droits accordés aux robots par la forces des choses ne seraient pas de même nature, car c'est uniquement la crainte qui me feraient les respecter et non la conviction qu'il est immoral de ne pas les respecter.

A partir du moment où les robots revendiquent des droits et inspirent la crainte (i.e. sont capables de faire respecter ce qu'il estiment être leurs droits), le ver est dans le fruit. Même si certains humains trouvent immoral de leur accorder des droits, se posera forcément la question de la cohabitation avec eux et de certains droits qu'ils auront, suivant le même processus que la construction d'un droit positif à partir des droits naturels pour les humains.

C'est une question essentiellement théorique pour l'instant mais elle permet de rebondir sur le libéralisme, en faisant comprendre que certains humains ne respectent pas les droits des autres par moralité, mais par crainte des conséquences.

Bon, je manque des outils philosophiques pour dire des choses plus intelligentes.

[wapiti]

C'est une question essentiellement théorique pour l'instant mais elle permet de rebondir sur le libéralisme, en faisant comprendre que certains humains ne respectent pas les droits des autres par moralité, mais par crainte des conséquences.

Oui, bien sûr, il est impossible d'obtenir une adhésion unanime aux lois, mais ceux qui invoquent cet argument à l'encontre du libéralisme prouvent qu'ils n'ont rien compris ou qu'ils sont de mauvaise foi !

En revanche, quand on essaye de convaincre les gens du bien fondé du libéralisme, on utilise soit des arguments éthique, soit des arguments utilitaristes, pas la force (on est pas vraiment en position de force faut dire, quoi qu'en pensent les alter-comprenants).

[Invité jabial]

Je conteste le fait que les robots ne puissent avoir de droits. Où sont les particules d'âme? Nous aussi sommes des mécaniques. Les processus biologiques sont de mieux en mieux expliqués. Une bactérie est une réaction chimique élaborée ; un ver est une bactérie améliorée, un rat un ver amélioré, un singe un rat amélioré, un homme un singe amélioré.

La conscience est facile à reconnaître - à partir d'un moment où un robot se dotera d'un Ego et sera capable de se reprogrammer pour défendre ses propres intérêts, il sera conscient.

Si le jour arrive où des pogroms contre des robots conscients ont lieu, je déclare que je serai parmi les premiers résistants à les défendre contre ce que le futur reconnaîtra comme un nouveau nazisme.

[h16]

Si le jour arrive où des pogroms contre des robots conscients ont lieu, je déclare que je serai parmi les premiers résistants à les défendre contre ce que le futur reconnaîtra comme un nouveau nazisme.

Nous serons deux.

[Etienne]

Déjà le mec qui a écrit cette vulgarisation n'est pas biologiste mais cogniticien (merci google). C'est donc un mec qui essaye de montrer que l'hypothèse que tu défend est défendable par la modélisation de réseaux de neuronnes, c'est à dire sans s'interesser de trop près à la biologie.

Ceci dit, le discours de ce cogniticien est quasiment au mot près le programme de biologie de 1èreS.

Alors que les neurologues se chamaillent sur le rôle des diverses cellules constituant le cerveau, que l'on découvre des nouveaux neuro-transmetteurs tous les 3 mois et que jamais un seul neurologue n'a eu le moindre commencement de théorie sérieuse (ok, je m'avance un peu là, mais je serais presque pret à parier) expliquant le lien entre les neurones et l'esprit humain (et que par conséquent, on ne peut absolument pas affirmer qu'on connait toutes les fonction des neuronnes), le vulgarisateur se permet de décrire le neuronne d'un point de vue fonctionnel, fonction qui n'en doutons point est de permettre l'emergence d'une conscience humaine par la mise en réseau de toutes ces manifiques portes logiques un peu tarabiscotées.

Tu as tout à fait raison : il y a d'énormes zones d'ombes sur le fonctionnement du cerveau ainsi que de l'émergence de la pensée. Pour le moment, d'une manière relativement traditionnelle, les scientifiques ont recours à des tentatives d'explication via le réductionnisme et d'une conscience comme propriété emergente - ce qui n'empêche pas qu'en vérité, ce sont uniquement des conjectures au degré de fiabilité faible.

[wapiti]

Ceci dit, le discours de ce cogniticien est quasiment au mot près le programme de biologie de 1èreS.

Je sais bien

L'enseignement de la bio au lycée est une catastrophe, la bio étant un domaine qui évolue vachement vite, ce que savent les professeurs n'est souvent qu'un caricature de l'état de l'art 20 ans plus tôt. Et surtout, au lieu de se contenter d'enseigner des faits, vu que ceux-ci sont beaucoup trop compliqués pour servir à quelque chose, on enseigne des théories plus ou moins caricaturale sans expliquer quel est la part du résultat expérimental et celle de l'interprétation.

[h16]

Mes petites vacances (en famille et loin d'un PC) ne m'ont pas permis de participer à ce débat ; je tiens cependant à verser une petite pierre à l'édifice construit en proposant à ceux qui ne l'aurait pas lu le petit opuscule suivant :

Il a le mérite de faire un point rapide sur les connaissances du moment sur le cerveau humain (et finalement, on en sait un peu plus - grâce aux dernières techniques non-invasives notamment - sur les 10 dernières années que ce qui est proposé dans le programme de 1ère S ) et apporte un point de vue intéressant sur une piste pour explorer la question de l'intelligence artificielle reproduite / man-made. La perspective de voir un jour une machine raisonner (tenir un discours intelligent, et qui sait, développer une conscience) n'est alors pas aussi éloignée qu'il paraît.

[wapiti]

Merci de la référence, ça sera pour ma prochaine commande amazon.

Pour ma part, je vous livre cette interview d'un philosophe que je n'ai jamais lu, mais qui explique peut-être mieux que moi ce pourquoi je considère comme totalement absurde l'idée qu'une machine puisse être consciente :

http://ist-socrates.berkeley.edu/~jsearle/ledebat.pdf

PS: j'avoue que je ne comprend même pas comment on peut imaginer ne serait-ce qu'un seul instant qu'une machine puisse être consciente, mais apparemment des philosophes contemporains en débattent en long et en large, et des scientifiques considère ça comme normal …

[Etienne]

j'avoue que je ne comprend même pas comment on peut imaginer ne serait-ce qu'un seul instant qu'une machine puisse être consciente, mais apparemment des philosophes contemporains en débattent en long et en large, et des scientifiques considère ça comme normal …

Bah, encore un mauvais coup des logiciens.

Je suppose que l'idée est que puisque nous sommes fait de matière, etc., si on adopte une explication "scientifique" réductionniste (avec conscience comme phénomène émergent), on peut théoriquement reproduire ce que le "processus évolutif" a permis de faire émerger.

Je connais ce philosophe (Searle) et un des arguments qu'il déploit (la chambre chinoise), ce fut d'ailleurs un dont j'avais traité pour mon TPE de l'année dernière sur l'I.A. et qui avait fini sur libs.org - les philosophes analytiques (tel Penrose) s'en donnent à coup joie avec des interprétations du théorème d'incomplétude sur cette question…

A noter également dans l'interview de Searle, quite interesting :

Le Débat : Le titre de votre ontologie sociale a été reçu de façon équivoque, en France du moins. S’agit-il de la construction (naturelle) de la réalité sociale ou de la construction sociale de la réalité ? Ce que vous entendez par “subjectif” ou “relatif” (non intrinsèque) a provoqué un malentendu. Votre théorie impliquerait qu’en dehors de la nature physique, il n’y a que des “représentations”.

John Searle : En un sens, c’est bien ce que je dis. La question que je me pose est la suivante : Comment des bêtes vivant à la surface du globe peuventelles créer une réalité nouvelle ? Cette réalité est objective, en ce sens qu’elle ne dépend pas de mon opinion ou de la vôtre, mais subjective aussi car elle n’existe que parce que nous pensons qu’elle existe. La monnaie, la propriété, le mariage, les cocktails et les maisons d’édition sont des créations sociales. Cela n’a rien à voir avec la théorie absurde que tout est socialement construit, ou que tout est texte. J’ai pris soin de consacrer les trois derniers chapitres de mon livre au réalisme. J’y attaque le relativisme aujourd’hui à la mode, et notamment le constructionnisme social. Je suis frappé par le succès qu’ont ces théories extravagantes auprès de l’extrême gauche. Il s’agit pourtant d’une rupture avec la tradition marxiste. La construction de la réalité sociale n’est pas la construction sociale de la réalité. Si certains y ont vu des synonymes, on ne peut rien pour eux.

Dans un registre analogue, nous avons besoin d’une philosophie de la rationalité. Le concept de rationalité est riche parce qu’il provient d’une tradition féconde, qui culmine dans la théorie mathématique de la décision. Elle est très influente en particulier en économie. Mais là encore, des avancées scientifiques remarquables sont grevées par des erreurs philosophiques fondamentales. La guerre du Viet-Nam en a donné une illustration spectaculaire. Nos décideurs politiques étaient convaincus que les Nord Vietnamiens avaient une courbe d’utilité marginale telle que lorsque la désutilité des bombardements égalerait l’utilité de la résistance à l’Amérique, ils se rendraient. Cette foi est inusable, on a fait le même raisonnement à propos de Milosevic. Pendant la guerre du Viet-Nam, j’ai rencontré un de mes amis travaillant au Pentagone.

Comme je lui soutenais que notre stratégie de bombardement était hasardeuse, il m’a montré des courbes, en m’expliquant que cette stratégie s’appuyait sur un argument decisif, lequel repose uniquement sur cette supposition que les Vietnamiens étaient rationnels de sorte que, quand la courbe atteindrait un point donné, ils ne pourraient que se rendre. C’était insensé de penser que Ho Chi Minh décidait de la poursuite de la guerre comme nous nous choisirions un dentifrice. Mais il n’est pas facile d’établir exactement ce qui ne va pas dans ce mode de raisonnement. C’est le sujet du livre sur lequel je travaille actuellement. L’argument, assez complexe dans le détail, est qu’on ne peut pas rendre compte du processus de raisonnement sans l’attribuer à un sujet. Sans la notion d’un agent, celle de rationalité n’a pas de sens. Si on réduit le moi, comme le fait Hume, à un faisceau de perceptions, il n’est pas possible de rendre compte de la rationalité. La rationalité suppose un agent stable dans son identité agissant dans le temps. En outre, les processus de décision politique, par exemple en temps de guerre, mettent en jeu une pluralité d’agents. Il faut donc concevoir des acteurs collectifs. Le modèle de la théorie du choix rationnel, qui ne considère que la maximisation de l’utilité pour un agent individuel est inopérant. Mais trouver un modèle opératoire n’est pas chose aisée. C’est ce à quoi je travaille actuellement.

[wapiti]

Ah, oui, TPE que je dois avoir quelque part, mais que je n'ai pas encore lu

Je connais aussi l'argument de Penrose, mais je me méfie des interprétation du théorème d'incomplétude …

Pour moi, le matérialisme est un non-sens … mais bon, même sans aller jusque là, qu'est-ce qui permet d'affirmer que le comportement de la matière est forcément simulable par une machine, et qu'est-ce qui permet d'affirmer qu'une éventuelle simulation ferait naitre une conscience ?

[Etienne]

Pour moi, le matérialisme est un non-sens … mais bon, même sans aller jusque là, qu'est-ce qui permet d'affirmer que le comportement de la matière est forcément simulable par une machine, et qu'est-ce qui permet d'affirmer qu'une éventuelle simulation ferait naitre une conscience ?

Justement, rien ne permet de l'affirmer et c'est pour cela que les chercheurs cherchent. Cependant, si on regarde bien l'argument de Searle pour une impossibilité pratique de l'I.A., il ne conduit pas à dire que jamais on ne pourra reproduire la conscience d'une manière particulière (puisqu'il est naturaliste), mais qu'il est impossible de le faire avec le processus sémantique et uniquement computationnel d'un ordinateur (en binaire).

Sinon, j'aimerai bien que tu développes quelques arguments sur le non-sens que constitue pour toi le matérialisme, je trouve le sujet tout à fait intéressant (et décalé par rapport à nos discussions habituelles )

[wapiti]

Justement, rien ne permet de l'affirmer et c'est pour cela que les chercheurs cherchent. Cependant, si on regarde bien l'argument de Searle pour une impossibilité pratique de l'I.A., il ne conduit pas à dire que jamais on ne pourra reproduire la conscience d'une manière particulière (puisqu'il est naturaliste), mais qu'il est impossible de le faire avec le processus sémantique et uniquement computationnel d'un ordinateur (en binaire).

En effet, mais jusqu'à présent, l'intelligence qu'on a mis dans les machines a toujours été algorithmique, donc ce serait une révolution sans précédent comme je l'ai dit plus haut. Personnellement, je n'appellerais pas d'hypothétiques machines pensantes non algorythmiques des robots mais c'est un peu hasardeux de disserter sur quelque chose d'aussi peu concevable étant donné notre technologie actuelle.

Sinon, j'aimerai bien que tu développes quelques arguments sur le non-sens que constitue pour toi le matérialisme, je trouve le sujet tout à fait intéressant (et décalé par rapport à nos discussions habituelles )

Par mail si tu veux, car c'est en effet un peu décalé.

[tomasaki]

En effet, mais jusqu'à présent, l'intelligence qu'on a mis dans les machines a toujours été algorithmique, donc ce serait une révolution sans précédent comme je l'ai dit plus haut. Personnellement, je n'appellerais pas d'hypothétiques machines pensantes non algorythmiques des robots mais c'est un peu hasardeux de disserter sur quelque chose d'aussi peu concevable étant donné notre technologie actuelle.

Je suis d'accord sur le fait qu'actuellement notre technologie ne nous permettrait pas un tel prodige…Mais de là à dire que ce ne sera jamais possible…Je ne le pense pas, du moins, si les découvertes scientifiques vont dans ce sens (c-à-d trouver un lien entre cerveau et conscience ).

Par ailleurs, nous n'avons pas la même interprétation du mot "robot"…qui , pour moi, représente une "machine" ( pas forcément faite de boulons et de puces électroniques ) imitant l'homme dans son comportement et sa facon d'agir…

[pankkake]

Par mail si tu veux, car c'est en effet un peu décalé.

Ah non alors, ce débat m'intéresse beaucoup !

[Mobius]

J'ai une question à poser à Wapiti:

Pour prendre la situation inverse:

Par un act-of-plot nous trouvons le handwavium et le technobabbling nécessaire au Mind uploading.

Je décide que la période actuelle ne me plait pas, je m'adresse à Cyberspirit Ltd, pour que mon esprit soit numériser et réintégré dans un maginifique corps de cyborg MJOLNIR mark IV dans 50 ans.

Ai-je perdu ma nature d'humain en abandonnant mon corps de viande?

[h16]

Excellente question de Mobius. On touche au Frankenstein de Shelley.

[wapiti]

Mobius, pour moi poser une telle question est aussi absurde que de penser que les robots ont une conscience. Même si on arrivait par je ne sais quelle technologie à produire un automate qui ait des 'souvenirs', des 'goûts' communs avec toi, ça ne m'empècherait pas de penser que c'est un automate et que le véritable Mobius, celui qui pense, a des sentiments, etc., est mort et enterré.

PS: Pankkake, on te fera un résumé de notre débat Mais il me semble de toutes façons qu'on a déjà eu un fil sur le sujet, ouvert par moi il y a longtemps, qui s'intitulait "Qu'est-ce que le matérialisme".

[pankkake]

Selon toi, la conscience ne viendrait pas de quelque chose de bêtement matériel. Alors, à partir de quel moment l'humain devient-il conscient ? Et l'embryon (oups) ?

[Mobius]

*Abortion Point for Pankkake*

[Sous-Commandant Marco]

[…]

Je décide que la période actuelle ne me plait pas, je m'adresse à Cyberspirit Ltd, pour que mon esprit soit numériser et réintégré dans un maginifique corps de cyborg MJOLNIR mark IV dans 50 ans.

Ai-je perdu ma nature d'humain en abandonnant mon corps de viande?

Tu seras mûr pour nous servir d'ambassadeur envers les E.T.:

http://www.setileague.org/articles/meat.htm

[Mobius]

il faudrait fouiller les sites de trekkies hardcore pour voir les aspects légaux du voyage par téléportation.

SCM: "More Human than Human" is our motto here at Tyrell corporation

EDIT: PS: c'est malin, je me sens obligé de réecouter la sublime OST de Vangelis ^^

[h16]

Tu seras mûr pour nous servir d'ambassadeur envers les E.T.:

http://www.setileague.org/articles/meat.htm

Excellent article, au demeurant

[Sekonda]

J'ai une question à poser à Wapiti:

Pour prendre la situation inverse:

Par un act-of-plot nous trouvons le handwavium et le technobabbling nécessaire au Mind uploading.

Je décide que la période actuelle ne me plait pas, je m'adresse à Cyberspirit Ltd, pour que mon esprit soit numériser et réintégré dans un maginifique corps de cyborg MJOLNIR mark IV dans 50 ans.

Ai-je perdu ma nature d'humain en abandonnant mon corps de viande?

Si on a cette technologie c'est que l'on a une compréhension complète de ce qu'est la conscience et à ce moment là seulement on pourrai en déduire la réponse à ta question. Le fait de supposer l'existence de la techno ne permet à mon avis aucune conclusion.

[wapiti]

Selon toi, la conscience ne viendrait pas de quelque chose de bêtement matériel. Alors, à partir de quel moment l'humain devient-il conscient ?

Déjà, quelque-chose de "bêtement matériel" n'est pas forcément numérisable ni transférable.