0100011

Ouais tu rates quand même ce qui arrive quand Dora passe les 15 ans ...

Purée je pensais qu'il y avait qu'en Équateur qu'on faisait des trucs pareils

C'est bien ce que je sentais : une dérive policière paranoïaque. Toujours plus. La course à la "sécurité" est sans fin. À quand une équipe de SWAT et un lockdown de quartier parce que le teckel de mamie biscotte a à aboyé un peu trop bruyamment dans la rue ?

C'est bien le problème comme ça n'existe pas on a du mal à le définir... C'est un raisonnement tout à fait isomorphe à celui qui consiste à dire : y a qu'à prendre l'argent où il est (chez les riches) pour éliminer la pauvreté.

On passe du soldat inconnu à la victime inconnue. D'un mec qui se bat à une victime. Les temps changent.

Un individu seul ça n'existe pas. Un trait distinctif de l'humanité est la culture qui passe d'une génération a une autre. Et oui il y a des cultures différentes. Fais un tour dans une rue de Bombay et tu verras par toi même. Les régimes que tu cites ne sont pas des civilisations mais différentes manières d'organiser la vie publique sur un substrat judéo-chrétien (pour ne pas voir que le marxisme millénariste n'est qu'une resucée du christianisme faut le vouloir ). Il n'y a pas de société athée car sans transcendance personne se lève pour bouger son cul et faire plus que le strict nécessaire à sa survie sans vision qui va au-delà de sa simple existence.

Si ce qui semble nécessaire (vu qu'à priori on n'a pas de contre exemple) à la survie n'est pas un besoin on va avoir du mal à continuer la conversation.

Je m'aperçois que tu évites de répondre à ma question. Beaucoup de civilisations ont existé sans êtres libérales. Ce n'est donc pas un besoin. Par contre toutes les civilisations qui ont passé la barrière de la survie sont religieuses. Celles qui n'étaient pas religieuses, s'il y en a eu, n'ont pas survécu. Or le test du temps est le plus efficace pour détecter ce qui est un vrai "besoin".

Il y a une preuve par l'absence me semble t il : existe t il des civilisations athées qui ont marqué l'histoire du monde ? Pourquoi ce sont les civilisations avec une sous structure religieuse qui dominent le monde ? Où est l'Empire des athées ?

Alors là non ! Peut être qu'on peut simuler la conscience mais alors on aura un programme (même s'il est incompréhensible d'un point de vue humain) qui le fera. Ce programme représentera un texte long certes mais qui couplé à la sémantique du langage de programmation associé (c'est à dire comment le texte du programme est interprété par une machine) pourra être vu comme une explication de l'intelligence. Comprendre un phénomène signifie le compresser : comme je le disais si tu ne fais que reproduire le phénomène rien n'a été compris (je peux répéter mot pour mot un texte de philo raconté dans une langue que je ne connais pas : je n'aurai rien compris, par contre si je le traduis et en fait un résumé c'est une autre histoire) . Il faut donc repérer des structures qui se répètent dans le phénomène pour le représenter d'une manière plus économique. Ça va au delà de l'informatique stricto censu.

Mon argument est bien plus général et porte sur le langage et la pensée structurée. L'IA n'en est qu'une partie particulière. Pour faire dans la provocation (mais c'est plus profond que ça en a l'air) je te dirais que le champs de la connaissance humaine est une sous partie de l'informatique. En effet tous les livres qu'on peut écrire peuvent êtres vus comme le résultat d'un certain logiciel avec certaines "bonnes entrées" : c'est une utilisation particulière d'un traitement de texte.

Quelle est ta question exactement ? Ce que je dis est la thèse de Church.

Artificiel veut dire créer par l'homme de manière non naturelle. Sinon ma fille est une forme de vie artificielle car elle a été obtenue par l'action d'hommes (moi en particulier). Donc il faut prendre un bout de terre et lui arriver à faire simuler l'intelligence. On a une idée de comment faire en construisant des circuits imprimés, en programmant des algorithmes d'apprentissage etc. mais ce sont des artefacts réalisés suivant un plan. Ce plan est utilisé pour reproduire la machine autant de fois qu'on veut. C'est là qu'il y a une garantie : c'est l'équivalent de la prédiction du résultat d'une expérience. Si tu ne garanties rien tu ne fais pas de science. Comme je le dis : il existe une méthode pour créer de l'intelligence qui est la reproduction et l'éducation. C'est un peu tiré par les cheveux de dire que c'est artificiel. Si tu n'as pas de méthode précise pour créer alors c'est que tu es parti à la pêche et tu n'as rien créé en fait (donc ce n'est pas artificiel) : tu as juste cherché ailleurs quelque chose d'intelligent mais ce n'est pas une production humaine artificielle. Sinon tu as une méthode que tu peux écrire et expliquer. Oui c'est juste une MT particulière. Faut pas exagérer : quand je vais au chiottes ce que j'y laisse n'est pas artificiel et pourtant c'est moi qui l'ait fait. Au delà de l'anecdote ça me parait spécieux de qualifier la reproduction (ou le hackage de la vie par edition d'adn and co) d'artificielle. Quant au 2 on dirait qu'on a affaire au "texas sharpshooter fallacy" : tu tires sur un mur et tu dessines la cible autour de l'impact, c'est ta théorie qui s'adapte aux cas particuliers que tu trouves. Bref ce n'est pas du tout une théorie mais des histoires que tu te racontes pour justifier ex post. Y a une autre version qui consiste à couvrir le mur de cibles et de tirer au hasard et de ne garder que les cibles qu'on a touché

Oui c'est pour ça que tout modèle souffrira des défficiences pointées par Goedel : pour chaque modèle on peut s'amuser à construire des choses non explicables par ce modèle, du simple fait que pour décrire le modèle on utilise un langage. C'était juste pour répondre à ta question sur la régression infinie. Disons que dans les maths standards que j'appelle ZF (pour Zermelo Fraenkel) la conjecture de Goldbach soit en fait vraie et non démontrable. Effectivement rien n'empêche de considérer la théorie ZF+Goldbach et de faire des preuves dedans mais de nouveau pour ZF+Goldbach de nouvelles choses sont vraies et non démontrables (et si en fait la conjecture était fausse alors on a un système incohérent qui permet de tout prouver). C'est juste une course infinie : il y aura toujours des choses non démontrables même si tu acceptes comme axiome autant de choses (vraies) que tu veux. Car on peut relancer la machine à paradoxe pour ce nouveau système.

L'idée est de construire à minima au moins un contre exemple. Cette internalisation des maths c'est un peu comme un effet Larsen ou une caméra qui filme l'écran sur lequel est projeté ce qu'elle filme. C'est juste un truc technique pour montrer que dès que certaines conditions sont réunies (donc en gros il suffit de pouvoir exprimer le codage de Goedel) il y a suffisamment pour faire capoter l'identité entre prouvable et vrai. En fait cette arithmétisation marche pour tout alphabet et système de déduction. Et le problème psychologique qu'on a est que comprendre le monde de manière scientifique revient à poser un système qui a nécessairement ces caractéristiques. Or si même dans les maths de base (addition et multiplication) il y a déjà beaucoup de choses qui sont vrais mais non prouvables on imagine bien que pour le réel, qui est largement plus complexe, ce sera encore pire. Mais ce "on sent bien" ne peut pas par construction être formalisé : à bien des égards c'est un acte de foi. Personnellement je ne pense pas que l'intelligence soit une fonction Turing calculable mais dans le fonds je n'en sais rien, et pire encore je sais que je n'aurais jamais de certitude scientifique que ce soit le cas. Par contre si c'est faux un jour peut être sortira un algo d'intelligence générale qui contredira ma foi dans cette thèse. C'est vraiment une version mathématiques de "les voies du seigneur sont impénétrables" qui est une maxime qui condense de manière littéraire ce que Goedel, Turing and co ont réalisé de manière technique.

On est sur un fil d'intelligence artificielle. Si tu veux créer algorithmiquement de l'intelligence cela signifie que tu as une méthode non ambigüe pour le faire. Cette méthode (ça peut très bien être un énorme réseau de neurones auxquels on file des petaoctets de données d'apprentissage) on peut l'écrire comme un programme, grand certes, mais ça reste une suite de mots sur un certain alphabet. Le fait que la méthode soit non ambigüe implique qu'il y a des règles pour dériver de nouvelles connaissances à partir de celles qu'on a déjà. De la même manière on doit pouvoir écrire ses règles dans un langage quelconque (sinon c'est de la magie). Bidouiller l'adn pour former un cerveau revient juste à hacker la nature. Ce n'est pas de l'IA dans le sens où tu caches sous le tapis d'où vient l'intelligence (ici de la vie). Ce n'est pas du tout artificiel. C'est un peu comme dresser un animal pour faire quelque chose et dire que c'est un robot. La différence entre un chien et un robot est que pour le robot j'ai un plan pour le construire, que je peux répéter la construction du même robot, qui toutes choses étant égales par ailleurs, sera indistinguable du prochain qui sortira de la chaîne de production. Par contre tu as des chiens plus intelligents que d'autres : tu n'as pas de garantie sur ce que tu vas obtenir car ce n'est pas le résultat d'une méthode non ambigüe (un algorithme). En fait tu vas appliquer un algo (le dressage de chien) sur un phénomène qui lui n'est peut être pas simulable par un algorithme. Le fait de changer les conditions initiales ne fait d'un point de vue théorique que rallonger la taille du code (ie l'enregistrement en dur de toutes tes conditions initiales), que ce soit court ou long n'importe pas.

Si tu veux garantir des résultats il faut bien que tu écrives ta machine et son fonctionnement. Là ce que tu me dis est que pour créer de l'intelligence ... il suffit de se reproduire, avoir des enfants et bien les éduquer. Je suis d'accord ça marche bien mais ce n'est pas une méthode que je qualifierais de scientifique pour créer de la conscience.

Car quand tu décomposes un chiffre en nombre premier tu regardes l'exposant : s'il est impair c'est le codage d'un mot, s'il est pair alors c'est le codage d'une suite de mots (car chaque mot est codé par 2^{quelque chose}). Le tour de force de Goedel est d'internaliser la théorie pour n'avoir plus à faire qu'à des relations entre nombres entiers. En fait c'est une faiblesse du langage en tant que technologie : il y aura toujours un point aveugle (au minimum son fameux paradoxe du menteur) dans toute théorie car il faudra bien écrire cette dernière et on pourra relancer la machine pour créer des choses non prouvables. Ca me fait dire que toute théorie du monde souffrira du même problème : forcément il y aura masse (en fait la plus grande partie) de choses que cette théorie ne pourra expliquer. Ca ne veut pas dire que c'est peine perdue et qu'il ne faut rien faire mais c'est plutôt un appel à la modestie : on essaye de faire des trucs qui tiennent la route, dont on sait qu'ils seront incomplets. Parfois on tombe sur des vérités qu'on peut constater sans les justifier autrement que par la pratique.

La question est : dans quel système ? Le schéma de la construction de Goedel est le suivant : quand on fait de la logique on utilise un certain nombre fini de symboles (l'alphabet, les signes de ponctuation, les parenthèses etc.). Une formule n'est qu'une suite ordonnée de symboles. Goedel a donné un codage qui pour tout alphabet donne une manière de coder un mot sur cet alphabet comme un entier. L'idée est de ranger les lettres par ordre alphabétique puis d'associer un nombre à chaque symboles (il a pris les nombres impairs car il est malin). Ainsi si tu prends l'alphabet {a,b,c} alors à a tu associes 3, à b tu associes 5 et à c tu associes 7. Pour coder un mot sur cet alphabet, par exemple 'abbc' tu considères le nombre 2^3 * 3^5 * 5^5 * 7^7 . C'est à dire que tu codes la ième lettre du mot par le ième nombre premier exposant le code de la lettre. Ainsi le décodage est assuré par la décomposition en facteurs premiers. Disons que si M est un mot alors [M] est le nombre associé au mot M par ce codage de Goedel. Maintenant une preuve n'est qu'une suite finie de mots M1 M2 ... Mn. Pour une telle suite Goedel donne un autre codage qui est : 2^[M1]*3^[M2]*...*pn^[Mn] où pn est le nième nombre premier. Donc de la même manière qu'un mot peut être associer à un chiffre une démonstration peut elle aussi être vue comme un chiffre (et il n'y a pas d'ambigüité car en regardant l'exposant de 2 dans la décomposition en facteurs premiers on sait si on a affaire à un codage de mot ou à un codage de suite de mots). A partir de là le fait qu'une formule soit prouvable n'est plus qu'une relation entre deux chiffres. Disons Pr([F],[Dem]) est vrai ssi Dem est le codage d'une démonstration de la formule F. A partir de la il ne reste qu'à construire une formule paradoxale du type : G =( non il existe z tel que Pr(G,z) ) qui signifie "Je ne suis pas démontrable" (car il n'existe pas d'entier z qui soit la preuve de G). Et donc si ta théorie est non contradictoire alors forcément G n'est pas démontrable sinon tu aurais une contradiction. Mais G ne parle pas de vérité : elle peut être vraie (valide dans toute interprétation de la théorie) mais ne peut pas être montrée dans cette théorie. Rajouter G comme axiome ne change rien car on refait la même construction. Et donc la réponse à ta question est oui il y aura toujours des objets non démontrables. On peut faire la même chose avec les machines de Turing pour la décidabilité.

La science ne se limite pas à faire des prédictions et à les vérifier. Normalement (je dis normalement car actuellement avec les data science cette approche est attaquée, mais c'est un autre sujet) il faut proposer un modèle : une théorie de pourquoi ça marche comme ça. En faisant agir le modèle je fais des prédictions et s'il se trouve que ça marche bien on est content. Il n'y a pas de régression infinie : un axiome est sa propre démonstration. Le truc est que tu peux rajouter autant d'axiomes que tu veux il y a toujours la possibilité de construire des énoncés vrais mais non démontrables.

Ce que je dis est que nécessairement si tu fais un modèle du fonctionnement du cerveau, ce modèle sera Turing-équivalent au mieux. Par contre s'il se trouve que la conscience/l'esprit n'est pas simulable par MT tu n'auras aucun moyen scientifique de le prouver. Car la manière scientifique d'en parler fait que tu retombes nécessairement dans le modèle MT.

On peut juste constater que ça marche tout le temps : par exemple le fait que tout entier pair supérieur à 4 est la somme de deux nombres premiers. Ca semble vrai car même en faisant tourner des simulations sur des nombres gigantesques on ne trouve pas de contre exemple. Pour le moment on n'a pas de preuve que ce soit vrai. La vérité est l'interprétation qu'on fait des symboles. La prouvabilité est : étant donné une théorie (disons des axiomes et des règles d'inférences) existe t il un chemin qui va de mes axiomes (ou de mes hypothèses) à ce que je cherche à prouver tout en n'utilisant que des règles d'inférences. Pour peu que la théorie contienne l'arithmétique (addition, multiplication et disons décomposition en facteurs premiers) alors il n'y a pas égalité entre ce qui est vrai et ce qui est démontrable. Ca veut dire que je peux écrire une grosse formule qui dépend d'un entier x et il se trouve que pour x=0, x=1, x=2 etc. cette propriété soit vraie. Typiquement la conjecture de Goldbach que je citais qu'on peut présenter comme ça : pour tout x, on a 2(x+2) qui est toujours égale à la somme de deux nombres premiers. Même si je n'ai pas de preuve je peux vérifier que ça marche (et donc c'est vrai) pour tout x.

Ca à l'air d'être le cas non ? En tous cas si ça s'est passé tel que raconté c'est très joli comme tactique.

Pour le moment l'humanité tient toujours : https://www.wired.com/story/pro-gamers-fend-off-elon-musks-ai-bots/

Tiens, une question pour le ministère de la Kultur : " When Art Created by Artificial Intelligence Sells, Who Gets Paid? " Vous avez deux heures.