0100011

Car quand tu décomposes un chiffre en nombre premier tu regardes l'exposant : s'il est impair c'est le codage d'un mot, s'il est pair alors c'est le codage d'une suite de mots (car chaque mot est codé par 2^{quelque chose}). Le tour de force de Goedel est d'internaliser la théorie pour n'avoir plus à faire qu'à des relations entre nombres entiers. En fait c'est une faiblesse du langage en tant que technologie : il y aura toujours un point aveugle (au minimum son fameux paradoxe du menteur) dans toute théorie car il faudra bien écrire cette dernière et on pourra relancer la machine pour créer des choses non prouvables. Ca me fait dire que toute théorie du monde souffrira du même problème : forcément il y aura masse (en fait la plus grande partie) de choses que cette théorie ne pourra expliquer. Ca ne veut pas dire que c'est peine perdue et qu'il ne faut rien faire mais c'est plutôt un appel à la modestie : on essaye de faire des trucs qui tiennent la route, dont on sait qu'ils seront incomplets. Parfois on tombe sur des vérités qu'on peut constater sans les justifier autrement que par la pratique.

La question est : dans quel système ? Le schéma de la construction de Goedel est le suivant : quand on fait de la logique on utilise un certain nombre fini de symboles (l'alphabet, les signes de ponctuation, les parenthèses etc.). Une formule n'est qu'une suite ordonnée de symboles. Goedel a donné un codage qui pour tout alphabet donne une manière de coder un mot sur cet alphabet comme un entier. L'idée est de ranger les lettres par ordre alphabétique puis d'associer un nombre à chaque symboles (il a pris les nombres impairs car il est malin). Ainsi si tu prends l'alphabet {a,b,c} alors à a tu associes 3, à b tu associes 5 et à c tu associes 7. Pour coder un mot sur cet alphabet, par exemple 'abbc' tu considères le nombre 2^3 * 3^5 * 5^5 * 7^7 . C'est à dire que tu codes la ième lettre du mot par le ième nombre premier exposant le code de la lettre. Ainsi le décodage est assuré par la décomposition en facteurs premiers. Disons que si M est un mot alors [M] est le nombre associé au mot M par ce codage de Goedel. Maintenant une preuve n'est qu'une suite finie de mots M1 M2 ... Mn. Pour une telle suite Goedel donne un autre codage qui est : 2^[M1]*3^[M2]*...*pn^[Mn] où pn est le nième nombre premier. Donc de la même manière qu'un mot peut être associer à un chiffre une démonstration peut elle aussi être vue comme un chiffre (et il n'y a pas d'ambigüité car en regardant l'exposant de 2 dans la décomposition en facteurs premiers on sait si on a affaire à un codage de mot ou à un codage de suite de mots). A partir de là le fait qu'une formule soit prouvable n'est plus qu'une relation entre deux chiffres. Disons Pr([F],[Dem]) est vrai ssi Dem est le codage d'une démonstration de la formule F. A partir de la il ne reste qu'à construire une formule paradoxale du type : G =( non il existe z tel que Pr(G,z) ) qui signifie "Je ne suis pas démontrable" (car il n'existe pas d'entier z qui soit la preuve de G). Et donc si ta théorie est non contradictoire alors forcément G n'est pas démontrable sinon tu aurais une contradiction. Mais G ne parle pas de vérité : elle peut être vraie (valide dans toute interprétation de la théorie) mais ne peut pas être montrée dans cette théorie. Rajouter G comme axiome ne change rien car on refait la même construction. Et donc la réponse à ta question est oui il y aura toujours des objets non démontrables. On peut faire la même chose avec les machines de Turing pour la décidabilité.

La science ne se limite pas à faire des prédictions et à les vérifier. Normalement (je dis normalement car actuellement avec les data science cette approche est attaquée, mais c'est un autre sujet) il faut proposer un modèle : une théorie de pourquoi ça marche comme ça. En faisant agir le modèle je fais des prédictions et s'il se trouve que ça marche bien on est content. Il n'y a pas de régression infinie : un axiome est sa propre démonstration. Le truc est que tu peux rajouter autant d'axiomes que tu veux il y a toujours la possibilité de construire des énoncés vrais mais non démontrables.

Ce que je dis est que nécessairement si tu fais un modèle du fonctionnement du cerveau, ce modèle sera Turing-équivalent au mieux. Par contre s'il se trouve que la conscience/l'esprit n'est pas simulable par MT tu n'auras aucun moyen scientifique de le prouver. Car la manière scientifique d'en parler fait que tu retombes nécessairement dans le modèle MT.

On peut juste constater que ça marche tout le temps : par exemple le fait que tout entier pair supérieur à 4 est la somme de deux nombres premiers. Ca semble vrai car même en faisant tourner des simulations sur des nombres gigantesques on ne trouve pas de contre exemple. Pour le moment on n'a pas de preuve que ce soit vrai. La vérité est l'interprétation qu'on fait des symboles. La prouvabilité est : étant donné une théorie (disons des axiomes et des règles d'inférences) existe t il un chemin qui va de mes axiomes (ou de mes hypothèses) à ce que je cherche à prouver tout en n'utilisant que des règles d'inférences. Pour peu que la théorie contienne l'arithmétique (addition, multiplication et disons décomposition en facteurs premiers) alors il n'y a pas égalité entre ce qui est vrai et ce qui est démontrable. Ca veut dire que je peux écrire une grosse formule qui dépend d'un entier x et il se trouve que pour x=0, x=1, x=2 etc. cette propriété soit vraie. Typiquement la conjecture de Goldbach que je citais qu'on peut présenter comme ça : pour tout x, on a 2(x+2) qui est toujours égale à la somme de deux nombres premiers. Même si je n'ai pas de preuve je peux vérifier que ça marche (et donc c'est vrai) pour tout x.

Ca à l'air d'être le cas non ? En tous cas si ça s'est passé tel que raconté c'est très joli comme tactique.

Pour le moment l'humanité tient toujours : https://www.wired.com/story/pro-gamers-fend-off-elon-musks-ai-bots/

Tiens, une question pour le ministère de la Kultur : " When Art Created by Artificial Intelligence Sells, Who Gets Paid? " Vous avez deux heures.

Cet article de Libé est priceless. Ce sont les fabricants d'espadrilles partant en lutte contre Nike et Adidas. On a les héros romanesques qu'on mérite.

Faut prévenir Musk on a des spécialistes pour creuser les tunnels.

Pour le coup depuis 2001 c'est la fête du slip : ceux qui peuvent frappent à gauche à droite avec des justifications ésotériques. Est ce que ça permet d'éviter les grosses guerre ? un peu comme les petits tremblements de terre qui évacuent la pression graduellement vs un gros qui pète tout d'un coup. Ou bien est ce qu'un de ces jours une de ces anicroches va escalader hors de contrôle ? Cela dit, le petit côté "septième compagnie à Hmeimim" fait sourire c'est sûr.

Bien sûr quand on dit à l'infini en fait on veut dire non borné. Les limites sont celles de la calculabilité. Il y a des problèmes insolubles pour toute machine de Turing. Pire quand tu considères la hiérarchie arithmétique, même avec l'aide d'un oracle qui te répond par magie aux questions auxquelles tu ne pouvais pas répondre, il est encore possible de construire de nouveaux problèmes insolubles pour cette classe (c'est le Turing jump) et ça pour le coup à l'infini. Le problème de fonds est le suivant : si tu proposes une théorie "expliquant" des phénomènes, alors d'une manière ou d'une autre ça signifie que tu as un appareil logique pour déduire des conséquences de faits. Et "expliquer" un phénomène devient la recherche de l'ensemble d'hypothèse le plus petit qui, quand tu lui appliques tes déductions logiques, produit ton phénomène. Sinon tu n'as rien expliqué du tout : si la carte fait la taille du territoire et le duplique parfaitement alors il n'y a aucune "explication" et le territoire directement aurait été aussi intéressant que cette théorie. Les machines quantiques ont exactement le même pouvoir calculatoire que les machines non quantiques. Ce sont seulement les classes de complexité (le temps et l'espace) qui changent quand on les utilise. Et encore ce n'est pas clair que ce soit si révolutionnaire que ça : on n'a pas encore montré P!=NP en quantique et les seules réductions exponentielles (la factorisation) n'étaient pas des problèmes NP-durs. On n'est pas sûr qu'un humain n'est pas une MT. Ce qui est dur à intégrer est que si un humain n'est pas une MT il n'y aura aucun moyen de le savoir scientifiquement parlant : car pour le savoir tu devrais faire un modèle (et donc écrire un texte avec des symboles et lui adjoindre un mécanisme d'inférence) et tu retombes dans le champs de la calculabilité par nécessité. Sinon ce que tu fais n'est plus de la science mais de la croyance au sens religieux du terme (et je ne le dis pas du tout sur un mode péjoratif). Bref une démonstration qu'un homme n'est pas une MT ne peut pas être scientifique car notre manière de comprendre le monde rationnellement limite cette compréhension aux phénomènes Turing-explicables. Ca ne veut pas dire que sinon tu ne comprends rien. On peut voir les religions comme des technologies pour accéder à des vérités plus profondes qu'on ne pourra jamais montrer : elles ont juste "survécu" car elles indiquaient quelque chose de vrai sans pour autant qu'on soit capable de faire une démonstration par a+b de pourquoi elles sont efficaces. Il y a une distinction profonde entre ce qui est vrai et ce qui est prouvable (donc ce qu'on appelle scientifique pour parler largement) dès qu'on fait quelque chose d'un tant soit peu intéressant (Godel). Et ca ce n'est pas passé dans la culture mais c'est aussi fondamental que la relativité d'Einstein. C'est même terrible de constater que pour des raisons purement combinatoire la majeur partie de ce qui est vrai n'est pas explicable.

C'est un manager plus qu'un scientifique qui s'exprime sur des sujets scientifiques. Il a une approche de l'informatique très technologique.

La question est plus complexe que cela : "qui nous dépasse" n'est pas si évident à définir. Déjà, même si c'est plus personnel qu'autre chose, je ne pense pas qu'on puisse construire une IA douée de conscience. Il semblerait que la conscience soit un résultat émergent de l'évolution et arriver au même résultat par design (car il faut bien faire un plan de l'IA, la produire mécaniquement ou suivant un schéma électronique) me paraît osé à soutenir. Mais c'est un point de vue difficile à défendre car par construction notre manière de penser utilise le langage (ie un alphabet dénombrable) pour lequel on peut toujours construire, quasi mécaniquement, des paradoxes (ie des choses qui échappent au discours qu'on est en train de tenir). Donc notre manière de comprendre l'intelligence (les neurosciences etc.) est frappée de cette difficulté intrinsèque. Et rien n'assure qu'un phénomène comme celui de la conscience soit axiomatisable ou réductible. En tous cas ce qui est sûr est que le bootstrap infini de l'intelligence est une impossibilité mathématique forte. Il y a des limites dures dont les machines de Turing (fussent elles quantiques) ne peuvent s'affranchir.

En tous cas pour moi c'est une découverte ce type d'interview de plusieurs heures. Là il lui a fallu une petite demi heure pour se lacher. Après le whisky etc. Il y a un tel monde d'écart avec les talk show où le présentateur regarde sa montre, cherche à briller personnellement au travers de ses invités etc. C'est rafraîchissant.

Alors je te recommande spécialement "Thé AI dellusion" ça pourra te donner du recul.

Musk est assez à la masse sur les IA. Clairement il n'y connait pas grand chose en informatique théorique. C'est fou le nombre de personne qui dans ce domaine particulier pense inventer la machine à mouvement perpétuel. Notamment cette idée confondante que si on ajoute de intelligence à l'intelligence en les connectant ensemble on aura forcément plus. Un peu comme si avec deux litres d'eau tiède je pouvais faire de l'eau chaude juste par addition des calories.

Je fais dans l'hôtellerie ... Mais pas dans les petits extras

Ça a l'air d'être un bon gros bullshit pour surfer sur la vague IA. Le type est créationiste ça n'inspire pas spécialement confiance.

Ils prennent cher dans le dernier bouquin de Gary Smith.

Écoute j'ai 4 boulots différents. J'en ai laissé tombé un à la rentrée car je ne pouvais pas tout assurer alors tu vois je suis très très proche de "la vie réelle". J'ai même la chance de travailler à la fois en nettoyant des chiottes et en faisant des lits (activité qui maintenant me rapporte strictement plus que mon salaire de mon job qui était principal) et de donner des cours dans des grandes écoles et à l'Université comme quoi j'ai un spectre assez large. Cela dit ça n'a pas grand chose à voiravec la polémique en carton sur Macron qui me semble effectivement être une jolie combien de "check your privileges" et de virtue signaling (oui moi vous comprenez je suis du côté des victimes).

Là en ce moment : je fais le ménage pour mes prochains clients.

Justement ça n'a pas été dit comme ça ! Mais on se croirait obligé de tomber dans la caricature aujourd'hui. Qu'est ce que tu voulais qu'il réponde ? Qu'il lui file un stage ou une place en consulat comme pour ses amis ? Il faut bien prendre sa déclaration au pied de la lettre, et sans le son ni l'image pour faire d'une remarque basique un point de polémique. Team first degree has arrived. Saved we are.

Attend je checke mes privilèges avant de formuler une réponse complète.

Ah il s'agit donc de l'injonction Marxienne "d'où me parlez vous"...