0100011

https://twitter.com/NSeddiki/status/1081082201964511232?s=09

Je pense que tu ne saisis pas ce qu'implique le problème de l'arrêt. Déjà d'une part il est semi-décidable (on peut répondre oui quand il s'arrête). Le complémentaire de Halt n'est même pas semi decidable (typiquement indecidabilité de \overline{K}). Le problème est qu'il peut y avoir des choses vraies dans le modèle mais non démontrables. Il n'y a absolument pas besoin d'infini pour ça. Typiquement tu peux construire une machine pour décider les théorèmes de ZF (genre en écrivant les preuves de taille 1 puis les preuves de taille 2, puis de taille 3 etc.) Et tu attends une preuve de l'hypothèse du continu. Cette hypothèse du continu est formalisable de manière finie mais chercher sa preuve dans ZF est un processus infini. L'équivalent en physique est que même si tu as les bonnes équations, la réalité (l'évolution du système ou certaines propriétés du système suivant certaines lois) va créer des vérités que tu ne pourras jamais démontrer. Pas besoin de considérer un infini pour ça. C'est la recherche de la preuve (donc de la démarche scientifique) qui sera infinie. C'est en cela que le réductionnisme se trompe : en pensant qu'il y aura toujours une réponse scientifique.

Non ce qui m'inquiète est la réaction s'ils n'ont pas de modèles naturels pour s'identifier. Les féministes sont contre les modèles traditionnels qui existent pour les femmes et en proposent d'autres (justement prendre la place des garçons au sens littéral du terme dans la culture).

Comment cela ?

Que s'apelorio : " la taxe 23 and me"

Je rajoute une question sur les dérives intersectionalistes des films mainstreams Hollywoodien : au hasard le dernier spiderman (caricatural à ce niveau) mais également tous ceux pour lesquels le héro est une jeune héroïne etc. Bref la reprise quasi copié collée puis lavée à la sauce intersectionelle des mythologies. Est-ce que ça peut prendre ou les archétypes anciens sont les plus forts (genre les échecs commerciaux de bouses comme Ghostbuster 2 and co) ? Quelles répercussions sociétales pour les jeunes garçons sans modèles ? Quelle réaction se prépare face à cette guerre culturelle ?

Non pour le 2 je dis : on ne sait pas et probablement non (et si c'est le cas on n'aura jamais de démonstration rigoureuse de ce non). C'est notre connaissance du monde (qui n'est pas le monde) qui est limitée par des processus de décision. Je dis de plus que même si le monde était formalisable sans perte alors il y aurait des phénomènes indecidables. L'article donne juste un exemple précis de ce point. Ni plus ni moins non plus. Non la thèse de Church est plus subtile que ça : elle parle de modèle de calcul pas de la réalité per se. Car dans le mot réalisable il y a caché l'idée d'un plan pour mener les calculs. Or ce plan doit bien être écrit dans un certain langage : ce que soutient la thèse de church est que tu ne pourras faire mieux que le MT modulo certains codages. Je pense que c'est profondément vrai. Une implication directe est que tout n'est pas "simulable" par calcul dans une machine. L'article montre bien que la tentation de croire que toute la réalité est réductible a un ensemble d'axiomes et de règles d'inférences est illusoire. Ça ne permet pas de rendre compte de la réalité de manière "faithfull and complete" car au moins un phénomène naturel n'est pas décidable (dans cette théorie mais ce sera vrai de toute théorie).

Sinon concernant JBP je me suis tappé son cours "Maps of meaning" en entier : c'est bien plus intéressant que ses interviews et j'ai appris plein de choses en psychologie.

Je crois que l'industrie spatiale est un contre exemple à cette affirmation.

Bien sûr que ce n'est pas surprenant. Tu peux reprendre le fil (voir l'autre sur l'IA) : ma position a toujours été de souligner que notre compréhension du monde passé après une technologie, le langage, qui souffre de limitations intrinsèques. Ces limitations sont celles de la compréhension scientifique du monde. Comme je l'ai déjà souligné : la physique impose des limitations à notre cognition pas l'inverse. Les limites de notre cognition n'imposent rien au monde. Que ce soit de la mécanique quantique n'a que peu d'importance au fond. Chaque formalisation du monde un tant soit peu fine que tu utiliseras conduira à ce type de phénomène. C'est intuitivement évident car c'est intrinsèque au processus de formalisation lui même : là ce qui est nouveau est que les chercheurs ont exhibé un phénomène physique précis, dans une formalisation physique précise, incarnant cette intuition logique (typiquement la position de Penrose).

Résumé de Taleb en un article : https://medium.com/incerto/iq-is-largely-a-pseudoscientific-swindle-f131c101ba39

En fait c'est beaucoup moins déséquilibré que je ne le pensais !!! C'est ma vision à moi du classement Élo qui est tronquée (ça reste beaucoup plus asymétrique que le QI mais pas autant que je ne le croyais) :

Undecidability of the spectral gap : https://www.nature.com/articles/nature16059 Je commence 2019 en trouvant ça ! Pour le coup je pense un des derniers résultats earth-shattering en physique depuis le quantique. C'est le Smoking pistol auquel je pensais depuis longtemps : même avec la formalisation actuelle de la physique qui tient le plus la route on tombe naturellement sur des problèmes indécidables. C'est un clou de plus dans le cercueil des intégristes réductionnistes. Un gros putain de clou car là ce ne sont plus seulement des logiciens qui pondent des paradoxes imbitables mais bien des physiciens qui montrent que partir de l'équation de Schrödinger pour inférer des caractéristiques macros est indécidable. Les implications philosophiques sont majeures. Un article de Y. Gurevich explique les tenants et aboutissants pour les non physiciens : https://digitalcommons.utep.edu/cgi/viewcontent.cgi?article=2163&context=cs_techrep

Je ne vois pas immédiatement qu'il s'agit de tronquer la distribution normale. Il y a plein de joueurs très mauvais qui jouent car ça les intéresse. Il y a un biais (il faut aimer la performance intellectuelle disons) mais ça ne me semble pas clair que ce biais soit directement lié au QI.

Je pensais à un autre type de biais : ceux qui migrent sont à beaucoup de niveaux les plus capables. Ça doit ralentir la croissance dans les pays africains et augmenter celles des pays d'imigration. C'est un peu l'équivalent de : quand je te donne 2€ tu es d'un coup plus riche de 4€ que moi. Pour les échecs il y a bien sûr un biais par l'entraînement (mais on peut aussi argumenter qu'une des caractéristiques de l'intelligence est justement à entraînement égal d'en retirer plus) mais on devrait pouvoir normaliser ça en regardant le nombre de parties jouées (plus de x parties quel que soit le niveau de jeu est un bon proxy sur l'implication du joueur). Ça n'explique pas pourquoi il y a une telle dissymétrie à mon avis.

J'imagine que les flots migratoires ne peuvent pas être ignorés. Une autre question que je me pose et sur laquelle je vais réfléchir sérieusement : la répartition des joueurs d'échecs par le système Élo ne donne pas du tout la même répartition que celle basée sur le QI : il y a une asymétrie forte (beaucoup de mauvais joueurs et peu de bons joueurs : au doigt mouillé c'est une power Law). Une question parmi d'autres : si on faisait des combats de tests de QI et qu'on range les participants par la méthode Élo : retrouve t on la même distribution ? A première vue je dirais non et ce n'est pas normal.

Un truc étrange à propos de la mesure du QI : à la différence de mesures biométriques habituelles il faut constamment changer l'outil de mesure (les questions pour une même personne doivent être différentes sinon on mesure plus seulement l'intelligence mais la mémoire également). Le poids d'une personne peut varier mais c'est toujours avec le même pèse personne qu'on mesure cette valeur. Pour mesurer deux fois le QI d'une même personne il faut deux jeux de tests différents. De plus comme c'est statistique et relatif (j'imagine que pour caler sur 100 on fait passer des milliers de tests dans tous les sens à des milliers de personnes et qu'ok utilisé les bouts de ces tests pour avoir une échelle) : la maniere de calibrer les tests peut dériver dans le temps. Si le QI de tous les humains augmentait de un point simultanément ça ne devrait pas se voir d'après la théorie. Or avec une meilleure nutrition (insert Pinker graphics here) etc Il a du y avoir une derive. C'est marrant : c'est une mesure dont l'objet mesuré sert d'étalon et est modifié par la mesure (il faut changer les questions).

Je pense qu'ils parlent sur deux plans différents. Ce que j'ai vu de la critique de NNT est en termes statistiques/mathématiques (en dehors du fait que le QI mesure quelque chose comme l'intelligence) c'est que ça ne remplit pas, pour des raisons techniques ce qu'on appelle une mesure. Il y a également un problème de symétrie qui doit se poser quelque part. Mais bon ce serait sûrement intéressant.

Ah c'est l'effet Leidenfrost j'avais vu un physicien qui demandait à ses étudiants de marcher sur des braises pour prouver qu'ils avaient bien confiance dans les lois de la physique

C'est tellement dommage que Taleb soit si Bully pour rien. J'ai échangé avec lui dans le fil twitter sur le QI : c'est marrant comment il peut être si intéressant et si cassant pour rien. Pour le coup il lève beaucoup de lièvres. Le problème est qu'il me semble que beacoup de psychologue ne restent qu'à la surface mathématiquement parlant. C'est courageux de la part de Peterson car ce n'est pas du tout son terrain. Effectivement ça va le changer. Ce serait trop dommage que NNT foute tout en l'air en balayant les pièces de l'échiquier sur un mouvement de rage (on dirait Ivanchuk : un génie psychologiquement instable).

En dehors de l'accord, il y a un problème de répartition de l'information (calcul des prix) qui peut fonctionner à petite échelle mais pas à l'échelle d'une société. D'autre part de la même manière qu'il ne peut y avoir de vol entre personnes de la même famille la notion de propriété au sein d'une famille n'est pas la même qu'au sein de la société.

Je ne comprend pas : tu me dis qu'une institution qui fonctionne dans les conditions x doit nécessairement fonctionner dans les conditions y alors qu'il y a énormément de différences significatives quant au problème entre x et y. C'est à toi de justifier que ta comparaison est tenable.

Les conditions sociales ont tellement évoluées qu'on peut se demander quel poids peut avoir cet argument. Du temps des gaulois on ne pouvait pas prendre un avion et se barrer dans l'heure à l'autre bout de la planète. On n'était pas noyé dans l'anonymat des grandes cités actuelles. Les solidarités locales et familiales n'étaient pas comparables avec celles qu'on connait aujourd'hui. et toute une autre armée de raisons du même niveau. Tout ne passe pas à l'échelle : dans une famille le communisme fonctionne, on sait ce que ça donne quand on veut l'imposer à l'échelle d'un pays.

Mais il y a des résultats précis sur la démonstration automatique. C'est pas de la magie et PRIMES is in P n'est pas exprimable dans une classe de formules logiques prouvables automatiquement. Ce qui est central dans la démonstration de Goedel est l'internalisation des systèmes formels à l'intérieur d'eux-même. Une IA construite sur une MT ne peut pas s'out Goedeliser, c'est comme ça la vie. Or un des propres de la conscience est de pouvoir se regarder dans le miroir et d'avoir une idée d'elle même : or c'est le coeur de la méthode de diagonalisation. Non car là encore tu compares des choses incomparables : le fait que le soleil se lève est un phénomène naturel sur lequel on n'a aucun contrôle. On ne peut que de dire (et espérer) que demain sera pareil qu'hier. Mais poser que la nature est mathématisable n'est pas comparable avec ce qu'on peut dire des machines de Turing. Les ordinateurs sont des productions artificielles auxquelles s'appliquent les mathématiques (ils en sont issus). La nature ne l'est pas. Le fait qu'elle semble suivre des lois stables dans le temps est ontologiquement différent que d'affirmer que nécessairement elle est mathématisable.

La consommation en énergie est une mesure de complexité qui permet de bien mettre les choses en perspective. Je présente souvent en cours le principe de Landauer. Un petit calcul permet de montrer que la simple énumération de tous les entiers sur 200 bits demandent plus d'énergie qu'il n'y en a dans l'univers visible. Je le fais pour donner une borne réaliste d'attaque en force des mots de passes (autour de 120 bits d'entropie et on est tranquille). 200 bits c'est 25 lettres en ASCII : même pas la taille de l'alphabet. Effectivement cet argument doit aussi pouvoir s'appliquer dans cette discussion des IA.Si on la couple aux présentations singulières selon lesquelles les machines vont tout prévoir (par exemple dans l'article de Vox ou les envolées lyriques de Ben Goertzel) et qu'on regarde froidement les classes de complexité.