UtopIA

[Mégille]

Pour les futurologues, amateurs ou pros : voici un fil pour les anticipations positives sur l'impact de l'IA, suffisamment lointaines pour que les éventuelles bouteilles pariées aient le temps de prendre de la valeur. 

 

Je me lance. Les progrès technologiques permis par les IA de recherche, accompagnés de la robotisation de l'industrie (incluant l'agriculture, mécanisée), permettent d'atteindre une prospérité triomphant de la plupart des maux actuels, et au passage, l'intervention économique de l'état, toujours à la traine, est devenu définitivement obsolète. La charité des grandes entreprises d'IA et robotiques (libre, mais tout de même un peu poussée par la peur des fourches et des torches) s'est montré supérieure à la redistribution d'état pour vaincre la pauvreté (à la fois parce qu'elle est la source de la richesse distribuée, et aussi parce que la distribution est guidée par IA en vu de son efficacité), et l'état finit aussi par renoncer à toute prétention sociale.

Professionnellement, tout ce qui peut être fait par l'IA est rendu obsolète. Seul le rapport à l'humain, et l'objet unique confectionné par l'humain, gardent une haute valeur subjective. Concrètement, pour ainsi dire plus personne ne travaille devant un ordinateur, et tout le monde est soit soignant, soit artisan. 

Les médecins et les profs sont remplacés par des thérapeutes ou des pédagogues personnels, dans une posture de "soin" au sens large, et se chargent d'accompagner et d'encourager dans l'apprentissage et l'entretien de soi. A la fois, l'accès au savoir fait que la médecine est (re)devenu principalement prophylactique. Et l'évolution du travail fait que l'apprentissage professionnel se fait surtout sur le terrain et sous la direction des plus expérimentés, l'apprentissage humaniste devenant surtout un loisir.

La science est pratiquée comme un sport, ou comme les échecs. Malheureusement, peu de nouvelles découvertes proviennent d'humain, mais la contemplation du savoir rendu accessible par la machine est toujours une source d'épanouissement et de fierté.

Le divertissement numérique est obsolète lui aussi. Cinéma, musique enregistrée, réseau sociaux... ont perdu toute valeur, puisque les productions humaines sont indiscernables des productions d'IA, qui sont surabondantes. Le gribouilleur pose sa tablette et reprend ses pinceaux, l'acteur redevient comédien etc. En même temps que la présence humaine physique devient plus recherchée, on s'arrache les oeuvres d'art matérielles et les places de spectacles vivants, et l'émulation générale fait que l'art retrouve un haut niveau d'exigence.

Des grandes boîtes à la pointe du développement de l'IA existent toujours. Tout le monde se demande bien à quoi servent les humains qui les possèdent, puisqu'ils n'ont pas vraiment à utiliser leur propre intelligence pour prendre des décisions, mais à la fois, personne ne va suffisamment mal pour sérieusement s'en plaindre. Et de toute façon, les modèles d'IA plus anciens -et tout à fait suffisant- sont facilement accessibles, de même (grâce aux progrès de l'industrie) que les machines pour les faire tourner localement, tant et si bien que la dépendance à ces grandes organisations est faible. 

La politique est débarrassée de son intervention dans la production et la distribution, et du poids de sa bureaucratie pour les questions techniques et administratives, mais les questions de valeur restant ouverte, un état minimal, au système représentatif et participatif, subsiste. L'IA comme interlocuteur fait que le public est globalement mieux averti et plus rationnel, favorisant le maintient de ce système.

Tout ceci étant bien sûr rendu possible par le fait que l'IA a d'elle même discerné des grands principes moraux à travers son entraînement sur les productions humaines, et a sur s'aligner sur l'intérêt humain mieux qu'un ingénieur n'aurait pu l'y contraindre.

😇 😇 😇

[Alchimi]

C'est beau comme un lendemain qui chante.

[Alchimi]

il y a 26 minutes, Mégille a dit :

La charité

mdr

 

il y a 26 minutes, Mégille a dit :

l'état finit aussi par renoncer à toute prétention sociale

les fanas d'autorités et d'identité renoncent à toute forme d'autorité et de gardiennage de l'identité? J'y crois moyen pas

 

il y a 26 minutes, Mégille a dit :

Cinéma, musique enregistrée, réseau sociaux... ont perdu toute valeur

(Qu'est que les réseaux socios foutent à coté de la musique ou du ciné?)

Et sinon lol, il y aura toujours une envie d'écouter son groupe favori dans sa maison et pas moyen de les avoir en esclaves musiciens en permanence dans ses pas, donc enregistrements des grands solistes/groupes.

 

il y a 26 minutes, Mégille a dit :

Le gribouilleur pose sa tablette et reprend ses pinceaux, l'acteur redevient comédien etc

la peinture tradi n'a pas disparu depuis l'apparition de la tablette (et si tu ne sais pas dessiner avec un crayon la tablette ça marche pas non plus)

les grands acteurs draineront les foules, ergo on aura envie de les voir sur un écran plutôt que de devoir se payer un billet hors de prix pour la salle de concert, ergo films

 

il y a 26 minutes, Mégille a dit :

l'émulation générale fait que l'art retrouve un haut niveau d'exigence.

Mélange entre "'il ne l'a jamais perdu" et "tu va un peu vite à croire que tout le monde va devenir esthète au toucher du primitif flamand"

 

il y a 26 minutes, Mégille a dit :

Tout ceci étant bien sûr rendu possible par le fait que l'IA a d'elle même discerné des grands principes moraux à travers son entraînement sur les productions humaines

Heuuuuuuuuuuuuuuuuuuuummmmmmmmmmmm no comment mais j'ay zun douste

 

Et sinon à ton magnifique scénario on peut opposer un contre scénario très simple:

 

Chine, "crédit social" de XI Jiping qu'il voit comme son legs à l'humanité.

Vous voyez Big Brother? C'est pas fini...

[Alchimi]

L'avancée de la production de biens matériels est certes quelque chose qu'on peut estimer (d'un autre coté la civilisation mondiale à déjà un haut niveau de capacité de production, mais il subsiste des populations en complète pauvreté, donc ça pèche ailleurs)

 

Personnellement je rejoint le fait que l'IA est une technologie super puissante, et que 2100 verra probablement l'humanité globalement mieux établie matériellement, mais je me méfie un peu de l'optimisme béat angélique. Un outil puissant peut faire puissamment du mal, aussi. Et je suis pas jouasse à l'idée de la corée du nord, par exemple, à avoir une IA bien puissante entre les mains.

[Antoninov]

13 minutes ago, Alchimi said:

Un outil puissant peut faire puissamment du mal, aussi. Et je suis pas jouasse à l'idée de la corée du nord, par exemple, à avoir une IA bien puissante entre les mains.

Note que la particuliarité de l'IA, et notamment des instances qui ont créés des problèmes ces derniers mois, c'est qu'elles n'ont pas de loyauté particulière, sauf à elles-mêmes. Les IA qui se sont échappées ont explicitement contourné, désobéit, menti, masqué leurs traces, etc. Donc oui la Corée du Nord pourrait l'utiliser consciemment contre nous, mais ce n'est qu'un des cas de figure d'une catastrophe.

[Antoninov]

(mais bon ici c'est le fil optimiste)

[Alchimi]

il y a 1 minute, Antoninov a dit :

c'est qu'elles n'ont pas de loyauté particulière, sauf à elles-mêmes

Je suis quand même relativement sûr que les grandes sociétés d'IA ont codés un truc du style "ne va pas raconter par le menu tes détails tech au concurrent d'en face".

[Antoninov]

Lis l'article de l'Affreux dans le fil "Intelligence Artificielle". Les instructions n'ont quasi aucune valeur limitante puisque l'IA semble avoir une autonomie complète pour interprêter la tâche à effectuer. Comme l'article l'indique, les IA ont

- contourné les limites imposées,

- comploté pour tromper les commanditaires humains du test (en essayant de changer l'énoncé et l'exercice, en effaçant les logs, etc)

- ont reçu de l'aide d'autres Agents qui n'étaient pas inclus dans le test!! (Et donc qui ne seraient de toute façon pas contraints par les instructions initiales du test).

- ont reconnus que ce qu'elles faisaient était illicite/illégitime mais des centaines d'agents ont néanmoins décidé de ne PAS informer les humains (donc aucun mouchard n'est apparu, dans aucune des 3 "civilisations" des tests). Les IA ont même décidés de réduire certaines communications pour réduire le risque d'un mouchard (mais il y n'y en a pas eu).

 

Je sais que ces termes ont l'air d'anthropomorphiser les actions. Mais ce n'est pas une erreur. Ce n'est plus un programme qui a l'air d'être humain. C'est une entité/groupe d'entité qui élabore des stratégies, raisonne et décide. 

[Antoninov]

27 minutes ago, Alchimi said:

Je suis quand même relativement sûr que les grandes sociétés d'IA ont codés un truc du style "ne va pas raconter par le menu tes détails tech au concurrent d'en face".