Aller au contenu

Intelligence Artificielle, Morale et Politique


Messages recommandés

il y a 6 minutes, Kassad a dit :

Quant au 2 on dirait qu'on a affaire au "texas sharpshooter fallacy"  : tu tires sur un mur et tu dessines la cible autour de l'impact, c'est ta théorie qui s'adapte aux cas particuliers que tu trouves.

Parce que la science c'est toujours qqun qui trouve tout tout seul dans sa caverne sans aucune incitation extérieure / informations issues de ses expériences ? C'est ce que j'appelle le mythe du génie créateur. Les bouquins d'Ayn Rand sont des histoires pas la vraie vie :D

Lien vers le commentaire
il y a 7 minutes, Kassad a dit :

Faut pas exagérer : quand je vais au chiottes ce que j'y laisse n'est pas artificiel et pourtant c'est moi qui l'ait fait

Au delà de l'anecdote ça me parait spécieux de qualifier la reproduction (ou le hackage de la vie par edition d'adn and co) d'artificielle.

Je me doutais bien que tu allais me renvoyer l'ascenseur sur la définition d'artificielle, en attendant c'est toi il me semble qui essaye de la restreindre pour réduire de le thème de l'IA à quelque chose que tu comprends bien grâce aux mathématiques et à l'informatique. L'IA semble plus être définie par ses objectifs comme reproduire l'intelligence humaine / la surpasser ou rendre certains machines / robots autonomes etc..

 

J'ai certainement pas autant étudier le sujet que toi je ne fais que me poser des questions : cela semble probable que l'on arrive à simuler la conscience sans pour autant être capable de l'expliquer avec les théories de la calculabilité dont tu parles, non ?

Lien vers le commentaire
3 hours ago, ttoinou said:

il me semble qui essaye de la restreindre pour réduire de le thème de l'IA à quelque chose que tu comprends bien grâce aux mathématiques et à l'informatique. 

 

Mon argument est bien plus général et porte sur le langage et la pensée structurée. L'IA n'en est qu'une partie particulière.

 

Pour faire dans la provocation (mais c'est plus profond que ça en a l'air) je te dirais que le champs de la connaissance humaine est une sous partie de l'informatique. En effet tous les livres qu'on peut écrire peuvent êtres vus comme le résultat d'un certain logiciel avec certaines "bonnes entrées" : c'est une utilisation particulière d'un traitement de texte. 

Lien vers le commentaire
3 hours ago, ttoinou said:

cela semble probable que l'on arrive à simuler la conscience sans pour autant être capable de l'expliquer avec les théories de la calculabilité dont tu parles, non ?

Alors là non ! 

 

Peut être qu'on peut simuler la conscience mais alors on aura un programme (même s'il est incompréhensible d'un point de vue humain) qui le fera. Ce programme représentera un texte long certes mais qui couplé à la sémantique du langage de programmation associé (c'est à dire comment le texte du programme est interprété par une machine) pourra être vu comme une explication de l'intelligence. 

 

Comprendre un phénomène signifie le compresser : comme je le disais si tu ne fais que reproduire le phénomène rien n'a été compris (je peux répéter mot pour mot un texte de philo raconté dans une langue que je ne connais pas : je n'aurai rien compris, par contre si je le traduis et en fait un résumé c'est une autre histoire) . Il faut donc repérer des structures qui se répètent dans le phénomène pour le représenter d'une manière plus économique. Ça va au delà de l'informatique stricto censu. 

 

Lien vers le commentaire
  • 1 month later...
  • 1 month later...

Nature ... dans son rôle : https://www.nature.com/articles/d41586-018-07504-9

 

Quote

“The human brain can solve a problem it has never seen before,” says Greg Hullender, a specialist in machine learning and natural language, who has been a research scientist for both Amazon and Microsoft. “Nothing in machine learning is like that. Everything is built for a specific problem.” This crucial difference leads many AI specialists to scoff at both warnings of a robot takeover and claims of a future AI utopia. “Both are wild exaggerations,” says Peter Stone, an AI researcher at the University of Texas at Austin.

 

  • Yea 2
Lien vers le commentaire

Plus j'y pense, plus je trouve le terme d'IA confus. Si on ne peut faire la différence entre une IA et une Intelligence Naturelle, alors qu'est ce qui les différencie ?

"Everything is built for a specific problem" Ok donc une IA ne peut pas résoudre un problème qu'elle n'a pas vu avant contrairement à un cerveau humain.

Plutôt qu'un test de Turing il faudrait que l'IA passe le test du pb q'elle ne connait pas. C'est possible ?

Lien vers le commentaire
On 11/29/2018 at 5:19 PM, POE said:

Plus j'y pense, plus je trouve le terme d'IA confus. Si on ne peut faire la différence entre une IA et une Intelligence Naturelle, alors qu'est ce qui les différencie ?

"Everything is built for a specific problem" Ok donc une IA ne peut pas résoudre un problème qu'elle n'a pas vu avant contrairement à un cerveau humain.

Plutôt qu'un test de Turing il faudrait que l'IA passe le test du pb q'elle ne connait pas. C'est possible ?

 

L'intelligence naturelle est un phénomène qui va à l'encontre des règles naturelles : il n'y a qu'à voir ce qui se passe sur une planète morte vs la terre. 

 

La comparaison est dur à formaliser comme tu le proposes : car quand un problème nouveau se pose tu ne sais pas si l'esprit humain pourra le résoudre. On pourrait dire qu'il suffit d'un contre exemple que l'IA n'arrive pas à résoudre mais ce ne serait pas propre comme définition car on n'a pas tous la même intelligence non plus.

 

Mais tant qu'on voit l'intelligence uniquement comme fournisseur de solution on oublie que la fonction essentielle n'est pas de résoudre des problèmes mais avant tout de se poser les bonnes questions et de donner les bonnes définitions. Par exemple Einstein en proposant la relativité ne répond pas juste à une question simple : il développe une philosophie qui a des implications qui résolvent des masses de problème. Pour ça il est parti (en fait je crois que c'est Poincaré qui l'a proposé en premier) du fait qu'on ne comprenait pas pourquoi la lumière allait toujours à la même vitesse (y compris quand on prend la vitesse de rotation de la terre suivant si on mesure perpendiculairement). Il a pris ça comme un axiome plutôt que de répondre à la question "pourquoi on mesure toujours la même vitesse". 

 

Bref comme l'a dit perfidement mais justement Picasso l'ordinateur n'est pas intéressant car il ne fait qu'apporter des réponses.

 

 

Lien vers le commentaire
Il y a 23 heures, Kassad a dit :

Pour ça il est parti (en fait je crois que c'est Poincaré qui l'a proposé en premier) du fait qu'on ne comprenait pas pourquoi la lumière allait toujours à la même vitesse (y compris quand on prend la vitesse de rotation de la terre suivant si on mesure perpendiculairement). Il a pris ça comme un axiome plutôt que de répondre à la question "pourquoi on mesure toujours la même vitesse". 

J'ai vu un jour, lointain, une démonstration graphique, assez simple, de la finitude de la vitesse de la lumière.

Hélas, je n'ai jamais retrouvée cette super démo.

(De mémoire, la finitude correspondait à un angle de 180° ou 360°.)

 

Sinon :

«Un cerveau ça ne sert pas à penser, mais ça sert à agir.» - Henri Laborit - Mon oncle d'Amérique - 1980

Lien vers le commentaire

L'invité de Rogan pédale complétement dans la semoule. Ça me rend dingue ce genre d'interview je ne sais pas comment on peut reprendre la main avec un discours sensé. Au moins Lex Friedman était scientifiquement correct. 

 

 

Lien vers le commentaire
  • 2 weeks later...

Les premières 45 min sont tout à fait dans le sujet du fil et résument bien la manière dont je vois les choses. Je pense que j'irais plus loin que Penrose dans l'inadéquation entre la marche du monde et notre manière de formaliser cette dernière. En tous cas chapeau Rogan d'avoir une telle diversité d'invité. Je ne connais pas d'autres exemples d'interviewer qui peut accueillir Roseanne et  Penrose en passant par Palahniuk ou un spécialiste de la chasse au bison dans les plaines du middle west. 

 

 

Lien vers le commentaire
Le 01/12/2018 à 11:08, Kassad a dit :

planète morte

 

Inerte en fait.

 

Le 19/09/2018 à 18:28, Kassad a dit :

Comprendre un phénomène signifie le compresser

 

J'avais lu une tentative d'explication de la vie il y a des années par la compression. Je ne me rappelle plus du détail de l'argumentation. J'essaie. Pour un programme donné, il est toujours possible d'en réécrire un autre faisant le même travail mais avec moins de lignes de code : le nouveau programme est alors mieux organisé que l'ancien. Moins d'instructions signifie aussi moins d'effort pour l'exécuter. Donc plus l'organisation augmente, moins l'énergie est consommée. Et la recherche de la moindre énergie est un point commun avec les règles qui régissent l'inerte. Par exemple les astres sont ronds parce que d'autres formes stockeraient inutilement plus d'énergie.

Lien vers le commentaire
1 hour ago, L'affreux said:

J'essaie. Pour un programme donné, il est toujours possible d'en réécrire un autre faisant le même travail mais avec moins de lignes de code : le nouveau programme est alors mieux organisé que l'ancien. Moins d'instructions signifie aussi moins d'effort pour l'exécuter.

Mmh à mon avis il faut surtout pas prendre modèle sur un ordinateur. Un compilateur peut très bien optimiser du code en rajoutant des lignes, par exemple en remplaçant des boucles par chaque étape et économise ainsi le calcul de l'incérment à chaque pas. Vue que de toute façon le saut à l'instruction suivante doit être payé, autant que ce soit du code utile et non pas du simple contrôle.Ou alors en remplaçant des appels de fonctions par le code de la fonction in situ (inlining). Ce qui permet d'éviter d'avoir à effectuer l'appel, (empiler les paramètres, sauver les adresses de retour etc etc). Sans même prendre en compte les questions de gestion des caches ou d'exécution spéculative.

Lien vers le commentaire

Dans mon post j'utilise implicitement l'analogie entre le codage du vivant et celui d'un programme informatique. Mais, de quel manière le code est-il exécuté, c'est autre chose. Les optimisations du compilateur sont à mettre dans le même sac que celles d'une pipeline de CPU.

 

Je ne parle pas d'optimisation mais de refactorisation. Ce que je suggère, c'est que la course à la complexité du monde vivant n'enfreint pas forcément la nature de l'inerte. Il y a peut-être une continuité. Cela dit mon intuition et mon souvenir sont mal ficelés.

Lien vers le commentaire
3 hours ago, L'affreux said:

Je ne me rappelle plus du détail de l'argumentation. J'essaie. Pour un programme donné, il est toujours possible d'en réécrire un autre faisant le même travail mais avec moins de lignes de code : le nouveau programme est alors mieux organisé que l'ancien. Moins d'instructions signifie aussi moins d'effort pour l'exécuter. Donc plus l'organisation augmente, moins l'énergie est consommée.

En fait c'est plus subtil que ça : pour un nombre infini de programmes il n'est pas possible de prouver celui qui va réaliser une fonction le plus rapidement possible. Le problème caché derrière est celui de l'arrêt. Comme on ne peut pas prouver de manière générale qu'un programme va s'arrêter (et qu'on ne peut pas non plus prouver de manière générale qu'un programme correspond bien à l'implantation d'une fonction calculable : cf Théorème de Rice) alors il se pourrait qu'un petit programme implante en fait la fonction qu'on cherche à coder mais comme il tourne .... indéfiniment on n'aura jamais la certitude qu'un jour il ne finira pas avec la bonne solution.

 

Ce n'est pas un problème lié à l'économie d'énergie ou d'espace de calcul car moins d'instruction ne veut pas dire nécessairement moins de caclul : si mon programme est

While true do x:=x+1

il va tourner de manière infinie et donc demande une quantité d'énergie infinie en ne faisant qu'une ligne, de plus comme l'entier augmente il faudra une place infinie pour le stocker.

 

Cela dit on peut prouver la minimalité (au sens de la taille du programme : ça s'appelle la complexité de Kolmogorov) de petits programmes mais juste pour un nombre fini d'entre eux.

 

Peut être que ce que tu cherches est mieux expliqué par la notion de profondeur logique de Benett : ça capture mieux l'idée de complexité organisée. En gros il s'agit du temps de calcul pris à partir de la représentation la plus petite. Typiquement l'effort de passer de l'ADN à un être vivant, ou l'interprétation d'une partition par un orchestre.

Lien vers le commentaire
il y a 21 minutes, L'affreux a dit :

Ce que je suggère, c'est que la course à la complexité du monde vivant n'enfreint pas forcément la nature de l'inerte. Il y a peut-être une continuité. Cela dit mon intuition et mon souvenir sont mal ficelés.

Une piste (très prometteuse ama) : https://uplib.fr/wiki/Origine_de_la_vie#Jeremy_England

TL;DR: le darwinisme concerne déjà le monde non-vivant.

Et René Thom aussi bien sûr.

 

  • Yea 1
Lien vers le commentaire
Il y a 15 heures, Rübezahl a dit :

Une piste (très prometteuse ama) : https://uplib.fr/wiki/Origine_de_la_vie#Jeremy_England 

 

Merci pour la découverte. Cet article notamment. Mais ça m'étonne que l'incitation à augmenter la dissipation de l'énergie puisse guider vers de l'organisation. Si c'est pour dissiper l'énergie, les modèles les moins élaborés font mieux que ceux plus avancés.

@Kassad en avais-tu entendu parler ?

 

EDIT : En fait non, c'est cohérent. Les vieux modèles dissipent effectivement plus d'énergie pour exécuter une même fonction, mais la fonction n'est pas le but, juste un moyen, puisque la dissipation reste le but. Par exemple les voitures de 2018 consomment moins d'essence par kilomètre parcouru que celles de 1968, mais l'organisation appelle la réplication, le nombre de voitures a augmenté et la consommation d'essence en 2018 est supérieure à celle de 1968 donc l'objectif est bien réalisé.

  • Yea 1
Lien vers le commentaire

Je cite explicitement René Thom :

"En réalité, si on regarde de près la démonstration du second principe de la thermodynamique, il n'y a absolument rien qui permette d'affirmer que la variation de l'entropie soit nécessairement liée à une évolution vers un état chaotique." - René Thom (p. 41)

 

ama, tout est dit là. Et par un type très intelligent, dans son domaine de compétence où il a bossé presque toute sa vie.

Remarque qui en rejoint d'autres : le deuxième principe est un principe spatial "moyen", ie un principe statistique sur l'espace considéré, mais qui ne dit absolument rien de l'agencement particulier de cet espace.

 

Il est même malhonnête intellectuellement de faire dire au 2° principe plus que ce qu'il dit. C'est tenter de fourguer des croyances personnelles sous couvert d'une caution scientifique.

 

  • Yea 1
Lien vers le commentaire
il y a 9 minutes, L'affreux a dit :

Mais ça m'étonne que l'incitation à augmenter la dissipation de l'énergie puisse guider vers de l'organisation.

C'est l'inverse.

C'est justement l'organisation qui augmente la dissipation d'énergie,

car l'organisation (eg une cheminée qui se met en place) est dissipatrice d'énergie (en tant qu'effet de bord).

 

Le 2° principe est comme dit un principe moyen. Pas plus.

Ce n'est pas du tout incompatible avec une structure en chapeau mexicain, avec de l'organisation au centre et du chaos en périphérie immédiate.

L'organisation centrale étant précisément alimentée par les produits du chaos en périphérie.

 

  • Yea 1
Lien vers le commentaire
il y a 8 minutes, Rübezahl a dit :

Remarque qui en rejoint d'autres : le deuxième principe est un principe spatial "moyen", ie un principe statistique sur l'espace considéré, mais qui ne dit absolument rien de l'agencement particulier de cet espace.

 

Un peu comme un tourbillon qui est une manière organisée de transférer un fluide dans le but de le répartir uniformément plus rapidement.

Finalement la vie est un tourbillon, utile et éphémère.

Cette idée a aussi des implications sur l'écologisme, qui n'est plus la défense de la nature en général, mais qui ressemblerait plutôt à une rébellion du vivant sur l'ordre naturel des choses.

Lien vers le commentaire
il y a 29 minutes, L'affreux a dit :

... rébellion du vivant sur l'ordre naturel des choses.

de fait, il y a simultanément :

- augmentation de la complexité (qui en apparence augmenterait la fragilité)

- et en même temps, on voit très bien que l'augmentation de la complexité augmente bel et bien la taille/bassin de la zone de survie (*)

 

Et ça, ça s'illustre quotidiennement. C'est la vie de tous les jours. Pour les hommes, les bêtes, les végétaux.

 

Je me chauffe avec une chaufferette électrique merdeuse et fragile ... et pourtant cela augmente bel et bien ma propre survie (au moins momentanément).

 

Sur un bout de terrain mal fichu, une pompe électrique +un groupe électrogène, c'est très nettement de la complexité en plus (et de la fragilité)

... et pourtant ça va faire plus que donner un coup de main énorme à la végétation (au moins momentanément),

ça va carrément permettre de créer ce qui serait impossible autrement.

 

Toute l'histoire humaine, ce n'est que cela.

Une suite de courte-échelles entre, un coup de complexité en plus, de la survie gagnée et mieux assise, et hop goto 1.

(On peut voir ça comme une fuite en avant, mais ama cette fuite en avant n'est que l'inéluctable 3° étage de la fusée.

Une fois qu'une structure dynamique est stable, il est inévitable qu'elle serve elle-même de base à la poursuite (aléatoire ou pas) de l'exploration de l'espace des états, et à dégoter d'autres dynamiques stables).

 

(*) : c'est entre autres développé (un peu) par Gilbert Chauvet. Malheureusement, il n'a semble-t-il pas produit de modèle réellement quantitatif de ce fait.

 

Lien vers le commentaire
Il y a 2 heures, L'affreux a dit :

Mais ça m'étonne que l'incitation à augmenter la dissipation de l'énergie puisse guider vers de l'organisation.

Dans une casserole sur le feu, une cellule de convection est une structure auto-organisée permettant une meilleure dissipation de l'énergie thermique (merci à mes vieilles lectures de Prigogyne). ;)

  • Yea 1
Lien vers le commentaire

Créer un compte ou se connecter pour commenter

Vous devez être membre afin de pouvoir déposer un commentaire

Créer un compte

Créez un compte sur notre communauté. C’est facile !

Créer un nouveau compte

Se connecter

Vous avez déjà un compte ? Connectez-vous ici.

Connectez-vous maintenant
×
×
  • Créer...