Effective altruism

[Cthulhu]

Je déterre (un peu) le topic parce que Scott Alexander vient de sortir un article en défense de l'EA: https://www.astralcodexten.com/p/in-continued-defense-of-effective

 

Comme on en discutait sur le fil ChatGPT, le mouvement est devenu très impopulaire après l'épisode SBF et leur impact sur OpenAI n'a fait qu'empirer la situation.

 

Steven Pinker par exemple:

 

 

Je suis assez d'accord avec lui, mais j'irais même plus loin en notant que beaucoup de AI doomers ne comprennent pas grand chose à la technologie (pas une grande surprise, j'ai l'habitude avec les cryptos).

 

Scott Alexander essaye de faire passer la pilule dans son article en disant que c'est une coalition et qu'il y a forcément des trucs biens et des trucs moins biens, mais ça me semble oublier l'objectif original de l'EA qui était de promouvoir des solutions efficaces de charité et pas de s'éparpiller sur plein de sujets annexes.

[Lancelot]

Au fond il s'agit d'un problème de limitation de la connaissance qu'on peut raisonnablement avoir sur tous les problèmes du monde et donc de confiance en l'expertise (et la bonne foi) de quelqu'un d'autre. La prémisse du truc c'est "tu veux faire le bien mais tu ne sais pas comment dépenser ton argent au mieux pour le faire de manière optimale, mais rassure-toi car moi je suis au courant, je vais t'expliquer exactement quels problèmes sont prioritaires et te dire où payer, trust me bro". De mon point de vue c'est la porte ouverte à toutes les escroqueries possibles, ou au mieux à des situations comme des "AI doomers ne comprennent pas grand chose à la technologie" mais religieusement convaincus de leur point de vue par des figures d'autorité. Où est réellement le progrès là dedans à part que le mysticisme religieux est transformé en mysticisme mathématique (ce qui était déjà le cas avec l'utilitarisme 1.0) ?

[Rincevent]

Il y a 2 heures, Lancelot a dit :

le mysticisme religieux est transformé en mysticisme mathématique (ce qui était déjà le cas avec l'utilitarisme 1.0)

This, this, this.

[Sloonz]

6 hours ago, Lancelot said:

La prémisse du truc c'est "tu veux faire le bien mais tu ne sais pas comment dépenser ton argent au mieux pour le faire de manière optimale, mais rassure-toi car moi je suis au courant, je vais t'expliquer exactement quels problèmes sont prioritaires et te dire où payer, trust me bro".

Non.

[Bézoukhov]

Il y a 18 heures, Cthulhu a dit :

Scott Alexander essaye de faire passer la pilule dans son article en disant que c'est une coalition et qu'il y a forcément des trucs biens et des trucs moins biens, mais ça me semble oublier l'objectif original de l'EA qui était de promouvoir des solutions efficaces de charité et pas de s'éparpiller sur plein de sujets annexes.

 

Ben c'est surtout que l'EA se vendait comme une philosophie. Et que c'est tellement pas philosophique que même ici on arrive pas à en faire plus de deux pages.

 

D'ailleurs, son article m'a plus fait penser à une présentation McKinsey qu'autre chose.

[Cthulhu]

il y a 12 minutes, Bézoukhov a dit :

D'ailleurs, son article m'a plus fait penser à une présentation McKinsey qu'autre chose.

 

Harsh but true