Mind Makes Right

[Taranne]

Mind Makes Right

Brain damage, evolution, and the future of morality.

By William Saletan

Posted Saturday, March 31, 2007, at 8:35 AM ET

Imagine that killers have invaded your neighborhood. They're in your house, and you and your neighbors are hiding in the cellar. Your baby starts to cry. If you had to press your hand over the baby's face till it stopped fighting—if you had to smother it to save everyone else—would you do it?

If you're normal, you wouldn't, according to a study published last week in Nature. But if part of your brain were damaged—the ventromedial prefrontal cortex—you would. In the study, people were given hypothetical dilemmas: Would you throw a fatally injured person off a lifeboat to save everyone else? Would you kill a healthy hostage? Most normal people said no. Most people with VMPC damage said yes.

It's easy to dismiss the damaged people as freaks. But the study isn't really about them. It's about us. Neuroscience is discovering that the brain isn't a single organ. It's an assembly of modules that sometimes cooperate and sometimes compete. If you often feel as though two parts of your brain are fighting it out, that's because, in fact, they are.

Some of those fights are about morality. Maybe abortion grosses you out, but you'd rather keep it safe and legal. Or maybe homosexuality sounds icky, but you figure it's nobody's business. Emotion tells you one thing; reason tells you another. Often, the reasoning side makes calculations: Letting old people die is tragic, but medical dollars are better spent on saving kids. Throwing the wounded guy off the lifeboat feels bad, but if it will save everyone else, do it.

Philosophers have a name for this calculating logic: utilitarianism. They've been debating it for 200 years. Some says it's sensible; others say it's ruthless. Lately, however, the debate has been overrun by neuroscience. According to the neuroscientists, philosophers on both sides are wrong, because morality doesn't come from God or transcendent reason. It comes from the brain.

Three years ago in the journal Neuron, the neuroscientists illustrated their point. Using brain scans, they showed that utilitarian decisions involved "increased activity in brain regions associated with cognitive control." From this and other data, they surmised that the moral debate "reflects an underlying tension between competing subsystems in the brain." On one side are "the social-emotional responses that we've inherited from our primate ancestors." On the other side is a utilitarian calculus "made possible by the more recently evolved structures in the frontal lobes." The war of ideas is a war of neurons.

That's where the new study comes in. The idea was to find out what happens when the emotional side, through the VMPC, gets knocked out. As predicted, calculation takes over. Take a kidney? Kill your son? Push a guy in front of a trolley? If it'll save more lives, sure.

Some of the study's authors think this finding vindicates emotions. Since people with VMPC damage are "abnormally 'utilitarian,' " they argue, emotions are necessary to produce "normal judgments of right and wrong." In fact, the authors add, "By showing that humans are neurologically unfit for strict utilitarian thinking, the study suggests that neuroscience may be able to test different philosophies for compatibility with human nature."

In other words, brain science has discredited religion and philosophy, but don't worry: Morality won't disappear. Brain science is offering itself as the new authority. What's moral, in the new world, is what's normal, natural, necessary, and neurologically fit.

The catch is that what's normal, natural, necessary, and neurologically fit can change. In fact, it has been changing throughout history. As our ancestors adapted from small, kin-based groups toward elaborate nation-states, the brain evolved from reflexive emotions toward the abstract reasoning power that gave birth, in this millennium, to utilitarianism. The full story is a lot more complicated, but that's the rough outline.

And evolution doesn't stop here. Look around you. The world of touch, tribe, and taboo is fading. Acceptance of homosexuality is spreading at an amazing pace. Trade is supplanting war. Democracy and communications technology are forcing governments to promote the general welfare. Utilitarians welcome these changes, and so do I. But utility unchecked can become a monster. The Internet is liberating us from visual and physical contact. Economic globalization is crushing resistance to the bottom line. Companies are sending employees to get cheap medical care abroad. Brokers are buying organs in slums. In a utilitarian world, you do what it takes. It's all about helping people.

If you're out of step with this world—if you're too squeamish to slash the payroll or pull the plug—we can help. Books by neuroscientists, including some involved in the Nature and Neuron studies, will teach you the appeal of utilitarianism and the illogic of your aversions to it. If that doesn't work, maybe we can tweak your brain. Two months ago, when research showed that damage to another area of the brain could help people quit smoking, scientists inferred that therapy in that area might achieve the same happy result without the damage. Why not target the VMPC in a similar way? We won't even need drugs. Last year, psychologists proved they could boost people's willingness to kill in a utilitarian dilemma just by showing them a five-minute clip from Saturday Night Live.

Not that we want you to go around killing people. At least, not until you join the military. Five years ago, in a government report, scientists proposed using microscopic technology to screen the brains of soldiers for emotional interference. Today, the Neurotechnology Industry Organization is lobbying for a federal initiative to study the ethics as well as the mechanics of brain science. "Right now, we're discovering the seat of morality," warns NIO President Zack Lynch. "In 10 to 15 years, we'll have the technologies to manipulate it."

But there's the other catch: Once technology manipulates ethics, ethics can no longer judge technology. Nor can human nature discredit the mentality that shapes human nature. In a utilitarian world, what's neurologically fit is utilitarianism. It'll become the norm, the standard of right and wrong. Sure, a few mental relics of our primate ancestry will be lost. But it'll be worth it. I think.

A version of this article also appears in the Outlook section of the Sunday Washington Post.

William Saletan is Slate's national correspondent and author of Bearing Right: How Conservatives Won the Abortion War.

Article URL: http://www.slate.com/id/2162998/

[A.B.]

Il n'y a rien de deontologiquement mauvais à etouffer le bébé, pas besoin d'etre utilitariste. C'est affreux bien sur, mais acceptable.

[Legion]

Il est bien cet article : la preuve définitive que l'utilitarisme est une maladie mentale et que c'est les jusnaturalistes qui ont raison

[Sous-Commandant Marco]

Ca me fait penser à un article de Discover que j'ai lu le mois dernier. C'est une interview de Marc Hauser, un chercheur spécialisé dans les sciences cognitives qui affirme que la morale est peut-être codée en dur dans notre cerveau, un peu comme la grammaire universelle de Chomsky. Cependant, nous aurions une très grande liberté d'interprétation de cette morale.

Hauser prend deux exemples qui se rapprochent de ceux donnés dans l'article cité par Taranne:

-la plupart des gens trouvent moral d'aiguiller un train fou qui s'apprête à tuer 5 personnes vers une voie où il ne tuera qu'une personne,

-la plupart des gens trouvent immoral de prendre de force 5 organes à une personne en bonne santé pour sauver 5 malades.

[A.B.]

-la plupart des gens trouvent immoral de prendre de force 5 organes à une personne en bonne santé pour sauver 5 malades.

Il y a un utilitariste à la con dont le nom m'échappe qui défend la seconde option… Les utilitaristes intelligents reconaissent que des règles produisent des résultats. Ainsi, si la règle: "ne pas piquer les organes du type" existe, cela produit des bons résultats: i.e les gens peuvent aller chez le chirurgien sans prendre des précautions drastiques.

[José]

Il n'y a rien de deontologiquement mauvais à etouffer le bébé, pas besoin d'etre utilitariste. C'est affreux bien sur, mais acceptable.

Manifestement tu n'as pas compris que l'affaire ici ne concernait pas un quelconque problème déontologique, mais un cas de conscience face à un dilemme.

[pierreyves]

It's easy to dismiss the damaged people as freaks. But the study isn't really about them. It's about us. Neuroscience is discovering that the brain isn't a single organ. It's an assembly of modules that sometimes cooperate and sometimes compete. If you often feel as though two parts of your brain are fighting it out, that's because, in fact, they are.

Et hop, c'est bien connu, chaque individu est lieu de conflit entre ses propres organes …

Three years ago in the journal Neuron, the neuroscientists illustrated their point. Using brain scans, they showed that utilitarian decisions involved "increased activity in brain regions associated with cognitive control." From this and other data, they surmised that the moral debate "reflects an underlying tension between competing subsystems in the brain." On one side are "the social-emotional responses that we've inherited from our primate ancestors." On the other side is a utilitarian calculus "made possible by the more recently evolved structures in the frontal lobes." The war of ideas is a war of neurons.

Ah tiens, un brin d'evopsy…

Some of the study's authors think this finding vindicates emotions. Since people with VMPC damage are "abnormally 'utilitarian,' " they argue, emotions are necessary to produce "normal judgments of right and wrong." In fact, the authors add, "By showing that humans are neurologically unfit for strict utilitarian thinking, the study suggests that neuroscience may be able to test different philosophies for compatibility with human nature."

In other words, brain science has discredited religion and philosophy, but don't worry: Morality won't disappear. Brain science is offering itself as the new authority. What's moral, in the new world, is what's normal, natural, necessary, and neurologically fit.

Les sciences cognitives sans connaissance en philosophie libérale… ça fait peur.

[Ronnie Hayek]

Les sciences cognitives sans connaissance en philosophie libérale… ça fait peur.

Pourquoi ? Pour être un bon cognitiviste, il faut être savant en libéralisme ? La théorie libérale serait donc la Science absolue, le Système de la Logique ?

[pierreyves]

Il est bien cet article : la preuve définitive que l'utilitarisme est une maladie mentale et que c'est les jusnaturalistes qui ont raison

Manifestement tu n'as pas compris que l'affaire ici ne concernait pas un quelconque problème déontologique, mais un cas de conscience face à un dilemme.

Il n'y a normalement pas de dilemme, et le cas de conscience reflète l'incapacité de l'acteur à choisir dans une situation où il est perdant. C'est bien un problème déontologique donc.

Si on considère que l'individu ne va pas réussir à solutionner le problème déontologique, alors il y a dilemme… et là le type a toutes les chances de se rendre coupable de qqchose.

D'ailleurs, je doute de la valeur d'une telle étude : impossible de réellement savoir ce que l'individu peut choisir sans qu'il soit réellement en situation.

[LaFéeC]

N'y a t'il pas d'autre alternative que d'étouffer le bébé ? Je sais pas moi, lui coller le sein de la voisine dans le bec !

[h16]

N'y a t'il pas d'autre alternative que d'étouffer le bébé ? Je sais pas moi, lui coller le sein de la voisine dans le bec !

Vu la voisine, ça revient à l'étouffer.

[José]

…à solutionner le problème…

Aaarrghhh… mes yeux… mes pauvres yeux…

[DiabloSwing]

Oui il aurait du employer le verbe résolver.

[José]

[Nick de Cusa]

Ah tiens, un brin d'evopsy…

Ah tiens, un brin de cartésianisme…

[pierreyves]

Ah tiens, un brin de cartésianisme…

? J'imagine que c'est péjoratif.

Pourquoi ? Pour être un bon cognitiviste, il faut être savant en libéralisme ? La théorie libérale serait donc la Science absolue, le Système de la Logique ?

Quand je vois de brillantes conclusions comme "The war of ideas is a war of neurons.", j'aimerais que les cognitivistes lisent un peu plus Hayek.

Pour faire taire les critiques de "cartésianisme", voici une autre critique qu'on pourrait opposer à ce texte : l'utilitarisme n'est pas à strictement parler la "la logique du calcul"…

Philosophers have a name for this calculating logic: utilitarianism.

Aaarrghhh… mes yeux… mes pauvres yeux…

C'est le mot ou le concept que tu critiques ?

Si c'est le concept je suis surpris…

[Ronnie Hayek]

C'est le mot ou le concept que tu critiques ?

Si c'est le concept je suis surpris…

"Solutionner" est un barbarisme de la plus belle eau; tu aurais dû écrire "résoudre"…

[Nick de Cusa]

Ah tiens, un brin d'evopsy…

? J'imagine que c'est péjoratif.

[pierreyves]

"Solutionner" est un barbarisme de la plus belle eau; tu aurais dû écrire "résoudre"…

Ca me rassure, c'était donc une nouvelle tentative de faire dévier le débat des bonnes résolutions…

[pierreyves]

? J'imagine que c'est péjoratif.

Pas même, c'était factuel dans ce cas. Un exemple typique d'usage absurde de conclusions évolutionistes ; je ne crois pas caricaturer en résumant leur argumentation ainsi :

. le cerveau est le fruit d'une évolution

. certaines de ses parties se sont développées plus récemment que d'autres, ainsi le cerveau émotionnel est plus archaïque que le cerveau utilitariste

. ces deux parties du cerveau sont en conflit évolutif: "The war of ideas is a war of neurons"

. on peut ainsi invalider certaines théories philosophiques a priori à partir de la succession des structures physiologiques : les plus récentes sont les plus "évoluées".

Ce que ces scientifiques du dimanche font, c'est définir ce qu'est l'homme à partir de ce qu'il a été… pathétique :

In other words, brain science has discredited religion and philosophy, but don't worry: Morality won't disappear. Brain science is offering itself as the new authority. What's moral, in the new world, is what's normal, natural, necessary, and neurologically fit.

Je suis d'ailleurs surpris que ceux qui m'accusent de scientisme ne voient pas combien le paragraphe ci-dessus est scientiste.

Sa conclusion est tellement grosse que l'auteur ne peut s'empêcher de voir plus loin :

The catch is that what's normal, natural, necessary, and neurologically fit can change. In fact, it has been changing throughout history.

Il passe donc du scientisme au relativisme…

Le reste de l'article n'est pas meilleur.

[Punu]

Dans le même genre : "Je suis émotionné."

[Boz]

Pas même, c'était factuel dans ce cas. Un exemple typique d'usage absurde de conclusions évolutionistes ; je ne crois pas caricaturer en résumant leur argumentation ainsi :

. le cerveau est le fruit d'une évolution

. certaines de ses parties se sont développées plus récemment que d'autres, ainsi le cerveau émotionnel est plus archaïque que le cerveau utilitariste

. ces deux parties du cerveau sont en conflit évolutif: "The war of ideas is a war of neurons"

. on peut ainsi invalider certaines théories philosophiques a priori à partir de la succession des structures physiologiques : les plus récentes sont les plus "évoluées".

Y a t-il une émoticône pour symboliser un profond soupir de découragement ?

[pierreyves]

Y a t-il une émoticône pour symboliser un profond soupir de découragement ?

As tu des mots plutôt que des soupirs pour exprimer une idée compréhensible ?

[Boz]

As tu des mots plutôt que des soupirs pour exprimer une idée compréhensible ?

C'est simple : tu n'as strictement rien compris à l'evopsy.

[Patrick Smets]

Ca me fait penser à un article de Discover que j'ai lu le mois dernier. C'est une interview de Marc Hauser, un chercheur spécialisé dans les sciences cognitives qui affirme que la morale est peut-être codée en dur dans notre cerveau, un peu comme la grammaire universelle de Chomsky. Cependant, nous aurions une très grande liberté d'interprétation de cette morale.

Ce qui m'intrigue toujours (et me fait un peu peur) dans ce genre de théorie, c'est comment on traite les variations génétiques.

Si il y a vraiment un grammaire universelle génétiquement codée, a-t-on des observations de fautes gramaticales génétiquement déterminées ? Sinon, pourquoi n'y a-t-il pas d'allèles altérées sur les zones qui codent pour la gramaire ?

Même chose pour la morale. Si elle est génétiquement déterminée (même seulement dans ses grandes lignes), que se passe-t-il avec les mutations génétiques inévitables ? Y a-t-il des individus génétiquement incapable de moralité ? Comment faut-il alors les traiter ? Les différences morales entre différentes peuplades sont-elles génétiquement déterminées ? La morale ne peut donc pas être universelle, mais,alors, est-ce qu'elle a encore un sens ?

[Boz]

Ce qui m'intrigue toujours (et me fait un peu peur) dans ce genre de théorie, c'est comment on traite les variations génétiques.

Si il y a vraiment un grammaire universelle génétiquement codée, a-t-on des observations de fautes gramaticales génétiquement déterminées ? Sinon, pourquoi n'y a-t-il pas d'allèles altérées sur les zones qui codent pour la gramaire ?

Même chose pour la morale. Si elle est génétiquement déterminée (même seulement dans ses grandes lignes), que se passe-t-il avec les mutations génétiques inévitables ? Y a-t-il des individus génétiquement incapable de moralité ? Comment faut-il alors les traiter ? Les différences morales entre différentes peuplades sont-elles génétiquement déterminées ? La morale ne peut donc pas être universelle, mais,alors, est-ce qu'elle a encore un sens ?

Cela tiendrait s'il n'y avait qu'un ou quelques gènes responsables de la moralité. Tout porte à croire au contraire qu'il y en a beaucoup et qu'ils interviennent à plusieurs niveaux différents, vu l'importance de la chose dans la nature humaine.

Ceci dit, c'est une bonne question. Faudrait voir plus en détail.

[Patrick Smets]

Cela tiendrait s'il n'y avait qu'un ou quelques gènes responsables de la moralité. Tout porte à croire au contraire qu'il y en a beaucoup et qu'ils interviennent à plusieurs niveaux différents, vu l'importance de la chose dans la nature humaine.

Ca ne change pas grand chose. Beaucoup de traits phénotypiques sont codés par un grand nombre de gènes en interaction et, justement de ce fait, ils donnent d'inombrables variations individuelles. Appliqué à la morale, ca me fait peur.

Ceci dit, c'est une bonne question. Faudrait voir plus en détail.

de fait, on n'a pas tous les éléments en main.

Ceci étant, pour la théorie chomskinnienne du langage, j'avais un peu cherché et je n'avais rien trouvé sur ce thème.

[melodius]

Même chose pour la morale. Si elle est génétiquement déterminée (même seulement dans ses grandes lignes), que se passe-t-il avec les mutations génétiques inévitables ? Y a-t-il des individus génétiquement incapable de moralité ? Comment faut-il alors les traiter ? Les différences morales entre différentes peuplades sont-elles génétiquement déterminées ? La morale ne peut donc pas être universelle, mais,alors, est-ce qu'elle a encore un sens ?

D'abord, je ne vois pas très bien comment tu peux déduire de variations entre individus des variations entre populations. Il y a là à tout le moins un stade intermédiaire qui manque. Le propre du droit naturel, c'est par ailleurs précisément d'être universel. Je crois que les faits démontrent que cela correspond à une réalité et suis donc extrèmement sceptique au sujet de l'existence de "différences morales entre différentes peuplades" lorsqu'il s'agit de règles de base. Enfin, les détraqués, ça existe. S'il est nécessaire d'imposer des règles de vie en société, c'est bien parce que tout le monde ne les respecte pas naturellement.

Ceci étant, pour la théorie chomskinnienne du langage, j'avais un peu cherché et je n'avais rien trouvé sur ce thème.

http://en.wikipedia.org/wiki/Noam_Chomsky#…_to_linguistics

[Patrick Smets]

Certes !

Quel est le rapport avec ce dont nous discuttons ?

[melodius]

La théorie "chomskinienne" du langage a été développée par Chomsky.