Justice et algorithmes : SOS Bonheur?

[Cortalus]

Le 13/02/2018 à 18:03, Fagotto a dit :

La hiérarchie des peines à la française c'est le truc incompréhensible qui fait que moins de gens ont confiance en elle (avec la longueur des procédures), on entend très souvent des histoires comme ça et par contre les prisons n'ont jamais été aussi surchargées... allez comprendre.

 

Il y a un passage de Kahneman dans Système 1 / Système 2 sur cette problématique. Il concluait que des algorithmes produiraient des peines plus équitables pour les condamnés avec une hiérarchie plus compréhensible par le citoyen.

 

Mais en France on a le dogme de l'individualisation des peines.

[PABerryer]

Il y a 2 heures, Flashy a dit :

Mouais. J'attends de voir la tronche des algorithmes. 

 

[Tramp]

De l'autre côté, on sait que les juges sont plus sévères avant les repas...

[Cortalus]

Il y a 2 heures, Tramp a dit :

De l'autre côté, on sait que les juges sont plus sévères avant les repas...

 

C'est un des sujets sur lesquels a travaillé Kahneman, notamment en étudiant les audiences de libération conditionnelle en Israël : la sévérité des juges est davantage corrélée avec le temps passé depuis la dernière collation qu'avec les caractéristiques de l'espèce.

[Mégille]

HS total : ce qui serait intéressant aussi avec une justice-machine (ou, disons, avec une justice très fortement assistée par l'outil informatique), c'est que ça permet d'imaginer des blockchains d'ordinateurs-tribunaux, et avec eux, une justice autonome, complètement décentralisée, tout en étant la même pour tous.

[Marlenus]

13 minutes ago, Mégille said:

HS total : ce qui serait intéressant aussi avec une justice-machine (ou, disons, avec une justice très fortement assistée par l'outil informatique), c'est que ça permet d'imaginer des blockchains d'ordinateurs-tribunaux, et avec eux, une justice autonome, complètement décentralisée, tout en étant la même pour tous.

S.O.S.  Bonheur.

 

 

Je viens de voir qu'il y a une nouvelle série qui est sortie. Vais voir ce qu'elle donne.

[Mathieu_D]

27 minutes ago, Mégille said:

HS total : ce qui serait intéressant aussi avec une justice-machine (ou, disons, avec une justice très fortement assistée par l'outil informatique), c'est que ça permet d'imaginer des blockchains d'ordinateurs-tribunaux, et avec eux, une justice autonome, complètement décentralisée, tout en étant la même pour tous.

Pourquoi une blockchain et pas juste une base de données avec les jugements  ? 

[PABerryer]

La Justice est une affaire humaine, avec ses avantages et inconvénients. Faire intervenir la machine ma rappelle l'utopie revolutionnaire de faire du juge la simple bouche de la Loi, comme si le texte se suffisait à lui même. Évidement cela n'a pas tenu. L'Humain est trop complexe pour arriver à rendre la Justice par le biais d'une machine.

[Johnnieboy]

il y a 45 minutes, PABerryer a dit :

La Justice est une affaire humaine, avec ses avantages et inconvénients. Faire intervenir la machine ma rappelle l'utopie revolutionnaire de faire du juge la simple bouche de la Loi, comme si le texte se suffisait à lui même. Évidement cela n'a pas tenu. L'Humain est trop complexe pour arriver à rendre la Justice par le biais d'une machine.

 

 

Ça dépend de la machine.

[Flashy]

il y a 5 minutes, Johnnieboy a dit :

 

 

Ça dépend de la machine.

 

ça dépend du programme et de qui le programme, surtout.

[0100011]

17 minutes ago, Johnnieboy said:

Ça dépend de la machine.

 

  Le problème des machines est qu'elles fonctionnent assez bien pour les problèmes clos quand tout est bien défini (type les échecs ou le go). C'est très exactement ce qu'on ne veut pas en justice. Cette dernière doit être ouverte sinon ça veut dire que l'approche est préventive :pour garder le monde clos on interdit ce qui n'est pas prévu. Et donc on passe d'une conception ouù tout ce qui n'est pas interdit est permis à une autre où tout ce qui n'est pas explicitement autorisé est interdit. Je pense qu'il n'y a rien de plus liberticide.

[Cortalus]

Voici les résumés de deux études citées par Kahneman dans Système 1 / Système 2 au sujet des biais cognitifs et des facteurs externes non pertinents qui affectent lourdement les sentences prononcées par les juges :

• Birte Englich, Thomas Mussweiler & Fritz Strack, « Playing Dice with Criminal Sentences : The Influence of Irrelevant Anchors on Experts' Judicial Decision Making », Personality and Social Psychology Bulletin 32, 2006, p. 188-200 :

Citation

Judicial sentencing decisions should be guided by facts, not by chance. The present research however demonstrates that the sentencing decisions of experienced legal professionals are influenced by irrelevant sentencing demands even if they are blatantly determined at random. Participating legal experts anchored their sentencing decisions on a given sentencing demand and assimilated toward it even if this demand came from an irrelevant source (Study 1), they were informed that this demand was randomly determined (Study 2), or they randomly determined this demand themselves by throwing dice (Study 3). Expertise and experience did not reduce this effect. This sentencing bias appears to be produced by a selective increase in the accessibility of arguments that are consistent with the random sentencing demand: The accessibility of incriminating arguments was higher if participants were confronted with a high rather than a low anchor (Study 4). Practical and theoretical implications of this research are discussed.

• Danziger, Levav & Avnaim-Pesso, « Extraneous Factors in Judicial Decisions », Proceedings of the National Academy of Sciences of the United States of America, février 2011 :

Citation

Are judicial rulings based solely on laws and facts? Legal formalism holds that judges apply legal reasons to the facts of a case in a rational, mechanical, and deliberative manner. In contrast, legal realists argue that the rational application of legal reasons does not sufficiently explain the decisions of judges and that psychological, political, and social factors influence judicial rulings. We test the common caricature of realism that justice is “what the judge ate for breakfast” in sequential parole decisions made by experienced judges. We record the judges’ two daily food breaks, which result in segmenting the deliberations of the day into three distinct “decision sessions.” We find that the percentage of favorable rulings drops gradually from ≈65% to nearly zero within each decision session and returns abruptly to ≈65% after a break. Our findings suggest that judicial rulings can be swayed by extraneous variables that should have no bearing on legal decisions.

 

La littérature scientifique sur le sujet est assez vaste. Pour un petit article de synthèse, accessible online, je suggère Eyal Peer & Eyal Gamliel, « Heuristics and Biases in Judicial Decisions », Court Review, Vol. 49, no. 2 (2013).

[Lameador]

14 hours ago, PABerryer said:

 

Je trouve l'idéologie derrière ce cartoon assez vomitive.

 

10 hours ago, Cortalus said:

 

C'est un des sujets sur lesquels a travaillé Kahneman, notamment en étudiant les audiences de libération conditionnelle en Israël : la sévérité des juges est davantage corrélée avec le temps passé depuis la dernière collation qu'avec les caractéristiques de l'espèce.

Sujet passionnant, la modération pourrait le forker ?

Je n'ai pas l'expérience d'avocat pénaliste de certains, mais je suis totalement certain que cette information peut être d'une grande utilité pour un avocat ambitieux.

 

1 hour ago, PABerryer said:

La Justice est une affaire humaine, avec ses avantages et inconvénients. Faire intervenir la machine ma rappelle l'utopie revolutionnaire de faire du juge la simple bouche de la Loi, comme si le texte se suffisait à lui même. Évidement cela n'a pas tenu. L'Humain est trop complexe pour arriver à rendre la Justice par le biais d'une machine.

Mouais. Disons plutôt que les juristes hurlent dès qu'on leur demande d'objectiver leur tambouille (dont les arrière cuisines ne sont pas forcément reluisantes).

[Johnnieboy]

il y a une heure, Flashy a dit :

 

ça dépend du programme et de qui le programme, surtout.

 

Vrai ! On pourrait d'ailleurs imaginer un système mixte.

[PABerryer]

il y a 3 minutes, Johnnieboy a dit :

 

Vrai ! On pourrait d'ailleurs imaginer un système mixte.

 

Cela s'appelle un recueil de jurisprudence.

[Rincevent]

Il y a 4 heures, PABerryer a dit :

Cela s'appelle un recueil de jurisprudence.

Vu la densité de la jurisprudence, ce ne serait pas un luxe de l'informatiser.

 

Et note bien que je suis globalement horrifié par les propositions de justice algorithmique, mais sur ce point-là, c'est pertinent.

[NoName]

Ça s'appelle pas legifrance ? 

 

Enfin de toute façon la recherche juridique et la comparaison de jurisprudence c'est tôt déjà largement en cours d'automatisation je crois, sur le modèle Watson mais pour le droit

[Rincevent]

Voilà, Légifrance c'esr bien mais c'est quelques degrés en dessous de Watson. Ou pour le dire autrement, numérisation <> informatisation. 

[Flashy]

il y a 8 minutes, Rincevent a dit :

Voilà, Légifrance c'esr bien mais c'est quelques degrés en dessous de Watson. Ou pour le dire autrement, numérisation <> informatisation. 

 

Cela existe déjà. Cherche "IA Ross".

[PABerryer]

il y a 33 minutes, Rincevent a dit :

Vu la densité de la jurisprudence, ce ne serait pas un luxe de l'informatiser.

 

Et note bien que je suis globalement horrifié par les propositions de justice algorithmique, mais sur ce point-là, c'est pertinent.

 

Informatiser la jurisprudence de façon pertinente est une urgence. Laisser le sort d'un homme à une machine... Je prefererai commencer par procéder aux élections par ce moyen.

[poney]

Il y a 19 heures, Tramp a dit :

De l'autre côté, on sait que les juges sont plus sévères avant les repas...

 

Il y a 16 heures, Cortalus a dit :

 

C'est un des sujets sur lesquels a travaillé Kahneman, notamment en étudiant les audiences de libération conditionnelle en Israël : la sévérité des juges est davantage corrélée avec le temps passé depuis la dernière collation qu'avec les caractéristiques de l'espèce.

 

 

Il faut absolument mettre les juges au régime Low carb, j'en suis à 20h de jeune là et je ne ressens rien.

 

Ah merde c'est pas le bon fil.

[Zagor]

Remplacer les juges par des machines me parait risqué.

 

 

Il y a 5 heures, Lameador a dit :

 

 

Mouais. Disons plutôt que les juristes hurlent dès qu'on leur demande d'objectiver leur tambouille (dont les arrière cuisines ne sont pas forcément reluisantes).

Ceci dit étant doctorant dans une fac de droit, je peux vous confirmer que les juristes (y compris les universitaires) font preuve d'un fort corporatisme vis-a-vis des juges. A les entendre c'est l'Alpha et l'Omega du droit. On a l'impression que les normes produites legislatif, l'executif (et parfois même les activités humaines) doivent se soumettre aux juges. Et quand bien même les universitaires critiquent le gouvernement des juges, c'est juste une position de facade car tout dans leur discours vont dans le sens d'un rôle accru du juge.

[Tramp]

La sécurité juridique est l'ennemi de l'avocat.

[Mathieu_D]

Mmmmh, je vois bien un genre de sens de la justice émerger d'un réseau de neurones bien programmé. (bien entrainé surtout...)

Partant de là un verdict coupable/non coupable automatisé.

Ça me semble plus compliquet de quantifier la peine.

 

Faudrait voir ce que ça donnerait en vrai. De toutes façons in fine ce serait un homme qui prendrait la décision final au moins dans un premier temps.

[Brock]

Quote

compliquet

 

 

[Rincevent]

il y a 18 minutes, Mathieu_D a dit :

Mmmmh, je vois bien un genre de sens de la justice émerger d'un réseau de neurones bien programmé. (bien entrainé surtout...)

Partant de là un verdict coupable/non coupable automatisé.

Ça me semble plus compliquet de quantifier la peine.

Non, non et non. L'existence d'éléments nouveaux, de faits originaux dans beaucoup d'affaires juridiques est impossible à intégrer de manière satisfaisante dans une IA, qui n'a pas d'expérience de la vie pour comprendre ces faits (i.e. il est près précisément impossible d'entraîner une IA sur des choses qui ne sont encore jamais arrivées).

 

En revanche, une IA jurisprudentielle qui sortirait les affaires et décisions relatives selon les questions qu'on peut lui poser, ça c'est une vraie aide pour la justice.

[Mathieu_D]

Mmmmh on verra des choses de notre vivant de ce côté.

[Bézoukhov]

Il n'y a pas déjà Doctrine pour la jurisprudence en France ; c'est pas une IA, mais c'est plus poussé qu'un moteur de recherche si j'ai bien compris.

 

Sinon, j'avais entendu parler d'une startup concentrée sur les prud'hommes qui proposait un réseau de neurone qui estimait les dommages et intérêts probables. Faut que je retrouve la source (je me demande si c'est pas ce truc : http://caselawanalytics.com/), mais c'est plus du côté pré-contentieux que magistrat (oh, tiens, c'est Levy-Vehel qui fait les maths pour le truc, le big data a vraiment pillé les process stos).

 

Et je me rappelle avoir lu un article qui parlait de la justice prédictive aux US et de son impact sur les magistrats. Ce n'était pas tout rose mais c'était un peu franchouille comme article.

 

 

[Mobius]

9 hours ago, Johnnieboy said:

 

 

Ça dépend de la machine.

Je veux une IA Jabial + A.B.

[Johnnieboy]

il y a une heure, Mobius a dit :

Je veux une IA Jabial + A.B.

 

Ce sont déjà des IA.