Définition

Définition et périmètre

Un travail théorique a montré que, dès lors que deux groupes ont des taux de base de récidive différents, il est mathématiquement impossible de satisfaire simultanément l’égalité des taux d’erreur entre groupes et l’égalité de la valeur prédictive positive, ce qui explique pourquoi deux camps peuvent avoir raison sur le plan mathématique tout en tirant des conclusions opposées. Une étude ultérieure a montré que des personnes sans expertise, à qui l’on présente un bref résumé de sept caractéristiques d’un accusé, prédisent la récidive avec une exactitude comparable à celle de COMPAS.Angwin · Flores, 2016

Cette notion décrit un fonctionnement possible, dont l’intensité et les effets varient selon la situation. La reconnaître suppose d’examiner ce qui la déclenche, la fonction qu’elle prend et ce qu’elle produit dans le temps, plutôt que de s’arrêter à une conduite isolée.Angwin · Flores, 2016

Comprendre

Mécanisme et fonction

Outil actuariel de prédiction du risque dépend de la manière dont l’information est sélectionnée, interprétée et maintenue disponible. Le processus peut être rapide ou réfléchi, volontaire ou partiellement automatique ; ces dimensions doivent être distinguées avant de lui attribuer une cause unique.Flores, 2016 · Kleinberg, 2017 · Dressel, 2018

Son caractère utile ou coûteux dépend moins de sa simple présence que de sa fréquence, de sa souplesse et de son ajustement au contexte. Un fonctionnement ponctuel peut soutenir l’adaptation ; le même fonctionnement, devenu automatique ou exclusif, peut réduire les possibilités de réponse.Flores, 2016 · Kleinberg, 2017 · Dressel, 2018

Observer

Formes et variations

Les exemples rendent la notion plus concrète sans en faire une règle générale. Un même comportement peut remplir une autre fonction dans une autre situation.Flores, 2016 · Kleinberg, 2017 · Dressel, 2018

  • COMPAS utilise jusqu’à cent trente-sept variables d’entrée, mais un modèle combinant seulement l’âge et le nombre d’antécédents atteint une performance similaire.
  • Un outil peut être simultanément équitable selon une définition statistique et biaisé selon une autre, sans qu’aucune des deux parties n’ait calculé faux.
Flores, 2016 · Kleinberg, 2017 · Dressel, 2018

Distinguer

Notions proches et limites

Outil actuariel de prédiction du risque est notamment rapproché de Psychopathie et Récidive. Ces relations signalent des recouvrements possibles, pas des synonymes : deux notions peuvent produire des conduites semblables tout en différant par leur déclencheur, leur fonction ou leur temporalité.Kleinberg, 2017 · Dressel, 2018

La notion devient peu informative lorsqu’elle est utilisée comme une étiquette globale. Elle gagne au contraire en précision lorsqu’on peut décrire les situations où elle apparaît, les changements qui la modifient et les observations qui contrediraient l’hypothèse.Flores, 2016 · Kleinberg, 2017 · Dressel, 2018

Références

  1. Angwin, J., Larson, J., Mattu, S., & Kirchner, L. (2016, May 23). Machine bias. ProPublica.
  2. Dressel, J., & Farid, H. (2018). The accuracy, fairness, and limits of predicting recidivism. Science Advances, 4(1), eaao5580.
  3. Flores, A. W., Bechtel, K., & Lowenkamp, C. T. (2016). False positives, false negatives, and false analyses: A rejoinder to “Machine bias: There’s software used across the country to predict future criminals. And it’s biased against blacks.” Federal Probation, 80(2), 38–46.
  4. Kleinberg, J., Mullainathan, S., & Raghavan, M. (2017). Inherent trade-offs in the fair determination of risk scores. In Proceedings of the 8th Innovations in Theoretical Computer Science Conference (ITCS 2017).

Dernière révision documentaire : septembre 2026.