Définition

Définition et périmètre

Les résultats de Kleinberg et ses collègues et de Chouldechova portent sur des conditions précises : notamment des groupes aux taux de base différents et un score calibré au sein de chaque groupe. Dans ce cadre, un score qui n’est pas parfait ne peut en général égaliser simultanément certaines mesures de valeur prédictive et certains taux d’erreur entre groupes. Le résultat ne décide pas quelle définition de l’équité doit être retenue, ni ne dispense d’examiner les données, les usages et les conséquences concrètes d’un outil comme COMPAS ; il rend explicite qu’un arbitrage normatif peut subsister même lorsque les calculs sont corrects.Kleinberg, 2017 · Chouldechova, 2017

Cette notion décrit un fonctionnement possible, dont l’intensité et les effets varient selon la situation. La reconnaître suppose d’examiner ce qui la déclenche, la fonction qu’elle prend et ce qu’elle produit dans le temps, plutôt que de s’arrêter à une conduite isolée.Kleinberg, 2017 · Chouldechova, 2017

Comprendre

Mécanisme et fonction

Compromis d’équité algorithmique dépend de la manière dont l’information est sélectionnée, interprétée et maintenue disponible. Le processus peut être rapide ou réfléchi, volontaire ou partiellement automatique ; ces dimensions doivent être distinguées avant de lui attribuer une cause unique.Chouldechova, 2017 · Angwin · Berk, 2021

Son caractère utile ou coûteux dépend moins de sa simple présence que de sa fréquence, de sa souplesse et de son ajustement au contexte. Un fonctionnement ponctuel peut soutenir l’adaptation ; le même fonctionnement, devenu automatique ou exclusif, peut réduire les possibilités de réponse.Chouldechova, 2017 · Angwin · Berk, 2021

Observer

Formes et variations

Les exemples rendent la notion plus concrète sans en faire une règle générale. Un même comportement peut remplir une autre fonction dans une autre situation.Chouldechova, 2017 · Angwin · Berk, 2021

  • Deux rapports publiés la même année sur COMPAS aboutissent à des conclusions opposées sur son caractère biaisé, chacun ayant raison selon sa propre définition statistique de l’équité.
  • Un régulateur qui impose l’égalité des taux de faux positifs entre deux groupes aux taux de base différents renonce mécaniquement à l’égalité de la valeur prédictive positive entre ces mêmes groupes.
Chouldechova, 2017 · Angwin · Berk, 2021

Distinguer

Notions proches et limites

Compromis d’équité algorithmique est notamment rapproché de Outil actuariel de prédiction du risque et Récidive. Ces relations signalent des recouvrements possibles, pas des synonymes : deux notions peuvent produire des conduites semblables tout en différant par leur déclencheur, leur fonction ou leur temporalité.Angwin · Berk, 2021 · Flores, 2016

La notion devient peu informative lorsqu’elle est utilisée comme une étiquette globale. Elle gagne au contraire en précision lorsqu’on peut décrire les situations où elle apparaît, les changements qui la modifient et les observations qui contrediraient l’hypothèse.Angwin · Berk, 2021 · Flores, 2016

Références

  1. Angwin, J., Larson, J., Mattu, S., & Kirchner, L. (2016, May 23). Machine bias. ProPublica.
  2. Berk, R., Heidari, H., Jabbari, S., Kearns, M., & Roth, A. (2021). Fairness in criminal justice risk assessments: The state of the art. Sociological Methods & Research, 50(1), 3–44.
  3. Chouldechova, A. (2017). Fair prediction with disparate impact: A study of bias in recidivism prediction instruments. Big Data, 5(2), 153–163.
  4. Flores, A. W., Bechtel, K., & Lowenkamp, C. T. (2016). False positives, false negatives, and false analyses: A rejoinder to “Machine bias: There’s software used across the country to predict future criminals. And it’s biased against blacks.” Federal Probation, 80(2), 38–46.
  5. Kleinberg, J., Mullainathan, S., & Raghavan, M. (2017). Inherent trade-offs in the fair determination of risk scores. In Proceedings of the 8th Innovations in Theoretical Computer Science Conference (ITCS 2017).

Dernière révision documentaire : septembre 2026.