Biais d’automatisation

Définition

Définition et périmètre

Linda Skitka, Kathleen Mosier et Mark Burdick apportent en 1999, dans l’International Journal of Human-Computer Studies, une démonstration expérimentale directe du phénomène : des participants chargés d’une tâche de pilotage simulé assistée par un système de surveillance automatisé très mais non parfaitement fiable obtiennent de moins bons résultats que des participants effectuant la même tâche sans aucune assistance automatisée, précisément parce qu’ils suivent une recommandation erronée du système plutôt que de vérifier eux-mêmes l’information disponible. Le modèle de Parasuraman, Sheridan et Wickens publié en 2000 précise que le risque de biais d’automatisation varie selon la fonction automatisée et son degré, l’automatisation poussée de la sélection d’une décision favorisant davantage ce biais que la seule automatisation de la présentation d’information.Parasuraman, 2010 · Skitka, 1999

Cette notion décrit un fonctionnement possible, dont l’intensité et les effets varient selon la situation. La reconnaître suppose d’examiner ce qui la déclenche, la fonction qu’elle prend et ce qu’elle produit dans le temps, plutôt que de s’arrêter à une conduite isolée.Parasuraman, 2010 · Skitka, 1999

Comprendre

Mécanisme et fonction

Biais d’automatisation dépend de la manière dont l’information est sélectionnée, interprétée et maintenue disponible. Le processus peut être rapide ou réfléchi, volontaire ou partiellement automatique ; ces dimensions doivent être distinguées avant de lui attribuer une cause unique.Skitka, 1999 · Parasuraman, 2000 · National Transportation Safety Board, 1973

Son caractère utile ou coûteux dépend moins de sa simple présence que de sa fréquence, de sa souplesse et de son ajustement au contexte. Un fonctionnement ponctuel peut soutenir l’adaptation ; le même fonctionnement, devenu automatique ou exclusif, peut réduire les possibilités de réponse.Skitka, 1999 · Parasuraman, 2000 · National Transportation Safety Board, 1973

Observer

Formes et variations

Les exemples rendent la notion plus concrète sans en faire une règle générale. Un même comportement peut remplir une autre fonction dans une autre situation.Skitka, 1999 · Parasuraman, 2000 · National Transportation Safety Board, 1973

• Un radiologue qui valide sans vérification supplémentaire une anomalie signalée par un logiciel d’aide au diagnostic, alors qu’un examen attentif de l’image aurait révélé que le signalement était un faux positif, illustre une erreur de commission liée au biais d’automatisation.
• Un pilote qui ne remarque pas qu’une alerte attendue n’a pas été déclenchée par le système de bord, parce qu’il suppose que l’absence d’alerte signifie l’absence de problème, illustre une erreur d’omission liée à ce même biais.

Distinguer

Notions proches et limites

Biais d’automatisation est notamment rapproché de Conscience de la situation et Vigilance et déclin attentionnel. Ces relations signalent des recouvrements possibles, pas des synonymes : deux notions peuvent produire des conduites semblables tout en différant par leur déclencheur, leur fonction ou leur temporalité.Parasuraman, 2000 · National Transportation Safety Board, 1973

La notion devient peu informative lorsqu’elle est utilisée comme une étiquette globale. Elle gagne au contraire en précision lorsqu’on peut décrire les situations où elle apparaît, les changements qui la modifient et les observations qui contrediraient l’hypothèse.Skitka, 1999 · Parasuraman, 2000 · National Transportation Safety Board, 1973