Pourquoi l’automatisation peut-elle nous rendre moins vigilants ?
Un système automatisé fiable devrait, en toute logique, libérer de l’attention pour d’autres tâches sans rien coûter en sécurité. C’est en partie vrai, et c’est justement ce qui pose problème : cette même fiabilité moyenne, en réduisant la vérification active, prépare une vulnérabilité précise pour la minorité de cas où le système se trompe [1]. Cette lecture suit comment déléguer une tâche à l’automatisation réduit progressivement la surveillance qu’on lui accorde, pourquoi cette surveillance réduite touche aussi les personnes les plus expérimentées, et pourquoi reprendre la main, le moment venu, s’avère plus difficile qu’il n’y paraît.
Références vérifiées le 19 septembre 2026.
Déléguer une tâche à un système automatisé revient à traiter ses suggestions comme un raccourci qui dispense d’une vérification indépendante, y compris face à des signaux disponibles qui la contrediraient [1]. Ce biais d’automatisation touche aussi bien les novices que les opérateurs expérimentés et entraînés, ce qui écarte l’idée qu’une meilleure formation suffirait à s’en protéger entièrement [1]. Ce que ce biais décrit au moment où une erreur survient ne dit pourtant pas encore pourquoi la surveillance s’était déjà affaiblie avant que cette erreur n’apparaisse.
Biais d’automatisation
Le biais d’automatisation désigne la tendance à traiter les suggestions ou les décisions d’un système automatisé, pilotage automatique, aide au diagnostic médical, algorithme de recommandation, comme un raccourci heuristique qui dispense d’une recherche d’information indépendante et vigilante, y compris face à des signaux disponibles qui contrediraient cette suggestion. Raja Parasuraman et Dietrich Manzey, dans leur synthèse de 2010 publiée dans Human Factors, distinguent ce biais de la complaisance envers l’automatisation, une surveillance insuffisante des performances d’un système par confiance excessive, tout en montrant que les deux phénomènes partagent un mécanisme attentionnel commun : faire confiance à un système fiable en moyenne permet de réallouer une ressource attentionnelle limitée vers d’autres tâches, une stratégie globalement adaptative qui devient un point de vulnérabilité précis dans la minorité de cas où le système délivre une information erronée. Le biais produit deux types d’erreurs distincts, des erreurs d’omission, ne pas remarquer qu’un événement important n’a pas été signalé, et des erreurs de commission, suivre activement une recommandation erronée.
Un radiologue qui valide sans vérification supplémentaire une anomalie signalée par un logiciel d’aide au diagnostic, alors qu’un examen attentif de l’image aurait révélé que le signalement était un faux positif, illustre une erreur de commission liée au biais d’automatisation.
Un pilote qui ne remarque pas qu’une alerte attendue n’a pas été déclenchée par le système de bord, parce qu’il suppose que l’absence d’alerte signifie l’absence de problème, illustre une erreur d’omission liée à ce même biais.
C’est ce qu’isole la complaisance envers l’automatisation : une réduction progressive de la vérification active d’un système, par confiance excédant ce que sa fiabilité réelle justifierait [1]. Elle se distingue du biais d’automatisation en ce qu’elle décrit une baisse de surveillance en amont, avant qu’aucune suggestion erronée ne se présente, plutôt qu’une réaction au moment où elle survient. Elle apparaît lorsque la charge de travail est multiple, quand des tâches manuelles concurrencent la tâche automatisée pour l’attention. Elle s’observe aussi bien chez les novices que chez les experts, sans disparaître avec la simple pratique : l’expertise ne protège donc pas d’emblée contre elle [1].
Complaisance envers l’automatisation
La complaisance envers l’automatisation désigne une réduction de la vérification active d’un système automatisé, par confiance excessive dans sa fiabilité moyenne. Elle se distingue du biais d’automatisation : celui-ci décrit le fait de suivre une suggestion erronée ou de ne pas remarquer une anomalie non signalée au moment où elle survient, tandis que la complaisance décrit la réduction, en amont, de l’attention portée à la supervision elle-même. Les deux phénomènes partagent un mécanisme commun : déléguer une tâche à un système fiable en moyenne permet de réallouer une ressource attentionnelle limitée ailleurs, une stratégie globalement adaptative qui devient un point de vulnérabilité dans la minorité de cas où le système se trompe.
Un pilote qui délègue la navigation à un système automatisé depuis longtemps fiable peut progressivement réduire ses propres vérifications croisées, même s’il sait en principe devoir les maintenir.
Un opérateur de supervision peut continuer de croire qu’un système fonctionne normalement simplement parce qu’il n’a pas eu besoin d’intervenir récemment, sans que cette absence d’intervention ne soit elle-même vérifiée.
Cette baisse de surveillance rejoint un phénomène plus général et documenté depuis longtemps : la capacité à détecter un signal rare au cours d’une tâche de surveillance prolongée décline de façon mesurable et reproductible avec le temps passé sur la tâche [2]. Une tâche de supervision peu active n’est donc pas pour autant peu coûteuse : elle mobilise une charge mentale réelle, que son apparente passivité masque [3]. Reste à savoir comment ajuster, plutôt que simplement perdre, la confiance accordée à un système qu’on surveille de moins en moins activement.
Vigilance et déclin attentionnel
La vigilance désigne la capacité à maintenir une détection fiable de signaux rares et imprévisibles au cours d’une tâche de surveillance prolongée, une capacité qui décline de façon mesurable et reproductible avec le temps passé sur la tâche, un phénomène nommé décrément de vigilance. Norman Mackworth documente ce déclin dès 1948 dans une tâche de détection visuelle restée célèbre sous le nom de test de l’horloge, avec une baisse de dix à quinze pour cent du taux de détection dès les trente premières minutes. Daniel Kahneman propose en 1973 une explication théorique influente, la théorie de la capacité attentionnelle, selon laquelle l’attention constitue une ressource globale limitée et épuisable, un cadre que Christopher Wickens prolonge en 1980 puis synthétise en 2008 avec la théorie des ressources multiples. Une synthèse de 2008 par Joel Warm, Raja Parasuraman et Gerald Matthews établit par ailleurs que le maintien de la vigilance mobilise une charge mentale et un stress mesurables, contrairement à l’intuition répandue qu’une tâche de surveillance peu active serait également peu coûteuse.
Un agent de sécurité aéroportuaire chargé d’examiner des images radiographiques de bagages pendant plusieurs heures consécutives voit statistiquement son taux de détection d’objets rares décliner au fil de son service, un phénomène directement comparable à celui mesuré par Mackworth en 1948.
Un opérateur de salle de contrôle industrielle dont la tâche consiste surtout à surveiller un système généralement stable, sans y intervenir activement pendant de longues périodes, rapporte une charge mentale et un stress perçus élevés malgré l’apparente passivité de son poste, conformément aux mesures rassemblées par Warm, Parasuraman et Matthews en 2008.
Une confiance calibrée dans l’automatisation ne consiste pas à faire confiance le plus possible, mais à ajuster la supervision accordée à la fiabilité, aux limites et aux conséquences d’erreur réelles du système [4]. Surconfiance et sous-confiance décrivent deux décalages possibles entre cette supervision et les capacités réelles de l’outil [4]. Mais même une confiance bien calibrée ne suffit pas, seule, à garantir qu’une personne pourra effectivement reprendre le contrôle au moment où le système cesse d’être fiable.
Confiance dans l’automatisation
La confiance dans l’automatisation concerne la manière dont une personne accepte, vérifie, corrige ou refuse les suggestions d’un système. Une confiance calibrée ne signifie pas faire confiance le plus possible : elle suppose que la reliance corresponde approximativement à la fiabilité, aux limites et aux conséquences d’erreur du système. Surconfiance, sous-confiance, misuse et disuse décrivent des décalages possibles entre l’outil, son affichage et les possibilités réelles de supervision.
Un professionnel vérifie davantage une recommandation lorsqu’il sait dans quels cas l’outil est moins fiable.
Après plusieurs alertes injustifiées, la confiance peut diminuer même si le système est globalement performant.
Reprendre la main suppose de disposer d’une conscience de la situation : percevoir les éléments pertinents de l’environnement, comprendre leur sens et anticiper leur évolution probable [5]. Or cette conscience se construit par une attention et une mémoire de travail que la délégation à l’automatisation n’a précisément pas entraînées pendant la période où elle fonctionnait seule [5][6]. Une personne peut ainsi se retrouver appelée à intervenir rapidement sur une situation qu’elle n’a, de fait, jamais cessé de superviser sur le papier, mais dont elle a perdu la compréhension fine pendant qu’elle la surveillait de loin [6].
Conscience de la situation
La conscience de la situation, situation awareness, désigne la représentation mentale qu’un opérateur se fait d’un environnement dynamique, structurée selon trois niveaux hiérarchisés proposés par Mica Endsley en 1995 : la perception des éléments pertinents présents dans l’environnement, la compréhension de leur signification en fonction des objectifs poursuivis, et la projection de leur évolution probable dans un futur proche. Le modèle identifie l’attention et la mémoire de travail comme les principaux facteurs limitant l’acquisition et le maintien de cette conscience, ce qui explique pourquoi une charge de travail élevée ou une conception d’interface mal pensée dégradent cette capacité indépendamment de la compétence de l’opérateur. Une défaillance peut survenir séparément à chacun des trois niveaux, ce qui oriente vers des solutions de conception différentes selon le niveau concerné.
Un contrôleur aérien qui repère un avion sur son radar, comprend qu’il converge dangereusement avec un autre appareil, et anticipe la nécessité d’une manœuvre d’évitement dans les prochaines minutes mobilise les trois niveaux du modèle d’Endsley.
Un tableau de bord d’usine qui affiche des dizaines de valeurs numériques brutes sans les regrouper visuellement par sous-système oblige l’opérateur à reconstruire seul une compréhension globale, ce qui dégrade sa conscience de la situation au niveau 2.
En conclusion
L’automatisation ne rend donc pas moins vigilant par un simple relâchement de l’effort : elle crée les conditions précises de ce relâchement. Faire confiance à un système fiable en moyenne permet de réallouer une attention limitée ailleurs, une stratégie globalement adaptative qui devient un point de vulnérabilité dans la minorité de cas où ce système délivre une information erronée ou cesse de fonctionner comme prévu [1]. La vigilance nécessaire pour détecter ce moment décline avec le temps passé sans incident, la confiance accordée au système ne se recalibre pas automatiquement, et reprendre une conscience suffisante de la situation pour intervenir à bon escient demande un effort que l’automatisation, par construction, n’a pas entraîné pendant qu’elle fonctionnait normalement [2][3][4][6].
Le grand dossier ergonomie cognitiveRéférences
Sources
Chaque renvoi numéroté désigne la source de l’énoncé qui le précède.
- Parasuraman, R., & Manzey, D. H. (2010). Complacency and bias in human use of automation: An attentional integration. Human Factors, 52(3), 381–410. Consulter
- Mackworth, N. H. (1948). The breakdown of vigilance during prolonged visual search. Quarterly Journal of Experimental Psychology, 1(1), 6–21. Consulter
- Warm, J. S., Parasuraman, R., & Matthews, G. (2008). Vigilance requires hard mental work and is stressful. Human Factors, 50(3), 433–441. https://doi.org/10.1518/001872008X312152 Consulter
- Lee, J. D., & See, K. A. (2004). Trust in automation: Designing for appropriate reliance. Human Factors, 46(1), 50–80. Consulter
- Endsley, M. R. (1995). Toward a theory of situation awareness in dynamic systems. Human Factors, 37(1), 32–64. Consulter
- Endsley, M. R., & Kiris, E. O. (1995). The out-of-the-loop performance problem and level of control in automation. Human Factors, 37(2), 381–394. https://doi.org/10.1518/001872095779064555 Consulter