L'IA va-t-elle de transformer le gestionnaire de flotte en robot au service de l'algorithme ?

À première vue les conclusions de l’étude¹menée conjointement par l’expert en assurance crédit, la Coface, et l’Observatoire des Emplois Menacés (OEM) ont de quoi rassurer une profession en pleine mutation.

D’ici à 2035, l’intelligence artificielle (IA) devrait absorber 17 % des tâches actuellement réalisées par les gestionnaires de flotte auto. Pas de plan de licenciement massif en vue, mais la promesse d’un métier plus stratégique, débarrassé des missions les plus chronophages et répétitives, tourné vers des fonctions d’analyse et d’aide à la décision.

Le risque de perte de connaissance

Pour Aurélien Duthoit, économiste à la Coface, l’enjeu ne sera pas tant d’adopter les nouveaux outils de l’IA que de "savoir les superviser, les challenger et en interpréter les résultats". En clair, la maîtrise des données deviendrait la compétence clé du gestionnaire de flotte.

Pourtant, derrière ce scénario d’une collaboration harmonieuse entre l'Homme et la machine, la réalité se veut plus nuancée. En confiant la brique opérationnelle du métier à des systèmes prédictifs, les entreprises risquent de confronter leurs gestionnaires à un piège cognitif, celui du biais d’automatisation.

Le spectre de l’exécutant non-voyant

Lorsque les algorithmes optimisent les trajets, prédisent les pannes, et gèrent le renouvellement des parcs, avec une efficacité de 95 %, l’esprit critique humain tend à s’engourdir. Le risque, n’est pas que l’IA remplace le gestionnaire -quoi que- mais qu’elle le transforme en un exécutant passif, validant par automatisme des décisions qu’il n’a pas prises et dont parfois il n’en comprend plus les rouages.

Ce "paradoxe de l’automatisation" des décisions a été théorisé dans les années 1980 par Lisanne Bainbridge. Pour la psychologue, plus un système automatisé est performant, moins l’opérateur humain est capable d’intervenir efficacement en cas de dysfonctionnement, faute de pratique quotidienne.

La question est donc de savoir comment le gestionnaire du futur pourra-t-il challenger l’IA s’il n’a jamais été amené à détecter directement par lui-même les signes ou les failles d’un parc auto. Cela reviendrait à faire contrôler les hallucinations ou les bugs de l’IA par un aveugle.

Un simple rôle de fusible juridique ?

Cette perte de contrôle pose une importante question légale. Si l’IA omet de signaler une défaillance critique sur par exemple le système de freinage d’un véhicule entraînant un accident, sur qui repose la faute ? L’éditeur du logiciel ? L’entreprise ? L’agent ? Sachant que le cadre réglementaire européen (l’IA Act) impose un contrôle humain strict pour les systèmes d’aide à la décision.

Le gestionnaire de flotte risque ici d’être désigné comme un "fusible juridique". Sommé de superviser des volumes de données gigantesques générés à la seconde par la télématique embarquée, il pourrait se retrouver à devoir endosser la responsabilité légale de choix qu’il n’a matériellement plus le temps de vérifier.

Continuer à challenger l’humain

Pour éviter ces problèmes, une des solutions consiste à améliorer davantage l'IA comme vient de le faire le constructeur Ford. Un autre moyen consiste à ce que l'humain conserve la main. Dans l'aéronautique par exemple, on entraîne régulièrement les opérateurs à s’exercer sur simulateurs à des scénarios dégradés pour maintenir leurs compétences manuelles éveillées. Certaines entreprises technologiques forcent leurs ingénieurs à traiter manuelle un certain pourcentage de dossiers sans l’aide de l’IA pour s’assurer que l’humain reste affûté, capable de détecter une anomalie algorithmique.  Les entreprises veillent ainsi à ce que l’humain reste le pilote et non le passager de la technologie. 

1 : La prochaine frontière de l’automatisation : Une cartographie des scénarios d’exposition du travail à l’IA/COFACE ECONOMIC PUBLICATIONS