En clair
Dans un cabinet d’avocats, un collaborateur rédige le projet de contrat, mais c’est l’associé qui le relit et le signe. Le travail préparatoire est délégué, la responsabilité ne l’est pas. L’humain dans la boucle applique cette répartition à l’IA : un agent peut rechercher, rédiger, classer ou préparer une opération, mais l’envoi du courriel, le virement ou la modification en production attendent le feu vert d’une personne.
Tout l’art consiste à placer les points de contrôle au bon endroit. Si l’on fait tout valider, l’IA ne fait plus gagner de temps et les relecteurs, submergés, finissent par approuver sans lire. Si l’on ne valide rien, une erreur de la machine part directement chez le client. On réserve donc la validation aux actions coûteuses, irréversibles ou engageantes, et l’on laisse le reste se dérouler seul.
À mesure que les agents produisent davantage, c’est la revue humaine qui devient le goulot d’étranglement : la machine propose en quelques secondes ce qu’une personne met plusieurs minutes à vérifier. Concevoir un système avec un humain dans la boucle, c’est donc aussi concevoir le travail de cet humain : ce qu’il voit, ce qu’il doit trancher, et combien de décisions il peut raisonnablement prendre par jour.
Un exemple
L’équipe sécurité d’un éditeur de logiciels reçoit chaque semaine des centaines d’alertes de vulnérabilités. Elle construit une chaîne en trois temps : un script classique écarte d’abord les alertes qui ne concernent manifestement pas ses versions, puis un agent analyse chacune des autres et remplit une fiche normalisée (composant touché, gravité, voie d’attaque). Enfin, deux ingénieurs relisent les fiches et décident des correctifs à prioriser.
Le premier mois, les ingénieurs constatent qu’une petite part des analyses de l’agent est erronée, ce qui justifie la relecture. Mais ils passent désormais leurs journées à relire. L’équipe ajuste alors le dispositif : les fiches que l’agent juge peu sûres et celles qui concluent à une gravité élevée sont relues en priorité, les autres font l’objet d’un contrôle par échantillon.
Comment ça marche
La question de la place de l’opérateur face à l’automatisation est bien antérieure aux agents d’IA. En 1983, la psychologue Lisanne Bainbridge publie dans la revue Automatica un article de cinq pages, « Ironies of Automation », consacré au pilotage des procédés industriels dans les usines et les centrales 1. Il est devenu une référence pour décrire le paradoxe des systèmes automatisés : plus la machine en fait, plus le rôle laissé à l’humain, surveiller et reprendre la main en cas de problème, est difficile à tenir.
- ProposerL’agent prépare une action ou un résultat et en expose le contenu et les raisons.
- AiguillerUne règle détermine si l’action peut s’exécuter seule ou doit être soumise à validation.
- ExaminerUne personne approuve, modifie ou refuse la proposition, avec les éléments utiles sous les yeux.
- ExécuterL’action validée est réalisée ; un refus est renvoyé à l’agent ou traité à la main.
- TracerLa décision et son auteur sont journalisés pour l’audit et pour améliorer le dispositif.
Le règlement européen sur l’IA a fait de la supervision humaine une obligation pour les systèmes à haut risque, à son article 14 2. Le texte demande que ces systèmes soient conçus pour être supervisés efficacement par des personnes, qui doivent pouvoir comprendre leurs limites, interpréter leurs résultats, décider de ne pas en tenir compte et les interrompre. Il met aussi en garde contre la tendance à se fier excessivement aux résultats produits par la machine, appelée biais d’automatisation.
Dans un agent, le principe se traduit par des points d’arrêt : avant d’appeler certains outils, l’agent suspend son exécution, présente l’action prévue et attend une approbation, une modification ou un refus. On distingue l’humain « dans la boucle », qui approuve chaque action sensible, de l’humain « sur la boucle », qui surveille un système autonome et peut l’arrêter, et du système entièrement autonome. Le dispositif complète les garde-fous automatiques sans les remplacer : un relecteur fatigué ou pressé laisse passer des erreurs, et une validation de pure forme donne une fausse impression de contrôle.
Ce que ça change pour une entreprise
L’humain dans la boucle est souvent la condition pour confier à une IA des tâches qui engagent l’entreprise : paiements, échanges avec les clients, modifications de systèmes, décisions concernant des personnes. Il permet de démarrer avec un contrôle serré, puis d’alléger la validation sur les actions où l’agent a fait ses preuves. Pour les usages classés à haut risque par le règlement européen, une supervision humaine effective est une obligation 2.
Son coût est d’abord humain : le temps de relecture peut absorber l’essentiel du gain promis, et les gains de productivité se déplacent vers ceux qui vérifient. Il faut donc mesurer le temps passé en revue, présenter aux relecteurs des propositions claires et hiérarchisées, et définir qui est responsable de quoi. Le principal risque est la validation machinale : quand l’IA a presque toujours raison, la vigilance baisse précisément là où elle serait utile 1.
Idées reçues
- « Avec un humain dans la boucle, le risque est éliminé. »
Le relecteur réduit le risque mais ne l’annule pas. Débordé ou trop confiant envers la machine, il approuve des erreurs qu’il aurait dû voir.
- « Plus on fait valider, plus on est en sécurité. »
Trop de validations noient les relecteurs et rendent leur contrôle superficiel. Il vaut mieux peu de points de contrôle, bien placés sur les actions sensibles.
- « C’est une étape provisoire, en attendant que l’IA soit fiable. »
Pour certaines décisions, la validation humaine relève de la responsabilité ou de la loi, et non de la seule fiabilité technique. Le dispositif évolue, il ne disparaît pas forcément.