En clair
Dans une rédaction, le journaliste écrit son article, le secrétaire de rédaction le relit, souligne une date douteuse et une phrase confuse, puis le journaliste corrige. Personne ne s’attend à ce qu’un premier jet soit parfait : la qualité vient du va-et-vient entre l’auteur et le relecteur. La boucle de critique et de révision applique ce principe aux modèles d’IA.
Concrètement, on donne deux rôles distincts. Le rédacteur produit une réponse, un texte ou du code. Le relecteur reçoit ce résultat avec une grille de critères, par exemple l’exactitude, le respect des consignes ou le ton, et rédige des remarques précises. Le rédacteur reprend alors sa copie en tenant compte de ces remarques. Le relecteur peut être un autre modèle ou le même modèle à qui l’on demande de changer de casquette.
La méthode a un prix : chaque tour de relecture demande de nouveaux appels au modèle, donc du temps et de l’argent. Et un relecteur automatique peut se tromper, laisser passer une erreur ou en inventer une. La boucle améliore souvent le résultat, mais elle ne garantit rien à elle seule.
Un exemple
Le service juridique d’un groupe industriel utilise un agent pour préparer des synthèses de contrats fournisseurs. Un premier modèle rédige la synthèse. Un second la confronte au contrat d’origine avec une consigne stricte : vérifier que chaque montant, date et clause de résiliation cité figure bien dans le document, et signaler toute omission d’une clause de pénalité. La synthèse est renvoyée au rédacteur avec ces remarques, au plus deux fois.
Si le relecteur signale encore un problème après le second tour, le dossier n’est pas bouclé automatiquement : il est transmis à un juriste, avec la synthèse et la liste des points litigieux. L’équipe suit chaque mois le taux de dossiers escaladés et vérifie par sondage les synthèses validées par la boucle.
Comment ça marche
L’idée de faire critiquer puis réviser une réponse par un modèle de langage est mise en œuvre par Anthropic en décembre 2022, dans les travaux de Bai et al. sur la « Constitutional AI » 1. Le modèle y critique sa propre réponse au regard d’un principe tiré d’une « constitution », un ensemble de principes rédigés par des humains, puis révise sa réponse à la lumière de cette critique. Les réponses révisées servent ensuite à entraîner le modèle. Les auteurs observent que la première révision supprime presque toujours l’essentiel du contenu problématique, les suivantes n’apportant que des gains mineurs ; passer par une critique explicite plutôt que réviser directement n’aide que les petits modèles, et les critiques elles-mêmes sont souvent inexactes 1.
- RédigerLe modèle rédacteur produit une première version de la réponse, du texte ou du code.
- CritiquerLe modèle relecteur examine cette version selon des critères explicites et formule des remarques précises.
- RéviserLe rédacteur reprend sa version en tenant compte des remarques du relecteur.
- ArrêterLa boucle s’arrête quand le relecteur valide, ou quand le nombre maximal de tours est atteint ; le cas est alors confié à un humain.
Les étapes 2 et 3 se répètent autant de fois que le harness l’autorise.
En mars 2023, Madaan et al. généralisent le procédé sous le nom de Self-Refine : un même modèle produit une première sortie, formule un retour sur cette sortie, puis s’en sert pour la réécrire, de façon itérative 2. Sur l’ensemble des tâches évaluées, les sorties obtenues sont préférées, par des humains comme par des mesures automatiques, à celles produites en une seule passe 2. Dans le monde des agents, Anthropic décrit ce schéma comme le workflow « evaluator-optimizer » : un appel au modèle génère une réponse, un autre l’évalue et fournit un retour, en boucle 3.
La boucle se distingue de notions voisines. Elle est un cas particulier de système multi-agents, limité à deux rôles complémentaires. Elle diffère d’une cascade, où l’on escalade vers un modèle plus puissant sans réviser la première version, et d’un simple juge, qui note sans proposer de corrections. Le harness, enfin, est le code qui l’orchestre : il fixe les critères, le nombre maximal de tours et la règle d’arrêt. Sa principale limite tient au relecteur : s’il partage les angles morts du rédacteur, notamment lorsqu’il s’agit du même modèle, il risque de valider les mêmes erreurs.
Ce que ça change pour une entreprise
La boucle de critique et de révision est un moyen simple de contrôle qualité pour les sorties d’agents : elle ne demande ni réentraînement ni infrastructure particulière, seulement une orchestration et une grille de critères bien rédigée. Elle donne les meilleurs résultats quand les critères d’évaluation sont clairs et qu’une relecture apporte un gain mesurable 3 : vérifier la conformité d’un document à une source, faire relire du code, contrôler le respect d’une charte rédactionnelle.
Chaque tour multiplie les appels au modèle : le coût par tâche et le délai de réponse augmentent, souvent du double ou davantage. Il faut donc plafonner le nombre de tours et mesurer ce que la relecture rapporte réellement. Le principal risque est une confiance excessive : un relecteur automatique qui valide une erreur lui donne un faux vernis de vérification. Utiliser un modèle différent pour la relecture, faire vérifier des faits contre une source plutôt que contre l’avis du modèle, et réserver une validation humaine aux décisions engageantes limitent ce risque.
Idées reçues
- « Si l’IA s’est relue, le résultat est vérifié. »
Le relecteur est lui aussi un modèle, qui peut se tromper ou partager les angles morts du rédacteur. La boucle réduit les erreurs, elle ne les supprime pas.
- « Plus il y a de tours de relecture, meilleur est le résultat. »
C’est souvent la première révision qui apporte le plus [1] ; les tours suivants coûtent autant pour un gain moindre. Un plafond de tours est indispensable.
- « Il faut forcément deux modèles différents. »
Un même modèle peut jouer les deux rôles, comme dans Self-Refine [2]. Un relecteur différent apporte toutefois un regard moins complaisant envers les erreurs du rédacteur.