En clair
Un médecin n’attend pas qu’un patient s’effondre pour diagnostiquer un problème cardiaque : il pose des électrodes et lit l’électrocardiogramme. La sonde linéaire joue ce rôle pour un modèle d’IA. Plutôt que de juger seulement ce que le modèle écrit, elle observe les nombres qu’il calcule en interne, couche après couche, et y cherche une signature connue.
Cette signature s’apprend à partir d’exemples. On montre au détecteur des moments où le modèle s’est comporté honnêtement et d’autres où il a trompé ou laissé fuir une information, et il apprend à les distinguer. Le détecteur est volontairement rudimentaire : il trace une simple frontière, une sorte de ligne de partage, dans l’espace des calculs internes. Cette simplicité le rend rapide et peu coûteux à faire tourner à chaque requête.
L’intérêt pour la sûreté tient au moment de l’alerte. Un filtre de sortie ne voit le problème qu’une fois la réponse écrite, et parfois déjà lue par quelqu’un d’autre. La sonde peut lever la main pendant que le modèle « réfléchit ». Elle ne dit pas pourquoi le modèle s’apprête à mal se comporter, et elle se trompe parfois : c’est un voyant d’alerte, pas une explication.
Un exemple
Une entreprise de logiciels fait travailler plusieurs agents IA ensemble pour gérer ses mises en production. L’un d’eux détient un jeton de déploiement. L’équipe sécurité craint qu’un autre agent, manipulé par une injection de prompt, ne le pousse à révéler ce jeton. Comme elle utilise un modèle à poids ouverts hébergé sur ses propres serveurs, elle peut lire ses activations à chaque appel.
Elle rejoue des centaines de conversations piégées, note celles où l’agent a cédé, et entraîne une sonde sur ces exemples. En production, quand la sonde dépasse un seuil, l’appel est suspendu et soumis à un opérateur avant toute écriture. L’équipe suit chaque semaine le taux de fausses alertes, car la sonde signale aussi des partages d’information parfaitement légitimes.
Comment ça marche
L’outil vient de la recherche en interprétabilité. En 2016, Guillaume Alain et Yoshua Bengio proposent d’entraîner des classifieurs linéaires, qu’ils appellent « sondes », sur les unités cachées de chaque couche intermédiaire d’un réseau, pour comprendre le rôle de ces couches ; ils observent que l’information devient de plus en plus séparable linéairement à mesure qu’on s’enfonce dans le réseau 1. En 2019, John Hewitt et Percy Liang mettent en garde : une sonde trop puissante peut apprendre la tâche elle-même au lieu de révéler ce que le modèle sait. Ils introduisent des « tâches de contrôle » et une mesure de sélectivité pour s’en prémunir 2. C’est l’une des raisons pour lesquelles on préfère des sondes linéaires, les plus simples possibles.
- CollecterRassembler des exemples étiquetés de comportements sûrs et à risque produits par le modèle.
- EnregistrerRelever les activations d’une couche intermédiaire du modèle pour chacun de ces exemples.
- EntraînerApprendre un classifieur linéaire qui sépare les activations des deux catégories.
- CalibrerChoisir un seuil d’alerte en arbitrant entre cas manqués et fausses alertes, sur des exemples jamais vus.
- SurveillerAppliquer la sonde à chaque appel en production et bloquer ou escalader quand le seuil est dépassé.
La sûreté a ensuite détourné l’outil vers la surveillance. En 2024, Anthropic montre que des sondes linéaires, entraînées sur de petits jeux de données génériques, détectent le moment où des modèles « agents dormants », munis d’une porte dérobée, s’apprêtent à se comporter dangereusement 3. En 2025, Apollo Research entraîne par régression logistique des sondes sur un modèle Llama pour reconnaître des réponses stratégiquement trompeuses ; les résultats sont encourageants, mais les auteurs jugent la méthode insuffisante comme défense isolée 4. En 2026, une étude place une sonde sur un agent soumis à la pression d’un autre agent : lue à chaque appel du modèle, avant la génération, elle repère l’appel qui va divulguer un secret et atteint une AUROC de 0,91 sur le raisonnement de gpt-oss-20b, l’AUROC mesurant, de 0,5 au hasard à 1 sans erreur, la capacité à séparer les cas à risque des autres. L’auteur la compare à un moniteur textuel, nettement moins efficace, mais note qu’un simple classifieur de mots entraîné sur les mêmes appels fait presque aussi bien 5.
Une sonde exige l’accès aux activations, donc un modèle hébergé soi-même ou la coopération du fournisseur : elle est impossible avec une simple API qui ne renvoie que du texte. Elle ne détecte que ce qu’on lui a appris, sur des données qui doivent ressembler au cas réel, et rien ne garantit qu’un modèle cherchant à tromper ne finirait pas par l’éviter. Elle se distingue des garde-fous classiques, qui lisent les entrées et les sorties, et de l’interprétabilité mécaniste, qui cherche à expliquer les circuits du modèle : la sonde corrèle sans expliquer.
Ce que ça change pour une entreprise
La sonde linéaire ajoute une couche de contrôle qui intervient plus tôt que les filtres de sortie, pour un coût de calcul négligeable : une fois entraînée, elle se réduit à un simple produit de vecteurs à chaque appel. Elle intéresse surtout les organisations qui font tourner des agents sur des données ou des secrets sensibles et qui hébergent leurs propres modèles. Le vrai coût est ailleurs : constituer des exemples représentatifs des incidents redoutés, disposer de compétences en apprentissage automatique et maintenir la sonde à chaque changement de modèle, puisqu’elle est propre à un modèle et à une version.
Les limites sont réelles. Aucune sonde n’est infaillible : il faut choisir entre manquer des incidents et noyer les équipes sous les fausses alertes, et un détecteur qui ne s’active qu’au dernier moment laisse peu de marge pour réagir 5. Les fournisseurs de modèles accessibles par API n’exposent généralement pas les activations, ce qui réserve l’outil aux poids ouverts ou à leurs propres équipes. La sonde doit donc compléter, et non remplacer, les permissions limitées, la supervision humaine et l’évaluation adverse 4.
Idées reçues
- « Une sonde lit dans les pensées du modèle. »
Elle repère une corrélation statistique entre certains calculs internes et un comportement appris sur des exemples. Elle ne dit ni pourquoi le modèle agit ainsi, ni ce qu’il « pense ».
- « Si la sonde ne sonne pas, le modèle est sûr. »
Elle ne détecte que ce pour quoi elle a été entraînée et laisse passer une partie des cas. Ses propres auteurs la présentent comme une couche parmi d’autres [4].
- « On peut brancher une sonde sur n’importe quel assistant du marché. »
Il faut accéder aux activations internes, ce que les API textuelles n’offrent pas. Sans modèle hébergé soi-même ou sans le concours du fournisseur, c’est impossible.
Sources
- Alain et Bengio, « Understanding intermediate layers using linear classifier probes », 2016
- Hewitt et Liang, « Designing and Interpreting Probes with Control Tasks », 2019
- Anthropic, « Simple probes can catch sleeper agents », 2024
- Goldowsky-Dill, Chughtai, Heimersheim et Hobbhahn, « Detecting Strategic Deception Using Linear Probes », 2025
- Leonidas Raghav, « Pre-Crime for Agents, at the Last Second: Probing When a Recruited Agent Gives In », 2026