Larssen Consulting
Sûreté et règles

Label de risque

risk label

Le label de risque est une étiquette posée par l’application sur une action ou une requête pour signaler son niveau d’enjeu, afin que le modèle choisi, l’agent qui agit et les contrôles qui l’entourent ne traitent pas une opération dangereuse comme une banalité.

  • Lecture : 4 minutes
  • Mis à jour le 12 novembre 2026
  • 5 sources

En clair

Dans un entrepôt, certains colis portent une étiquette « fragile » ou « matières dangereuses ». Le manutentionnaire n’a pas à deviner le contenu : l’étiquette lui dit de ralentir, de porter des gants ou d’appeler un responsable. Le label de risque joue le même rôle pour une IA. Il indique, avant toute exécution, si l’action envisagée est anodine ou si elle peut faire des dégâts.

Ce besoin vient d’une faiblesse simple : une IA juge souvent l’importance d’une demande d’après les mots qu’elle voit. Or un « vas-y » ou un « ok » laconique peut valider le virement, la suppression de fichiers ou l’envoi de courriels préparés juste avant. Lu isolément, ce message paraît sans enjeu. Le label, lui, est porté par l’application, qui sait ce que l’action va réellement faire.

L’étiquette ne protège pas à elle seule. Elle sert à déclencher la bonne réaction : confier la tâche à un modèle plus fiable, demander une confirmation à un humain, journaliser l’opération ou la refuser. C’est un aiguillage, pas un verrou.

Un exemple

Une société de services financiers déploie un agent qui aide les gestionnaires de comptes. Il peut consulter un historique de transactions, rédiger un courriel au client, modifier un plafond de carte ou déclencher un remboursement. L’équipe attribue à chaque outil un label : lecture seule pour la consultation, moyen pour le courriel, élevé pour le plafond et le remboursement. Pour réduire la facture, les requêtes passent par un routeur qui choisit automatiquement un modèle plus ou moins puissant.

Un jour, un gestionnaire répond simplement « confirme » à une proposition de remboursement de 4 000 euros. Sans label, le routeur aurait pu juger ce mot anodin et l’envoyer vers le modèle le plus économique. Avec le label élevé transmis par l’application, la requête est confiée au modèle le plus fiable et le remboursement attend la validation d’un responsable.

Niveau technique

Comment ça marche

La pratique s’est diffusée avec les agents capables d’agir. Dans son guide de 2025 sur la construction d’agents, OpenAI recommande d’évaluer chaque outil mis à la disposition d’un agent et de lui attribuer une note faible, moyenne ou élevée, selon qu’il lit ou écrit, que son effet est réversible ou non, les droits qu’il exige et son impact financier 3. Ces notes servent à déclencher des contrôles supplémentaires avant les actions les plus risquées. L’OWASP classe parmi les dix grands risques des applications à base de modèles de langage l’« agence excessive », c’est-à-dire des agents dotés de trop de fonctions, de trop de droits ou de trop d’autonomie 5.

  1. InventorierLister les outils et les actions que l’agent peut déclencher.
  2. NoterAttribuer à chacun un niveau selon la réversibilité, les droits requis et l’impact financier.
  3. TransmettreL’application joint le label à chaque requête ou appel d’outil, sans laisser le modèle l’estimer seul.
  4. ContrôlerLe routeur et les garde-fous adaptent la réponse : modèle plus fiable, validation humaine ou refus.
  5. RéviserRevoir les niveaux après chaque incident, nouvel outil ou exercice de red teaming.

Le protocole MCP propose un vocabulaire voisin avec ses annotations d’outils : readOnlyHint signale un outil qui ne modifie rien, destructiveHint un outil qui peut détruire, et ce dernier vaut « vrai » par défaut, par prudence 4. Ces annotations restent des indications déclarées par le serveur qui expose l’outil : un client ne doit pas s’y fier aveuglément quand ce serveur n’est pas de confiance 4. Le label le plus sûr est donc celui que l’application qui déploie l’agent fixe elle-même.

La question est devenue concrète avec le routage de modèle. Fin septembre 2026, Cloudflare a lancé en bêta publique Auto Router, qui choisit un modèle pour chaque requête en arbitrant entre qualité attendue et coût 2. Son classifieur note notamment l’enjeu de la requête, à partir d’une vue compacte de la conversation qui privilégie les derniers échanges 2 : une validation laconique après une action risquée peut ainsi être jugée sans enjeu, d’où la recommandation d’un praticien cité par InfoQ de faire porter un label de risque par l’application 1. Le label se distingue des permissions IAM, qui disent ce qu’un agent a le droit de faire, et des garde-fous, qui bloquent ou filtrent : il qualifie la gravité d’une action pour que ces mécanismes s’ajustent.

Ce que ça change pour une entreprise

Le label de risque permet de concilier économies et prudence. Une entreprise peut confier l’essentiel de ses requêtes à des modèles bon marché et réserver le modèle le plus fiable, ou la validation humaine, aux opérations qui engagent de l’argent, des données sensibles ou la relation client. Le coût est surtout organisationnel : il faut recenser les actions, décider qui fixe les niveaux et tenir cette classification à jour, ce qui demande un dialogue entre métiers, sécurité et équipes techniques.

Les limites sont réelles. Un label mal posé donne une fausse assurance, et un outil classé à tort comme anodin échappe aux contrôles. Trop de labels élevés, à l’inverse, multiplient les demandes de validation et lassent les relecteurs, qui finissent par tout approuver. Le label ne remplace ni la limitation des droits de l’agent ni les tests adverses : il les complète en indiquant où concentrer la vigilance.

Idées reçues

  • « Le modèle sait reconnaître seul une action risquée. »

    Il juge d’après le texte qu’il voit, souvent partiel. Un « vas-y » peut valider une action grave sans que rien, dans ce message, ne le signale [1].

  • « Un label de risque suffit à sécuriser un agent. »

    Il ne fait qu’aiguiller. Il faut derrière des droits limités, des garde-fous et, pour les actions graves, une validation humaine.

  • « Les indications fournies par un outil tiers font foi. »

    Les annotations déclarées par un serveur MCP ne sont que des indications ; un client ne doit pas s’y fier s’il ne fait pas confiance à ce serveur [4].

Sources

  1. Steef-Jan Wiggers, « Cloudflare Adds Auto Router to AI Gateway, Picking a Model per Request by Task Complexity », InfoQ, 2026
  2. Ming Lu et Harrison Harnisch, « Cut your AI spend with AI Gateway’s Auto Router », 2026
  3. OpenAI, « A practical guide to building agents », 2025
  4. Model Context Protocol, « Tool Annotations as Risk Vocabulary: What Hints Can and Can’t Do », 2026
  5. OWASP, « OWASP Top 10 for LLM Applications 2025 », 2024

Voir aussi