En clair
Pensez à une carte carburant confiée à un commercial. Elle a un plafond mensuel, l’entreprise voit chaque plein, et au-delà d’un certain montant la carte est refusée. Le budget de tokens applique la même logique aux agents d’IA. Chaque mot lu ou écrit par un modèle se compte en tokens, et chaque token se paie. On donne donc à l’agent une enveloppe, on regarde ce qu’il dépense, et on décide à l’avance de ce qui se passe quand l’enveloppe est vide.
La précaution est plus importante pour un agent que pour un simple assistant de conversation. Un agent travaille en boucle : il lit des documents, appelle des outils, relit ses résultats, recommence. Chaque tour de boucle relit tout ce qui précède. Un agent qui tourne en rond sur un problème insoluble peut ainsi consommer en une nuit ce qu’un utilisateur consomme en un mois.
Le budget peut se fixer à plusieurs étages : pour une seule réponse, pour une tâche entière, pour un agent, pour une équipe ou pour toute l’entreprise. Le bon endroit pour le faire respecter est le programme qui orchestre les agents, parce que c’est lui qui lance les tâches et peut les arrêter.
Un exemple
Un cabinet d’expertise comptable fait analyser chaque nuit les pièces justificatives de ses clients par plusieurs agents qui travaillent en parallèle. Un lundi, la facture du fournisseur de modèles est cinq fois plus élevée que d’habitude : un agent, bloqué sur un fichier mal numérisé, a recommencé la même analyse des centaines de fois.
L’équipe technique installe alors des garde-fous dans l’orchestrateur. Chaque dossier reçoit un budget de tokens calé sur la consommation habituelle, avec une alerte à 80 % et un arrêt à 100 %. Les dossiers arrêtés ne sont pas perdus : ils remontent dans une file que relit un collaborateur le matin. Un tableau de bord affiche chaque jour la consommation par client, ce qui permet aussi d’ajuster la tarification des missions.
Comment ça marche
La notion n’a pas d’inventeur unique : elle s’est imposée à mesure que les fournisseurs facturaient à l’usage. Elle existe d’abord au niveau d’une requête, avec le nombre maximal de tokens qu’une réponse peut contenir. Les modèles de raisonnement y ont ajouté un budget dédié à la réflexion : chez Anthropic, le paramètre budget_tokens fixe le nombre de tokens que le modèle peut consacrer à son raisonnement, avec un minimum de 1 024 ; ce réglage manuel est désormais déprécié au profit d’un mode adaptatif où le modèle dose lui-même son effort 1.
- EstimerMesurer la consommation habituelle d’une tâche type pour fixer un plafond réaliste.
- AllouerAttribuer une enveloppe par requête, par tâche, par agent ou par équipe dans l’orchestrateur.
- MesurerAdditionner en continu les tokens consommés par chaque appel au modèle et aux outils.
- RéagirAlerter, basculer vers un modèle moins cher ou arrêter la tâche quand un seuil est franchi.
- AjusterRevoir les plafonds à partir des tâches arrêtées et de la consommation réelle.
Avec les agents, le budget se gère surtout au niveau de la tâche et de l’orchestrateur. La raison est d’ordre de grandeur : en juin 2025, l’équipe d’ingénierie d’Anthropic a indiqué que ses agents consomment environ quatre fois plus de tokens qu’une conversation, et son système multi-agents de recherche environ quinze fois plus 2. Pour son agent de programmation Claude Code, Anthropic indique un coût moyen d’environ 13 dollars par développeur et par jour d’activité en entreprise, inférieur à 30 dollars pour 90 % des utilisateurs, tout en précisant que les écarts sont importants selon le modèle, la taille du code et l’usage de plusieurs instances ou de l’automatisation 3. L’orchestrateur additionne la consommation déclarée par chaque appel, la compare au plafond et déclenche alerte, passage à un modèle moins cher ou arrêt.
Le budget de tokens touche aussi à la sécurité. Le classement de l’OWASP des risques propres aux applications de grands modèles de langage, édition 2025, a remplacé la catégorie « déni de service » par celle de « consommation non bornée », qui couvre aussi les risques liés à la gestion des ressources et aux coûts imprévus 4. Le budget se distingue de la fenêtre de contexte, limite technique de ce que le modèle peut lire en une fois, et du coût par tâche, qui mesure la dépense après coup plutôt qu’il ne la plafonne.
Ce que ça change pour une entreprise
Pour l’entreprise, le budget de tokens transforme une dépense variable et difficile à prévoir en dépense pilotable. Il protège contre les boucles infinies, les erreurs de configuration et les usages abusifs, et il permet d’attribuer les coûts à un projet, une équipe ou un client. Les fournisseurs fournissent des outils de suivi : la console d’Anthropic, par exemple, affiche les dépenses par membre et une interface de programmation restitue chaque jour les tokens et les coûts par utilisateur 3. Le reste se construit dans l’orchestrateur ou dans une passerelle placée devant les modèles, ce qui demande un peu de développement et une observabilité correcte.
La limite principale est l’arbitrage entre coût et qualité. Un plafond trop bas interrompt des tâches utiles ou pousse l’agent à bâcler, et un modèle plus économe n’est pas toujours suffisant. Un plafond trop haut ne protège de rien. Le budget doit donc être calibré sur des mesures réelles et revu régulièrement, d’autant que les prix et les modèles changent vite. Enfin, l’arrêt d’une tâche doit être prévu : une tâche coupée en plein milieu peut laisser des fichiers ou des données dans un état incohérent si personne ne reprend la main.
Idées reçues
- « Avec un abonnement forfaitaire, la consommation de tokens n’a pas d’importance. »
Les forfaits ont eux aussi des limites d’usage, et les agents qui tournent en parallèle les atteignent vite. Au-delà, il faut payer à l’usage ou attendre.
- « Il suffit de limiter la longueur des réponses. »
Un agent consomme surtout en relisant son contexte à chaque tour de boucle. Le plafond utile porte sur la tâche entière, pas seulement sur chaque réponse.
- « Plus on donne de tokens à un agent, meilleur est le résultat. »
Au-delà d’un certain point, le gain devient faible et un agent égaré dépense sans progresser. Le bon budget se mesure tâche par tâche.