Larssen Consulting
Agents et outils

Cascade de modèles

Model cascade

La cascade de modèles est une technique qui consiste à faire traiter une requête d’abord par un modèle léger, puis à n’escalader vers un modèle plus puissant que lorsqu’un contrôle juge la première réponse insuffisante.

  • Lecture : 4 minutes
  • Mis à jour le 12 novembre 2026
  • 5 sources

En clair

Dans un service client, l’appel arrive d’abord au premier niveau d’assistance. La plupart des questions s’y règlent en quelques minutes. Quand le conseiller bute sur un cas difficile, il transfère le dossier à un expert du deuxième niveau, plus rare et plus coûteux. Personne n’imagine faire répondre l’expert à chaque appel : on le garde pour les cas qui le méritent.

La cascade de modèles applique ce principe à l’IA. Un petit modèle, rapide et peu cher, produit une première réponse. Un contrôle qualité la regarde : si elle est jugée bonne, elle part telle quelle ; sinon, la demande remonte à un modèle plus puissant, qui reprend le travail.

Tout repose sur ce contrôle. S’il est trop indulgent, de mauvaises réponses passent ; s’il est trop sévère, presque tout remonte et l’on paie deux fois. Une cascade bien réglée donne une qualité proche de celle du grand modèle pour une facture bien plus proche de celle du petit.

Un exemple

Une compagnie d’assurance fait rédiger par l’IA les réponses aux questions de ses assurés sur leurs contrats. Un modèle léger prépare chaque brouillon. Un second modèle, chargé uniquement de relire, vérifie que la réponse cite bien la clause concernée et ne contredit pas le contrat : si c’est le cas, le brouillon est validé ; sinon, la question est confiée à un modèle de raisonnement plus coûteux.

Après un mois, l’équipe constate que la grande majorité des questions courantes sont réglées au premier niveau, tandis que les sinistres complexes remontent. Elle suit chaque semaine le taux d’escalade et vérifie par sondage que les réponses validées au premier niveau sont réellement correctes.

Niveau technique

Comment ça marche

L’idée est ancienne en apprentissage automatique. En 2001, Paul Viola et Michael Jones présentent un détecteur de visages fondé sur une « cascade » de classifieurs : des tests simples écartent très vite la plupart des zones de l’image, et seuls les cas prometteurs passent aux étapes plus coûteuses, ce qui permet de traiter les images extrêmement rapidement 1. Le principe est le même aujourd’hui : dépenser peu sur les cas faciles, beaucoup sur les cas difficiles.

  1. RédigerUn modèle léger et peu coûteux produit une première réponse à la requête.
  2. ContrôlerUn score de confiance, un modèle juge ou des tests évaluent la qualité de cette réponse.
  3. AccepterSi le contrôle est satisfait, la réponse est livrée sans autre appel.
  4. EscaladerSinon, la requête passe à un modèle plus puissant, qui produit la réponse finale ou subit à son tour un contrôle.

Une cascade peut compter plus de deux niveaux : le contrôle se répète alors à chaque étage.

Pour les grands modèles de langage, la notion est popularisée en 2023 par Lingjiao Chen, Matei Zaharia et James Zou, de Stanford, avec FrugalGPT, une cascade qui apprend quelles combinaisons de modèles employer selon les requêtes pour réduire le coût tout en améliorant la précision 2. La même année, Murong Yue et ses coauteurs étudient une cascade dédiée aux tâches de raisonnement, mathématique ou causal, en décidant d’escalader selon la cohérence des réponses du petit modèle 3. La règle de décision peut être un score calculé, un modèle juge ou, pour du code, le résultat de tests. Cette vérification a un prix : le contrôle et l’éventuelle seconde passe allongent le temps de réponse, comme le précise GitHub pour le mode Cascade de Copilot Fusion 4.

Dans Copilot Fusion, rendu généralement disponible en octobre 2026, un modèle principal fait une première passe avant qu’un modèle juge n’accepte sa réponse ou ne la fasse reprendre, à côté d’un mode à modèle unique et d’un mode Critique où un second modèle relit et fait réviser 5. La cascade se distingue du routage de modèle, qui choisit le modèle avant tout appel, sans voir de réponse ; de la Mixture of Experts, qui répartit le calcul à l’intérieur d’un seul modèle ; et des systèmes multi-agents, où plusieurs agents se partagent des sous-tâches différentes au lieu de reprendre la même.

Ce que ça change pour une entreprise

La cascade s’attaque directement au coût par tâche. Quand l’essentiel des demandes est simple, les faire traiter par un petit modèle et réserver le grand aux cas difficiles réduit la facture sans dégrader sensiblement la qualité perçue. Elle est déjà intégrée à certains outils du marché, comme Copilot Fusion 5, mais elle peut aussi se construire en interne, au sein d’une passerelle LLM ou d’une chaîne de traitement, pour tout volume important de requêtes répétitives.

Le gain n’est pas garanti. Chaque escalade coûte la première passe, le contrôle et la seconde passe, et allonge le délai 4 : si trop de requêtes remontent, la cascade revient plus cher qu’un appel direct au grand modèle. Le principal risque est le contrôle lui-même, qui peut laisser passer une réponse fausse mais assurée. Il faut donc un jeu d’évaluation représentatif, un suivi du taux d’escalade et des vérifications régulières par sondage des réponses acceptées au premier niveau.

Idées reçues

  • « Une cascade, c’est la même chose que le routage. »

    Le routage choisit un modèle avant de l’appeler ; la cascade appelle d’abord le petit modèle et décide au vu de sa réponse. Elle voit davantage, mais paie une passe de plus quand elle escalade.

  • « La cascade fait toujours économiser. »

    Seulement si la plupart des requêtes s’arrêtent au premier niveau. Avec beaucoup d’escalades, on paie deux modèles et un contrôle au lieu d’un seul.

  • « Si le contrôle valide la réponse, elle est juste. »

    Le contrôle peut se tromper, surtout s’il s’agit lui-même d’un modèle. Il faut mesurer son taux d’erreur sur des cas connus.

Sources

  1. Viola et Jones, « Rapid Object Detection using a Boosted Cascade of Simple Features », 2001
  2. Chen, Zaharia et Zou, « FrugalGPT: How to Use Large Language Models While Reducing Cost and Improving Performance », 2023
  3. Yue et al., « Large Language Model Cascades with Mixture of Thoughts Representations for Cost-efficient Reasoning », 2023
  4. GitHub, « About GitHub Copilot Fusion », documentation officielle
  5. GitHub, « Route and orchestrate models with GitHub Copilot Fusion », 2026

Voir aussi