Larssen Consulting
Sûreté et règles

Contamination des sources

La contamination des sources désigne la dégradation des réponses d’une IA lorsque les textes sur lesquels elle s’entraîne ou s’appuie pour répondre ont eux-mêmes été produits par d’autres IA, avec leurs erreurs et leurs biais, sans être identifiés comme tels.

  • Lecture : 4 minutes
  • Mis à jour le 12 novembre 2026
  • 4 sources

En clair

Imaginez une photocopie de photocopie de photocopie. À chaque passage, le texte perd un peu de netteté, les détails fins disparaissent, les taches s’ajoutent, et au bout de dix générations la page est illisible. La contamination des sources, c’est ce qui arrive quand les IA se nourrissent de textes écrits par d’autres IA plutôt que de documents d’origine.

Le web se remplit de contenus générés automatiquement : sites d’actualité sans rédaction, fiches produits, guides pratiques. Ces contenus contiennent les erreurs des modèles qui les ont produits. Quand un nouveau modèle s’entraîne sur ce web, ou quand un assistant va y chercher une réponse en direct, il reprend ces erreurs à son compte, et les présente avec la même assurance que des faits vérifiés.

Le phénomène peut être accidentel, quand des sites produits à la chaîne par l’IA sont simplement de mauvaise qualité, ou délibéré, quand un acteur publie en masse des textes conçus pour être absorbés par les modèles et orienter leurs réponses.

Un exemple

Le service client d’un assureur utilise un assistant qui cherche sur le web les règles de résiliation des contrats pour répondre aux questions des conseillers. Une semaine, plusieurs conseillers donnent une information fausse sur un délai légal. L’enquête montre que l’assistant s’est appuyé sur trois sites de conseils juridiques au contenu entièrement généré, qui se recopiaient les uns les autres et reprenaient une ancienne version de la règle.

L’assureur restreint alors les sources de l’assistant à une liste fermée, textes officiels, site du régulateur et documentation interne relue par le service juridique, et lui demande de citer systématiquement le document utilisé. Les conseillers peuvent ainsi vérifier d’un clic d’où vient chaque réponse.

Niveau technique

Comment ça marche

Côté entraînement, le phénomène porte un nom : l’effondrement des modèles. Dans une étude publiée par Nature en juillet 2024, Ilia Shumailov et ses coauteurs montrent que des modèles entraînés, génération après génération, sur des données produites par des modèles précédents subissent des défauts irréversibles : les cas rares, les « queues » de la distribution d’origine, disparaissent, et le modèle finit par oublier la réalité qu’il devait décrire 1. L’effet apparaît sur des grands modèles de langage comme sur d’autres modèles génératifs, et rend d’autant plus précieuses les données dont on sait qu’elles viennent d’humains 1.

  1. GénérerDes modèles produisent en masse des textes publiés sans relecture : sites automatisés, fiches, articles, parfois de la désinformation.
  2. Se mêlerCes textes se mêlent au contenu humain sur le web, sans marque qui permette de les distinguer de façon fiable.
  3. AbsorberUn nouveau modèle s’entraîne sur ce corpus, ou un assistant y cherche ses réponses en direct.
  4. AmplifierLes erreurs reprises sont republiées à leur tour, et la diversité comme la justesse des contenus diminuent.

Côté consultation, le risque touche les assistants qui cherchent leurs réponses sur le web au moment de répondre. NewsGuard recense, en juin 2026, 3 749 sites d’information générés par IA sans supervision humaine significative, dans 16 langues, qui se présentent comme des médias tenus par des journalistes 2. La contamination peut aussi être organisée : en mars 2025, NewsGuard rapporte qu’un réseau prorusse baptisé Pravda a publié 3,6 millions d’articles en 2024, et que dix assistants d’IA de premier plan ont repris ses récits mensongers dans 33 % des cas lors de ses tests 3. Dès 2023, Kai Greshake et ses coauteurs signalaient la contamination de l’écosystème d’information parmi les risques des applications fondées sur les grands modèles 4.

La contamination des sources se distingue de l’hallucination, où le modèle invente une information absente de ses sources : ici, il reprend fidèlement une source fausse. Elle diffère aussi de l’empoisonnement de données, attaque ciblée sur un jeu d’entraînement, même si les campagnes de désinformation en sont proches. Elle ne doit pas être confondue enfin avec la « contamination » des benchmarks, qui désigne la présence des questions d’un test dans les données d’entraînement. Les parades connues sont la traçabilité de la provenance des données, le filtrage des contenus générés, la restriction des sources consultées et la citation systématique des documents utilisés.

Ce que ça change pour une entreprise

Pour l’entreprise, la contamination des sources touche d’abord les usages où un assistant va chercher l’information à l’extérieur : veille, réponses aux clients, recherche réglementaire, analyse de marché. Une réponse fausse mais bien rédigée, appuyée sur une source qui a l’air sérieuse, est plus dangereuse qu’une absence de réponse. Le risque engage la responsabilité de l’entreprise quand l’information est transmise à un client ou sert à une décision.

Les parades ont un coût : limiter les sources à une liste fermée et relue, maintenir une base documentaire interne fiable, exiger des citations vérifiables, faire valider les réponses sensibles par un humain. Pour ceux qui entraînent ou adaptent leurs propres modèles, la valeur des données d’origine humaine documentées augmente 1. Aucun détecteur ne repère aujourd’hui de façon fiable tout le contenu généré par IA, ce qui fait de la provenance des sources le meilleur garde-fou.

Idées reçues

  • « Si l’IA cite une source, sa réponse est fiable. »

    La source peut elle-même avoir été générée par une IA, ou recopier d’autres sites automatisés. Il faut juger la source, pas seulement sa présence.

  • « Plus un modèle lit de données, meilleur il devient, quelle que soit leur origine. »

    Entraîné de façon répétée sur des données générées par des modèles, un modèle perd les cas rares et s’appauvrit : la qualité et la provenance comptent autant que le volume.

  • « La contamination des sources, c’est une autre façon de parler des hallucinations. »

    Dans une hallucination, le modèle invente. Ici, il reprend fidèlement une information fausse trouvée dans ses données ou ses sources.

Sources

  1. Shumailov, Shumaylov, Zhao, Papernot, Anderson et Gal, « AI models collapse when trained on recursively generated data », Nature, 2024
  2. NewsGuard, « Tracking AI-enabled Misinformation: AI Content Farm sites (and Counting), Plus the Top False Claims Generated by Artificial Intelligence Tools », mis à jour en 2026
  3. McKenzie Sadeghi et Isis Blachez (NewsGuard), « A Well-funded Moscow-based Global “News” Network has Infected Western Artificial Intelligence Tools Worldwide with Russian Propaganda », 2025
  4. Greshake, Abdelnabi, Mishra, Endres, Holz et Fritz, « Not what you’ve signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection », 2023

Voir aussi