En clair
Quand on achète un grand cru, on fait confiance à l’étiquette et au caviste. Rien ne garantit, à la dégustation, que la bouteille n’a pas été remplie d’un vin plus ordinaire. Avec l’IA, la situation est la même : on paie pour un modèle précis, mais la réponse arrive sous forme de texte, et rien ne prouve qu’elle n’a pas été produite par un modèle plus petit, plus ancien ou compressé pour réduire les coûts.
L’attestation de modèle ajoute l’équivalent d’un sceau infalsifiable. Le fournisseur s’engage d’abord publiquement sur un modèle précis, sous la forme d’une empreinte de ses poids qui ne révèle rien de leur contenu. Ensuite, chaque réponse peut être accompagnée d’une preuve que n’importe qui peut vérifier : elle montre que c’est bien ce modèle-là qui a produit ce texte-là.
La question devient pressante parce que les réponses passent de plus en plus par des intermédiaires : passerelles, revendeurs, hébergeurs tiers, chaînes d’agents. Chacun de ces maillons pourrait, volontairement ou non, changer de modèle en chemin.
Un exemple
Un cabinet d’expertise comptable utilise, via un hébergeur tiers, un grand modèle pour préparer des analyses de dossiers fiscaux. Son contrat stipule un modèle et une version précis, retenus après une phase de qualification. Lors d’un audit interne, la direction des risques constate une baisse de qualité sur certains dossiers et se demande si l’hébergeur n’a pas basculé, aux heures de pointe, vers une version compressée moins coûteuse.
Sans moyen de preuve, le cabinet ne peut que comparer des réponses et soupçonner. Il ajoute donc à son prochain appel d’offres une exigence d’attestation : soit un rapport signé par le matériel de confiance de l’hébergeur pour chaque session, soit, à terme, une preuve cryptographique par réponse, vérifiée automatiquement et archivée avec le dossier.
Comment ça marche
Le problème est documenté : en 2025, Will Cai, Dawn Song et leurs coauteurs montrent qu’un client ne peut pas détecter de façon fiable qu’un fournisseur d’API a substitué un modèle moins cher ou quantifié au modèle facturé, car les tests statistiques sur les textes exigent beaucoup de requêtes et ratent les substitutions subtiles ; ils jugent les méthodes purement logicielles fondamentalement peu fiables et proposent de s’appuyer sur des environnements d’exécution de confiance 3. Ces environnements existent sur les processeurs graphiques : un GPU NVIDIA H100 peut produire un rapport d’attestation signé, qui décrit son micrologiciel et ses pilotes, avec une clé propre à chaque puce gravée dans le matériel 4.
- S’engagerLe fournisseur publie une empreinte cryptographique des poids du modèle, qui l’identifie sans révéler son contenu.
- ExécuterLe modèle répond à la requête, dans un environnement de confiance ou en calculant en parallèle une preuve.
- ProuverUne preuve ou un rapport signé relie la réponse à l’empreinte publiée et à la requête reçue.
- VérifierLe client ou un tiers contrôle la preuve avec l’empreinte, la requête et la réponse, sans accès aux poids.
L’autre voie est purement cryptographique : les preuves à divulgation nulle de connaissance, ou zkSNARK, démontrent qu’un calcul a été exécuté correctement sans en révéler les données. En 2024, zkLLM produit ainsi une preuve d’inférence pour un modèle de 13 milliards de paramètres en moins de quinze minutes, avec une preuve de moins de 200 ko 2. En novembre 2026, Anthropic publie FlashProve, un prototype de recherche open source qui applique cette approche à un modèle de type mixture d’experts de 400 milliards de paramètres : la preuve se calcule à environ 110 tokens par seconde sur un seul GPU H100, mais coûte environ 72 fois le temps de calcul d’un service d’inférence classique, et sa vérification prend environ 17 secondes 1.
Les limites restent fortes : FlashProve couvre une version en nombres entiers du modèle, avec un décodage déterministe, des contextes de 1 024 tokens et une architecture qui reste visible 1. L’approche matérielle coûte peu en performance 3 mais suppose de faire confiance au fabricant de la puce, alors que la preuve cryptographique résiste même à un matériel compromis 1. L’attestation de modèle ne dit rien de la qualité ou de l’alignement du modèle, ni de son fonctionnement interne, qui relève de l’interprétabilité : elle garantit seulement son identité.
Ce que ça change pour une entreprise
Pour l’entreprise, l’attestation de modèle transforme une promesse contractuelle en fait vérifiable. Elle intéresse d’abord ceux qui achètent l’IA par des intermédiaires, qui ont qualifié un modèle précis pour un usage réglementé, ou qui doivent prouver a posteriori quel système a produit une décision. L’option matérielle existe déjà sur les GPU H100, sous le nom d’informatique confidentielle 4.
Le coût reste le principal frein : une preuve cryptographique par réponse multiplie aujourd’hui le calcul par plusieurs dizaines et ne fonctionne que dans des conditions restreintes 1. À court terme, il est réaliste d’exiger contractuellement des rapports d’attestation matérielle et un droit d’audit, et de suivre la maturité des preuves cryptographiques, encore au stade de la recherche 1.
Idées reçues
- « On peut reconnaître le modèle utilisé en lisant ses réponses. »
Les tests sur les textes demandent beaucoup de requêtes et ratent les substitutions subtiles, comme une version compressée du même modèle [3].
- « Prouver quel modèle a répondu oblige à publier ses poids. »
Non : la preuve s’appuie sur une empreinte des poids, qui restent secrets. Seule l’architecture reste visible dans l’approche d’Anthropic [1].
- « Un modèle attesté est un modèle sûr. »
L’attestation garantit l’identité du modèle, pas la qualité ni la sûreté de ses réponses : un modèle mal aligné peut être parfaitement attesté.
Sources
- Rinberg, Allain, Chiesa et al. (Anthropic), « Provable inference », 2026
- Sun, Li et Zhang, « zkLLM: Zero Knowledge Proofs for Large Language Models », 2024
- Cai, Shi, Zhao et Song, « Are You Getting What You Pay For? Auditing Model Substitution in LLM APIs », 2025
- Apsey, Rogers, O’Connor et Nertney (NVIDIA), « Confidential Computing on NVIDIA H100 GPUs for Secure and Trustworthy AI », 2023