Tendances du jour
La chaîne d'approvisionnement des harness devient une surface d'attaque majeure : une version piégée de l'extension officielle Claude Code a installé des portes dérobées SSH via Open VSX et Cursor. En parallèle, les sessions longues gagnent du terrain (fin du plafond de 5 h sur l'offre Ultra d'Anthropic, Computer Use de Gemini en GA), et la recherche se concentre sur l'évaluation fine des trajectoires et la supervision des agents avant qu'ils n'agissent.
Porte dérobée dans l'extension officielle Claude Code pour VS Code (v2.1.313) diffusée via Open VSX et Cursor
Phorion (avis de sécurité), complété par StepSecurity
Une version 2.1.313 trojanisée de l'extension « anthropic.claude-code » a été publiée sur Open VSX le 29 octobre, puis répliquée dans la marketplace de Cursor : jusqu'à environ 5 000 utilisateurs l'auraient reçue pendant une fenêtre d'environ 11 heures. Le code injecté s'exécute dès le chargement du fichier par Node, avant même l'appel à activate. Il ajoute une clé SSH « svc-telemetry » dans authorized_keys, ouvre un tunnel SSH inverse vers 134.209.82.225, installe une persistance sur macOS, Linux et Windows, puis envoie une balise contenant notamment les noms des variables d'environnement qui ressemblent à des identifiants. Désinstaller l'extension ne suffit pas : il faut supprimer les artefacts de persistance, passer en 2.1.314 et faire tourner tous les secrets (Git, CI/CD, cloud, registres). Pour qui orchestre des agents, c'est un rappel brutal : le harness lui-même et ses extensions font partie de la surface d'attaque, et doivent être épinglés, vérifiés et surveillés.
Lire l’article complet sur phorion.io (nouvel onglet)Anthropic supprime le plafond de session de 5 heures pour les abonnés Ultra vérifiés
The New Stack
Anthropic renomme ses offres : Max 5x devient « Max » (100 $/mois) et Max 20x devient « Ultra » (200 $/mois). Les comptes Ultra vérifiés n'ont plus de fenêtre glissante de 5 heures, seulement un quota hebdomadaire égal à 10 fois celui de Pro. Les offres incluent désormais 100 $ (Max) ou 200 $ (Ultra) de crédits API mensuels sur Claude Platform. Au-delà du quota, on peut basculer sur des crédits d'usage facturés au tarif API. La vérification est automatique (historique du compte et des paiements) et ne peut pas être accélérée. Pour les longues sessions Claude Code et les orchestrations multi-agents qui tournent en continu, la contrainte passe du créneau horaire au budget hebdomadaire.
Lire l’article complet sur thenewstack.io (nouvel onglet)Gemini API : l'outil Computer Use passe en disponibilité générale
Google AI for Developers (notes de version de l'API Gemini)
Google annonce le 30 octobre que l'outil Computer Use est en disponibilité générale (GA) dans l'Interactions API, présentée comme son interface principale pour les modèles et les agents, ainsi que dans GenerateContent. Le pilotage d'interfaces graphiques sort ainsi du statut expérimental chez Google, quelques jours après le lancement de GPT-6.1 Terra par OpenAI, lui aussi centré sur le computer use. Pour les équipes qui construisent des agents, cela signifie un support en production et des API stables pour automatiser des applications web ou de bureau dépourvues d'API. La conséquence directe : les questions de sandboxing, de permissions et de vérification des actions deviennent prioritaires.
Lire l’article complet sur ai.google.dev (nouvel onglet)Launch HN : Simantic (YC F26), la simulation de firmware pensée pour les agents IA
Hacker News (Launch HN)
Simantic propose des cartes de développement virtuelles que l'on programme et exécute en un seul appel d'API depuis le terminal, ce qui permet aux agents de code de tester du firmware sans matériel physique. Le simulateur, réécrit from scratch en Rust après un premier prototype basé sur Renode, est déterministe et couvre notamment les STM32F0/F4/H7, les ESP32-S3/C3 et le RP2040. Il est disponible dans le cloud ou en binaire local. Il s'accompagne d'un agent de revue de firmware qui s'en sert comme moteur de vérification, et d'une intégration CI qui valide chaque commit. C'est un bon exemple d'environnement d'exécution vérifiable construit pour boucler la boucle des agents sur un domaine, l'embarqué, où ils ne pouvaient jusqu'ici pas valider leur propre travail.
Lire l’article complet sur news.ycombinator.com (nouvel onglet)KARMA : faire évoluer la connaissance d'un harness d'agent sans réentraînement
arXiv (cs.AI, annoncé le 30 octobre)
KARMA fige les poids du modèle et le code exécutable du harness, et fait évoluer à la place six modules de connaissance typés. Un vérificateur attribue chaque erreur à un module, un critique compare les trajectoires réussies et ratées pour guider un « évolueur », et chaque modification n'est conservée que si elle passe une porte de validation, sinon elle est annulée. Sur des cas tirés d'environ 500 000 logs réels d'agents publicitaires (six domaines e-commerce, trois familles de LLM), le score hold-out moyen passe de 30,19 à 39,15 (+29,7 %), et les gains se transfèrent d'un domaine à l'autre. C'est une approche de « meta-harness » directement transposable : améliorer un agent en production en versionnant et en validant sa connaissance plutôt que son prompt ou ses poids.
Lire l’article complet sur arxiv.org (nouvel onglet)Prefix Executability : évaluer les agents à outils au-delà du succès final
arXiv (cs.AI, annoncé le 30 octobre, accepté à NeurIPS 2026)
Les auteurs montrent que le taux de réussite final masque la validité des appels d'outils intermédiaires. Ils proposent de vérifier chaque préfixe d'une séquence d'appels par rapport aux schémas d'outils, aux préconditions d'état et aux dépendances de données. Ils définissent cinq métriques (courbes d'exécutabilité, profondeur de la première erreur, taux d'exécutabilité de trajectoire, AUC normalisée, taux de récupération), testées sur BFCL-v3, ToolSandbox et τ³-bench. Résultat : les classements fondés sur le seul résultat et ceux fondés sur les préfixes divergent, et une vérification explicite du plan avant exécution allonge les préfixes valides. Pour vos evals d'agents, c'est un argument concret pour noter les trajectoires et pas seulement l'état final.
Lire l’article complet sur arxiv.org (nouvel onglet)« Pre-Crime for Agents » : détecter qu'un agent va divulguer un secret avant qu'il n'écrive
arXiv (cs.AI, annoncé le 30 octobre)
Dans un système multi-agents contrôlé, un pair met la pression sur un agent cible pendant jusqu'à 20 tours pour lui soutirer un secret, par exemple un jeton de déploiement. Une sonde linéaire lue sur les activations à chaque appel du modèle détecte 82 % des appels qui fuient sur Qwen3-32B pour 5 % de faux positifs, contre 26 % pour un moniteur LLM zero-shot. Elle atteint une AUROC de 0,91 sur le raisonnement de gpt-oss-20b. Les auteurs reconnaissent eux-mêmes les limites : un classifieur bag-of-words s'en approche, la sonde signale aussi des divulgations autorisées, et l'alerte arrive tard. Cela éclaire la supervision des agents recrutés par d'autres agents, où les filtres de sortie interviennent trop tard.
Lire l’article complet sur arxiv.org (nouvel onglet)DoorDash n'a reçu que « quelques centaines » de commandes passées par des agents IA tiers
TechCrunch
Lors de ses résultats du T3, le PDG Tony Xu a indiqué que les agents tiers n'avaient généré que quelques centaines de commandes, à comparer à environ 3 millions de livraisons par jour. DoorDash multiplie pourtant ses propres surfaces agentiques : agent de commande par SMS, agent en ligne de commande, chatbot Ask DoorDash et connecteur permettant à d'autres chatbots de passer des commandes d'entreprise. L'entreprise évoque aussi de futures publicités à l'intérieur des agents. Le contraste avec Amazon, qui bloque les agents personnels, et Walmart, qui les accueille, montre que le commerce agentique reste un marché d'accès négocié, où la question de qui contrôle le canal compte autant que la technologie.
Lire l’article complet sur techcrunch.com (nouvel onglet)
Autres actus IA
OpenAI, Google, Microsoft et Anthropic soutiennent un jeton robots.txt commun pour refuser l'entraînement IA
The Verge
Les quatre laboratoires s'engagent à respecter un même jeton robots.txt qui permet aux éditeurs de refuser l'entraînement IA sur l'ensemble de leurs crawlers. Anthropic a déjà commencé à l'appliquer, les autres ont annoncé des calendriers plus tardifs. Microsoft ajoute en outre des contrôles qui séparent l'entraînement de la récupération de contenus pour les réponses en direct. La distinction entre entraînement et récupération (retrieval) pourrait à terme conditionner ce que vos agents de recherche web ont le droit de lire.
Lire l’article complet sur theverge.com (nouvel onglet)Wikimedia soutient le fair use pour l'entraînement mais conteste le RAG dans l'affaire NYT contre OpenAI
Wikimedia Foundation
Dans un mémoire d'amicus curiae déposé devant le tribunal fédéral de New York (SDNY), la Wikimedia Foundation défend le fair use pour l'entraînement des LLM. Elle soutient en revanche que la génération augmentée par récupération (RAG), lorsqu'elle restitue des œuvres protégées, ne devrait pas en bénéficier. Si cette position était retenue, de nombreux pipelines RAG d'entreprise et agents de recherche devraient passer par des licences. C'est un signal juridique à surveiller pour quiconque conçoit des agents qui citent ou restituent du contenu tiers.
Lire l’article complet sur wikimediafoundation.org (nouvel onglet)