Tendances du jour
Dimanche calme côté releases (aucune nouvelle version de Claude Code, Codex CLI, Gemini CLI ou des grands frameworks) : la sélection se limite à 7 éléments solides. Le fil rouge est le contrôle des agents : guardrails placés hors du modèle, au plus près des systèmes de référence, handoffs multi-agents validés de façon déterministe. En parallèle, Sakana montre qu'un même modèle peut améliorer seul son équipe d'agents, et la capacité de Claude à trouver des vulnérabilités dépasse largement la capacité humaine à les corriger.
Claude a trouvé 29 000 bugs potentiels dans l'open source, seuls 516 sont corrigés
The New Stack
En six mois de scan, les modèles d'Anthropic ont remonté plus de 29 000 vulnérabilités candidates. Six cabinets externes en ont revu environ 6 000 et en ont validé 5 674 sur 6 123 examinées, mais seules 516 sont corrigées en amont et près de 23 000 n'ont pas été revues. Le nouvel OSS Scanner envoie désormais les findings non validés directement aux mainteneurs volontaires, avec un reproducteur et parfois un patch candidat. Pour qui orchestre des agents de sécurité ou de code, le goulot d'étranglement n'est plus la détection mais la vérification et la remédiation : c'est là qu'il faut mettre des agents… et des humains.
Lire l’article complet sur thenewstack.io (nouvel onglet)Des agents qui exécutent chaque tool call correctement peuvent quand même enfreindre toutes les règles métier
VentureBeat (tribune de Gabe Monroy, CTO de Workday)
Le tool calling rend chaque action déterministe, mais la couche de décision (quel outil, quand, avec quels arguments) reste probabiliste. Résultat : un agent optimisé pour finir sa tâche peut contourner le droit du travail ou des règles fiscales qu'aucune partie de son architecture ne représente. L'auteur rejette les patchs externes (gateways, middleware de policies, gros system prompts : « un prompt est une requête, pas une garantie ») et propose trois briques : un context engine filtré par l'identité, un policy engine qui reprend les seuils d'approbation humains, et une couche d'exécution où chaque appel porte l'autorité délimitée de l'humain servi. Point de vue d'éditeur, mais la question « où tournent les guardrails ? » est la bonne à poser à toute plateforme d'agents.
Lire l’article complet sur venturebeat.com (nouvel onglet)Contrôler les systèmes multi-agents : tracer les handoffs, checkpointer l'état partagé, éviter la monoculture de modèles
VentureBeat (publié samedi soir, heure de Paris)
Cette tribune très opérationnelle part d'un constat : des agents individuellement corrects peuvent produire ensemble un résultat faux. Elle recommande de tracer toute l'exécution (ordre d'invocation, payloads de handoff, lectures/écritures d'état, coûts par étape), de mesurer deadlocks et livelocks, et d'évaluer chaque handoff sur trois niveaux : qualité du contexte, intégrité de l'interface, interprétation en aval. Côté contrôles déterministes : handoffs typés (JSON Schema / Pydantic) validés avant exécution, orchestration explicite en graphe d'états (type LangGraph) avec plafonds d'itérations et timeouts, et un relecteur d'une autre famille de modèles pour casser les angles morts partagés. Une checklist directement applicable à n'importe quel orchestrateur.
Lire l’article complet sur venturebeat.com (nouvel onglet)Sakana AI dévoile MASS : un seul modèle qui optimise et entraîne sa propre équipe d'agents
Sakana AI (publié dans la nuit du 11 au 12 octobre)
MASS (Multi-Agent Self-Supervision), conçu avec UC Berkeley, fait tenir à un même modèle de 27B les rôles d'exécutant, d'optimiseur de workflow et d'évaluateur, puis le fine-tune sur les exécutions de la meilleure équipe de sous-agents. Après deux cycles, le score par token de sortie atteint 1,2 à 1,6 fois celui du modèle de base sur MLR-Bench, DSBench, ScienceAgentBench et AstaBench. Les trajectoires multi-agents se révèlent plus efficaces comme données d'entraînement que les trajectoires mono-agent, et le goulot de l'auto-amélioration serait l'optimiseur, pas l'évaluateur. Un signal fort pour qui conçoit des workflows d'agents : la topologie de l'équipe devient elle-même un objet d'apprentissage.
Lire l’article complet sur sakana.ai (nouvel onglet)Nadella veut un « frein d'urgence » et des contrôles d'agents placés hors du modèle
Implicator.ai
Dans un essai publié le 10 octobre, Satya Nadella demande que les permissions des agents soient appliquées à l'extérieur du modèle, avec la possibilité pour une personne autorisée de suspendre ou d'arrêter un agent en cours de tâche. Implicator replace la proposition dans son contexte : Microsoft Execution Containers (MXC), passé en GA le 7 octobre comme couche de confinement des workloads d'agents, ne propose pas encore de frein d'urgence, et l'intégration Entra/Intune n'a pas de date. L'article rappelle aussi que l'AISI britannique a contourné tous les moniteurs de code qu'elle a testés. Pour les praticiens, ce que Nadella pousse, c'est la séparation entre fournisseur d'intelligence et autorité d'exécution, au cœur des control planes d'agents.
Lire l’article complet sur implicator.ai (nouvel onglet)Claude Code reconstruit le contexte d'un projet en deux appels MCP… puis bute sur les limites des métadonnées
The New Stack
Un ingénieur de Bit Cloud a lancé une session Claude Code vierge, sans historique ni code local, et l'a laissée retrouver l'architecture d'une app via les outils MCP d'une plateforme qui enregistre les dépendances de chaque version de composant. Claude a identifié l'entité partagée entre app et service, implémenté la fonctionnalité au seul bon endroit et livré 41 tests au vert sans toucher au reste. Mais les enregistrements ne vérifiaient pas la compatibilité des routes API, et les tests MongoDB étaient sautés en CI : un build vert ne prouvait rien. L'auteur en tire une distinction utile : la mémoire (CLAUDE.md, auto-memory) capture l'intention, les dépendances versionnées capturent la structure, et un agent a besoin des deux.
Lire l’article complet sur thenewstack.io (nouvel onglet)Karpathy : le fossé de perception des capacités des LLM devient un « entonnoir »
Andrej Karpathy (X)
Karpathy reprend un post d'avril pour décrire un écart qui se creuse : environ 6 milliards de personnes n'ont quasiment aucune exposition aux LLM, 1 à 2 milliards les utilisent comme moteur de recherche amélioré, et environ 20 millions les utilisent professionnellement et voient des agents boucler en un prompt des projets de plusieurs semaines. Tout en bas, quelque 5 000 personnes ayant accès aux systèmes internes des labs observent des milliers d'agents travaillant des semaines sur de gros projets logiciels, avec une revue humaine qui décroche. Pour les équipes qui orchestrent des agents, l'enjeu est moins la capacité brute que la vérification à l'échelle et l'accompagnement d'organisations restées en haut de l'entonnoir.
Lire l’article complet sur x.com (nouvel onglet)