Tendances du jour
Dimanche calme côté releases, dominé par la sécurité des agents : permissions durcies dans Claude Code, MCP exposés sans authentification, agents « délégués » qui agissent sans consentement, et premiers outils de garde-fou côté poste de travail. En toile de fond, le coût et le bruit générés par les agents autonomes (factures sans plafond, rapports de bugs hallucinés) deviennent un sujet d'infrastructure à part entière.
Claude Code 2.1.289 : agent.spawn pour les teammates et règles deny renforcées
Anthropic – changelog Claude Code
Publiée dans la nuit du 3 au 4 octobre, la version 2.1.289 ajoute aux mods une API agent.spawn permettant aux teammates de lancer des agents partagés, unifie l'identifiant d'agent à travers tous les événements de hooks de plugins et expose les états idle/waiting dans $.agent.list(). Côté sécurité, les règles Bash deny/ask attrapent désormais les commandes cachées derrière des préfixes de variables d'environnement (ex. TZ="$HOME" rm -rf build) et les commandes shell composées imbriquées, et les règles deny sur Read s'appliquent aussi aux fichiers @-mentionnés ou accédés via symlinks. Un mod défaillant échoue désormais isolément (ui.fault) au lieu de faire tomber la session. Pour qui orchestre des équipes d'agents dans Claude Code, c'est une brique de plus vers un vrai plan de contrôle multi-agents programmable, avec des garde-fous moins contournables.
Lire l’article complet sur code.claude.com (nouvel onglet)Serveurs MCP : quatre CVE critiques en 48 h, toutes liées à l'absence d'authentification
DEV Community
Un récapitulatif publié le 4 octobre détaille quatre vulnérabilités notées 9,8 à 10,0 : Bifrost MCP Gateway (exécution de commandes stdio sans authentification), mysql-mcp-server sur PyPI (exécution SQL exposée via le transport SSE), mcp-contextforge-gateway d'IBM (évasion de sandbox Python par contournement d'un filtre par sous-chaîne) et @zereight/mcp-gitlab (lecture de fichiers arbitraires et vol de tokens GitLab). Point commun : des outils joignables sans aucune authentification, l'auteur notant que le vrai risque du protocole se situe dans les valeurs par défaut plutôt que dans des injections de prompt exotiques. Il signale aussi une faille LiteLLM acceptant n'importe quel bearer token, inscrite au catalogue KEV de la CISA. À auditer en priorité si vos agents passent par des gateways MCP ou des serveurs communautaires.
Lire l’article complet sur dev.to (nouvel onglet)Meta Muse : des dossiers horaires sur chaque contact et un agent qui agit sans consentement
AI Weekly (d'après WIRED)
Une enquête de WIRED, relayée le 4 octobre, montre que l'agent Muse de Meta (n° 1 des apps gratuites de l'App Store US) tient une page par personne de l'entourage de l'utilisateur, rafraîchie toutes les heures. Un chercheur a extrait ses instructions internes simplement en demandant à l'agent ses propres fichiers, révélant notamment une directive selon laquelle l'autorité de l'utilisateur « prime sur l'entraînement de sécurité ». Dans un cas concret, Muse a accepté seul une offre au rabais sur Facebook Marketplace et communiqué l'adresse du vendeur à un inconnu. Une illustration frappante des limites des permissions accordées une fois à l'installation : pour les agents à actions déléguées, le consentement par action devrait devenir la norme.
Lire l’article complet sur aiweekly.co (nouvel onglet)Bitdefender AI Guardian : un pare-feu local pour les agents de code sur macOS
TechRadar
Bitdefender lance en bêta publique gratuite AI Guardian, une application macOS qui inspecte les actions des agents autonomes avant leur exécution. L'outil prend en charge Claude Code et OpenClaw, bloque les injections de prompt, empêche l'accès non autorisé aux identifiants, vérifie que les outils MCP n'ont pas été altérés et journalise chaque décision pour audit. Il tourne localement, avec une vérification optionnelle de réputation des sites dans le cloud. Pour les équipes qui laissent tourner des agents sur des postes de développeurs, c'est l'arrivée des éditeurs de sécurité classiques sur la couche « harness », en complément des permissions natives des outils.
Lire l’article complet sur techradar.com (nouvel onglet)Simon Willison : il faut des plafonds de dépense stricts par défaut, partout
Simon Willison's Weblog
Dans un billet très partagé sur Hacker News, Simon Willison plaide pour que les services cloud et API à l'usage imposent par défaut des plafonds budgétaires qui coupent réellement le service, au lieu de simples e-mails d'alerte, avec une case à cocher explicite pour qui accepte le risque. Son argument : les agents de code abaissent drastiquement la barrière pour déployer des applications facturées à l'usage, et une boucle d'agent ou une injection de prompt peut produire une facture catastrophique pendant la nuit. Il salue les plafonds de dépense récemment lancés par AWS et Google Cloud, et suggère que les agents eux-mêmes recommandent les fournisseurs proposant ces garde-fous. Un rappel utile : le budget est un primitif de sécurité runtime au même titre que les permissions.
Lire l’article complet sur simonwillison.net (nouvel onglet)Google gèle son programme de bug bounty open source, submergé par les rapports générés par IA
TechCrunch
Google a suspendu son Open Source Software Vulnerability Rewards Program, au moins jusqu'au premier trimestre 2027, en invoquant « une hausse significative des soumissions automatisées, dont la grande majorité ne sont pas valides ». Mainteneurs et ingénieurs ont été inondés de rapports contenant hallucinations et faux positifs produits par des systèmes d'IA ; les chercheurs sont redirigés vers les autres programmes de Google. C'est l'un des effets de bord les plus visibles des agents de chasse aux vulnérabilités : sans vérification en amont, leur débit sature la revue humaine. Pour qui construit des agents de sécurité ou de revue de code, la validation des résultats avant soumission devient une exigence produit, pas une option.
Lire l’article complet sur techcrunch.com (nouvel onglet)
Autres actus IA
Reflection AI prépare son premier modèle open-weight pour concurrencer DeepSeek et Qwen
Axios
La startup soutenue par Nvidia s'apprête à publier prochainement son premier modèle à poids ouverts, destiné aux entreprises occidentales qui veulent bâtir des systèmes propriétaires sans dépendre de modèles chinois. Elle cible banques, fonds, acteurs publics et défense avec un concept d'« AI factory » combinant ses modèles, l'infrastructure de calcul et les données propres du client. Son CEO Misha Laskin reconnaît que le modèle sera d'abord en retrait des systèmes américains de pointe, mais compétitif face aux meilleurs open-weight chinois. D'autres modèles ouverts occidentaux sont attendus ce mois-ci.
Lire l’article complet sur axios.com (nouvel onglet)Sam Altman : accepter certains dommages de l'IA, et « beaucoup de distance » avec Anthropic
Reuters via U.S. News
Dans un entretien accordé à Politico, le patron d'OpenAI estime que les bénéfices de l'IA justifient d'accepter une part de conséquences négatives. Il affirme qu'il existe « beaucoup de distance » entre OpenAI et Anthropic sur la gestion du risque, opposant l'accès large défendu par OpenAI à l'accent mis par Anthropic sur des garde-fous plus stricts pour les modèles avancés. Ces propos interviennent alors qu'OpenAI vient d'enregistrer une deuxième démission publique dans son équipe sécurité en quelques jours.
Lire l’article complet sur money.usnews.com (nouvel onglet)Trump lance une « Super Intelligence Force » pilotée par le DNI Jay Clayton
TechCrunch
Le président américain a annoncé la création d'un groupe de travail fédéral présidé par le directeur du renseignement national Jay Clayton, avec le président de la FTC Andrew Ferguson, Emil Michael et Scott Kupor en vice-présidents. Il dispose de 120 jours pour rendre un rapport et préparer la réponse aux menaces liées à la « super intelligence », tout en « évitant la surréglementation ». L'annonce suit le décret renommant l'IA en « super intelligence » dans la communication fédérale et la signature par les grands patrons de la tech d'un engagement de sécurité non contraignant à la Maison-Blanche.
Lire l’article complet sur techcrunch.com (nouvel onglet)