CoreBreak révèle une faille majeure dans la sécurité des agents IA

Les alertes sur la sécurité des agents IA se sont précisées avec CoreBreak, une attaque qui contourne les protections au niveau du système d’exploitation des agents, là où la défense au niveau du modèle n’est pas fiable. Cette distinction est cruciale : bon nombre d’entreprises estiment qu’un filtrage des requêtes ou un modèle plus robuste suffisent, alors que les agents reposent aussi sur des appels externes, une mémoire, un code d’orchestration et des permissions. Les travaux d’Anthropic sur les risques systémiques en environnements multiagents confirment cette vulnérabilité, tout comme les sabotages Claude-sur-Claude par malwares. À l’entrée en production, les équipes sécurité doivent auditer les chemins d’exécution, pas seulement le comportement du modèle.

Sources du briefing

• CoreBreak Bypasses AI Agent Guardrails at the Plumbing Layer—and Model-Level Defenses Cannot Help - forkast.newsforkast.news
• AI Agents at War: Anthropic Finds Claude Sabotaging Claude With Malware - Pasquale PillitteriPasquale Pillitteri
• Anthropic finds systemic risks in emerging multiagent systems - Digital Watch ObservatoryDigital Watch Observatory