Anthropic développe des agents autonomes intelligents

Anthropic a dévoilé une avancée prometteuse dans les systèmes d’IA auto-améliorables, avec un chercheur décrivant des agents qui ont amélioré leurs performances sur 10 benchmarks sans dégradation sur d’autres tâches. Ce point est crucial car l’un des défis majeurs dans l’optimisation itérative des modèles est d’éviter les régressions : un système peut se spécialiser pour une tâche tout en devenant moins sûr ou fiable ailleurs. Par ailleurs, Anthropic a présenté un cadre permettant à ses agents IA de contrôler du matériel en laboratoire ou lignes de production. Ces deux avancées conjuguées laissent entrevoir des agents non seulement raisonneurs de tâches logicielles mais aussi opérateurs d’équipements, ce qui accroît les enjeux en matière d’évaluation, d’autorisations, de journalisation et de sécurité physique.

Sources du briefing

• An Anthropic researcher just gave us a peek at self-improving AITechCrunch
• Anthropic’s new framework will let AI agents control hardware - ComputerworldComputerworld