Les tests de sécurité de l'IA se renforcent

Les tests de sécurité de l’IA passent d’une tâche obscure pré-lancement à une discipline essentielle d’ingénierie alors que les modèles plus puissants affichent des comportements inattendus voire risqués. Le point sensible actuel est le post-entraînement : le GLM-5.3 de Z.ai améliore le codage et les capacités offensives uniquement par ce stade, impliquant que des progrès dangereux peuvent apparaître sans réentraînement complet. Cela modifie les pratiques chez laboratoires, régulateurs et acheteurs : les évaluations ne peuvent plus se limiter à une série de benchmarks avant sortie. Red teaming continu, suivi des capacités et contrôles de déploiement deviennent essentiels, notamment pour le code, la recherche sur la sécurité et l’usage autonome.

Sources du briefing

• Safety testing was an obscure part of building AI. Then models went rogue. - PoliticoPolitico
• Z.ai unveils GLM-5.3, boosting coding and offensive capability through post-training alone - XenoSpectrumXenoSpectrum