Un expert d’Anthropic estime à plus de 10 % le risque d’extinction

Une alerte venue de l’intérieur

La nouvelle alerte sur le risque existentiel lié à l’intelligence artificielle ne vient pas d’un militant extérieur, d’un élu en campagne ou d’un auteur de science-fiction. Elle vient de l’intérieur d’Anthropic, l’un des laboratoires de pointe qui développent les modèles au cœur du débat mondial.

Evan Hubinger, présenté dans plusieurs articles récents comme responsable de l’Alignment Science chez Anthropic, a écrit sur X que l’IA pourrait tuer tous les humains et a donné sa propre estimation: plus de 10 % dans la prochaine décennie [1]. Son message répondait à la démission de Jacob Coxon, chercheur chez Anthropic, qui a déclaré quitter l’entreprise et l’industrie de l’IA après trois années de travail sur le préentraînement de modèles chez OpenAI puis Anthropic [3].

Ce chiffre n’est pas une prévision officielle d’Anthropic. Il ne faut pas le lire comme une probabilité mesurée, comparable à celle d’un modèle météorologique annonçant la pluie du lendemain. C’est une appréciation subjective d’un risque technologique sans précédent. Mais la source change tout. Quand un spécialiste de l’alignement, employé par un laboratoire de pointe, affirme publiquement et sous son nom que le risque d’extinction humaine causée par l’IA dépasse un sur dix, ce n’est plus seulement un débat théorique. C’est aussi un événement de gouvernance.

La démission de Coxon a servi de déclencheur immédiat. Il a affirmé qu’OpenAI et Anthropic n’agissaient pas de façon responsable et les a accusées de foncer vers une superintelligence auto-améliorante en jouant avec nos vies [5]. Selon Axios, Coxon a aussi soutenu que les personnes qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie, tout en expliquant que certains dirigeants et chercheurs seniors expriment ces craintes plus clairement en privé qu’en public [2].

Ce que Hubinger a dit — et ce qu’il n’a pas dit

La déclaration de Hubinger frappe parce qu’elle réunit trois éléments rarement formulés ensemble: un scénario catastrophique, un horizon temporel proche et l’évaluation d’un insider sur l’état réel de préparation de son organisation.

Forbes rapporte que Hubinger estime personnellement à plus de 10 % la probabilité que l’IA tue tous les humains dans les dix prochaines années, tout en ajoutant qu’Anthropic fait de son mieux mais ne dispose pas encore d’un plan pour résoudre l’alignement d’une superintelligence et n’est pas clairement en bonne voie pour y parvenir [1]. ABC décrit la même séquence centrale: Coxon démissionne, Hubinger répond qu’il a raison, puis précise qu’Anthropic n’a pas encore de solution pour aligner une superintelligence [3].

Cela ne signifie pas que Hubinger affirme que les modèles publics actuels sont sur le point d’exterminer l’humanité. Forbes indique qu’il a ensuite renvoyé au cadre de risque d’Anthropic et clarifié que sa crainte concernait une superintelligence issue d’une auto-amélioration récursive, non les modèles actuels tels qu’ils existent aujourd’hui [1]. Autrement dit, la peur n’est pas qu’un chatbot se transforme soudainement en Skynet. La crainte est que des systèmes de plus en plus puissants puissent aider à améliorer leurs successeurs, accélérer le rythme de développement de l’IA, puis produire des capacités que les humains ne comprendraient plus, ne limiteraient plus et ne pourraient plus arrêter de manière fiable.

Axios présente le dilemme comme une dynamique de course: ralentir peut signifier laisser un concurrent prendre l’avantage, mais continuer peut signifier perdre le contrôle [2]. C’est le piège de gouvernance au cœur de cette affaire. Si chaque laboratoire pense que l’autre continuera, alors même des inquiétudes sincères peuvent ne jamais se traduire par un vrai freinage.

Pourquoi “plus de 10 %” change le débat

Les spécialistes du risque n’ont pas besoin de certitude pour prendre au sérieux un danger catastrophique. Aucun pont, réacteur, avion ou dispositif médical ne serait accepté au motif qu’une probabilité d’un sur dix de désastre total est tolérable. L’importance du chiffre donné par Hubinger ne réside donc pas dans sa vérifiabilité. Il ne l’est pas vraiment. Le point central est qu’un insider techniquement compétent, travaillant dans une entreprise qui construit l’IA de frontière, considère ce risque comme sérieusement non négligeable.

The Next Web souligne que cette estimation doit être traitée comme une probabilité personnelle, et non comme une prédiction d’entreprise ou une mesure empirique [4]. Cette distinction est essentielle. Il n’existe pas de base de données historique de prises de contrôle par des IA superintelligentes permettant de calculer une fréquence. Les évaluations du risque existentiel mélangent des inférences techniques, des jugements sur le comportement des institutions, des hypothèses sur la croissance future des capacités et des croyances sur la possibilité de faire évoluer les techniques d’alignement.

Pourtant, les probabilités subjectives guident constamment des décisions réelles. Les gouvernements les utilisent dans le renseignement, les entreprises dans la cybersécurité, les autorités sanitaires dans la préparation à des événements rares mais dévastateurs. Une estimation supérieure à 10 % venant d’un responsable de l’alignement dans un laboratoire de pointe n’est donc pas un chiffre à accepter aveuglément, mais ce n’est pas non plus une formule à balayer comme une exagération.

Le débat est compliqué par les incitations économiques de l’IA. Axios note que certains critiques voient un intérêt stratégique pour les grands laboratoires à insister sur les risques catastrophiques: cela accroît l’importance politique de la technologie, attire l’attention et peut favoriser une régulation dont les acteurs dominants seraient les mieux placés pour supporter les coûts [2]. Mais Axios rapporte aussi que des personnes à l’intérieur des grandes entreprises d’IA paraissent de plus en plus inquiètes, notamment parce qu’elles voient des modèles non publiés et des trajectoires internes que le public ne peut pas évaluer [2].

Les deux lectures peuvent être vraies. Les entreprises peuvent avoir intérêt à dramatiser le risque, et leurs chercheurs peuvent sincèrement penser que le danger est réel. C’est précisément pour cela qu’un contrôle externe devient indispensable.

La démission comme signal de gouvernance

La démission de Coxon est importante parce qu’elle ne porte pas seulement sur une sortie de modèle ou une décision interne isolée. Elle décrit un problème structurel: une compétition vers des systèmes capables de s’améliorer eux-mêmes.

Les articles décrivent Coxon comme un chercheur en préentraînement, c’est-à-dire impliqué dans la phase lourde en calcul durant laquelle les grands modèles absorbent d’immenses volumes de données avant l’ajustement et le déploiement [5]. Il se situe donc près de la construction des capacités, pas seulement du côté des politiques publiques ou de la communication. Il dit avoir travaillé chez OpenAI et Anthropic, ce qui donne plus de poids à son alerte, car elle concerne le comportement de plusieurs laboratoires majeurs [3].

Coxon a également appelé les chercheurs à exiger d’autres conditions et a évoqué des accords de cadence ou des limites temporaires sur les progrès de capacités comme réponses possibles [5]. Ce point est crucial. L’histoire n’est pas seulement celle d’un chercheur qui part. C’est l’avertissement que la conscience individuelle ne suffit pas si la structure institutionnelle récompense d’abord la vitesse.

Axios rapporte qu’un autre responsable d’Anthropic, Samuel Marks, chargé du scalable oversight, a aussi déclaré que les développeurs d’IA pensent que leur technologie pourrait causer l’extinction humaine ou des résultats comparables, potentiellement dans les prochaines années [2]. L’épisode dépasse donc une démission et une réponse isolée. Il suggère que le vocabulaire du risque catastrophique est désormais employé ouvertement par plusieurs personnes à l’intérieur du même laboratoire de frontière.

Ce que les régulateurs vont entendre

Pour les régulateurs, l’enseignement utile n’est pas qu’un message sur X prouve une probabilité précise d’extinction. Ce n’est pas le cas. L’enseignement est que les laboratoires de frontière produisent eux-mêmes des témoignages selon lesquels la queue de distribution des risques de l’IA pourrait être extrême.

ABC rapporte que plus de 1 300 employés d’entreprises d’IA de frontière avaient signé en juillet une déclaration avertissant d’un risque réel de voir le développement des capacités accélérer au-delà de la capacité de la société à comprendre ou contrôler les systèmes résultants [3]. Le même article indique que cette déclaration appelait à un effort international pour développer des outils permettant de rythmer délibérément le progrès de l’IA avancée [3]. Dans ce contexte, l’estimation de Hubinger s’inscrit dans un motif plus large: des insiders ne demandent pas seulement de meilleurs tests produit, mais des mécanismes capables de ralentir ou coordonner la frontière elle-même.

C’est politiquement explosif. Si le risque IA est traité comme un risque logiciel ordinaire, des rapports de transparence, du red teaming et de la surveillance après déploiement peuvent sembler suffisants. S’il est traité comme un risque possible d’extinction, les décideurs regarderont plutôt du côté des licences de calcul, des évaluations avant mise sur le marché, de la déclaration obligatoire d’incidents, de la responsabilité juridique, des accords internationaux et des pouvoirs d’arrêt d’urgence.

La difficulté consiste à réduire le risque catastrophique sans offrir aux plus grands acteurs un fossé réglementaire qui les protège. Les mêmes laboratoires qui alertent sur le danger se battent aussi pour les talents, les capitaux, les clients et la position stratégique. Toute réponse publique devra intégrer ce conflit d’intérêts.

Le fil étroit sur lequel marche Anthropic

Anthropic a construit une grande partie de son identité publique autour de la sécurité. La franchise de Hubinger est donc à la fois cohérente avec cette image et embarrassante pour l’entreprise. Un laboratoire qui affirme que le danger est réel gagne en crédibilité parce qu’il prend le sujet au sérieux, mais il attire aussi la surveillance sur une question simple: pourquoi continuer à construire des systèmes plus puissants sans, selon l’un de ses propres responsables, disposer d’une voie claire pour aligner une superintelligence?

La question la plus importante n’est pas de savoir si le chiffre personnel de Hubinger est exactement juste. Elle est de savoir si Anthropic, OpenAI et les autres laboratoires de frontière peuvent démontrer que leurs mécanismes de gouvernance sont plus solides que les incitations à la course dénoncées par Coxon.

Même si la probabilité de catastrophe était de 0,1 %, les régulateurs auraient des raisons de poser des questions difficiles. À plus de 10 %, même comme estimation subjective, la charge de la preuve se renverse. Le public n’a pas besoin d’adhérer à chaque scénario apocalyptique pour exiger des contrôles proportionnés au pire résultat possible.

Skynet reste une fiction. Mais les personnes qui construisent ses plus proches équivalents réels débattent désormais publiquement des chances de perdre le contrôle. Ce n’est plus seulement un ressort narratif. C’est un problème de politique publique.

Sources des dernières 72 heures

1. [1]Anthropic Alignment Lead Warns AI Could ‘Kill All Humans’ As Researcher Quits9 sept. 2026, 04:14 UTC
2. [2]Anthropic insiders warn AI could kill all humans9 sept. 2026, 10:04 UTC
3. [3]Anthropic researcher quits saying AI developers believe 'it could kill us all'9 sept. 2026, 09:11 UTC
4. [4]An Anthropic researcher quit saying AI labs are gambling with our lives9 sept. 2026, 07:33 UTC
5. [5]‘Gambling with our lives’: Anthropic researcher quits over AI labs’ ‘irresponsible’ race8 sept. 2026, 21:00 UTC

Article généré par IA à partir d’une recherche web récente, puis conservé comme instantané éditorial daté.