Tech • IA • Robotique
Washington se penche sur la sécurité de l’IA : que proposent les « AI doomers » ? | Diet TBPN
7/10INTRO
Des figures en vue plaidant pour un ralentissement de l’IA ne proposent pas une interdiction générale de l’intelligence artificielle, mais une pause strictement encadrée de l’entraînement de pointe, assortie de voies contrôlées par l’État pour atteindre la superintelligence plus lentement, vers 2040 plutôt qu’à la fin des années 2020.
POINTS CLÉS
Un ralentissement, pas un arrêt
La proposition centrale consiste à retarder le développement des IA les plus avancées plutôt qu’à stopper net l’usage de l’IA. Les modèles existants continueraient d’être déployés pour l’inférence, et la recherche sur les systèmes actuels pourrait encore produire des applications concrètes et des gains économiques. L’objectif principal est d’éviter un bond rapide vers des systèmes très autonomes ou surhumains avant que les gouvernements et les institutions ne soient prêts.
Mettre en pause les entraînements de pointe
La demande la plus concrète est une pause de l’IA sur les nouveaux entraînements à l’échelle de la frontière technologique et sur les expériences associées. Dans ce cadre, les grands clusters de calcul seraient limités au service des modèles existants plutôt qu’à l’entraînement de modèles plus puissants. La cible est la prochaine génération de sauts de capacités, non les applications courantes grand public ou d’entreprise construites sur les modèles actuels.
Les centres de données au-dessus de 10 000 équivalents H100 feraient l’objet d’une supervision
Un seuil d’application proposé vise toute installation comptant plus de 10 000 puces équivalentes H100, soit environ 100 millions de dollars de matériel. De tels sites devraient probablement obtenir des permis, subir des inspections et vérifier leurs charges de travail. L’idée de fond est que l’IA de pointe reste physiquement concentrée dans de grands centres de données visibles, énergivores, et donc plus faciles à surveiller que des projets logiciels dispersés.
Les inventaires de calcul seraient déclarés à l’international
Les grands pays seraient tenus de divulguer leurs inventaires nationaux de calcul pour l’IA, y compris la quantité de matériel avancé détenue et son emplacement. Le modèle rappelle la non-prolifération nucléaire: transparence, audit et surveillance mutuelle. Les partisans y voient la seule voie plausible pour éviter une course déstabilisatrice, tandis que les critiques soulignent que les accords internationaux sont difficiles à négocier et plus encore à faire respecter.
Les nouvelles installations de R&D ressembleraient à des laboratoires nationaux sécurisés
Les futurs entraînements de pointe, s’ils sont autorisés, seraient déplacés vers des installations conçues à cet effet avec une sécurité de niveau étatique. Parmi les contrôles proposés figurent l’isolation par cage de Faraday, des systèmes isolés du réseau, un accès physique très strict et une vérification poussée du personnel et du matériel. L’objectif est de rendre bien plus difficile le vol de modèles, l’entraînement clandestin et le déploiement non autorisé.
Des plafonds de bande passante visent à empêcher l’exfiltration des modèles
Une mesure de protection inhabituelle prévoit un plafond strict de 1 mégabit par seconde pour les communications externes des centres de R&D les plus sensibles. Les opérateurs pourraient envoyer des instructions vers un site d’entraînement, mais extraire les poids d’un modèle deviendrait visiblement très lent, pouvant prendre des années. L’idée s’inscrit dans un effort plus large visant à intégrer la sécurité à l’infrastructure, et pas seulement aux politiques publiques.
Les transferts de modèles nécessiteraient une supervision étatique
Lorsque les poids d’un modèle de pointe seraient transférés d’une installation de R&D vers un site d’inférence, une proposition prévoit un transfert via des supports physiques avec un chiffrement approuvé indépendamment par les États-Unis et la Chine. Des représentants des deux parties superviseraient la remise. Cette disposition illustre jusqu’où certains partisans envisagent une cogestion par les grandes puissances des systèmes les plus avancés.
Les plafonds de calcul sont vus comme le levier le plus puissant
Parmi toutes les mesures, les contrôles sur les puces et un ralentissement de la construction de centres de données sont considérés comme les moyens les plus efficaces de freiner la progression des capacités. Le raisonnement est que la concentration matérielle se gouverne plus facilement que les algorithmes, qui peuvent se diffuser rapidement une fois découverts. Les partisans préfèrent des gains graduels de capacité liés à des allocations de calcul surveillées plutôt que des bonds soudains permis par des percées difficiles à contenir.
Le calendrier vise une IA de niveau expert d’ici 2035 et la superintelligence d’ici 2040
L’agenda du ralentissement suppose malgré tout une progression continue vers une IA transformatrice. Un scénario étirerait le développement jusqu’à un niveau comparable aux meilleurs experts humains vers 2035, y maintiendrait les systèmes pendant plusieurs années, puis autoriserait la superintelligence vers 2040. Cela contraste fortement avec les prévisions situant des systèmes comparables en 2027, 2028 ou 2029.
Les critiques alertent sur un contrôle autoritaire et des distorsions de marché
Les opposants soutiennent que réglementer ce qui peut être calculé sur de grands clusters est illibéral, exposé à la capture réglementaire, et susceptible de renforcer les entreprises en place. Les concurrents plus petits pourraient être exclus si seule une poignée d’acteurs autorisés peuvent opérer à grande échelle. D’autres avertissent que de lourdes sanctions pénales, y compris des propositions s’apparentant à une peine de mort d’entreprise et des peines de prison pouvant aller jusqu’à 20 ans, pourraient créer une incertitude juridique sur ce qui constitue un développement d’IA interdit.
CONCLUSION
L’agenda émergent des « doomers » vise moins à interdire l’IA qu’à placer les systèmes les plus puissants sous forte supervision étatique, avec des contrôles stricts du calcul et une surveillance internationale. L’enjeu politique central est de savoir si ralentir le développement de pointe réduirait le risque existentiel, ou concentrerait surtout le pouvoir tout en retardant des gains économiques largement anticipés.
Explique-moi