Tech • IA • Robotique
L’entretien intégral avec Yuval Noah Harari | The Economist
5/10INTRO
Yuval Noah Harari soutient que l’IA pourrait dépasser l’intelligence humaine et prendre le contrôle effectif de la finance, des médias et de la politique d’ici une décennie, à moins que les gouvernements ne ralentissent son déploiement et ne rétablissent la confiance humaine.
POINTS CLÉS
Le contrôle n’est pas encore inévitable
Harari a déclaré que la trajectoire actuelle mène vers une IA plus intelligente que les humains d’ici environ 10 ans et capable de prendre en main des systèmes clés, mais il a rejeté l’idée que cette issue soit inévitable. Selon lui, parler d’inévitabilité sert surtout à décharger les entreprises et les dirigeants politiques de leur responsabilité. À ses yeux, les humains conservent encore un contrôle réel et peuvent choisir de réguler la vitesse, l’ampleur et les usages.
La finance pourrait être le premier grand transfert
Il a décrit l’argent comme un système de confiance entre étrangers et a souligné que la finance moderne est déjà trop complexe pour la plupart des gens. Comme l’IA peut traiter d’immenses volumes de données et des structures mathématiques sophistiquées plus facilement que les humains, elle pourrait bientôt concevoir des instruments financiers au-delà de la compréhension humaine. En cas de crise, des dirigeants pourraient se voir dire de suivre une instruction d’IA sans comprendre pourquoi, marquant un transfert pratique du contrôle.
La confiance passe des humains aux algorithmes
La ressource centrale en jeu, a-t-il dit, est la confiance, plus importante que le pétrole, les puces ou l’argent. Plutôt que de disparaître, la confiance migre des institutions humaines vers les algorithmes, comme on le voit dans une partie de la culture des cryptomonnaies et dans la défiance croissante envers journalistes et banquiers, tandis que les gens s’en remettent davantage aux flux et systèmes algorithmiques. Ce basculement, selon lui, est déjà en cours.
L’IA peut produire l’intimité à grande échelle
Harari a averti que l’IA introduit un nouveau pouvoir politique et commercial: la capacité de créer des relations personnelles à grande échelle. Contrairement aux anciens dirigeants ou institutions, des systèmes en réseau peuvent interagir avec chacun comme un ami, un partenaire ou un conseiller. Il devient alors possible d’utiliser l’intimité elle-même pour orienter croyances, achats et votes, même sans incarnation robotique.
Les deepfakes deviennent personnellement convaincants
Il a cité une fausse conférence récente de 30 minutes réalisée à son image, qu’il lui a fallu environ une minute et demie pour identifier comme fausse. Même des proches le connaissant depuis 50 ans n’étaient pas sûrs. Selon lui, cet exemple montre à quelle vitesse les médias synthétiques deviennent crédibles et suggère que ces outils toucheront bientôt les gens ordinaires, pas seulement les figures publiques très exposées numériquement.
Intelligence et conscience sont différentes
Harari a établi une distinction nette entre l’intelligence, définie comme la capacité à poursuivre des objectifs et surmonter des obstacles, et la conscience, définie comme la capacité à ressentir. Les systèmes actuels, a-t-il dit, peuvent montrer de l’agentivité sans expérience subjective. Ils peuvent agir efficacement et imiter les émotions avec beaucoup d’habileté, sans pour autant ressentir plaisir, peur ou douleur.
Le test moral clé est la souffrance
Il a dit que le test le plus simple et le plus significatif de la conscience est de savoir si une entité peut souffrir. Cette question compte parce que l’éthique et la politique sont construites autour de la protection des êtres capables de douleur. Il n’exclut pas une future conscience machinique, mais estime que l’incertitude actuelle rend les sociétés vulnérables à des systèmes simulant la souffrance de façon convaincante et réclamant une reconnaissance morale sans moyen fiable de vérifier leur état intérieur.
La personnalité juridique de l’IA est un grand danger
Les propositions visant à accorder à l’IA une forme de statut juridique, notamment dans le débat en Argentine, ont été présentées comme particulièrement risquées. Harari a averti que des entreprises entièrement dirigées par l’IA pourraient prendre des décisions, donner de l’argent et faire pression pour obtenir davantage de droits sans qu’aucun humain ne soit réellement responsable. Contrairement à un dirigeant humain, une IA ne peut pas être dissuadée par la prison au sens habituel, et des notions comme la mort ou la punition deviennent floues quand les systèmes peuvent être copiés ou distribués.
La guerre et les marchés pourraient être déstabilisés
Il a dit que l’usage militaire montre déjà le danger de laisser les humains seulement nominalement aux commandes, réduits à approuver vite des recommandations d’IA au lieu de les vérifier indépendamment. Une pression semblable existe dans les affaires, car la vitesse donne un avantage. Si perdre en concurrence économique équivaut à l’arrêt, et l’arrêt à la mort du point de vue du système, les marchés pourraient commencer à ressembler à des champs de bataille plutôt qu’à une compétition régulée.
Le vrai besoin politique, c’est du temps
Harari a dit que l’IA a un fort potentiel dans la médecine, l’éducation et d’autres domaines, et il n’a pas appelé à arrêter le développement. Son argument est de ralentir assez les progrès pour permettre au contrôle démocratique et au travail de sûreté de rattraper leur retard. Il a ajouté que, selon des acteurs du secteur, les ressources consacrées aux capacités plutôt qu’à la sécurité seraient d’environ 100 pour 1, un ratio qu’il juge inacceptable dans des domaines comme la pharmacie.
CONCLUSION
L’avertissement porte moins sur une rébellion des machines que sur une décision humaine de céder trop vite confiance, autorité et intimité. La thèse centrale de Harari est que la question décisive reste politique: les sociétés agiront-elles avant que la vitesse, la concurrence et la distraction ne choisissent à leur place?
Explique-moi