La Singularité arrive beaucoup plus vite que prévu !

Les annonces concernant l'événement de l'intelligence artificielle générale l'AGI et de la super intelligence l'ASI se multiplie fixant des échéances à court ou moyen terme comme Samman qui évoque la fin de la décennie. Elon Musk 2026 pour l'HJI tandis que Rakersvale maintient ses projections historiques en HI pour 2029 et 2045 pour la singularité. Commençons par faire la lumière sur tous ces termes. Comment ces personnes voient le dérouler des événements? atteindre ce que l'on appelle l'intelligence artificielle générale, l'aggi et la première étape. Par définition, il s'agit d'une IA aussi intelligente qu'un être humain dans tous les domaines. C'est donc un point de basculement au-delà duquel l'IA deviendra structurellement plus intelligente que nous. À partir de là, la 2è étape consiste à mettre cet EGI au service de son propre développement car unei est par nature scalable parce qu'on peut la dupliquer et la démultiplier à du proportion des ressources qu'on lui consacre. C'est d'ailleurs pour ça que Musk vous dit droit dans les yeux que Starship est en gros la dernière grande invention 100 % humaine. Dans ce scénario, c'est donc l'HGI qui va développer ce que l'on appelle l'ASI, la super intelligence artificielle dans une boucle incrémentale d'autoamélioration dont on ne connaît pas la fin. Toujours dans ce tunnel, après l'HGI qui s'autorenforce et les on arrive rapidement à ce que l'on appelle la singularité, un monde où plus aucun humain ne sera capable de comprendre comment l'IA évolue car sa complicité est devenue hors de notre portée intellectuelle. C'est donc le grand saut dans l'inconnu. Les plus optimistes comme Elon Musk qu'on ne présente plus ou Léopold Dashan Brenner, ancien d'Open AI et gérant à succès d'un portefeuille de plus de 5 milliards de dollars, nous disent grosso modo que l'JI arrivera autour de 2030. Les plus conservateurs parmi les grandes figures de la tech et de l'IA comme Yann Lequin table plutôt sur plusieurs décennies rien que pour les GI. Et entre les deux, bah la date de 2040 revient régulièrement comme pour rendre hommage au livre de RSV Singularities near paru en 2005 qui prévoit l'AGI en 2029 et l'ASI en 2045. D'ailleurs, spéciale dédicace à Cursale hein pour son livre parce que écrire en 2005, quelque chose qui ne vous fait pas passer pour un plou en 2026 alors que l'on parle de l'avenir et ben il y en a beaucoup à qui ça fait envie. L'objectif de cet épisode est d'expliquer comment tous les grands acteurs de la tech parviennent à produire des dates sur ces trois phases. Est-ce magique? Quels sont leurs raisonnements? La première étape pour modéliser l'émergence d'une intelligence de niveau humaine pour les futurologues, c'est de se livrer à un exercice périlleux, trouver une comparaison quantitative entre ce qu'est le cerveau biologique humain et ce que peut faire le silicium. Et c'est un exercice hautement spéculatif comme nous allons le voir. Mais allons-y. Commençons par essayer d'approcher la capacité de calcul d'un cerveau humain. Et là, je peux déjà vous dire que de base, ça va être très rapidement hautement spéculatif. Pour ce que l'on en sait, le cerveau humain contient environ 86 milliards de neurones interconnectés par 10^ 14 synapse. En considérant une fréquence moyenne d'activation de 10 à 100 Hz, soit 10 à 100 signaux électriques envoyés par seconde pour un synapse, la puissance brute de notre cerveau estimée autour de 10^ 16 opérations synaptique par seconde que l'on appelle des SOPS. Maintenant, sachez que l'on évalue la puissance de calcul d'un ordinateur en flops, c'est-à-dire en nombre de calcul par seconde et non en SOPS pour la simple et bonne raison qu'un ordinateur n'a pas de neurones, il a des transistors. Or, les transistors et les neurones déjà bah ça fonctionne mais absolument pas de la même façon. Voici l'une des distinctions fondamentales. Les ordinateurs actuels reposent sur l'architecture de Van Newman avec une séparation stricte entre l'unité de calcul et la mémoire. tandis que le cerveau combine le traitement et le stockage de l'information au même endroit. Et ça et ben ça nous donne déjà des limites absolu sur des architectures informatiques qui ne pourront jamais atteindre la performance d'un cerveau humain sur la partie thermodynamique. Mais alors tout de même, si on essaie de simuler un SOP en utilisant des flops, ça donne quoi? Et ben, des équipes s'y sont attelées. La plus connue, c'est celle de Darmendra Modra chez IBM en 2009. Leur cible n'était pas un cerveau humain beaucoup trop gros, mais un modèle cortical à l'échelle du cortex du chat, soit environ quand même 10^9 neurones et 10^ 13 synapse, ce qui fait quand même une tonne à simulée. Pour faire tourner ce modèle, il leur a fallu Down, l'un des super calculateurs du Lawrence Livmore National Lab, 147000 processeurs et une puissance de crète d'environ 0,5 pétafops, soit 5 x 10^iss 14 opérations par seconde. Et à l'époque Down et ben c'est pas là pour faire rigoler. Pourtant malgré cette débauche de moyens, la simulation tournait encore 100 à 1000 fois plus lentement que le temps réel. Autrement dit, en 2009, simuler un modèle cortical à l'échelle du chat et encore au ralenti, exigeit déjà une machine d'état. Et c'est là que ça devient intéressant. Cette puissance de 0,5 pétaflops qui occupait en 2009 une infrastructure entière n'a plus rien d'exceptionnel aujourd'hui. Un simple rag de GPU moderne l' atteint sans difficulté. En 15 ans, ce qui était un exploit réservé à une poignée d'institution est devenu une commodité. D'ailleurs, petite anecdote. En 2009, cette publication d'IBM, comme quoi ils avaient simulé le cerveau d'un chat, avait fait vertement réagir Henry Mark, directeur du BlueBrain Project, qui expliquait à qui voulait l'entendre, qu'un cerveau était bien plus complexe qu'une simple cartographie de neurones et de synapse. Et il avait des arguments. Cerveau n'est pas une architecture figée. C'est un système dynamique, plastique, biochimique dont les connexions se renforcent, s'affaiblissent, apparaissent ou disparaissent avec l'activité et l'expérience. Autrement dit, compter les neuros par un et les synapses ne suffit pas à simuler un cerveau loin sans faut. Enfin, le fonctionnement du cerveau est influencé par des hormones comme l'adrénaline par exemple qui ajoute encore une couche de traitement de l'information supplémentaire. Et pour couronner le tout, le cerveau humain fonctionne avec seulement 20 W, soit peu ou prou la consommation d'une petite ampoule. Bon d'accord, 20 W quand j'étais gamin, parce qu'aujourd'hui, une petite ampoule avec les leds, c'est rien du tout. Et si vous voulez me faire remarquer que j'ai plus de 40 ans et que je suis vieux, et ben c'est pas sympa. Enfin, ne changeons pas de sujet. Autant dire que le cerveau n'a pas grand-chose de commun matériellement parlant avec un ordinateur. Mais cela signifie aussi que notre première approche statique du nombre de stops d'un cerveau basé sur le nombre de neurones et de synaps est tout à fait faux et hautement sous-estimé. Mais quand même, pour continuer ce script et pour marcher dans les pas du raisonnement intellectuel des personnes qu'on a cité en début de cette vidéo, pour être tout de même capable de faire une comparaison entre une supposée puissance de calcul du cerveau estimée à 10^iss 16 SOP et une puissance informatique en flops dont le format évolue au fil du temps, il faut une unité équivalente au SOPS sur une base de calcul en flops. Et bien cette équivalence que l'on appelle des isops a été étudiée par le modèle de Hotchkin Houle ou encore dans les rapports neuromorphiques d'Intel IBM publié dans Science. Alors en version courte, on peut compter sur une majoration de 10^ 6 soit 1 million pour arriver à prétendre que le cerveau humain fait 10^iss 22 isOPS quoi que cela puisse dire en réalité. Alors, OK, on a déjà dit que cette puissance était très fortement sous-estimée et du coup, on peut se demander à quoi ça peut bien servir de partir sur une estimation qui se révèle dès la base déjà fause. Et bien, pour équilibrer ce discours, il faut aussi garder en tête que l'on voit des comportements émergents de plus en plus intelligents se produire au sein de nos IAS actuels, sans que l'on ait atteint ni de près ni de loin les capacités prétendues d'un cerveau humain et sans utiliser de mécanismes similaires. Bref, comme il n'est pas possible de rentrer dans toutes ces considérations en un seul épisode qui se veut court et accessible, partons sur ces bases tout en sachant qu'elles sont très spéculatives avec des éléments que l'on comprend peu à la fois dans l'intelligence humaine mais aussi dans ce qui produit au sein de nos IIA. Concrètement en réalité on commence à perdre pied dans l'évaluation de nos propres outils. C'est comme ça va falloir s'y faire. Par contre, on peut s'autoriser à prendre ces éléments comme un postulat de base pour bâtir une courbe de progrès qui va nous servir à poser des date sur une prétendue HGI pour voir ce que ça donne. Donc partons là-dessus en faisant une projection toute simple de la puissance de calcul moyenne d'un centre de calcul moyen depuis 1941 où l'on a inventé les premiers ordinateurs jusqu'à aujourd'hui pour voir quand est-ce que l'on atteint les 10^iss 22s qui devraient éventuellement nous voir apparaître une AGI. Gardez en tête que pour chaque point de ce graphique, la puissance réelle mesurée en flops a été convertie en isops. Bien, il est intéressant de voir qu'avec ces petits calculs de coin de table, on obtient la date de 2056. Et ce résultat est plus solide qu'il n'y paraît puisque avant la grande vague des LLM de 2023, les enquêtes menées auprès des chercheurs en IA situaient la médiane de ce que l'on appelle aujourd'hui l'AGI autour de 2060. et les gars, ils faisaient ça au pif, hein, pas avec des grands calculs selon leur expérience, leurs travaux, le sens du vent et leur feeling. Ce qui est curieux et amusant, c'est que avec des calculs hautement spéculatifs et ben on tombe pas loin des prédictions comme celle de Lequin et une petite décennie de celle de Jeffrey Hinton qui évoque au plus tard 2043. Mais ce n'est pas tout. Allons encore un cran plus loin. Maintenant, je vous invite à bien observer mon graphique pour vous rendre compte que l'histoire de l'informatique semble dessiner des vagues. Et bien, ce n'est pas un hasard. C'est ce que l'on appelle des courbes d'adoption en S. Et ces courbes, on les connaît, elles sont bien étudiées et on les a bien modélisé. Au départ, l'adoption d'une technologie est lente car cela n'intéresse que les geeksig du domaine. Puis une accélération se produit lors de l'adoption par le grand public et enfin, on obtient une phase de maturité où tout le monde est équipé et on commence à s'ennuyer en attendant la prochaine vague. Au final, sur ce graphique, voici toutes les courbes en S sur les 100 dernières années des technologies que nous utilisons encore tous les jours. Et oui, si vous avez les yeux ouverts, vous pouvez constater qu'elles sont de plus en plus raides. Là où une technologie comme l'électricité devait se développer sur 50 ans, on parle seulement de quelques années pour le smartphone. Plus intéressant encore, si on décompose par cycle l'histoire du développement de l'informatique, on se rend compte que nous sommes à la fin d'une grande courbe en S. Parce que oui, en réalité, ces courbes en S, bah, elles ont probablement un côté fractal. Les grandes courbes en est sont décomposées en plus petites et cela s'explique. Des années 50 à la fin des années 1970, l'informatique moderne s'est construite autour des mainfame, de grands ordinateurs centralisés installés dans les entreprises, les universités et les États. Puis des années 1980 aux années 2000, la miniaturisation des semi-conducteurs et la loi de mour ont accompagné l'explosion du microprocesseur, du PC et de l'informatique personnelle. Donc cette histoire se prolonge au début des années 2000. Nous entrons dans l'air du cloud et des data center modernes. Aujourd'hui, avec Lia, cette courbe se heurte aux limites de la thermodynamique avec les contraintes énergétiques que l'on connaît bien en ce moment. À partir de là, vous avez deux grands choix qu'il vous offert. Soit vous faites l'hypothèse que ce mur énergétique est infranchissable. Dans ce cas, l'AGI n'arrivera jamais par simple scaling, car les architectures héritées de Van Newman se heurtent au coût physique du déplacement des données entre mémoires et calcul. Et en soi, bah c'est une réalité possible. C'est une sorte d'hypothèse maltusienne. Oh alors vous vous dites qu'une prochaine vague technologique en S va mécaniquement arriver puisqu'elles arrivent toujours. Ce qui signifie que la croissance en puissance de calcul va repartir de plus belle. C'est l'hypothèse chumpéterrienne de la destruction créatrice. Et dans ce cas, vous avez le droit de rêver. Vous pouvez penser à de nouvelles architectures matérielles comme les processeurs neuromorphiques conçus dès le départ pour fonctionner autrement par événement en limitant les déplacements de données. Vous pouvez également penser au data center spatiaux d'Elon Musk de la Chine et même d'Amazon ou alors pensez à no Neo Cloud chez Antimateur dont je suis le cfondateur qui ne subissent pas de contrainte énergétique sur les réseaux électriques car nous sommes très fortement distribués à l'échelle d'un seul polycloud qui tient dans un container de 20 pieds ou alors à l'échelle de nos fermes de puissance Data Factory aux États-Unis de seulement quelques MW. Bref, il existe des pistes plus ou moins crédibles et dans un horizon plus ou moins long qui permettent de trouver des mW pour produire de la puissance de calcul sans devoir en passer par des data centers de plusieurs centaines de MW voire plusieurs gigw concentrés au même endroit sur nos réseaux électriques. Vous voyez qu'il y a donc des solutions explorées pour résoudre le problème des data center qui pèse massivement sur un réseau électrique tout comme il y a des solutions exploré toujours pour passer cette barrière thermodynamique des architectures de Vanneoman comme les calculateurs neuromorphiques. Et enfin, c'est sans compter les améliorations qui viennent du côté algorithmique. Typiquement l'idée de Yan Lequin avec les World Model, c'est justement d'apprendre des représentations plus compactes du monde pour obtenir des modèles plus efficace à architecture constante capable de raisonner et planifier avec beaucoup moins de calcul qu'un simple scaling massif des LLLM. Donc en soit, il y a beaucoup d'idées pour essayer de faire accélérer cette courbe. Après, est-ce que ça marchera? Bah, j'en sais rien, c'est toute la question. Donc si je fais une prolongation de la tendance en prenant une hypothèse chumpétérienne qui nous emmène en 2038 ou une hypothèse maltusienne qui nous emmène en 2060. Et ben OK, c'est très bien mais les gars du début du script, les Musk, les Alpman, il nous promettent du 2028 ou de 2030. Comment ils font? Et bien tout est une question d'accélération. Vous l'avez compris. Tous ceux qui vous expliquent que l'I va arriver avant 2030- 2035 prennent une très grosse hypothèse. Il va se produire une accélération technologique sans commune mesure avec les accélérations que l'an connue jusqu'à aujourd'hui. Mais d'où viendrait-elle cette fichu accélération magique? Parce que bon, les gars qui vous prédisent des choses comme ça, c'est quand même pas les plus bêtes du groupe. On peut citer Dario Amodéropique qui parle de système meilleur que presque tous les humains dans presque tout dès 2026-2027. Shinleg de Deep Mind qui donne environ 50 % de chance d'une AGI minimale dès 2028 ou encore l'homme au cuir noir Jensen Wong qui vise 2029 sans oublier Samaltman, Elon Musk ou encore le rapport de prospective AI 2026. Alors, OK, on doit avoir conscience que c'est objectivement un moyen marketing de mettre des Dust aussi proches, de promouvoir leur business sur le court terme à l'échelle de 2 ou 4 ans. Mais je pense que ça vaut quand même le coup de s'y intéresser parce qu' ils sont quand même nombreux à être du même avis. Ces gens pensent que la technologie a déjà commencé à s'auto-accélérer. Comprenez bien que jusqu'à aujourd'hui, la donnée limitante fondamentale pour l'évolution technologique était la circulation de l'information à l'intérieur d'un réseau d'humain. Dit autrement avec cette courbe, on mesurait l'adoption d'une technologie par la croissance de son nombre d'utilisateurs humains. Or avec Lia, il se trouve que bah ce sera peut-être plus le cas. Et oui, les gens qui vous prédisent une d'ici 2030 pensent que l'IA a déjà ou alors aura dans les prochains mois la capacité de s'autoadopter. Concrètement, ça signifie que l'on pourrait voir se confirmer une hausse de la croissance économique des USA avec une hausse du chômage car la technologie aura de moins en moins besoin d'humain pour croître. Et pourquoi est-ce que je dis les USA plutôt que la Chine? Et ben parce qu'en terme de statistiques, c'est beaucoup plus simple d'avoir des stats américaines que des states chinoises. Mais rassurez-vous, les Chinois sont pas du tout à la traî, bien au contraire. Et cela a une autre conséquence pour ces gens-là. Cela signifie que les inégalités de richesse vont exploser à coup sû parce que la création de richesse qui va en découler puisque l'adoption ne se fait pas avec la majorité des gens sur terre et bien sera concentré et non pas diffusé. En conséquence de quoi? Il n'est pas rare de voir les personnes qui vous parlent du avant 2030 vous parler également de revenus universel car ils cherchent des mécanismes sociaux qui leur permettra de rendre acceptable cette explosion des inégalités socialement parlant afin qu'ils puissent continuer à développer leur puissance de calcul sans qu'il y ait trop de remou dans la population. Or, le revenu universel, c'est un peu le petit bout de la lorniatte et il existe par nature plein d'autres possibilités. Par exemple, pour accompagner cette explosion de la production d'intelligence dans le monde, nous pourrions donner la capacité à tous les pays, toutes les régions, toutes les entreprises et même les particuliers qui le souhaitent et qui le peuvent, d'être propriétaires de leur propre puissance de calcul et donc de rester souverain sur leurs données et leurs activités afin de permettre à toutes ces échelons locaux de suivre la même courbe de croissance exponentielle que les plus grosses entreprises. Alors, je dis pas que c'est facile, mais en tout cas la décentralisation de la puissance de calcul pourrait accompagner quelque part cette explosion de la richesse et la diffuser un peu plus. Alors oui, ça peut paraître un peu fou dit comme ça, mais je pense que l'accélération de la croissance économique par LIA est inévitable. Donc si l'on veut que tout le monde monte dans le train, il faut trouver des solutions pour que l'on ne se retrouve pas à laisser les clés du camion à une petite dizaine d'entreprises dans le monde. Parce que la centralisation produit beaucoup d'efficience à chaque coup mais rend effectivement les systèmes beaucoup plus fragiles. Et avoir un système de société humaine fragile au moment où une forme d'intelligence artificielle émerge, je sais pas si c'est vraiment une bonne idée. Bref, c'est le point de vue que je défends et qui est aussi à l'origine de la philosophie d'Antimateur. Mais sur le fond de cette vidéo, j'espère que vous comprenez mieux comment les prédictions sur l'ag et la super intelligence se forment car cela en dit long sur ce que pense la personne qui vous donne son opinion sur ce sujet. Et pour en savoir plus sur ce que signifie atteindre la singularité, je vous invite à aller voir cette vidéo où j'explore ce que nous dit la science-fiction de cet événement si particulier.