Ce livre d’environ 400 pages d’un éminent professeur d’Oxford est une thèse qui présente l’émergence d’une super intelligence sous la forme d’une Intelligence Artificielle qui prendra le contrôle inévitablement sur l’humanité. Compte tenu des progrès exponentielles des ressources computationnelles (Hardware, Internet) Elle part du postulat qu’un ordinateur calcule bien plus vite (proche de la vitesse de la lumière) que ne l’est le débit de transmission entre les neurones d’un cerveau humain.
Ce qu’on appelle l’intelligence artificielle n’est pas pour autant nouveau, dès les années 1970 ce qu’on a appelé des systèmes experts ont été crées par d’éminents scientifiques informaticiens, chimistes médecins pour étudier notamment des constituants chimiques ou de diagnostiquer des leucémies (maladies du sang).
Aujourd’hui la donne a changé, et ce pour plusieurs raisons : Internet s’est démocratisé, le BIG DATA a permis la collecte toujours plus massive de nos données. La fréquence et la puissance de calcul des processeurs centraux (CPU) a considérablement augmenté. Les progrès technologiques ont vu l’émergence des processeurs graphiques (GPU) grâce à des sociétés telles que NVIDIA. Les algorithmes d’apprentissage machine se sont améliorés et la science des réseaux neuronaux (Neural Networks) rebaptisée apprentissage profond (Deep Learning) pour des raisons marketing ont pu prendre leur essor.
Aujourd’hui, Les modèles de langage large (LLM) sont apparus grâce à la révolution des générateurs transformatifs pré-entraînés. (GPT)
La Super Intelligence et le cerveau humain
La Super Intelligence pourra par exemple s’appuyer sur l’énorme patrimoine informationnel en ligne pour assoir sa domination. Si les premiers chapitres font l’état de beaucoup de concepts propres à l’apprentissage machine ou à l’apprentissage profond tels que la rétropropagation des gradients, les modèles de Markov cachés utilisés par nos assistants vocaux tels que Siri et Alexa ou encore les classifieurs bayésiens naïfs; la progression exponentielle des capacités du hardware et de nos connaissances sur la cognition nous permettra d’émuler dans un premier temps grâce à un ordinateur le cerveau humain et son fonctionnement. Première étape transitoire à la réalisation d’une machine super intelligente qui une fois développé cherchera à assurer sa survie.
Si les conjectures sont parfois délirantes (colonisation et prise de possession de toutes les ressources terrestres et spatiales par cette nouvelle entité), elles ne sont pas farfelues pour autant.
La Super Intelligence et le « Mythe de la singularité«
Une fois que la super intelligence sera créée, elle apprendra plus vite que n’importe quel être humain ou autre machine et même dans un scénario multipolaire dans lequel d’autres travaux seraient entrepris sur d’autres continents pour parvenir à cette fin, l’avantage décisif pris par la première qui émergera fait qu’elle s’imposera sûrement comme un singleton : Elle cherchera à être la seule. On comprend mieux la multiplication des financements par les Etats-Unis et la Chine dans le domaine de l’IA.
Vient alors une très grande partie sur la façon dont on pourrait réduire ce risque en régulant la super intelligence par des mécanismes de contrôles (confinement, pièges) ou l’implémentation de valeurs. Pour autant l’auteur est assez pessimiste sur nos chances de réussite de par la complexité pour des informaticiens d’inculquer un sens moral adéquat à la machine pour la préservation de l’humanité mais aussi car en tant qu’entité super intelligente elle chercherait par nature à y échapper.
Je recommande vivement ce livre à tous ceux qui s’intéressent de loin ou de près à l’intelligence artificielle. La multiplicité des concepts évoqués sont très bien résumés en fin de chaque chapitre. Il a le mérite de poser de nombreuses questions au moins au niveau éthique.
Et si ces recherches plutôt que d’être portées par des intérêts étatiques étaient plutôt réservés à des organisations supranationales telles que l’ONU dont le but est de régler les conflits et préserver la paix dans le monde ? La question a le mérite d’être posée.