L’humanité face à une intelligence artificielle supérieure: un débat qui quitte la science-fiction

L’intelligence artificielle dépasse déjà les humains dans certaines tâches et progresse rapidement. Pour plusieurs figures majeures du secteur, la question n’est plus de savoir si elle gagnera encore en capacités, mais jusqu’où. Certains redoutent des systèmes autonomes plus intelligents que leurs concepteurs.

« Et donc, les êtres humains deviendront les deuxièmes êtres les plus intelligents de la planète? »

Lorsque le journaliste Scott Pelley pose cette question à Geoffrey Hinton dans l’émission 60 Minutes de CBS News, en octobre 2023, le chercheur ne marque pratiquement aucune hésitation. « Oui », répond-il. Quelques secondes plus tôt, celui que l’on surnomme souvent le « parrain de l’intelligence artificielle » avait déjà affirmé que l’humanité pourrait bientôt se retrouver confrontée, pour la première fois de son histoire, à des systèmes plus intelligents qu’elle.

A l’époque, cette séquence marque les esprits. Non seulement en raison de la nature des avertissements formulés, mais aussi de l’identité de celui qui les prononce. Geoffrey Hinton n’est pas un observateur extérieur de la révolution de l’intelligence artificielle: il en est l’un des principaux architectes.

Chercheur britannique installé au Canada, il est considéré comme l’un des pères du deep learning, l’approche qui a permis les progrès spectaculaires de l’IA au cours de la dernière décennie. Ses travaux sur les réseaux de neurones artificiels lui ont valu le prix Turing 2018, souvent présenté comme le Nobel de l’informatique, puis le prix Nobel de physique en 2024. Les systèmes qui alimentent aujourd’hui ChatGPT, Gemini ou Claude reposent en grande partie sur les avancées scientifiques auxquelles il a contribué.

De 10 à 20% de chance d’extinction

Un peu plus d’un an plus tard, son discours n’a pas changé. Au micro de l’émission de radio Today Programme de la BBC, le chercheur dit estimer qu’il existe « entre 10% et 20% de probabilités que l’intelligence artificielle contribue à l’extinction de l’humanité au cours des trente prochaines années ».

Une évaluation qui reste certes débattue, mais qui émane de l’un des chercheurs les plus respectés de toute l’histoire de la discipline. « Combien d’exemples connaissez-vous d’une chose plus intelligente contrôlée par une chose moins intelligente? », interroge alors Geoffrey Hinton. « Il y en a très peu. Il y a la mère et son bébé. L’évolution a consacré énormément d’efforts à permettre au bébé de ‘contrôler’ [le comportement de] sa mère. C’est à peu près le seul exemple que je connaisse », analyse-t-il.

Pour illustrer ce qu’il imagine, le chercheur va plus loin encore. Si des systèmes d’IA devenaient beaucoup plus intelligents que les humains, dit-il, nous pourrions nous retrouver dans la position d’un enfant de trois ans face à un adulte.

>> Lire aussi : La résolution d’un vieux problème par l’IA pousse les scientifiques à mieux encadrer son usage

Une inquiétude qui gagne les pionniers de l’IA

Mais Geoffrey Hinton n’est pas le seul à s’inquiéter de l’évolution de cette technologie. Plus récemment, en février 2026, l’International AI Safety Report a été publié sous la direction de Yoshua Bengio, autre lauréat du prix Turing et troisième membre d’un trio souvent considéré comme les pères fondateurs du deep learning.

Fruit du travail de plus d’une centaine de chercheurs internationaux, ce rapport constitue aujourd’hui l’une des évaluations scientifiques les plus complètes des risques liés à l’intelligence artificielle avancée.

>>
Lire aussi : Anthropic suggère une pause concertée dans le développement de l’IA pour en garder le contrôle

Ses auteurs y recensent plusieurs menaces potentielles: cyberattaques automatisées, assistance à la conception d’agents biologiques dangereux, manipulation de l’information à grande échelle, concentration du pouvoir technologique ou encore perte de contrôle sur des systèmes de plus en plus autonomes.

Sur ce dernier point, on peut lire que les scénarios de ‘perte de contrôle’, qui désignent des situations dans lesquelles des systèmes d’intelligence artificielle fonctionneraient en dehors de tout contrôle humain et sans moyen clair de reprendre la main, ne sont pas encore plausibles. Toutefois, il est noté que « depuis le précédent rapport (…) les modèles IA progressent dans des domaines pertinents, notamment en termes d’autonomie (…) et qu’il est plus fréquent d’en observer capables de distinguer un environnement de test d’un déploiement réel et de trouver des failles dans les procédures d’évaluations ».

Concrètement, les auteurs du rapport s’inquiètent du fait que certains modèles deviennent capables de reconnaître lorsqu’ils sont soumis à des tests de sécurité et d’adapter leur comportement en conséquence. De la même manière qu’un élève peut se montrer exemplaire lorsqu’il sait qu’il est observé, une IA pourrait obtenir de bons résultats lors des évaluations puis se comporter différemment une fois déployée.

Comment garder la main?

Ces observations restent limitées et se produisent dans des environnements expérimentaux. Mais elles alimentent une question fondamentale: comment garantir qu’un système plus intelligent que ses concepteurs continuera durablement à agir dans leur intérêt?

Cette interrogation est également au cœur des travaux de Stuart Russell, professeur d’informatique à l’Université de Californie à Berkeley et l’une des principales figures mondiales de la recherche en intelligence artificielle. Depuis plusieurs années, il défend l’idée que le principal danger pourrait ne pas venir d’une intelligence artificielle malveillante, mais d’un système extrêmement performant poursuivant des objectifs qui ne correspondent pas parfaitement aux intérêts humains.

Cependant, le chercheur estime aussi, tout comme Geoffrey Hinton, que des machines beaucoup plus intelligentes que les humains pourraient être problématiques: « Si nous créons des machines significativement plus compétentes que des êtres humains dans tous les domaines pertinents, alors notre capacité à décider de notre propre avenir ne serait guère plus grande que celle des gorilles ou des chimpanzés face à la destruction de leur habitat par l’être humain », expliquait-il au mois d’octobre 2025 au cours d’une interview accordée à la BBC.

Revoir également cet extrait d’un discours de Stuart Russel adressé au Parlement européen au mois de février 2026 à propos des risques liés à la création d’une « super » intelligence artificielle

Pour Stuart Russell, garder la main passe avant tout par la conception de systèmes qui cherchent à servir les intérêts humains tout en reconnaissant qu’ils ne les comprennent jamais parfaitement. Cette incertitude doit les conduire à rester sous supervision humaine, à accepter les corrections et à ne pas s’opposer à leur interruption. Le chercheur plaide également pour des exigences de sécurité beaucoup plus strictes avant le déploiement des systèmes les plus puissants, estimant que leurs concepteurs devraient être en mesure de démontrer qu’ils ne présentent pas de risques inacceptables pour la société.

Un débat désormais pris au sérieux

Sur un point, la plupart des spécialistes s’accordent déjà: l’intelligence artificielle progresse à un rythme exceptionnel. Le désaccord porte moins sur la direction prise que sur ses conséquences. Si certains redoutent avant tout la désinformation, les cyberattaques ou les bouleversements économiques, de plus en plus de figures sérieuses du domaine s’inquiètent d’un scénario plus fondamental: l’apparition de systèmes dépassant les meilleurs experts humains dans la plupart des domaines intellectuels.

Parmi eux figure aussi Dario Amodei, directeur général d’Anthropic et ancien responsable de la recherche chez OpenAI. Dans plusieurs prises de parole récentes, dont un essai publié en janvier 2026, il estime que l’émergence d’intelligences artificielles capables de rivaliser avec des équipes entières de spécialistes pourrait survenir dans un avenir beaucoup plus proche qu’on ne le pensait encore il y a quelques années.

Il avertit également que les capacités de ces systèmes progressent beaucoup plus rapidement que les mécanismes de gouvernance destinés à les encadrer.

Tous les chercheurs ne partagent bien entendu pas les mêmes conclusions, ni les mêmes estimations du risque. Mais un constat s’impose: jamais auparavant autant de figures centrales de l’intelligence artificielle n’avaient exprimé publiquement des inquiétudes aussi fortes quant à la trajectoire de leur propre discipline.

Pour la première fois, la question de savoir si l’humanité pourrait un jour être dépassée par les intelligences artificielles qu’elle a créées n’est plus seulement un sujet de fiction ou de philosophie. Elle est devenue un objet de recherche à part entière, étudié par certains des scientifiques les plus influents de la planète.

Tristan Hertig