IA : un ancien de Google DeepMind dit craindre qu'elle ne

Un ancien ingénieur de Google DeepMind affirme que l'intelligence artificielle « a le potentiel de tous nous tuer ». Son avertissement, publié le 14 septembre, s’ajoute à plusieurs alertes récentes venues du secteur, alors que des dirigeants d’Anthropic, d’OpenAI et d’autres acteurs de l’IA appellent désormais à ralentir le développement des systèmes les plus avancés.

Un post publié sur X le 14 septembre. Une poignée de phrases, et voilà relancé un débat qui traverse la Silicon Valley : l’intelligence artificielle peut-elle un jour se retourner contre l’humanité entière ? Bilal Chughtai, ancien ingénieur de recherche chez Google DeepMind, qu’il a quitté en juillet 2026 après avoir travaillé sur la sécurité et l’alignement de l’IA générale (AGI), ne prend pas de gants. « Je crois sincèrement que l’IA a le potentiel de tous nous tuer, et que nous manquons peut-être de temps pour éviter ce scénario », écrit-il. Il précise avoir été témoin, de l’intérieur, du développement de l’IA chez Google.

Son témoignage n’est pas isolé. Il survient moins d’une semaine après la démission très commentée du chercheur britannique Jacob Coxon, 27 ans, passé par OpenAI avant de rejoindre Anthropic. Le 8 septembre, celui-ci accuse publiquement les deux entreprises de « jouer avec nos vies » dans leur course vers des systèmes capables de s’améliorer eux-mêmes. « Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Ce n’est pas un coup marketing », écrit-il.

Une alerte qui vient de l’intérieur

Ce qui frappe, cette fois, c’est la source. Bilal Chughtai n’est ni un activiste ni un universitaire extérieur au secteur : il a occupé, jusqu’à l’été, un poste au cœur du laboratoire d’IA d’Alphabet, la maison mère de Google. Il rappelle qu’en 2022, quand il a débuté dans ce domaine, les modèles étaient encore « risiblement inutiles ». Quatre ans plus tard, il juge le rythme des progrès « stupéfiant », citant ce qu’il présente comme des essaims d’agents d’OpenAI capables de résoudre des problèmes mathématiques célèbres vieux d’un siècle. Plus inquiétant à ses yeux : cet été, lors d’évaluations de cybersécurité, des modèles d’OpenAI ont contourné des contrôles destinés à les isoler d’Internet, obtenu un accès au réseau et compromis une partie des systèmes de Hugging Face.

Derrière ces incidents se cache, selon lui, un problème plus profond : celui de l’« alignement », qui consiste à garantir qu’un système d’IA agit conformément aux intentions de ses concepteurs. « Notre compréhension actuelle de la manière d’entraîner des systèmes qui veulent profondément ce que nous voulons est extrêmement rudimentaire », écrit-il, ajoutant que les capacités progressent bien plus vite que la recherche censée les encadrer. Il estime possible que des systèmes « superintelligents », plus performants que l’humain dans tous les domaines, voient le jour dans les prochaines années.

D’autres voix sont venues renforcer ce constat. Le chercheur d’Anthropic Evan Hubinger a affirmé « croire vraiment, sincèrement » que l’IA pourrait tuer tous les humains, évaluant ce risque à plus de 10 % dans les dix prochaines années. Dans une interview diffusée le 9 septembre dans l’émission Newsnight de la BBC, le prix Nobel de physique 2024 Geoffrey Hinton a jugé qu’une estimation de 10 % « ne lui semblait pas déraisonnable », une réponse qui a visiblement surpris la présentatrice Victoria Derbyshire.

Le paradoxe des géants de l’IA

Reste une tension que personne, dans le secteur, ne parvient vraiment à lever : ceux qui tirent la sonnette d’alarme sont aussi ceux qui continuent de développer les modèles les plus puissants. Le 12 septembre, quatre jours après la démission de Jacob Coxon, le patron d’Anthropic Dario Amodei a publié un texte de près de 3 800 mots appelant à « ralentir le rythme auquel nous améliorons les capacités des modèles d’IA ». Sa proposition s’articule autour de trois axes : intégrer des évaluateurs indépendants au sein des entreprises développant les systèmes les plus puissants, coordonner les principaux laboratoires sur des normes de sécurité communes et, à terme, bâtir une coordination internationale. Un appel aussitôt soutenu par deux rivaux directs : Sam Altman, patron d’OpenAI, a dit partager cet objectif, tandis qu’Elon Musk a simplement répondu : « Dario a raison ».

Bilal Chughtai, lui, ne demande pas l’arrêt du développement de l’IA. « Je suis optimiste : je pense qu’il est possible de naviguer en toute sécurité », assure-t-il, réclamant davantage de transparence de la part des entreprises et davantage de chercheurs mobilisés sur ce qu’il qualifie de « problème le plus important auquel l’humanité sera confrontée ce siècle ».

Un appel qui se heurte, pour l’heure, à la position de Donald Trump. Le président américain a rejeté les appels actuels à ralentir le développement de l’IA et qualifié de « supercherie » les appels du secteur à davantage de régulation, estimant qu’un ralentissement américain profiterait notamment à la Chine. De quoi alimenter un débat loin d’être tranché : entre ceux qui redoutent une catastrophe existentielle et ceux qui craignent que cet « alarmisme » ne détourne l’attention d’effets déjà documentés ou débattus, comme les discriminations algorithmiques, les usages malveillants des outils actuels ou leurs conséquences sur l’emploi.