Cette année uniquement, des centaines de milliards de dollars vont être consacrés au déploiement de systèmes d’IA pour atteindre des capacités surhumaines. Les PDG des principales entreprises d’IA, notamment Sam Altman pour OpenAi et Elon Musk pour l’IA de son réseau social X, prévoient que d’ici quatre ans, leurs systèmes seront suffisamment développés pour réaliser la plupart des tâches cognitives (celles qui ne nécessitent qu’un ordinateur) de façon aussi efficace que des humains, voire plus.
Les dirigeants conviennent tous que de telles avancées seraient profondément transformatrices pour la société. Sundar Pichai, PDG de Google, a plusieurs fois décrit l’IA comme « la technologie la plus avancée sur laquelle travaille l’humanité ». Pour sa part, Demis Hassabis, qui dirige le research lab de Google DeepMind, avance que les répercussions sociales de l’IA seraient du niveau de la découverte du feu ou de l’invention de l’électricité plutôt qu’à l’arrivée des premiers téléphones portables ou d’Internet.
En février dernier, pendant le sommet sur l’IA organisé à Paris, le PDG d’Anthropic, Dario Amodei, a renouvelé son hypothèse : selon lui, d’ici 2023, « les systèmes d’IA seront comparables à un nouvel État peuplé d’habitants hautement intelligents ». Le même mois, Elon Musk, interrogé dans le podcast Joe Rogan Experience, a déclaré : « Je pense que nous tendons vers quelque chose de plus intelligent que le plus intelligent des humains » dans les années à venir. Il a également prédit : « Il y a un horizon au-delà, plus intelligent que tous les humains cumulés, sans doute autour de 2029 ou 2023 ».
Si ces prédictions sont même partiellement exactes, le monde pourrait être à l’aube d’un profond bouleversement. Pourtant, personne ne semble être d’accord sur la nature de la transformation et la manière dont elle sera gérée.
Alors que des modèles avancés d’IA sortent tous les mois sur le marché, et que l’administration Trump aux États-Unis ne semble pas se préoccuper de la régulation de la technologie, contrairement à l’Europe, les décisions des dirigeants du secteur privé pourraient faire toute la différence. Toutefois, ils ne s’accordent pas sur les principaux risques et les enjeux si tout ne se passe pas comme prévu. Voici pourquoi.
Risque existentiel ou opportunité à ne pas manquer ?
En février toujours, Elon Musk a tenu les propos suivants : « J’ai toujours pensé que l’IA était une manière d’obtenir une intelligence supérieure aux humains, mais aussi un risque existentiel, et cela se confirme ». Selon lui, les chances d’une « annihilation » des humains par une IA s’élèvent à 20 %. Si les estimations ont tendance à varier, l’idée que des systèmes d’IA avancés pourraient détruire l’humanité remonte à l’origine de nombreux projets de technologie actuels. En 2015, Sam Altman avait déclaré que le développement d’une intelligence machine surhumaine était « probablement la plus grande menace pour l’existence de l’humanité ». Il avait ainsi signé une déclaration aux côtés de Demis Hassabis et Dario Amodei avertissant que « l’atténuation du risque d’extinction par l’IA doit être une priorité globale, de même que d’autres risques à l’échelle de la société, comme les pandémies et la guerre nucléaire ».
Pour sa part, Margaret Mitchell, responsable de l’éthique chez Hugging Face, estime : « Je trouve étrange que certains dirigeants considèrent que l’IA est suffisamment exceptionnelle pour résoudre les problèmes du monde, à l’aide de solutions auxquelles nous n’avons pas pensé, mais pas suffisamment exceptionnelle pour rester sous notre contrôle ». Elle note par ailleurs que certains propos confondent une IA qui accompagne les humains avec une IA qui les remplace : « On ne peut pas avoir les avantages des deux options et aucun des inconvénients ».
Pour elle, plus les humains cèdent le contrôle à des agents de plus en plus autonomes, plus le risque augmente. Elle explique que puisque nous ne pouvons pas totalement contrôler ou prédire le comportement des IA, nous courons « un risque majeur que les agents d’IA agissent sans notre accord, par exemple pour vider des comptes en banque, se faire passer pour nous avec des propos et des actes horribles, ou bombarder des populations ».
Max Tegmark, cofondateur et président du Future of Life Institute, explique : « La plupart des gens pensent qu’il s’agit d’une technologie comme une autre, et pas une nouvelle espèce, alors que c’est comme ça qu’on devrait la considérer ». Il affirme que l’issue par défaut de la fabrication de machines à cette échelle est la perte de contrôle, qui pourrait mener à des conséquences imprévisibles et potentiellement catastrophiques.
Pourtant, malgré toutes ces inquiétudes, d’autres dirigeants évitent consciemment d’utiliser les termes de « super intelligence » et de « risque existentiel », se concentrant sur les effets positifs. Sundar Pichai a par exemple déclaré lors du sommet de l’IA en février dernier : « Je pense que l’histoire verra ce moment comme le début d’un âge d’or de l’innovation. Le plus gros risque, c’est de passer à côté ».
De même, interrogé en 2023 sur les implications de la création d’une super intelligence, Satya Nadella, PDG de Microsoft, a affirmé être « plus concerné par les bienfaits pour chacun d’entre nous ». Selon lui : « Le fait que la révolution industrielle n’ait pas atteint les régions du monde où j’ai grandi avant un long moment me hante. Je suis donc à la recherche de l’innovation au-delà de la révolution industrielle, pour accomplir dans le monde entier ce que la révolution industrielle a accompli en Occident. Je ne suis pas du tout inquiet de l’arrivée des intelligences artificielles génératives, ou du rythme de leur évolution ».
Une course entre le secteur public et privé
Même au sein de ceux qui sont convaincus que l’IA comporte des risques existentiels, nombreux sont ceux qui estiment que le moindre ralentissement du développement de l’IA aux États-Unis pourrait permettre à la concurrence étrangère (et en particulier la Chine) de prendre les devants dans la course à l’IA transformatrice. En effet, les futurs systèmes d’IA pourraient être capables de créer de nouvelles armes de destruction massive ou de pirater l’arsenal nucléaire d’un pays, faisant basculer le rapport de forces en quelques instants.
Par ailleurs, cette dynamique ne se joue pas seulement entre les pays, mais aussi entre les entreprises. Comme l’analyse Helen Toner, directrice du Center for Security and Emerging Technology de Georgetown : « Il y a souvent une rupture entre les déclarations publiques idéalistes et la logique commerciale impitoyable qui motive les décisions ». Elle souligne que la concurrence sur les dates de sortie des projets en est un exemple évident : « Par de nombreuses fois, des équipes d’IA ont été dans l’obligation de faire des compromis pour devancer le lancement d’un concurrent ».
Pour Mark Zuckekrberg, PDG de Meta, la clé de la sécurité réside dans l’assurance que les systèmes d’IA ne sont pas contrôlés par une entité unique. En janvier dernier, il avait affirmé : « J’aime bien la théorie qui dit que si une seule entreprise ou autorité contrôle quelque chose, elle s’apparente à un Dieu. La meilleure manière de ne pas perdre le contrôle, c’est de répartir équitablement la technologie ». Il avait alors souligné l’importance des modèles open source.
Options de contrôle
Si la plupart des entreprises qui développent des modèles avancés d’IA possèdent leurs propres politiques et procédures de sécurité internes, aux États-Unis, rien de tout ceci n’est appuyé par la législation. Le professeur Max Tegmark a bon espoir que si l’autorité nationale de sécurité états-unienne reconnaît la gravité de la menace, des normes de sécurité seront alors mises en place. « La règle de sécurité numéro un » sera, selon lui, d’exiger des entreprises qu’elles dévoilent la manière dont elles prévoient de garder le contrôle sur leurs modèles.
Certains PDG sont d’ailleurs déjà conscients du poids de leurs responsabilités. Demis Hassabis avait déclaré en février dernier : « Il y a énormément de responsabilités (sans doute trop) sur les épaules des dirigeants de cette technologie ». Le dirigeant de Google DeepMind a même appelé à la création de nouvelles institutions par le passé, à la manière de l’Organisation européenne pour la recherche nucléaire (CERN) ou de l’Agence internationale de l’énergie, afin de rassembler les gouvernements et de contrôler les développements de l’IA. Selon lui : « La société doit s’interroger sur le genre d’instances dirigeantes dont elle a besoin ».
Plus facile à dire qu’à faire cela dit. Si la signature d’accords contraignants internationaux a toujours représenté un défi, pour Helen Toner, la directrice du Center for Security and Emerging Technology, c’est ici « plus irréaliste que jamais ». Sur le plan domestique, Max Tegmark note quant à lui : « Actuellement, il y a plus de normes de sécurité aux États-Unis pour les vendeurs de sandwichs que pour les entreprises d’IA ».
Le PDG de Microsoft, Satya Nadella, invité dans un podcast en février sur l’IAG (intelligence artificielle générative) et la super intelligence, a souligné qu’une « infrastructure juridique » sera la « principale limite » à la puissance des systèmes futurs, bloquant peut-être même leur développement : « Avant que cela ne devienne un vrai problème, le vrai débat va se jouer dans les tribunaux ».
Un « moment Oppenheimer »
Margaret Mitchell estime quant à elle que les dirigeants du secteur de l’IA font part de « différents niveaux d’inquiétudes humaines et d’idées qui leur sont propres ». Max Tegmark craint toutefois que certains parmi eux « se bercent d’illusions » en considérant qu’ils seront capables de contrôler une super intelligence, et qu’ils sont pour beaucoup confrontés à ce que l’on appelle le « moment Oppenheimer ».
Il évoque une scène mémorable du film de Christopher Nolan sorti en 2023, dans laquelle des scientifiques assistent à la confiscation de leur invention par les autorités militaires. Max Tegmark analyse : « C’est le moment où les créateurs de la technologie réalisent qu’ils perdent le contrôle sur leur invention. Certains PDG sont déjà dans cette situation aujourd’hui ».
- Article issu de TIME US - Traduction Mathilde Pace
