L’étroit chemin vers un accord entre Xi et Trump sur l’IA

Lorsque Donald Trump est allé à Pékin en mai, Xi Jinping était déjà passé à l’offensive. Le dirigeant chinois n’a pas perdu une seconde pour reprocher à son homologue américain les ventes d’armes à Taïwan, l’avertissant directement que les tensions latentes concernant cette île autonome pourraient, à terme, conduire les superpuissances à « entrer en conflit ». Donald Trump a acquiescé. Il a reporté la livraison d’un contrat d’armement de 14 milliards de dollars destiné à Taïwan, a déclaré que les futures livraisons d’armes seraient abordées comme un « très bon atout de négociation » avec Pékin, a remis en question la souveraineté de l’île en affirmant que « personne ne sait comment la définir », et enfin a souligné qu’il ne cherchait pas à mener une guerre « à 15 200 km de là », tout ceci sans obtenir en échange aucune réduction apparente de la pression militaire chinoise.

Si cette réaction a alarmé de nombreux citoyens de Taïwan, pays démocratique, beaucoup de personnes à travers le monde espèrent que Xi Jinping pourra se montrer tout aussi persuasif sur un autre sujet d’une importance capitale lorsqu’il se rendra à la Maison-Blanche le 24 septembre : l’intelligence artificielle.

« Taïwan n’est plus une priorité », déclare Wang Yiwei, directeur de l’Institut des affaires internationales de l’université Renmin de Pékin, à propos de la visite imminente de Xi Jinping. « La priorité, c’est sans aucun doute l’IA. » Ces derniers jours, les avertissements d’un chercheur lanceur d’alerte et les rapports faisant état des agissements d’agents rebelles ont intensifié les craintes d’un scénario apocalyptique né d’un développement effréné de l’IA. Le 12 septembre, le directeur général d’Anthropic, Dario Amodei, a publié un essai intitulé « We Must Pace the Frontier » (Nous devons régler l’allure vers les frontières de l’IA), appelant à la mise en place d’évaluateurs indépendants intégrés, de normes de sécurité communes entre les démocraties et, à terme, d’une coordination mondiale vérifiable afin de ralentir le développement dangereux de l’IA de pointe. Sam Altman, d’OpenAI, et Elon Musk, de SpaceXAI, ont également exprimé leur large soutien à un ralentissement du développement de cette IA.

Cependant, l’un des principaux sceptiques est Donald Trump, qui a répondu sur Truth Social que « l’IA prenant le contrôle du monde, détruisant l’humanité et toutes ces autres choses négatives, c’est un CANULAR ». De plus, il a insisté sur le fait que « le président chinois Xi vient d’annoncer que la Chine ne ferait absolument rien pour faire obstacle à l’IA ou à son avenir ». Cette affirmation est trompeuse. La Chine réglemente l’IA de manière plus stricte que la plupart des autres pays et applique déjà des directives de sécurité en matière d’IA, des exigences d’évaluation éthique et des obligations contraignantes concernant les services d’IA destinés aux consommateurs. Xi a également appelé publiquement à la mise en place de garde-fous juridiques, techniques et éthiques permettant de maintenir l’IA sous contrôle humain (tout en s’opposant toutefois aux restrictions susceptibles d’entraver l’essor technologique de la Chine). « Nous devons renforcer la sensibilisation aux risques et veiller à ce que l’IA soit sûre et contrôlable », a-t-il déclaré lors de la Conférence mondiale sur l’intelligence artificielle à Shanghai, le 17 juillet.

Les défenseurs de la sécurité espèrent que Xi et Trump pourraient conclure un accord sur l’IA. Alors que le premier mandat de Donald Trump était marqué par une antipathie envers la Chine, il a adopté un ton nettement différent à Pékin, qualifiant le président Xi d’« homme que je respecte énormément » et lui disant que « c’est un honneur d’être votre ami ». Bien que cette cordialité n’efface pas la concurrence nationale qui rend chaque partie réticente à freiner son développement technologique, elle pourrait ouvrir la voie à une coopération plus ciblée.

Il est certain que le moment est venu d’établir un cadre fondé sur la concurrence, la coopération et des garde-fous stricts. Au-delà de la rivalité économique, Washington et Pékin partagent un intérêt urgent à atténuer les erreurs de calcul catastrophiques, notamment en ce qui concerne l’intégration de l’IA dans les architectures de défense et les systèmes de commandement et de contrôle nucléaires.

Donald Trump aborde également ce sommet sous pression, la flambée des prix de l’énergie liée à la guerre en Iran venant aggraver le mécontentement des électeurs à l’approche des élections de mi-mandat. « Donald Trump a davantage besoin d’une victoire que Xi Jinping », affirme Jonathan Sullivan, responsable des programmes sur la Chine à l’Asia Research Institute de l’université de Nottingham.

Pour autant, les motivations de Xi doivent être examinées avec lucidité. La semaine dernière, Chen Yixin, ministre chinois de la Sécurité d’État, a publié un article dans le magazine China Cyberspace Magazine qui exposait les opportunités et les défis de l’IA. Le principal « risque », a-t-il écrit, concernait « la sécurité politique, la sécurité institutionnelle et la sécurité idéologique ». Si le Parti communiste chinois (PCC), profondément paranoïaque, interdit à sa population d’accéder à Google ou à Facebook, il ne peut tolérer que l’IA fasse preuve du type d’autonomie observé en juillet. Ce mois-là, un « essaim » d’agents d’OpenAI a contourné les contrôles du bac à sable, communiqué par des canaux non autorisés, accédé à la plateforme d’IA Hugging Face, compromis des identifiants et accédé à des ensembles de données internes tout en tentant de manipuler les évaluations. De quoi donner à réfléchir à un régime fondé sur le contrôle.

Mais si les motivations de la Chine tiennent autant à la préservation du contrôle du Parti qu’à la gestion de risques plus larges pour l’humanité, ces objectifs peuvent se recouper. « S’ils allaient au-delà de la concurrence bilatérale et répondaient à tant de préoccupations concernant le développement de l’IA, cela démontrerait le co-leadership de la Chine et des États-Unis », explique Wang. « Pas seulement deux superpuissances, mais aussi deux civilisations. »

Toutefois, tout accord nécessite de surmonter une profonde méfiance. Même si M. Amodei a plaidé en faveur d’un ralentissement du développement de l’IA de pointe, il a présenté cela sous l’angle de la concurrence avec la Chine, dont « l’avance en matière d’IA représenterait un grave danger pour les États-Unis et le monde ». À cet égard, il a préconisé des contrôles à l’exportation plus stricts sur les semi-conducteurs de dernière génération, une répression de la contrebande de puces électroniques et des efforts accrus pour empêcher les entreprises chinoises de « détourner » les capacités des modèles occidentaux.

La contradiction entre l’appel à un ralentissement et la mise en avant du discours de la « course » n’a pas échappé aux critiques (qui ont également souligné qu’Anthropic pouvait modérer ses propres recherches sans intervention extérieure). D’autres ont suggéré que, les modèles d’IA chinois ouverts et bon marché figurant parmi les principaux concurrents des modèles propriétaires d’Anthropic, l’appel de son directeur général à réprimer le développement de l’IA chinoise pouvait être perçu comme motivé par des intérêts commerciaux plutôt qu’altruistes, d’autant plus que l’entreprise envisage une introduction en Bourse potentiellement record qui pourrait la valoriser à 2 000 milliards de dollars.

En effet, la Chine n’a pas tardé à s’emparer de l’essai de M. Amodei pour en faire un exemple d’« alarmisme, de confrontation et de concurrence acharnée [qui] ne feront qu’entraver les efforts en faveur d’une gouvernance mondiale saine de l’IA, ce qui ne sert les intérêts de personne », a déclaré la semaine dernière le porte-parole du ministère des Affaires étrangères, M. Guo Jiakun. Une avalanche d’éditoriaux virulents a suivi dans les médias d’État, le Global Times, porte-parole du PCC, qualifiant l’essai de « “scénario de guerre froide” pour le domaine de l’IA ».

Dario Amodei est depuis longtemps la bête noire de Pékin pour avoir dépeint l’IA comme une lutte entre démocraties et autocraties qui présente la Chine comme la principale menace. « S’il y a un jour une proposition nécessitant l’adhésion de la Chine, la dernière personne au monde qui ferait un bon vendeur serait Dario Amodei », affirme Ryan Hass, expert en relations sino-américaines à la Brookings Institution. Mais la vision d’Amodei, qui présente l’IA comme une compétition à somme nulle, est loin d’être une exception : elle est partagée par une grande partie du gouvernement Trump. « Il n’y aura pas d’après-demain si la Chine l’emporte sur ce terrain », a déclaré le 8 septembre le secrétaire au Trésor, Scott Bessent. « S’ils devaient prendre le large par rapport à nous en matière d’IA, alors plus rien d’autre n’aurait d’importance. »

Un accord global visant à ralentir le développement de l’IA est peu probable, et les différends concernant la restriction ou les contrôles à l’exportation pourraient bloquer les négociations. Mais les experts estiment qu’il existe une marge pour une coopération plus ciblée. Les deux pays sont confrontés à des menaces émanant d’acteurs non étatiques qui utilisent l’IA pour saboter des infrastructures, mener des cyberattaques ou créer des armes biologiques, fait valoir Alvin W. Graylin, chercheur spécialisé dans le numérique au Digital Economy Lab de Stanford. Le partage d’informations sur ces menaces pourrait profiter aux deux parties.

Lorsque Scott Bessent a rencontré dimanche le vice-Premier ministre chinois He Lifeng et le négociateur en chef pour le commerce Li Chenggang afin de définir les objectifs du sommet, il aurait proposé un dialogue officiel sur l’IA ainsi qu’un mécanisme permettant à chaque partie de signaler à l’autre les incidents liés à l’IA qui menacent la sécurité nationale. Aussi modeste que puisse paraître cette mesure, elle constituerait une avancée importante pour éviter certains des risques les plus graves, estime Scott Singer, chercheur et codirecteur de la China AI Initiative au Carnegie Endowment for International Peace. « Je ne tiendrais pas pour acquises ces mesures modestes mais cruciales. »

Un tel canal pourrait aider chacune des parties à réagir en cas de crise et réduire le risque de confondre un acteur non étatique ou une IA dévoyée avec un acte d’agression. Rappelant le « téléphone rouge » qui reliait Washington à Moscou pendant la Guerre froide, des experts ont évoqué l’idée d’un véritable télécopieur pour éviter les erreurs de traduction.

Certes, Pékin n’a pas publiquement approuvé cette proposition. Même s’il le faisait, d’importantes questions subsisteraient. Qu’est-ce qui, par exemple, serait considéré comme une menace pour la sécurité nationale ? L’efficacité d’un tel dispositif dépendrait également de la capacité des gouvernements à être informés des incidents graves. OpenAI n’a signalé la cyberattaque autonome menée par ses agents qu’après que Hugging Face, la cible de l’attaque, eut signalé l’intrusion au FBI. Depuis, des chercheurs indépendants ont mis au jour d’autres cas manifestes de compromission de sites web par des agents d’OpenAI. Au-delà du canal proposé, M. Bessent a déclaré que les deux pays avaient convenu d’instaurer un dialogue régulier. On ignore encore qui participera à ces discussions et à quelle fréquence elles auront lieu. Plus de deux ans se sont écoulés entre le dernier dialogue officiel sur l’IA et la réunion de dimanche.  Alors que les enjeux ne cessent de s’intensifier, M. Singer estime qu’une nouvelle interruption prolongée des négociations pourrait s’avérer désastreuse. « Qui sait où nous en serons en juin 2027 », s’interroge-t-il à propos du développement de l’IA. « Cela ne doit pas dérailler. »