Ads

Édition française du magazine TIME – Abonnement 1 an 4 n°, 41 € (économisez 10%)

Le monde n’est pas prêt à une urgence liée à l’IA

Jon Truby est professeur associé invité en recherche dans le domaine du droit de l’IA et des technologies à l’Université nationale de Singapour
Crédit photo : Freepik
Imaginez un monde où internet fonctionne par intermittence, où les paiements en carte ne sont plus possibles, où les ambulances se rendent à la mauvaise adresse et où les émissions d’urgence ne sont plus dignes de confiance. Qu’elle soit causée par un dysfonctionnement des modèles, une utilisation criminelle ou une cybercrise, une crise liée à l’IA pourrait rapidement s’étendre au-delà des frontières.

Dans de nombreux cas, les premiers signes d’une urgence liée à l’IA prendraient la forme d’une panne ou d’une défaillance sécuritaire classique. Nous ne comprendrions que bien plus tard le rôle crucial joué par les systèmes d’IA dans cette situation.

Dans les faits, certains gouvernements et certaines entreprises ont déjà commencé à ériger des mesures de sécurité pour faire face aux risques d’une telle urgence. La loi européenne sur l’intelligence artificielle, le cadre de risque du National Institute of Standards and Technology aux États-Unis, le processus Hiroshima du G7 ou encore des normes techniques internationales visent tous à prévenir les éventuels dégâts. Par ailleurs, des agences de cybersécurité et des gestionnaires d’infrastructures disposent eux aussi de manuels d’intervention en cas de tentative de piratage, de panne et de défaillance du système de routage. Les consignes techniques ne manquent pas pour réparer des serveurs ou restaurer des réseaux. Ce qui manque en revanche, c’est un plan pour éviter toute panique sociale et tout effondrement de la confiance, de la diplomatie et de la communication de base si l’IA est au cœur d’une crise en mutation rapide.

Il ne suffit pas d’éviter toute urgence liée à l’IA, il faut aussi prévoir la préparation et la réponse en cas de crise. Qui décide si un incident d’IA est une urgence internationale ? Qui s’adresse au grand public lorsque de fausses informations inondent les flux d’informations ? Qui garantit le fonctionnement des canaux de communication entre les gouvernements si les lignes classiques sont compromises ?

Les gouvernements peuvent (et doivent) mettre au point des plans d’intervention d’urgence en matière d’IA avant qu’il ne soit trop tard. Dans une étude à paraître concernant la loi sur les catastrophes et les leçons tirées d’autres urgences mondiales, j’analyse à quel point les règles internationales existantes contiennent déjà les composantes d’un manuel d’intervention sur l’IA. Les gouvernements ont déjà à leur disposition les outils juridiques nécessaires, mais ils doivent désormais convenir de la manière et du moment de les utiliser. Nous n’avons pas besoin de nouvelles institutions complexes pour superviser l’IA, mais simplement que nos gouvernements se préparent à l’avance.

Comment se préparer à une urgence liée à l’IA

Nous avons déjà assisté au modèle général de gouvernance. Le Règlement sanitaire international permet par exemple à l’Organisation mondiale de la santé de déclarer une urgence sanitaire mondiale et de coordonner les mesures d’action. Les traités sur les accidents nucléaires exigent une notification rapide lorsque des radiations peuvent se propager au-delà des frontières. Les accords de télécommunications lèvent quant à eux les obstacles juridiques pour que des équipements satellitaires d’urgence puissent être activés en quelques instants. Les conventions sur la cybercriminalité instaurent des points de contact 24/24 h et 7/7 j afin que les forces de police puissent coopérer dans les plus brefs délais. In fine, l’expérience montre bien que les déclencheurs désignés à l’avance, les coordinateurs nommés et les canaux de communication rapides permettent de gagner du temps en cas d’urgence.

Une urgence liée à l’IA a besoin des mêmes bases, à commencer par une définition commune. En effet, une urgence liée à l’IA doit désigner un événement extraordinaire provoqué par le développement, l’utilisation ou la défaillance de l’IA risquant de causer des dommages transfrontaliers impossibles à gérer par un unique pays. La définition doit aussi englober les situations dans lesquelles l’implication de l’IA est simplement suspectée ou est l’une des causes plausibles, afin que les gouvernements puissent passer à l’action avant toute confirmation technique, le cas échéant. La plupart des incidents n’iront jamais jusque-là, mais il est essentiel de convenir à l’avance d’une définition commune afin d’éviter toute paralysie pendant les premières heures critiques d’une crise.

De plus, les gouvernements ont besoin de lignes directrices, dont le premier élément doit être la définition d’un ensemble commun de déclencheurs et d’une échelle de gravité de base, de manière à ce que les officiels sachent à quel moment faire passer un incident de routine au niveau d’alerte internationale, y compris des critères pour déterminer quand l’implication de l’IA est seulement suspectée de manière crédible plutôt que prouvée définitivement. Une autre partie doit inclure la désignation d’un coordinateur global capable de convoquer rapidement une équipe constituée d’experts techniques, de partenaires de maintien de l’ordre et de spécialistes des catastrophes. Une troisième partie doit par ailleurs définir des systèmes de signalements interopérables des incidents, afin que les pays et les entreprises puissent échanger des informations critiques en quelques minutes, et non en plusieurs jours. Nous devons également mettre au point des protocoles de communication de crise à l’aide de méthodes authentifiées et analogues, comme la radio. Enfin, nous devons rédiger une liste claire de mesures de continuité et d’endiguement. Il peut s’agir notamment de ralentir les services d’IA à haut risque ou de passer les infrastructures critiques en contrôle manuel.

Structurer la préparation à une urgence liée à l’IA

Qui doit se charger de superviser ces initiatives de préparation en cas d’urgence liée à l’IA ? Selon moi, ce rôle revient aux Nations Unies.

Il y a plusieurs raisons qui justifient de déléguer cette tâche à l’ONU. Tout d’abord, une urgence liée à l’IA ne tiendra pas compte des alliances existantes. Un mécanisme ancré auprès des Nations Unies garantirait une plus vaste inclusion et réduirait le risque de doublons au sein des coalitions rivales. Il fournirait également un soutien technique aux pays dont les capacités en matière d’IA sont insuffisantes, afin de ne pas faire reposer le poids de la lutte sur les épaules d’une poignée de grandes puissances. Il renforcerait par ailleurs la légitimité et les contraintes. Tout pouvoir extraordinaire doit être légitime, proportionné et révisable, en particulier s’il s’agit des réseaux numériques utilisés par des milliards de personnes.

Ce cadre international devra également être complété par des mesures nationales à adopter dès aujourd’hui par les gouvernements. Pour commencer, chaque pays doit désigner un contact d’urgence en matière d’IA disponible 24/24 h et 7/7 j. Les pouvoirs d’urgence doivent aussi être examinés pour confirmer qu’ils couvrent bien les infrastructures d’IA. Ensuite, les plans sectoriels doivent respecter les normes de base en matière de gestion des incidents et de continuité des opérations. Des actions conjointes doivent également simuler des vagues de désinformation, des défaillances des modèles et des pannes intersectorielles. La migration vers la cryptographie post-quantique doit être priorisée avant qu’une attaque hostile ne force une telle mise à jour. Enfin, les gouvernements doivent identifier les expéditeurs de confiance et les modèles d’alerte, afin que des messages puissent tout de même être transmis à la population même en cas d’instabilité des systèmes.

Ces précautions sont nécessaires dès aujourd’hui. Les cyberattaques en lien avec l’IA signalées sont de plus en plus nombreuses et plusieurs pays ont déjà subi des pannes à petite échelle, des tentatives de manipulation des données et des vagues de désinformation qui laissent entrevoir les conséquences potentielles d’un événement plus généralisé. Par ailleurs, une défaillance de l’IA, qui évolue à un rythme haletant, pourrait s’ajouter aux infrastructures actuelles hyperconnectées pour donner lieu à une crise qu’aucun pays ne saurait gérer seul.

Je n’appelle pas à la création d’une super agence mondiale, mais plutôt à rassembler les outils déjà existants pour former une réponse cohérente. Nous avons besoin de directives en cas d’urgence liée à l’IA qui s’appuient sur ces mécanismes et les mettent en pratique.

La gouvernance de l’IA sera mesurée par notre réaction dans les pires conditions. À l’heure actuelle, le monde n’a pas de plan d’urgence en matière d’IA, mais ce n’est pas trop tard. Nous pouvons en créer un, le tester et l’inscrire dans la législation avec des mesures de sécurité, car une fois que la prochaine crise aura commencé, il sera déjà trop tard.

TIME Idées accueille les plus grandes voix mondiales, qui commentent l’actualité, la société et la culture. Nous acceptons les contributions externes. Les opinions exprimées ne reflètent pas nécessairement celles des rédacteurs de TIME.

Partagez cet article : 

PEOPLE

Robert Pattinson (Crédits : Stéphane Corbis-Cardinale/GettyImages)

Robert Pattinson

Nicole Kidman. (Crédits: Taylor Hill/FilmMagic via Getty Images)

Nicole Kidman

Mylène Farmer  au 78e Festival de Cannes au Palais des Festivals le 15 mai 2025 (Crédits :  Laurent KOFFEL/Getty Images)

Mylène Farmer

Crédits: Grant Thomas

Angèle

FOR PRINT MOSUKE46557

Mory Sacko

Bérengère Krief.

Bérengère Krief

Niels Schneider. (Crédits: Nicolas Valois, Charlotte Studio)

Niels Schneider

Céline Dion. ( Crédits: Roy Rochlin via WireImage)

Céline Dion