Ads

Édition française du magazine TIME – Abonnement 1 an 4 n°, 41 € (économisez 10%)

Les failles de sécurité de l’IA dans le domaine des armes de destruction massive

Avec l'aide de l'IA
En 2023, Rocco Casagrande, scientifique et ancien inspecteur des armes de l'ONU, est arrivé à l'Eisenhower Executive Office Building, situé à côté de l'aile ouest de la Maison Blanche, avec un petit conteneur scellé. À l'intérieur se trouvaient une douzaine de tubes à essai contenant des ingrédients qui, s'ils étaient correctement assemblés, pouvaient provoquer une pandémie mortelle.

Selon M. Casagrande, un chatbot IA lui avait non seulement fourni la recette mortelle, mais lui avait également donné des idées sur la manière de choisir les meilleures conditions météorologiques et les meilleures cibles pour une attaque. Venu informer les responsables gouvernementaux des risques pandémiques liés à l’IA, il a envoyé un message fort aux responsables de la sécurité sur la rapidité avec laquelle l’IA avait fait tomber les barrières à la conception d’armes biologiques dévastatrices.
Les barrières à la conception d’une pandémie ont été abaissées, et les décideurs politiques en ont pris note. Le plan d’action américain en matière d’IA propose des mesures défensives, et la revue stratégique de défense 2025 du Royaume-Uni donne la priorité à la défense chimique et biologique.

Probablement motivées à la fois par une préoccupation sincère et aussi par le risque de poursuites judiciaires, les entreprises pionnières dans le domaine de l’IA ont également fait preuve de responsabilité, comme en témoignent les engagements en matière de sécurité de l’IA pris lors du sommet de Séoul. Ces entreprises se sont publiquement engagées à atténuer les risques dans le domaine chimique, biologique, radiologique, nucléaire et explosif. Pourtant, malgré ces mesures, un dangereux déficit de sécurité subsiste. S’il est certes positif que les entreprises se concentrent sur les pandémies, l’écosystème se focalise néanmoins excessivement sur un seul modèle de « terroriste viral solitaire » comme menace la plus grave. Tous les autres scénarios de risque font l’objet d’une attention nettement plus faible. L’accent mis sur les actes individuels conduit à négliger dangereusement les menaces provenant des États et des groupes terroristes. De plus, les risques liés aux pandémies virales ne constituent pas un indicateur fiable des autres menaces. Les étapes techniques nécessaires à la fabrication d’explosifs improvisés, d’agents biologiques non transmissibles et d’armes chimiques sont différentes de celles requises pour les agents biologiques transmissibles. La fabrication et le déploiement d’une arme chimique, comme le sarin, par exemple, contrairement à un virus, impliquent un ensemble d’étapes techniques totalement différentes. C’est pourquoi nous avons besoin de tests de sécurité distincts pour l’IA.
Pourtant, à elles seules, ces menaces « mineures » pourraient encore tuer de nombreuses personnes, dévaster des communautés et semer le chaos dans plusieurs pays. Nous risquons de créer un système de sécurité qui se concentre sur la protection contre la prochaine pandémie tout en laissant la porte grande ouverte à d’autres formes de terrorisme.

Il est préoccupant de constater que de grands laboratoires d’IA reculent sur leurs engagements en matière de sécurité, en partie parce qu’ils ne disposent pas des données classifiées nécessaires pour les respecter. Par exemple, si certaines entreprises d’IA publient des tests visant à déterminer si leurs modèles peuvent contribuer à provoquer une pandémie, elles ne précisent pas si ces mêmes modèles pourraient faciliter des attaques chimiques ou à l’aide d’explosifs improvisés. Cette omission est dangereuse. L’IA avancée peut non seulement aider des individus à fabriquer des armes, mais aussi leur permettre de contourner les contrôles à l’exportation et de dissimuler leurs traces, permettant ainsi à quiconque de contourner les barrières internationales sans être détecté. Cela crée un angle mort qui nous rend tous vulnérables aux pandémies que nous redoutons le plus. Un loup solitaire qui explore aujourd’hui l’utilisation de l’IA pour une attaque chimique ou explosive pourrait bien se préparer à une attaque biologique demain.
Si nos systèmes de sécurité sont conçus pour n’alerter qu’en cas d’apocalypse, nous manquerons les signaux d’alerte qui la précèdent.

Nous avons besoin d’une catégorisation plus large des risques, fondée sur l’avis d’experts. Un rééquilibrage fondamental est nécessaire pour traiter également les menaces plus probables liées à l’IA, et pas seulement les plus apocalyptiques. Les entreprises de pointe et la communauté des institutions qui les conseillent ne peuvent pas résoudre ce problème seules : elles ne disposent pas des renseignements classifiés nécessaires pour mieux comprendre les menaces étatiques et non étatiques, ni des mécanismes gouvernementaux et des relations internationales nécessaires pour créer les lois, les structures et les partenariats indispensables pour relever ce défi. À l’inverse, les gouvernements ne comprennent pas pleinement les capacités de l’IA et ne disposent pas des connaissances exclusives et des données essentielles sur les comportements suspects des utilisateurs. Ce cloisonnement entraîne un silence dangereux. Des partenariats public-privé devraient être mis en place pour assurer la sécurité nationale. Ces partenariats permettraient de fusionner les renseignements classifiés de l’État avec les données exclusives des entreprises technologiques et des tiers, en réunissant du personnel habilité à détecter les menaces qu’aucune des parties ne peut voir seule. Cela nécessitera un niveau d’innovation sans précédent, mais les avantages seraient immenses. En effet, l’histoire nous enseigne que la diplomatie et la politique peuvent sauver des vies. Il y a environ un demi-siècle, les dirigeants mondiaux ont participé à la Convention sur les armes biologiques et ont signé un traité de désarmement interdisant le développement d’armes biologiques et toxiques. Et l’année dernière a marqué le centenaire du Protocole de Genève, qui interdit l’utilisation d’armes chimiques et biologiques dans les conflits armés internationaux. Ces deux accords représentent des engagements collectifs sur le caractère fondamentalement inhumain de l’utilisation de ces armes et sur notre responsabilité commune de veiller à ce qu’elles soient interdites.

Il y a un siècle, ceux qui comprenaient le potentiel dévastateur des nouvelles technologies ont pris conscience de la nécessité de prendre des mesures fermes contre toute une série de menaces prévisibles.
À une époque radicalement différente, nous avons à nouveau besoin de cette même détermination, et nous en avons besoin avant qu’il ne soit trop tard.

TIME Idées accueille les plus grandes voix mondiales, qui commentent l’actualité, la société et la culture. Nous acceptons les contributions externes. Les opinions exprimées ne reflètent pas nécessairement celles des rédacteurs de TIME.

Partagez cet article : 

PEOPLE

Robert Pattinson (Crédits : Stéphane Corbis-Cardinale/GettyImages)

Robert Pattinson

Nicole Kidman. (Crédits: Taylor Hill/FilmMagic via Getty Images)

Nicole Kidman

Mylène Farmer  au 78e Festival de Cannes au Palais des Festivals le 15 mai 2025 (Crédits :  Laurent KOFFEL/Getty Images)

Mylène Farmer

Crédits: Grant Thomas

Angèle

FOR PRINT MOSUKE46557

Mory Sacko

Bérengère Krief.

Bérengère Krief

Niels Schneider. (Crédits: Nicolas Valois, Charlotte Studio)

Niels Schneider

Céline Dion. ( Crédits: Roy Rochlin via WireImage)

Céline Dion