Des développements récents dans le secteur de l’intelligence artificielle pourraient entraîner une multiplication par cinq des risques de pandémies d’origine humaine par rapport à il y a un an, selon une étude réalisée par des experts réputés et partagée en exclusivité avec Time.
Les données reflètent des inquiétudes soulevées ces derniers mois par certaines entreprises du secteur de l’IA, notamment OpenAI et Anthropic, toutes deux ayant alerté sur la capacité des outils d’intelligence artificielle actuels à venir en aide à des individus malveillants qui tentent de fabriquer des armes biologiques.
Les biologistes sont certes capables depuis longtemps de modifier des virus à l’aide de technologies en laboratoire. Les dernières évolutions concernent toutefois la capacité des agents conversationnels (tels que ChatGPT ou Claude) à fournir des conseils à des biologistes amateurs cherchant à créer une arme biologique létale dans un laboratoire. Selon Seth Donoughe, co-auteur de l’étude, les experts en sécurité ont souvent considéré que la difficulté à obtenir des conseils sur ce sujet était un obstacle considérable à la capacité de groupes terroristes à créer des armes biologiques. Il estime désormais que, grâce à l’IA, l’expertise nécessaire pour créer une nouvelle pandémie de manière intentionnelle « pourrait devenir accessible à bien d’autres personnes ».
Entre décembre 2024 et février 2025, le Forecasting Research Institute a interrogé 46 experts en biosécurité et 22 « super prévisionnistes » (des individus au taux élevé de prédiction d’événements) afin de prédire le risque d’une pandémie d’origine humaine. En moyenne, les sondés ont estimé le risque d’un événement de ce type au cours d’une année donnée à 0,3 %.
Il convient de noter que les auteurs de l’enquête ont ensuite posé une autre question aux sondés : quel serait le taux d’augmentation de ce risque si les outils d’IA pouvaient égaler les capacités d’une équipe d’experts lors d’un test complexe de virologie avec une demande de résolution de problème ? En moyenne, les experts ont répondu que dans ce cas, le risque annuel grimperait à 1,5 % (soit une multiplication par 5).
Mais ce que les experts interrogés ne savaient pas, c’est que Seth Donoughe, un chercheur de l’association de prévention des pandémies SecureBio, était justement en plein test de la capacité de systèmes d’IA dans cette situation. En avril dernier, son équipe a révélé les résultats des tests : les systèmes d’IA actuels les plus performants peuvent faire mieux que des virologues doctorants lors d’une résolution de problèmes.
En d’autres termes, l’IA est désormais capable de faire exactement ce que les experts avaient considéré comme un facteur de risque aux pandémies d’origine humaine. Le Forecasting Research Institute prévoit par ailleurs d’interroger à nouveau les mêmes experts à l’avenir, pour voir si leur vision des risques a évolué comme ils l’avaient prédit, mais a annoncé que cette nouvelle étude nécessiterait des mois de travail.
Il y a toutefois plusieurs raisons de douter des résultats. La prévision est une science inexacte, et il est particulièrement difficile de prédire la probabilité d’événements très rares. Les experts de l’étude ont également démontré un manque de compréhension du taux de progrès des IA (par exemple, lorsqu’ils ont été interrogés, la plupart ne s’attendaient pas à ce que les IA puissent dépasser les capacités de virologues humains avant 2030, tandis que le test de Seth Donoughe montre que ce seuil avait déjà été atteint). Si les nombres eux-mêmes sont à prendre avec des pincettes, les auteurs de l’étude affirment que les résultats pointent tout de même dans une direction inquiétante. Selon Josh Rosenber, PDG du Forecasting Research Institute : « Il semblerait que les capacités de l’IA à court terme pourraient augmenter considérablement le risque d’épidémie d’origine humaine ».
L’étude a également identifié des manières de réduire les risques d’armes biologiques liés à l’IA. Ces atténuations relèvent principalement de deux catégories.
La première concerne les dispositifs de sécurité à l’échelle des modèles. Lors des entretiens réalisés, les chercheurs ont félicité les efforts déployés par des entreprises comme OpenAI et Anthropic pour empêcher leurs IA de répondre aux prompts visant à créer des armes biologiques. L’étude identifie également que la restriction de la prolifération de modèles « toutes catégories » et l’ajout de protections contre le jailbreak de modèles sont susceptibles de réduire le risque d’utilisation de l’IA pour démarrer une pandémie.
La seconde catégorie de dispositifs de sécurité concerne des restrictions sur des entreprises qui synthétisent des acides nucléiques. Actuellement, il est possible d’envoyer un code génétique à l’une de ces entreprises pour recevoir du matériel biologique correspondant à ce code. Ces entreprises ne sont pas tenues par la loi d’analyser les codes génétiques qu’elles reçoivent avant de les synthétiser. Ce processus peut comporter des risques, car les matériaux génétiques synthétisés peuvent être utilisés pour créer des pathogènes de vente par correspondance. Les auteurs de l’étude recommandent ainsi aux laboratoires d’analyser leurs séquences génétiques pour vérifier leur nocivité et de déployer des procédures know your customer (connaître son client).
Selon les experts, ces dispositifs de sécurité (lorsqu’ils sont déployés) pourraient ensemble faire chuter le risque d’une pandémie utilisant l’IA à 0,4 % (soit légèrement plus que la base de 0,3 % prévue avant de savoir que les IA actuelles étaient capables d’aider à la création d’armes biologiques).
Seth Rosenberg conclut : « De manière générale, il semblerait que cette nouvelle zone à risque mérite toute notre attention. On constate toutefois de bonnes réponses politiques ».
- Article issu de TIME US - Traduction Mathilde Pace
