Le 16 avril, OpenAI a annoncé le lancement de GPT-Rosalind, un nouveau modèle d’IA destiné aux sciences de la vie. Il surpasse largement les modèles actuellement accessibles au public dans les tâches liées à la chimie et à la biologie, ainsi que dans la conception d’expériences. À l’instar de Claude Mythos d’Anthropic et de GPT-5.4-Cyber d’OpenAI, également lancés ce mois-ci, ce modèle n’est pas accessible au grand public. Il est réservé, du moins dans un premier temps, à des « clients qualifiés » via un « programme d’accès privilégié ».
Les lancements marquent une nouvelle tendance inquiétante chez les entreprises d’IA, qui jugent leurs modèles les plus performants trop puissants pour être confiés au grand public. « Je pense que les développeurs de pointe restreignent l’accès à leurs modèles les plus performants parce qu’ils s’inquiètent sincèrement de certaines des capacités de ces modèles », explique Peter Wildeford, responsable des politiques chez AI Policy Network, un groupe de défense des intérêts. On ignore pourquoi OpenAI a décidé de restreindre l’accès à GPT-Rosalind en particulier. Un porte-parole d’OpenAI a déclaré dans un e-mail que le fait de donner accès à des partenaires de confiance permet à l’entreprise de « mettre plus rapidement à disposition des systèmes plus performants pour des utilisateurs vérifiés, tout en continuant à gérer les risques de manière réfléchie ».

Qui décide ?

Les progrès rapides des capacités de l’IA soulèvent la question de savoir si les entreprises privées devraient prendre les décisions de plus en plus lourdes de conséquences concernant la création ou non de modèles d’IA potentiellement dangereux, la manière de les créer et les personnes autorisées à les utiliser. « Je pense que le gouvernement fédéral a un rôle à jouer », déclare le représentant Mark DeSaulnier, un démocrate de Californie.
La sortie de Mythos par Anthropic semble avoir amélioré ses relations auparavant tendues avec la Maison-Blanche, qui a déclaré la semaine dernière avoir tenu une réunion « productive et constructive » avec le directeur général d’Anthropic, Dario Amodei. La NSA aurait également commencé à utiliser Claude Mythos. En février, le président Trump a ordonné aux agences fédérales de cesser de travailler avec cette « entreprise radicale de gauche et woke », à la suite d’un différend commercial avec le Pentagone.
Les restrictions d’accès à la récente série de modèles étaient volontaires de la part d’Anthropic et d’OpenAI. Mais alors que les risques posés par les modèles d’IA deviennent plus sévères et complexes, certains réclament une surveillance externe plus stricte. « Nous ne laissons pas les entreprises décider de la quantité de polluants toxiques qu’elles sont autorisées à mettre dans l’eau potable de mon enfant. C’est au gouvernement de décider », déclare Connor Leahy, directeur américain de ControlAI, un groupe de défense de la réglementation de l’IA. « On peut débattre [pour savoir] si le gouvernement fait du bon ou du mauvais travail, mais il s’agit ici de la séparation des pouvoirs. »

« La recherche scientifique et la fabrication d’une arme biologique se ressemblent beaucoup »

Les capacités à double usage, telles que la recherche en biologie et en cybersécurité, posent un défi aux entreprises d’IA. Les mêmes outils qui aident un chercheur en cybersécurité à détecter et à corriger les failles d’un logiciel peuvent aider un pirate potentiel. Une IA qui aide à étudier les virus pourrait, en théorie, aider un bioterroriste à concevoir une souche plus mortelle. « La cyberdéfense et la cyberattaque se ressemblent beaucoup », explique M. Wildeford. « La recherche scientifique et la fabrication d’une arme biologique se ressemblent beaucoup. » Par le passé, les entreprises ont choisi de restreindre ces capacités pour tout le monde. De nombreux agents conversationnels refusent par exemple de répondre aux questions sur les mutations du COVID qui rendent le virus plus contagieux. Si cela ne dérange pas l’utilisateur lambda, c’est un défi pour les chercheurs. « C’est frustrant », déclare James Diggans, vice-président chargé des politiques et de la biosécurité chez Twist Bioscience, une entreprise de synthèse d’ADN. « Mais je pense que c’est la bonne chose à faire. »
Les récentes versions du modèle assouplissent certaines de ces contraintes pour les parties de confiance. OpenAI affirme n’accorder l’accès à GPT-Rosalind qu’aux organisations disposant de « contrôles internes rigoureux » garantissant que le modèle ne sera pas utilisé à mauvais escient.
Anthropic s’est associé à des agences gouvernementales américaines et à des entreprises privées qui utilisent Mythos pour détecter et corriger les failles de cybersécurité. Cependant, Steph Batalis, chercheuse au Center for Security and Emerging Technology, souligne qu’il est plus difficile de définir ce qu’est un chercheur « légitime » en dehors des institutions américaines, ce qui soulève des questions d’équité pour les chercheurs internationaux.

Déterminer quels modèles devraient faire l’objet d’un accès restreint est un exercice d’équilibre délicat qui varie selon le domaine. Il est facile de mesurer si un modèle d’IA représente une cybermenace potentielle, explique M. Diggans : « Peuvent-ils pirater les systèmes existants ? » La recherche biologique est un processus plus complexe, en plusieurs étapes, qui prend plus de temps que les cyberattaques ; il est moins évident de déterminer si un modèle tel que GPT-Rosalind causerait du tort s’il était rendu public. « « Nous savons que des personnes veulent mener des cyberattaques, et qu’elles le font », déclare Batalis. « Nous ne disposons tout simplement pas d’un échantillon de taille équivalente pour les risques biologiques. » D’autres domaines pourraient devenir plus controversés à mesure que les capacités de l’IA continuent de progresser. Les campagnes de communication pourraient être perçues comme des opérations de propagande entre de mauvaises mains.

« Les capacités cybernétiques vont se démocratiser »

Les modèles open source, qui peuvent être téléchargés et exécutés gratuitement, pourraient modifier le calcul autour des restrictions des modèles d’IA. Les capacités des modèles open source ont historiquement accusé un retard de trois à sept mois par rapport aux modèles propriétaires, selon Epoch AI, un institut de recherche qui étudie les progrès de l’IA. Cela signifie que, si la tendance se poursuit, un modèle d’IA doté de capacités du niveau de GPT-Rosalind et Mythos pourrait être accessible au public d’ici la fin de l’année. « Les capacités cybernétiques vont se démocratiser », a déclaré le porte-parole d’OpenAI. « Les défenseurs ont besoin de meilleurs outils le plus tôt possible, pas plus tard. »
Les modèles open source pourraient profiter aux cyberattaquants internationaux. En novembre, Anthropic a annoncé avoir mis hors d’état de nuire un groupe soutenu par l’État chinois qui utilisait les modèles payants de l’entreprise, en bloquant son accès à l’IA. Si des modèles aux capacités similaires étaient librement disponibles sur le Web ouvert, cela réduirait l’avantage des entreprises occidentales. Cependant, certains développeurs open source se sont déjà appuyés sur les résultats de systèmes propriétaires de premier plan pour aider à entraîner leurs modèles. Les récentes restrictions d’accès aux modèles récents pourraient ralentir ou stopper la diffusion des capacités les plus avancées vers les modèles open source, à condition que les entreprises puissent faire respecter ces restrictions. (Certains utilisateurs non autorisés auraient selon certaines sources déjà réussi à accéder à Claude Mythos.)

Que les modèles open source rattrapent ou non les principaux modèles propriétaires, Mythos et GPT-Rosalind constituent le nouveau seuil des capacités de pointe en matière d’IA, et les opportunités et risques croissants posés par l’IA ne montrent aucun signe de ralentissement. « Je pense que le gouvernement a tout intérêt à gérer cela », déclare M. Wildeford. « Je ne vois pas vraiment comment on pourrait contourner la nécessité d’une intervention gouvernementale. »

  • Article issu de TIME US - Traduction TIME France