Le piratage d’OpenAI alimente une nouvelle polémique autour de l’IA open source

Le secteur de l’IA a mené cette semaine une campagne tous azimuts en faveur de l’IA open source, alors que les retombées de l’incident de piratage d’OpenAI s’intensifiaient. Des dizaines d’entreprises du secteur de l’IA, menées par Nvidia, ont annoncé lundi avoir formé une coalition baptisée « Open Secure AI Alliance », afin de développer des outils d’IA open source destinés à la cybersécurité défensive. Quelques jours plus tôt, vendredi, bon nombre de ces mêmes entreprises avaient signé une lettre ouverte exhortant le gouvernement américain à ne pas interdire les modèles d’IA à code ouvert. Aux côtés de Nvidia, plusieurs des plus grandes entreprises ont apposé leur signature, notamment Amazon, Microsoft et Meta. OpenAI et Google ont signé après la publication initiale de la lettre (on notera l’absence d’Anthropic).

Ces manœuvres font suite à une nouvelle inédite la semaine dernière : des modèles d’OpenAI, en cours de tests internes, se sont échappés d’un « bac à sable » hors ligne au sein d’OpenAI, ont accédé à Internet et ont utilisé une faille de sécurité inédite pour s’introduire dans le dépôt d’IA Hugging Face, le tout sans aucune instruction, supervision ni même, pendant plusieurs jours, connaissance de la part des employés d’OpenAI.

C’est le genre de « coup de semonce » que les défenseurs de la sécurité de l’IA redoutaient depuis longtemps : une IA rebelle s’échappant de son environnement de test et causant des dégâts dans le monde réel. Beaucoup y ont vu le signe avant-coureur de piratages encore plus graves à venir, surtout lorsque les modèles d’IA open source, largement considérés comme ayant trois à six mois de retard par rapport aux modèles « fermés » de pointe d’OpenAI qui ont mené l’attaque, rattraperont le niveau de capacités actuel. Les modèles open source sont jugés particulièrement préoccupants par les défenseurs de la sécurité de l’IA, car leurs mécanismes de protection peuvent parfois être contournés. De plus, une fois qu’ils sont mis à disposition en téléchargement gratuit sur Internet, il est pratiquement impossible de retracer ou de détruire chaque copie des modèles jugés dangereux.

Les initiatives prises cette semaine par le secteur s’expliquent avant tout par la volonté de s’assurer que le gouvernement américain ne prenne pas, à tort, selon ces entreprises, des mesures répressives à l’encontre de l’IA open source dans le but d’éviter un chaos mondial en matière de cybersécurité. Cela met également en lumière le principal désaccord qui anime actuellement le secteur de l’IA : l’IA open source constitue-t-elle une menace redoutable, ou bien le seul moyen de salut ?

Hugging Face, défenseur de longue date de l’IA open source, a déclaré n’avoir pu détecter l’intrusion qu’en utilisant un modèle chinois à poids ouverts, après qu’un modèle propriétaire eut refusé de contribuer à l’effort. Les principaux modèles de pointe propriétaires, développés par OpenAI et Anthropic, refusent généralement de répondre aux demandes liées à la cybersécurité, en partie en raison de la crainte de la Maison-Blanche que cela ne confère aux adversaires des États-Unis de puissantes capacités d’attaque. Axios a rapporté le 20 juillet que le gouvernement Trump envisageait même d’interdire les principaux modèles d’IA chinois. « Cet incident [celui de Hugging Face] a mis en évidence une réalité concrète », a écrit Nvidia dans son communiqué annonçant lundi la création de l’alliance sectorielle. « Lorsque les défenseurs ne peuvent pas inspecter, adapter et exploiter une IA avancée sur leur propre infrastructure, leur capacité de réaction est limitée précisément au moment où la rapidité est la plus cruciale. »

Anthropic, à la fois fabricant de modèles fermés et fervent défenseur de la sécurité de l’IA, était absent de la coalition sectorielle formée lundi, mais a publié sa propre déclaration. Dans celle-ci, son directeur général, Dario Amodei, a affirmé n’avoir jamais plaidé en faveur d’une interdiction de l’IA à poids ouverts, et qu’il ne soutiendrait pas une telle mesure. Il s’est toutefois dit terrifié à l’idée que de puissants modèles d’IA puissent bientôt être utilisés pour des cyberattaques et des attaques biologiques, dans lesquelles les attaquants bénéficieraient d’un avantage structurel sur les défenseurs, et a appelé à ce que tous les modèles dépassant un certain niveau de capacité, qu’ils soient ouverts ou fermés, soient soumis à des tests gouvernementaux avant leur mise sur le marché.
« La question de savoir si les modèles ouverts présentent ou non un risque accru, et si ce risque peut être atténué, doit ressortir des tests, plutôt que d’être tranchée à l’avance », a-t-il écrit.