Le débat sur l’IA est en réalité un débat sur la question de savoir qui détient le pouvoir

Leur colère est réelle, et elle est justifiée. Les dirigeants du secteur technologique nous ont dit que l’IA allait transformer nos emplois, nos écoles, nos relations et nos guerres. Mais on nous a également demandé de croire que nous bénéficierions tous d’un changement qui se déroule sans notre consentement ni notre participation. Pour de nombreux Américains comme moi, cette promesse ne tient pas la route : nous avons le sentiment que notre avenir est décidé pour nous, plutôt que par nous.

Au cours des dernières décennies, la politique en matière de technologie a été traitée comme une affaire purement technique, relevant du domaine des scientifiques, des directeurs généraux de l’industrie, des acheteurs et des avocats. Ce printemps, un pape et un président en ont fait une question morale et politique. Le 25 mai, le pape Léon XIV a publié «Magnifica Humanitas», sa première encyclique sur l’IA et la personne humaine. Puis, le 2 juin, le président Donald Trump a signé un décret présidentiel intitulé « Promotion de l’innovation et de la sécurité en matière d’intelligence artificielle avancée ». Les deux documents ne pourraient guère être plus différents.

L’encyclique du pape met l’accent sur l’humanité et exige que le pouvoir soit encadré par la morale. En revanche, le décret de Trump s’interroge sur la manière dont les États-Unis peuvent garder une longueur d’avance sur la Chine. Le premier est une réflexion sur la dignité, le second une stratégie de domination. Pourtant, aucune de ces deux déclarations ne porte uniquement sur l’IA. Toutes deux s’articulent autour d’un glissement : le transfert de l’autorité des citoyens vers les machines, et du débat public vers le secteur privé.

C’est sur le thème de la guerre et de la sécurité nationale que le fossé entre les deux documents est le plus grand. L’avertissement le plus fort de l’encyclique est que les décisions mortelles et irréversibles ne doivent jamais être confiées à des systèmes artificiels. Une machine ne devrait pas décider qui vit et qui meurt. Une arme peut détecter une signature thermique, suivre une silhouette et recommander une frappe, mais elle ne peut pas comprendre ce que signifie mettre fin à une vie. Elle ne peut pas rendre des comptes à une famille, à un tribunal ou à l’histoire. Selon les mots du pape Léon, « aucun algorithme ne peut rendre la guerre moralement acceptable ».

Trump, pour sa part, a entraîné les États-Unis dans de multiples conflits à l’étranger, y compris une guerre en cours avec l’Iran. À ce titre, son décret aborde les systèmes de pointe sous un angle plus tactique et établit que les responsables du gouvernement Trump testeront les modèles les plus avancés en secret. Il n’autorise pas explicitement les armes autonomes, mais il définit où seront prises les décisions concernant les systèmes d’IA de pointe et leur utilisation en temps de guerre : à huis clos. À l’avenir, les questions les plus graves concernant le pouvoir militaire, cybernétique et social de l’IA trouveront leur réponse à travers un examen classifié et une collaboration privée entre des personnalités telles que le secrétaire au Trésor Scott Bessent, le secrétaire à la Guerre Pete Hegseth et le secrétaire au Commerce Howard Lutnick.

Une démocratie devrait régler ce genre de questions au grand jour, par le biais d’une consultation, d’un vote ou d’un document officiel auquel on pourrait se référer. Or, ce décret risque de les soustraire davantage à l’attention du public, là où peu de citoyens ont la possibilité de se faire entendre. Plus largement, le décret de Trump confie la quasi-totalité du processus d’examen au gouvernement et à une poignée d’organisations désignées comme « développeurs et chercheurs en IA », ou comme « industrie de l’IA ». À l’avenir, les agences détermineront quels modèles devront être mis sur le marché par le biais d’un processus d’évaluation comparatif classifié, en collaboration avec les entreprises qui les ont conçus. Ensemble, elles choisiront les « partenaires de confiance » qui auront accès aux systèmes les plus avancés avant le grand public, et le gouvernement les examinera lui-même jusqu’à 30 jours avant même qu’un modèle ne parvienne à ces partenaires. Le décret n’ouvre aucune période de réflexion, ne prévoit aucune consultation et ne crée, selon ses propres termes, aucun droit « matériel ou procédural » que quiconque puisse faire valoir à son encontre. La participation est volontaire, c’est-à-dire qu’elle se fait sur invitation, et les développeurs qui contribuent à la conception du cadre aident à choisir qui d’autre y aura accès. Le public en prend connaissance après coup.

Axios a rapporté que Mark Zuckerberg, Elon Musk et David Sacks s’étaient entretenus avec Trump avant qu’un projet antérieur ne soit reporté, tandis que The Washington Post a décrit les appels de l’industrie s’opposant à certaines parties du texte. Quoi qu’il se soit passé au cours de ces conversations, elles ont révélé un déséquilibre plus profond : les entreprises qui construisent ces systèmes disposent déjà d’un accès direct aux règles qui les régiront, tandis que le public attend toujours de pouvoir y accéder.

Cela nous amène à l’encyclique du pape, qui met des mots sur le danger derrière un tel compromis. Lorsque les données, les algorithmes, les plateformes et les infrastructures sont concentrés entre quelques mains, des biens qui devraient élargir les possibilités humaines peuvent devenir des instruments d’exclusion. L’intelligence deviendra-t-elle une infrastructure partagée, suffisamment ouverte pour que les institutions publiques et les communautés puissent la façonner ? Ou deviendra-t-elle une capacité louée, revendue au public par quelques entreprises disposant du capital nécessaire pour la construire ?

Il est certain que cette évolution est déjà en cours. L’IA a déjà un impact direct sur les personnes : dans ce qu’une machine décide à leur sujet, et dans ce qu’elle peut leur retirer de leur vie. Les logiciels classent déjà le potentiel scolaire d’un enfant, fixent le coût d’un prêt, déterminent qui reçoit des soins et décident quelles candidatures à un emploi un humain verra jamais. À mesure que ces systèmes se répandent et que de plus en plus de nos vies quotidiennes passent par eux, les décisions seront de plus en plus souvent rendues sans qu’il soit possible de savoir comment elles ont été prises. C’est là que la défense de la dignité humaine dans l’encyclique de Léon XIV prend toute son importance. Le parent, le patient, le travailleur, l’étudiant, le candidat à un emploi : chacun peut se retrouver lié par le verdict d’un système qu’il n’a pas choisi et contre lequel il ne peut pas faire appel. Dans une salle d’audience, n’importe lequel d’entre eux aurait qualité pour agir. Face à une décision automatisée qui bouleverse leur vie, ils n’en ont peut-être aucune.

La crainte que toute pause pour évaluer l’impact de l’IA sur les personnes ne livre l’avenir à la Chine est présente tant à Washington qu’à la Silicon Valley : aller plus vite, poser moins de questions, faire confiance aux concepteurs. Mais une société libre ne peut pas considérer la rapidité comme un substitut au consentement. Un tel changement se produit lentement, puis d’un seul coup : dans les contrats d’approvisionnement, les accords d’accès aux modèles et les clauses que personne ne lit, jusqu’à ce que les systèmes soient construits, les paramètres par défaut définis et l’arrangement trop coûteux à défaire. Nous en sommes encore à la phase lente.

La solution réside dans la démocratie ordinaire : une consultation publique avant qu’un établissement scolaire n’achète un algorithme de notation, le droit de savoir quand un modèle vous a évalué et de faire appel, un examen public des décisions prises par des modèles de pointe en dehors du domaine classifié, et des règles d’approvisionnement qui demandent qui en bénéficie, qui est exposé et qui peut contester le résultat.

Je reviens à une puissante invitation tirée de Magnifica Humanitas : « N’ayons pas peur de nous salir les mains sur le “chantier” de notre époque. » Les étudiants qui ont hué ce printemps savent déjà ce que les décideurs politiques ont mis des années à admettre : le chantier a été cloisonné. Les décisions sont prises à l’intérieur. Un peuple libre peut encore s’en approprier, mais seulement en refusant d’attendre en silence qu’on lui dise ce qui a déjà été décidé.