Trias Algorithmica : ce(ux) que gouverne le code

Commençons par une question que presque personne ne pose : qu’est-ce qui confère une légitimité au pouvoir algorithmique ? Les sociétés ont appris à équilibrer trois pouvoirs, continuent d’apprendre à en équilibrer un quatrième et peinent encore à maîtriser un cinquième.

Au fil des siècles, les systèmes de gouvernance ont évolué afin de stabiliser les rapports de pouvoir à travers trois fonctions institutionnelles : les pouvoirs législatif, exécutif et judiciaire. Plus tard, les médias ont été qualifiés de « quatrième pouvoir ». Avec Internet et les réseaux sociaux, certains chercheurs ont décrit l’émergence d’un « cinquième pouvoir », fondé sur la capacité des individus connectés à produire, rechercher et diffuser l’information. Cette évolution a également donné une nouvelle actualité à la célèbre formule attribuée à Andy Warhol, selon laquelle chacun connaîtrait quinze minutes de célébrité.

L’IA introduit un sixième pouvoir : le pouvoir algorithmique

Alors que la plupart des débats sur l’intelligence artificielle portent sur le degré d’intelligence des machines, la course mondiale à l’IA, l’émergence éventuelle d’une intelligence artificielle générale ou encore la possibilité qu’une machine puisse penser ou devenir consciente, je suis convaincu que nous posons les mauvaises questions.

L’enjeu le plus important de notre époque est de savoir comment gouverner une sixième catégorie de pouvoir, le pouvoir algorithmique, afin qu’il ne déstabilise pas les fondements mêmes de nos sociétés et de nos démocraties.

Chaque jour, des algorithmes influencent ce que nous voyons, ce que nous croyons, qui est recruté, qui obtient un crédit, quelles informations se diffusent et quelles opportunités deviennent accessibles.

Ce pouvoir est déjà à l’œuvre. Chaque progrès de l’IA l’amplifie à un rythme dont nous n’avons pas encore pleinement mesuré les implications et à une échelle dont le potentiel d’instrumentalisation à des fins de domination pourrait dépasser celui de toutes les formes de pouvoir qui l’ont précédé.

Comprendre cette sixième forme de pouvoir et définir les conditions dans lesquelles elle peut être exercée de manière légitime constituent l’un des grands défis de gouvernance du XXIᵉ siècle.

La séparation des pouvoirs algorithmiques

Si le pouvoir algorithmique doit devenir une forme de pouvoir légitime, il doit être soumis à des garanties comparables à celles que les sociétés ont progressivement appliquées aux autres formes de pouvoir afin d’en empêcher la concentration.

Nous n’accepterions jamais une concentration excessive du pouvoir politique ; pourtant, nous l’acceptons aujourd’hui dans l’intelligence artificielle.

Les démocraties modernes reposent sur un principe simple : aucune institution ne doit pouvoir écrire les règles, les faire appliquer et s’ériger elle-même en juge de leur bonne exécution.

Ce principe sous-tend la séparation des trois pouvoirs de l’État – législatif, exécutif et judiciaire -, formalisée notamment par Montesquieu dans De l’esprit des lois.

Cette séparation des pouvoirs constitue l’une des innovations les plus durables de l’histoire humaine : une véritable technologie contre la tyrannie, conçue pour prévenir les dérives qui apparaissent lorsque ces trois pouvoirs sont concentrés entre les mêmes mains.

Pourtant, c’est précisément ainsi que fonctionnent aujourd’hui de nombreux systèmes d’intelligence artificielle.

Les mêmes organisations conçoivent les règles intégrées aux systèmes d’IA, exerçant une fonction comparable au pouvoir législatif ; elles déploient ces systèmes à grande échelle, exerçant une fonction analogue au pouvoir exécutif ; puis elles évaluent elles-mêmes si ces systèmes fonctionnent correctement, assumant ainsi une fonction comparable au pouvoir judiciaire.

Cette concentration serait considérée comme dangereuse dans une démocratie : c’est précisément celle que la séparation des pouvoirs vise à empêcher. Elle est pourtant devenue la norme dans le développement de l’intelligence artificielle.

Le pouvoir algorithmique doit donc être envisagé comme une catégorie constitutionnelle de pouvoir. À ce titre, il devrait être soumis aux mêmes exigences de contrôle et aux mêmes garanties que celles que les démocraties appliquent depuis longtemps au pouvoir politique.

Si les démocraties ont besoin de la « Trias Politica » pour empêcher la concentration du pouvoir politique, l’ère de l’intelligence artificielle exige une « Trias Algorithmica » afin d’empêcher la concentration du pouvoir algorithmique.

Dans le prolongement de la théorie de Montesquieu sur la séparation des pouvoirs, la « Trias Algorithmica » étend ce principe au pouvoir algorithmique, au-delà de l’État, jusque dans les infrastructures mêmes du calcul informatique.

Le pouvoir algorithmique se compose de trois fonctions constitutionnelles distinctes : le pouvoir de définir et d’encoder les règles ; le pouvoir de les exécuter grâce aux infrastructures informatiques et aux capacités de calcul ; le pouvoir d’évaluer si ces règles, ainsi que leurs conséquences, sont acceptables.

Ces trois pouvoirs ne devraient jamais être concentrés entre les mêmes mains.

Que se passera-t-il si nous échouons ?

Tout au long de l’histoire, la concentration du pouvoir politique a profondément transformé les marchés, les institutions, les cultures et, finalement, les conditions mêmes dans lesquelles les individus exercent leur liberté. La concentration du pouvoir algorithmique produira vraisemblablement les mêmes effets.

Contrairement aux formes traditionnelles de domination, le pouvoir algorithmique ne s’étend pas principalement par la contrainte, mais par l’optimisation. Les systèmes deviennent indispensables parce qu’ils sont utiles, dignes de confiance parce qu’ils sont pratiques et influents parce qu’ils deviennent les références à partir desquelles sont évaluées les décisions, les performances et les opportunités.

À mesure que ce processus se déploie, les systèmes d’IA deviennent progressivement l’étalon de la société. Ils définissent les critères selon lesquels sont évaluées les capacités humaines : nos interactions, notre capacité à prendre soin des autres, à aimer, à travailler, à être productifs, compétents ou créatifs, autant de domaines qui relevaient jusqu’ici du jugement humain.

Ce qui commence comme une simple optimisation technologique devient progressivement une normalisation sociale. Cette redéfinition progressive de la valeur humaine constitue déjà un exercice du pouvoir algorithmique. Lorsque les systèmes algorithmiques déterminent les critères à partir desquels sont évaluées les valeurs sociales, économiques et humaines, ils acquièrent le pouvoir de définir ce qui constitue la valeur de la contribution humaine.

Nous nous demandons depuis des années comment l’intelligence artificielle transformera la société. La question plus fondamentale est la suivante : d’où les détenteurs du pouvoir algorithmique tirent-ils la légitimité de définir ces critères ?

Le véritable danger est celui d’une dépendance constitutionnelle au pouvoir algorithmique. Une société qui délègue progressivement à des organisations privées le pouvoir de définir, d’évaluer et de normaliser la valeur humaine perd progressivement sa capacité à déterminer elle-même ce qui mérite d’être valorisé. Elle cesse de définir ses propres normes.

Or, sans cette capacité, c’est la légitimité elle-même qui commence à s’effondrer. Prévenir cette évolution suppose de construire une architecture capable de séparer le pouvoir algorithmique.

Partout où le développement et le déploiement de l’intelligence artificielle confèrent le pouvoir de définir des objectifs, de sélectionner les connaissances, de fixer les contraintes d’optimisation, de contrôler le déploiement, de réguler les flux d’information de la société, d’allouer les ressources et les opportunités, de gouverner l’accès aux infrastructures de calcul ou de déterminer les conditions de participation aux marchés, ces pouvoirs ne devraient jamais être concentrés entre les mains des mêmes acteurs.

Les individus doivent comprendre comment le pouvoir algorithmique agit sur eux afin de préserver leur capacité d’agir. Les organisations doivent conserver la possibilité de poursuivre leurs intérêts légitimes sans devenir structurellement dépendantes de systèmes algorithmiques. La société doit préserver sa souveraineté en demeurant l’auteur des normes et des valeurs selon lesquelles elle choisit de se gouverner.

De l’individu au collectif, la légitimité du pouvoir algorithmique repose sur ces conditions, qui dépendent toutes d’un même principe essentiel : la séparation des pouvoirs algorithmiques. Qu’est-ce qui rend le pouvoir algorithmique légitime ?

La « Trias Algorithmica ».

Hamilton Mann publiera le 22 septembre 2026 chez Wiley son nouveau livre, Trias Algorithmica: What Code Rules, un ouvrage en anglais de 416 pages et disponible en précommande sur Amazon.

Les opinions exprimées dans cette tribune sont celles de son auteur et n’engagent pas la rédaction de TIME France.