L’IA est arrivée au pire moment possible

L’IA n’arrive pas dans un monde capable de l’accueillir. Au contraire, elle fait son apparition dans un monde qui a passé les deux dernières décennies à démanteler systématiquement les fondements mêmes qui nous permettraient de déployer une technologie aussi puissante de manière responsable. L’autorité institutionnelle, la vérité partagée et l’intégrité de l’information ont été mises à mal. Nous construisons la technologie cognitive la plus sophistiquée de l’histoire de l’humanité dans un climat de confiance parmi les plus fracturés de l’histoire moderne.

Si l’on voulait imaginer le pire moment possible pour l’émergence de l’IA, on choisirait sans doute un moment comme celui-ci.

De la « post-vérité » à la « post-confiance »

Il y a dix ans, nous nous inquiétions de vivre dans un monde de « post-vérité ». Oxford Dictionaries a élu « post-vérité » mot de l’année en 2016, le définissant comme une situation dans laquelle les faits objectifs ont moins d’influence sur l’opinion publique que les appels à l’émotion et aux convictions personnelles. La « post-vérité » décrit un monde où les faits existent toujours, mais sont souvent éclipsés par des récits émotionnels.

Ce que nous vivons aujourd’hui va plus loin. J’appelle cela « l’ère post-confiance » : un monde où les mécanismes mêmes qui nous permettent d’établir la confiance se sont effondrés. Il ne s’agit pas seulement du fait que les émotions l’emportent parfois sur les faits. Il s’agit du fait que nous avons perdu les fondements communs qui nous permettent de déterminer ce qui constitue un fait en premier lieu.

Regardez ce qui est arrivé à notre écosystème de l’information au cours des deux dernières décennies. Nous sommes passés d’un monde dans lequel la vérité était vérifiée par des rédacteurs en chef, imprimée par des imprimeries et diffusée par un petit nombre d’intermédiaires identifiables, à un monde où n’importe qui peut publier, amplifier, déformer ou inventer. Les données ont connu une explosion, et les réseaux sociaux ont morcelé l’audience. Les algorithmes ont commencé à favoriser les clics, l’engagement et le sensationnalisme. Les priorités sont passées de l’exactitude à l’attention : la viralité prime sur la véracité, l’indignation sur la nuance, la rapidité sur l’analyse. Les chiffres parlent d’eux-mêmes. Près de 8 personnes sur 10 accèdent à l’actualité principalement par le biais de systèmes algorithmiques tels que les fils d’actualité des réseaux sociaux, les moteurs de recherche et les agrégateurs, confiant ainsi leur consommation d’informations à des systèmes qu’elles ne comprennent pas et auxquels elles ne font pas entièrement confiance.

Aux États-Unis, la confiance dans le gouvernement fédéral a chuté, passant de plus de 70 % à la fin des années 1950 à moins de 20 % aujourd’hui. La confiance dans les médias de masse a baissé : moins d’un tiers des Américains expriment ne serait-ce qu’un « niveau raisonnable » de confiance. Les institutions religieuses, les systèmes financiers, les organismes de santé et jusqu’à la science elle-même ont vu la confiance s’éroder.

La « post-vérité » décrit une distorsion dans la manière dont les gens évaluent les faits et les sentiments. La « post-confiance » décrit une fracture plus profonde : la perte de méthodes communes permettant de déterminer ce qui est réel.
Lorsque les premières photographies sont apparues dans les années 1830, les gens s’émerveillaient de leur fidélité. Pendant près de deux siècles, voir, c’était croire. Une image n’était pas parfaite, mais elle constituait une preuve.
Début 2023, une image générée par l’IA représentant le pape François vêtu d’une doudoune blanche très tendance s’est répandue sur les plateformes de réseaux sociaux. Elle était convaincante car elle se situait dans une zone ténue entre le familier et l’inattendu. Le style, la posture et l’éclairage de la photo empruntaient leur crédibilité à des décennies de photographie réelle. Beaucoup l’ont acceptée comme authentique avant même d’avoir eu le temps de la remettre en question.

En l’espace de deux ans, les images, les voix et les vidéos générées par l’IA étaient devenues si omniprésentes et si convaincantes que la question n’était plus « pouvez-vous repérer le faux ? », mais « pouvez-vous faire confiance à tout ce que vous voyez ? »

La capacité à fabriquer des « preuves » convaincantes à grande échelle est apparue au moment même où notre écosystème informationnel est le plus fragmenté. Des recherches menées par les universités de Duke et de New York montrent que le fait d’exposer les gens à des opinions politiques opposées sur les réseaux sociaux peut accroître la polarisation plutôt que de la réduire. Une étude phare publiée dans Science a révélé que les fausses informations se propagent nettement plus vite et plus loin que les informations fiables en ligne. Des recherches en neuroimagerie suggèrent que lorsque les gens sont confrontés à des informations remettant en cause leurs convictions politiques, les régions du cerveau associées aux émotions négatives s’activent, tandis que les informations confirmant leurs convictions activent les circuits de la récompense. Nous ne sommes pas seulement divisés sur les faits. Nous sommes programmés pour traiter les informations confirmant ou infirmant nos convictions par des canaux cognitifs totalement distincts.

C’est dans ce contexte que l’IA fait son apparition : un monde dans lequel l’information est abondante, mais où la confiance fait défaut, où la réalité partagée s’est fragmentée et où les mécanismes permettant d’établir une vérité commune se sont effondrés.

Une intelligence d’un autre genre

C’est dans ce paysage fracturé qu’apparaît quelque chose de véritablement nouveau. Pas simplement un outil de plus, mais la première technologie de l’histoire dont la compétence principale est la cognition.

Les technologies passées ont étendu nos capacités sans pour autant se soustraire à la pensée humaine. L’imprimerie a donné plus de portée aux mots que nous choisissions d’imprimer. L’électricité a transformé l’énergie que nous décidions d’exploiter. Les moteurs à combustion ont remplacé la force musculaire que nous utilisions, et les ordinateurs exécutaient les calculs que nous programmions. Internet a diffusé les messages que nous écrivions.

L’IA rompt avec ce schéma. Elle ne se contente plus d’exécuter des tâches. Elle génère des arguments, synthétise des informations, formule des recommandations et produit des œuvres créatives qui, d’un point de vue humain, ressemblent aux pensées de quelqu’un d’autre. Un seul modèle peut rédiger un essai, résumer un procès-verbal judiciaire, traduire une note médicale, écrire du code, planifier une campagne marketing et composer de la musique.

Au cœur de la plupart de ces systèmes se trouve une architecture qui apprend en prédisant ce qui va suivre, un mot, un pixel ou un token, dans une séquence. Ces modèles ne connaissent pas la « vérité » telle que les humains la comprennent. Ils découvrent des schémas, des fréquences et des corrélations dans les données qui leur sont fournies.

Et c’est là que le timing devient crucial : les données qui leur sont fournies sont générées dans un monde post-confiance. L’IA est entraînée sur nos actualités, nos flux de réseaux sociaux, nos livres numérisés, nos archives biaisées, nos débats polarisés, nos théories du complot, nos avancées scientifiques et nos fausses informations. Elle absorbe non seulement nos connaissances, mais aussi nos distorsions. Elle apprend non seulement nos faits, mais aussi nos conflits autour de ces faits.

Il en résulte un miroir étrange. L’IA nous renvoie notre propre image, réfractée à travers des modèles statistiques et mise à l’échelle par le calcul. Elle nous fournit des réponses que nous ne pouvons pas facilement vérifier, basées sur des données d’entraînement que nous ne pouvons pas inspecter de manière approfondie, optimisées pour des objectifs que nous ne contrôlons pas toujours.

Une nouvelle forme d’infrastructure cognitive émerge au moment même où notre infrastructure sociale fondée sur la confiance est mise à rude épreuve.

Extrait de The Trust Code avec l’autorisation de Tiffany Xingyu Wang.