Ads

Édition française du magazine TIME – Abonnement 1 an 4 n°, 41 € (économisez 10%)

Entrons-nous dans l’ère du nihilisme des données ?

Alice Xiang est responsable mondiale de la gouvernance de l’IA chez Sony et chercheuse principale chez Sony AI.
Image by Jorge Franganillo from Pixabay
Chaque clic, chaque photo, chaque requête de recherche que nous effectuons crée un écho numérique. Ces traces numériques constituent la matière première qui alimente la révolution de l’IA, donnant naissance à des technologies qui redessinent notre monde. Pourtant, pour ceux qui les créent, c’est-à-dire nous tous, ces données sont devenues pratiquement sans valeur.

L’internaute moyen ne réfléchit pas à la valeur de ses données. Il les cède simplement, gratuitement, à certaines des entreprises les plus riches du monde. En raison de ce comportement, je crains que nous ne vivions à l’ère du nihilisme des données, où nos données représentent tout pour les développeurs d’IA mais presque rien pour nous, non pas parce qu’elles sont réellement sans valeur, mais parce que les gens se sentent impuissants à empêcher leur collecte contre leur gré.

Lorsque j’ai lancé mon laboratoire de recherche sur l’éthique de l’intelligence artificielle, de nombreux membres de la communauté de recherche en intelligence artificielle étaient sceptiques quant à l’approche initiale d’OpenAI. Pouvait-on vraiment parvenir à une intelligence artificielle rivalisant avec les humains simplement en augmentant le volume de données et la puissance de calcul, sans approfondir les connaissances théoriques ? Cela semblait être une stratégie fondée sur le capital plutôt que sur la science. OpenAI a toutefois eu le dernier mot. Son succès a prouvé une formule simple, bien que dérangeante : des ensembles de données massifs plus une puissance de calcul immense donnent une capacité d’IA sans précédent. La course mondiale à l’IA est rapidement devenue, fondamentalement, une course à l’armement en matière de données.

Cette ruée vers l’or centrée sur les données a des racines historiques, à commencer par la révolution du deep learning des années 2010, elle-même déclenchée par des ensembles de données extraites du Web comme ImageNet, qui ont montré que la disponibilité des données pouvait améliorer considérablement les performances de l’IA. Mais l’ampleur actuelle est différente, tout comme les enjeux. Ironiquement, la valeur croissante de l’IA s’est faite au détriment direct des données qui l’alimentent. Pour remporter la course à l’IA, les entreprises ont été incitées à collecter des données sans se soucier des droits de leurs créateurs, une mentalité tacitement approuvée par les régulateurs aux États-Unis, au Japon et en Inde, qui sont prêts à affaiblir les protections des données pour accélérer le développement national de l’IA.
Cette perte généralisée de pouvoir a donné naissance à un phénomène dangereux : le nihilisme des données. Il s’agit de la conviction croissante que nos données ont perdu leur sens et leur valeur parce que nous en avons perdu tout contrôle. C’est une résignation face au fait que vivre à l’ère de l’IA implique de céder le contrôle total de nos données. Lorsque nos vies numériques sont inlassablement exploitées sans notre consentement ni compensation, il est logique de penser que nos droits sur les données se sont évaporés. En effet, une étude du Pew Research Center de 2023 a révélé que, bien que 81 % des Américains se disent préoccupés par la manière dont les entreprises utilisent leurs données, 73 % estiment n’avoir que peu ou pas de contrôle sur celles-ci.

Le nihilisme des données n’est pas seulement un problème philosophique : c’est le plan directeur de l’un des plus grands transferts de richesse de l’histoire moderne. L’IA agit comme un entonnoir géant, siphonnant la valeur des données de milliards d’internautes et de médias numériques, et concentrant les immenses bénéfices économiques entre les mains de quelques entreprises qui développent des modèles de base. Il s’agit non seulement d’une perte de confidentialité et de propriété intellectuelle, mais aussi d’une forme de privation économique massive. Tout comme Nietzsche avait mis en garde contre les dangers d’un vide moral nihiliste menant à la décadence sociale, le mépris actuel pour les pratiques responsables en matière de données pourrait éroder la confiance dans les institutions et perpétuer les inégalités systémiques.

Tout le monde n’accepte cependant pas sans réagir cette redistribution massive de la richesse et du pouvoir. Les industries créatives sont en première ligne, avec des auteurs, des artistes et des musiciens qui intentent des dizaines de poursuites judiciaires contre de grandes entreprises d’IA pour violation du droit d’auteur. Parallèlement, une vague de litiges en vertu de lois sur la confidentialité, comme la loi de l’Illinois sur la protection des informations biométriques (BIPA), conteste l’utilisation non autorisée de nos données les plus personnelles : nos visages et nos voix.

Cela nous amène à un tournant décisif : sacrifier nos droits en matière de données au profit du progrès technologique, ou les protéger et prendre du retard dans la course mondiale à l’IA. Il s’agit là d’une fausse dichotomie. Il existe une troisième voie : l’innovation éthique.
Les données peuvent et doivent être collectées pour le développement de l’IA avec le consentement et une rémunération équitable. En fait, mon équipe a montré comment cela pouvait se faire dans la pratique. À l’avenir, les chercheurs devraient travailler avec des participants rémunérés et consentants du monde entier pour constituer des ensembles de données de haute qualité que la communauté de l’IA pourra utiliser de manière responsable. Il est possible de constituer des ensembles de données pour une IA de pointe sans compromettre les droits individuels. Le fait d’être « issu d’une collecte éthique » ne devrait pas constituer un obstacle à l’innovation, mais un gage de sa qualité et de sa durabilité.

La prochaine étape consiste pour la communauté de l’IA et les régulateurs à prendre au sérieux la gestion éthique des données. Les rapports de force économiques entre l’IA et les humains se joueront en grande partie au niveau des données ; par conséquent, les questions relatives au consentement et aux mécanismes de rémunération des détenteurs de droits sur les données devraient constituer un axe prioritaire pour les chercheurs en IA et les régulateurs. La mise en place de mécanismes d’adhésion ou de désinscription offrant un contrôle significatif aux personnes du monde entier dont les données servent de matière première à l’IA est une tâche difficile, mais qu’il est essentiel d’aborder dès maintenant. De plus, à mesure que les développeurs d’IA épuisent les données disponibles, les innovations futures dépendront probablement de la qualité plutôt que de la simple quantité des données.
Le remède de Nietzsche contre le nihilisme consistait à créer un sens personnel, mais l’ampleur de l’IA nécessite la création de systèmes qui affirment et protègent la valeur des contributions de l’humanité. Nous sommes aujourd’hui à un tournant : si nous ne parvenons pas à mettre en place de telles protections, nous nous résignerons à un avenir où les avantages de l’IA seront concentrés entre les mains d’une minorité, et où la grande majorité des gens verront leurs contributions réduites à néant. L’avenir de l’IA ne doit pas reposer sur l’appropriation massive de données. Il doit reposer sur le respect, le consentement et des valeurs partagées. L’ère du nihilisme des données est à nos portes ; c’est à nous de l’empêcher.

TIME Idées accueille les plus grandes voix mondiales, qui commentent l’actualité, la société et la culture. Nous acceptons les contributions externes. Les opinions exprimées ne reflètent pas nécessairement celles des rédacteurs de TIME.

Partagez cet article : 

PEOPLE

Robert Pattinson (Crédits : Stéphane Corbis-Cardinale/GettyImages)

Robert Pattinson

Nicole Kidman. (Crédits: Taylor Hill/FilmMagic via Getty Images)

Nicole Kidman

Mylène Farmer  au 78e Festival de Cannes au Palais des Festivals le 15 mai 2025 (Crédits :  Laurent KOFFEL/Getty Images)

Mylène Farmer

Crédits: Grant Thomas

Angèle

FOR PRINT MOSUKE46557

Mory Sacko

Bérengère Krief.

Bérengère Krief

Niels Schneider. (Crédits: Nicolas Valois, Charlotte Studio)

Niels Schneider

Céline Dion. ( Crédits: Roy Rochlin via WireImage)

Céline Dion