Ads

Édition française du magazine TIME – Abonnement 1 an 4 n°, 41 € (économisez 10%)

Le problème de l’alignement humain – IA

Arianna Huffington est la fondatrice et CEO de Thrive Global
Enfant et robot - Photo de Andy Kelly sur Unsplash
Nous sommes désormais réellement entrés dans l'ère de l'IA, où chaque semaine apporte une nouvelle fonctionnalité ou tâche que l'IA peut accomplir. Mais étant donné le chemin déjà parcouru, il est d'autant plus essentiel de prendre du recul et de se poser des questions plus générales sur la direction que nous prenons, sur la manière de tirer le meilleur parti de cette technologie à mesure qu'elle évolue et, bien sûr, sur la manière de tirer le meilleur parti de nous-mêmes à mesure que nous coévoluons.

Récemment, Sam Altman a fait une révélation lors de son passage dans le podcast de Tucker Carlson. Carlson a interrogé Altman sur les fondements moraux de ChatGPT. Il a fait valoir que cette technologie comporte une sorte de composante religieuse ou spirituelle fondamentale, puisque nous supposons qu’elle est plus puissante que les humains et que nous nous tournons vers elle pour obtenir des conseils. Sam Altman a répondu que, pour lui, elle n’avait rien de spirituel. « Donc, si ce n’est rien de plus qu’une machine et simplement le produit de ses entrées, s’interroge l’animateur, alors les deux questions évidentes sont : quelles sont les entrées ? Quel est le cadre moral qui a été intégré à la technologie ? »

Sam Altman fait alors référence aux « spécifications du modèle », l’ensemble d’instructions données à un modèle d’IA qui régissent son comportement. Pour ChatGPT, explique-t-il, cela signifie le former à partir de « l’expérience collective, des connaissances et des apprentissages de l’humanité ». Mais, ajoute-t-il, « nous devons ensuite l’aligner pour qu’il se comporte d’une manière ou d’une autre ».

Et cela nous amène bien sûr au célèbre problème d’alignement, à savoir l’idée que, pour nous prémunir contre le risque existentiel d’une prise de pouvoir par l’IA, nous devons aligner l’IA sur les valeurs humaines. Ce concept remonte en fait à 1960 et au pionnier de l’IA Norbert Wiener, qui décrivait ainsi le problème d’alignement : « Si nous utilisons, pour atteindre nos objectifs, un agent mécanique dont nous ne pouvons pas influencer efficacement le fonctionnement, nous ferions mieux d’être tout à fait sûrs que l’objectif intégré à la machine est bien celui que nous souhaitons réellement. »

Mais il existe en réalité un problème d’alignement plus vaste qui remonte bien avant 1960. Pour aligner l’IA sur les valeurs humaines, nous devons nous-mêmes être clairs sur les valeurs universelles auxquelles nous adhérons. Quelles sont nos contributions ? Quelles sont les spécifications de notre modèle ? Sur quoi nous formons-nous pour pouvoir mener une vie qui a du sens ?

Telles sont les questions auxquelles nous devons répondre avant de décider des données que nous voulons que l’IA utilise. Même si nous pouvions parfaitement aligner l’IA sur la situation actuelle de l’humanité, le résultat serait loin d’être optimal. Il est donc temps de clarifier nos valeurs avant de construire une technologie destinée à les intégrer et à les refléter.

En effet, à l’heure actuelle, nous sommes confrontés à un profond désalignement. Dans notre monde moderne, nous avons perdu notre connexion avec les fondements spirituels sur lesquels reposaient nos civilisations, tant occidentales qu’orientales. Nous avons vécu dans leur sillage pendant des siècles, mais aujourd’hui, même ce sillage s’est estompé et nous sommes à la dérive, sans repères.

Ces fondements ont commencé à s’effriter lentement avec les Lumières et la révolution industrielle, mais ils ont continué à s’inspirer de ces vérités éternelles. Nous les exprimions moins qu’auparavant, et même y croyions moins, mais elles continuaient à nous guider. Mais maintenant que ce lien a été rompu afin de former l’IA à s’aligner sur les valeurs humaines, nous devons d’abord les redécouvrir et renouer avec elles.

Dans son nouveau livre, Against the Machine: On the Unmaking of Humanity, Paul Kingsnorth explore la manière dont chaque culture est construite sur un ordre sacré. « Il ne s’agit bien sûr pas nécessairement d’un ordre chrétien », écrit-il. « Il peut s’agir d’un ordre islamique, hindou ou taoïste. » Les Lumières nous ont déconnectés de cet ordre sacré, mais, comme le dit Kingsnorth, « la société ne l’a pas vu parce que les monuments de l’ancien ordre sacré étaient toujours debout, comme les statues romaines après la chute de l’Empire ». Ce que nous voyons, c’est le prix que les sociétés paient lorsque cet ordre s’effondre : « des bouleversements à tous les niveaux de la société, du niveau politique jusqu’au niveau de l’âme ».
N’est-ce pas exactement ce qui se passe actuellement ? « Cela expliquerait le ton étrange, tendu, bouleversant et frustrant de notre époque », écrit Paul Kingsnorth.

Dans sa conversation avec Tucker Carlson, Sam Altman a évoqué l’entraînement de l’IA à partir de « l’expérience collective » de l’humanité. Mais avons-nous nous-mêmes réellement accès à l’expérience collective complète de l’être humain ? Alors que nous construisons une technologie transformationnelle qui va tout changer dans nos vies, nous devons nous assurer de l’entraîner à partir des valeurs fondamentales et immuables qui nous définissent en tant qu’êtres humains.

TIME Idées accueille les plus grandes voix mondiales, qui commentent l’actualité, la société et la culture. Nous acceptons les contributions externes. Les opinions exprimées ne reflètent pas nécessairement celles des rédacteurs de TIME.

Partagez cet article : 

PEOPLE

Robert Pattinson (Crédits : Stéphane Corbis-Cardinale/GettyImages)

Robert Pattinson

Nicole Kidman. (Crédits: Taylor Hill/FilmMagic via Getty Images)

Nicole Kidman

Mylène Farmer  au 78e Festival de Cannes au Palais des Festivals le 15 mai 2025 (Crédits :  Laurent KOFFEL/Getty Images)

Mylène Farmer

Crédits: Grant Thomas

Angèle

FOR PRINT MOSUKE46557

Mory Sacko

Bérengère Krief.

Bérengère Krief

Niels Schneider. (Crédits: Nicolas Valois, Charlotte Studio)

Niels Schneider

Céline Dion. ( Crédits: Roy Rochlin via WireImage)

Céline Dion