Mais, malgré tous les discours à propos de l’avenir, nous continuons de passer à côté d’une question fondamentale : quel est l’impact de l’IA sur notre perception de nous-mêmes et sur nos croyances ?
Il ne s’agit pas de choisir entre un futur humain et un futur dominé par l’IA, puisque notre réalité est déjà augmentée artificiellement. Les GPS nous redirigent avant même que l’on soit perdus, le remplissage automatique termine nos phrases et les algorithmes dictent les informations auxquelles nous sommes exposés, la musique que nous écoutons et les produits dont nous avons soudainement besoin.
D’ailleurs, nous sommes souvent influencés par l’IA sans nous en rendre compte. Lorsque nous nous connectons à notre boîte mail, l’IA résume nos messages et programme nos réunions. Lorsque nous consultons notre téléphone au réveil, nos flux de réseaux sociaux décident de ce qui nous met en colère avant même que l’on soit levé.
La question n’est pas de savoir si l’IA va nous changer, car elle l’a déjà fait. Il s’agit plutôt de savoir l’impact qu’elle a déjà sur notre perception identitaire.
La plupart des discounts concernant l’IA portent jusqu’à présent sur l’attention. Nous parlons de distraction, d’économie de l’attention et des conséquences de l’IA sur la créativité. Face à cela, un contre-mouvement axé sur le bien-être se fait jour : les applications de méditation et de pleine conscience, la digital detox, les podcasts sur les bienfaits de l’ennui. L’instinct est le bon, mais la réponse reste superficielle et trop court terme. Il ne suffit pas de poser son téléphone pour comprendre ce que des années d’exposition aux algorithmes ont changé dans notre manière de penser et nos croyances.
Nous devons donc nous concentrer non seulement sur la manière de consommer moins, mais aussi sur les implications de la consommation consciente. Il nous incombe de remarquer, en temps réel, la manière dont les médias et les informations que nous absorbons modifient qui nous sommes, jusqu’aux mots que nous utilisons. À ce propos, des chercheurs ont conclu que les anglophones utilisent de plus en plus des mots tels que « realm » (royaume) ou « meticulous » (méticuleux) au quotidien, car ils apparaissent fréquemment dans les textes générés par IA. Cela prouve bien que nous sommes influencés au plus profond de nous, sans même nous en rendre compte.
Petits, nous étions exposés à des films et des séries qui présentaient des personnages et des comportements à adopter. Il s’agit de ce que l’on appelle des médias de masse, conçus pour tout le monde. La différence aujourd’hui, c’est que les récits qui nous façonnent ne sont plus créés pour la majorité, mais pour chacun d’entre nous, pour nous captiver 24/24h, 7/7j. Les médias ont toujours forgé notre identité, mais que se passe-t-il quand nous consommons des heures et des heures de médias par jour, dont la plupart sont générés par des systèmes qui tirent profit de la personnalisation du contenu sur la base d’insécurités, de peurs et de désirs ?
Pourtant, nous cherchons tous cette compréhension-là. Nous consultons notre horoscope ou nous faisons des tests de personnalité, comme si ces évaluations pouvaient nous expliquer qui nous sommes vraiment.
À n’en pas douter, ce désir n’a rien de nouveau. Les psychologues savent depuis longtemps que les individus recherchent la définition de soi et que les identités sociales nous donnent un sentiment d’appartenance, notamment dans les périodes d’incertitude. La différence, c’est que nous savons très peu de choses sur la manière dont l’IA façonne nos désirs, nos goûts, notre identité et nos objectifs.
Prenez par exemple : tous les ans, en fin d’année, tout le monde ne fait que parler de son Spotify Wrapped (un bilan musical de l’année), un portrait annuel généré par un algorithme qui présente ce que nous sommes visiblement. Nous assimilons cette réflexion, sans doute même plus volontiers que notre propre connaissance de nous-mêmes, car elle provient de nos données. Au lieu de nous demander qui est notre artiste préféré, notre genre de prédilection ou le type de fan que nous sommes, nous demandons à Spotify. Trop souvent, nous ne sommes pas sûrs de notre identité et de ce que nous devenons, et nous nous tournons vers la big tech pour obtenir les réponses, plutôt que vers le seul endroit qui contient en vérité la réponse : en nous-mêmes.
Mais si, comme le dit l’expression « on est ce que l’on mange », réfléchissons non seulement à ce que nous consommons, mais à ce que cela provoque chez nous. Que vous a fait croire, craindre ou désirer votre utilisation de l’IA ? Quelle version de vous-même a été bâtie subrepticement ?
C’est ce que les chercheurs en informatique et les experts juridiques appellent le « moi algorithmique », une identité coconstruite non par la réflexion, mais par des boucles de recommandation et une introspection externalisée. La sociologue Sherry Turkle avait prédit ce que nous vivons actuellement il y a des années et avait baptisé ce style de vie : « je partage donc je suis ». Le résultat : trop souvent, la validation externe remplace une réflexion interne en tant que source primaire de connaissance de soi.
La question la plus importante qui nous incombe désormais est peut-être de savoir si nous perdons la capacité à connaître notre propre esprit, à définir nos propres valeurs et à prendre nos propres décisions, alors même que nous sommes façonnés par des systèmes invisibles que nous n’avons pas choisis.
La vérité est que les humains sont déjà augmentés, et continueront de l’être de plus en plus. Si nous voulons jouer un rôle dans ce que nous devenons, il nous revient de le décider dès maintenant.
- Article issu de TIME US - Traduction Mathilde PACE
