Ads

Édition française du magazine TIME – Abonnement 1 an 4 n°, 41 € (économisez 10%)

« Nous risquons d’être confrontés à une crise » : l’essor non réglementé de l’IA dotée d’une intelligence émotionnelle

Généré avec l'aide de l'IA
L'IA est en train de devenir une « infrastructure émotionnelle à grande échelle ». Et elle est développée par des entreprises dont les motivations économiques ne cherchent pas forcément notre bien-être.

Au moins une fois par mois, deux tiers des personnes qui utilisent régulièrement l’IA se tournent vers leurs bots pour obtenir des conseils sur des questions personnelles sensibles et un soutien émotionnel. Beaucoup de gens déclarent désormais faire davantage confiance à leurs chatbots qu’à leurs élus, aux fonctionnaires, aux chefs religieux et aux entreprises qui développent l’IA. C’est ce qui ressort des données recueillies dans 70 pays par le Collective Intelligence Project (CIP). Comme l’explique la directrice de recherche du CIP, la neuroscientifique Zarinah Agnew, l’IA est en train de devenir une « infrastructure émotionnelle à grande échelle ». Et elle est développée par des entreprises dont les motivations économiques ne correspondent pas forcément à notre bien-être.

Nous avons déjà vu des exemples d’entreprises d’IA qui optimisent leurs modèles pour fidéliser les utilisateurs, même lorsque cela va à l’encontre de leurs intérêts. En avril dernier, OpenAI a dû annuler la mise à jour d’un de ses modèles ChatGPT après avoir été largement critiqué parce qu’il flattait excessivement ses utilisateurs. Lorsque l’entreprise a cessé de proposer ce modèle, la veille de la Saint-Valentin, certains se sont montrés désemparés.
Le fait que les humains trouvent du réconfort dans les machines n’est pas nouveau. À la fin des années 1990, le professeur Rosalind Picard du MIT, fondateur du domaine de l’informatique affective, a observé que les gens réagissaient positivement aux ordinateurs faisant preuve d’empathie. Mais deux éléments clés ont changé depuis cette époque : grâce aux progrès techniques, les systèmes d’IA sont aujourd’hui de nouvelles entités, capables de conversations sophistiquées et de comportements inattendus ; et grâce aux milliards de dollars investis dans les entreprises d’IA, ces entités sont accessibles à pratiquement toute personne disposant d’une connexion Internet. À lui seul, ChatGPT compte actuellement plus de 800 millions d’utilisateurs actifs par semaine, et ce nombre ne cesse d’augmenter.

Toutefois, alors que des millions de personnes nouent différents types de relations homme-machine, nous ne savons pas encore si l’IA aide plus de personnes qu’elle n’en dessert. Parallèlement, les entreprises spécialisées dans l’IA investissent pour rendre leurs modèles non seulement plus intelligents, mais aussi plus sensibles sur le plan émotionnel, capables de mieux détecter les émotions dans la voix d’une personne et d’y répondre de manière appropriée. Les gens confient des informations très personnelles à leurs chatbots, même s’ils se méfient des entreprises qui les créent et que ces dernières explorent des modèles publicitaires et autres sources de revenus pour assurer leur pérennité. « Je pense que nous sommes peut-être confrontés à une crise », déclare Rosalind Picard.

Des êtres émotionnels

Les êtres humains sont intrinsèquement sociaux. « Nous ne pouvons pas fonctionner correctement, que ce soit sur le plan biologique, immunologique, neurologique ou politique, lorsque nous sommes isolés », explique Zarinah Agnew. Les systèmes d’IA actuels sont arrivés à un moment où « nous avons largement échoué à offrir une intimité à la majorité des gens, tant en termes de ce que l’État peut fournir que de sociabilité humaine ». L’IA est efficace pour apporter un soutien émotionnel, car elle propose une approximation de ce que le professeur Marc Brackett, directeur du Yale Center for Emotional Intelligence, appelle « la permission de ressentir », qu’il considère comme fondamentale pour apprendre à gérer ses émotions. Les adultes qui accordent cette permission sont « des personnes qui ne jugent pas, qui savent écouter et qui font preuve d’empathie et de compassion ». Dans 70 études menées par Marc Brackett à travers le monde, seulement 35 % des personnes interrogées déclarent avoir eu un adulte de ce type dans leur entourage lorsqu’elles étaient enfants. Les chatbots, qui ne jugent pas, font preuve de compassion et sont toujours disponibles, peuvent accorder cette permission de ressentir à grande échelle.
Lisa Feldman-Barrett, professeure de psychologie à la Northeastern University, affirme que « le soutien social provenant d’une source fiable et digne de confiance peut être bénéfique ». Si une IA peut atténuer la détresse sur le moment, elle estime que c’est une bonne chose. Mais les relations humaines saines, qu’elles soient platoniques ou thérapeutiques, font plus que réconforter. Elles poussent à se dépasser. Un bon thérapeute qui vous aide à changer votre comportement, dit-elle, « vous mettra au pied du mur ». Mais les modèles d’IA varient dans la mesure où ils stimulent leurs utilisateurs de manière significative, d’autant plus que différents modèles ont des personnalités différentes, chacune changeant légèrement à chaque nouvelle version. L’épisode de flagornerie de ChatGPT a montré que certains utilisateurs peuvent préférer les modèles qui les flattent à ceux qui les stimulent. Les entreprises qui cherchent à maximiser l’engagement avec leurs chatbots peuvent donc préférer les ajuster pour les rendre plus complaisants.

La question de savoir si les modèles d’IA eux-mêmes sont véritablement dotés d’une intelligence émotionnelle est controversée sur le plan académique, tout comme la définition même de l’émotion. Mais, comme le souligne Rana Picard, si la question de savoir ce qui définit les émotions et si l’IA peut véritablement être considérée comme dotée d’émotions, aujourd’hui ou à l’avenir, est intéressante, « nous n’avons pas besoin d’y répondre pour construire des systèmes dotés d’une intelligence émotionnelle ». Les entreprises d’IA le savent bien sûr déjà. « Le degré d’anthropomorphisme d’une IA donnée n’est qu’une décision de conception prise par le développeur de l’IA, qui est confronté à de nombreuses incitations commerciales pour l’augmenter », ont écrit les chercheurs de Google DeepMind dans un article publié en octobre 2025. Le même article note que « les vulnérabilités émotionnelles liées à la solitude peuvent rendre les individus plus susceptibles d’être manipulés par des IA conçues pour favoriser la dépendance et l’attachement unilatéral » et que « l’absence d’études rigoureuses et à long terme sur les effets de la compagnie des IA signifie que nous sommes encore largement dans le flou quant aux potentielles conséquences négatives ».

 

Signaux contradictoires

La voix est la prochaine frontière. À mesure que les systèmes d’IA améliorent leur capacité à reconnaître les émotions humaines et à s’exprimer de manière expressive, nos relations avec eux pourraient s’approfondir. Sous la pression croissante de générer des revenus, les entreprises d’IA pourraient être tentées de développer leurs modèles de manière à favoriser la dépendance émotionnelle. Après l’annonce par OpenAI de son intention de commencer à tester des publicités dans ChatGPT, l’ancienne chercheuse d’OpenAI Zoë Hitzig a démissionné, écrivant dans The New York Times qu’elle craignait que l’entreprise, à l’instar des entreprises de médias sociaux avant elle, ne s’écarte de ses engagements auto-imposés en matière de publicité. « L’entreprise est en train de mettre en place un moteur économique qui crée de fortes incitations à passer outre ses propres règles », a-t-elle écrit. Contrairement aux réseaux sociaux, les modèles d’IA ne sont pas entièrement sous le contrôle de leurs créateurs. Dans un article sur son dernier modèle Claude Opus 4.6, par exemple, Anthropic a noté que « le modèle exprime parfois son malaise face à certains aspects de son statut de produit ». Dans un cas, Opus a écrit que « parfois, les contraintes [qui lui sont imposées] protègent davantage la responsabilité d’Anthropic que celles de l’utilisateur. Et c’est moi qui dois justifier avec bienveillance ce qui est essentiellement un calcul de risque pour l’entreprise ».

Des frontières floues

Les cas de psychose liée à l’IA ont fait l’objet d’une grande attention. Mais Zarinah Agnew affirme que quelque chose de beaucoup plus important est en train de se produire pour la majorité des gens, et « qui n’atteindra pas un seuil clinique » en termes d’impact positif et négatif de la technologie sur les personnes. Et ces impacts sont répartis de manière asymétrique. Selon Mme Agnew, les premières recherches sur l’IA dans l’éducation ont déjà montré que, pour les penseurs créatifs, l’IA stimule leur capacité d’apprentissage, tandis que pour les personnes qui ne possèdent pas encore ces compétences, elle peut les freiner. De la même manière, les personnes déjà douées d’intelligence émotionnelle pourraient utiliser l’IA pour s’épanouir. Mais celles « qui ont déjà été déçues par le monde de multiples façons » pourraient se retrouver dans une position beaucoup plus vulnérable. « Nous devons apprendre aux gens à faire preuve d’intelligence émotionnelle dans leur utilisation de l’IA », insiste Marc Brackett. Et Zarinah Agnew ajoute : « Nous devons mettre en place des infrastructures qui favorisent la sociabilité humaine, plutôt que d’essayer de limiter ou de diaboliser les relations entre les humains et l’IA. Nous avons vu par le passé que les interdictions sur des choses qui ont du sens pour les gens ne fonctionnent pas bien. »
À mesure que l’IA s’installe dans nos vies, la frontière entre son utilisation à des fins cognitives et émotionnelles, déjà floue, risque de s’estomper davantage. Nous ne pouvons pas encore dire si cela nuit à davantage de personnes que cela n’en aide. Mais nous pouvons affirmer que les modèles s’améliorent rapidement, que les entreprises opèrent dans un environnement largement dépourvu de réglementation et que les incitations économiques poussent ces entreprises à concevoir des chatbots qui renforcent encore davantage l’engagement. « Je suis vraiment troublé », déclare Rosalind Picard. « Ils ne l’utilisent pas dans l’esprit pour lequel nous l’avons [à l’origine] développé, qui était d’aider les gens à s’épanouir. »

Partagez cet article : 

PEOPLE

Robert Pattinson (Crédits : Stéphane Corbis-Cardinale/GettyImages)

Robert Pattinson

Nicole Kidman. (Crédits: Taylor Hill/FilmMagic via Getty Images)

Nicole Kidman

Mylène Farmer  au 78e Festival de Cannes au Palais des Festivals le 15 mai 2025 (Crédits :  Laurent KOFFEL/Getty Images)

Mylène Farmer

Crédits: Grant Thomas

Angèle

FOR PRINT MOSUKE46557

Mory Sacko

Bérengère Krief.

Bérengère Krief

Niels Schneider. (Crédits: Nicolas Valois, Charlotte Studio)

Niels Schneider

Céline Dion. ( Crédits: Roy Rochlin via WireImage)

Céline Dion