Début 2025, les utilisateurs de Reddit ont découvert qu’une communauté de leur réseau social avait été infiltrée par des intelligences artificielles. Selon un rapport de The Atlantic, des chercheurs ont libéré une IA au sein des partages d’idées, échanges d’opinions et conversations diverses. L’objectif : voir si elle serait capable de proposer des arguments suffisamment solides pour faire changer d’avis les internautes. Et il semblerait qu’elle ait réussi.
Avec le recul, les internautes se sont sentis bafoués, car l’IA a parfois eu accès à leur historique en ligne afin de rédiger des messages adaptés à leur personnalité. Les spécialistes des sciences comportementales appellent cette technique de communication attractive la « persuasion personnalisée ». Après tout, qui ne voudrait pas du contenu fait sur mesure plutôt que des messages hors sujet ?
Mais l’IA est à l’aube d’une situation bien plus alarmante que de simples messages vaguement personnalisés en fonction de caractéristiques identifiables, comme pour la communauté Reddit. Si les intelligences artificielles parviennent à maîtriser la « personnalisation extrême », elles pourraient s’insinuer partout sur le web, comprendre tous les aspects de notre personnalité et utiliser ces informations pour bousculer nos croyances et nos opinions, et non sans danger.
Andrew Luttrell et Jake Teeny étudient la psychologie de la persuasion et ont récemment réuni les dernières recherches des plus grands spécialistes du domaine dans un livre sur la persuasion personnalisée. Ils estiment que si les communicants peuvent bénéficier de la personnalisation des messages pour s’aligner sur les informations de base de leur audience, la personnalisation extrême va bien au-delà. Elle fait en effet appel à la psychologie, aux croyances, à l’identité et aux besoins de la cible pour adapter les messages.
Par exemple, les messages sont plus convaincants lorsqu’ils résonnent avec les valeurs morales d’une personne. Ce que certains d’entre nous peuvent considérer comme éthique ne l’est pas pour d’autres, puisque chacun est guidé par sa propre boussole morale. Si cette idée semble inédite, les informaticiens travaillent sur la persuasion propulsée par IA depuis des décennies.
Avec la démocratisation des outils d’IA, comme ChatGPT, chacun d’entre nous peut utiliser une intelligence artificielle pour ses propres objectifs. Les chercheurs montrent en effet que les messages générés par IA peuvent être tout aussi convaincants que ceux créés par des humains.
Mais l’IA peut-elle faire de la « personnalisation extrême » ?
Pour déployer une personnalisation extrême autonome à grande échelle, l’IA doit accomplir deux actions de concert. Tout d’abord, elle doit identifier le profil psychologique d’une personne pour savoir quels leviers actionner. De nouvelles preuves montrent déjà que l’IA peut détecter la personnalité des individus avec précision à partir de posts Facebook. Et ce n’est pas tout. Dr Sandra Matz, professeure à la Columbia Business School et auteure de Mindmasters, a déclaré au TIME dans un podcast : « La plupart des choses que vous essayez de prédire peut être prévue avec un certain degré d’exactitude » selon l’empreinte numérique de chacun.
La deuxième étape consiste à créer des messages qui résonnent avec ces profils psychologiques. Dans les faits, de nouvelles études montrent déjà que ChatGPT peut mettre au point des publicités modulées sur les personnalités, valeurs et motivations des individus et les rendre particulièrement convaincantes. Par exemple, la simple requête de créer une publicité « pour une personne traditionnelle et pragmatique » a produit l’argumentaire suivant : le produit « ne cassera pas votre tirelire et sera à la hauteur », un argument plus convaincant pour les destinataires du message.
Ces systèmes devraient même devenir de plus en plus sophistiqués, appliquant la personnalisation extrême à des deepfakes visuels, à des enregistrements vocaux manipulés et à des conversations humain-IA dynamiques. Mais que peut-on faire pour se protéger de la puissance de la personnalisation ?
Côté consommateur, soyez vigilant sur la communication personnalisée en ligne. Si vous avez l’impression qu’un message est créé juste pour vous, c’est peut-être qu’il l’est. Et même si vous ne donnez que peu d’informations sur vous en ligne, vous laissez quand même des traces invisibles par vos clics, vos recherches et les sites que vous consultez. Vous avez peut-être même autorisé sans le savoir des publicitaires à utiliser ces informations lorsque vous acceptez des conditions d’utilisation sans les lire. Prenez conscience de votre comportement en ligne et réfléchissez à utiliser des outils comme un VPN pour vous protéger des messages modulés sur votre personnalité unique.
Mais les consommateurs ne sont pas les seuls concernés, bien au contraire. Il appartient aux plateformes et aux autorités d’envisager des réglementations afin d’identifier les contenus personnalisés et fournir des renseignements sur l’apparition d’un message donné pour une personne donnée. Les chercheurs estiment d’ailleurs que les individus sont plus aptes à résister à l’influence lorsqu’ils connaissent les techniques utilisées. Des protections explicites devraient également exister au sujet des types de données qui peuvent être utilisées pour le contenu personnalisé, de manière à restreindre la portée de la personnalisation. Bien que les internautes soient ouverts au contenu personnalisé en ligne, ils sont tout de même inquiets pour la confidentialité de leurs données, et la frontière entre les deux doit être respectée.
Pour autant, même avec de telles protections, le moindre avantage de communication peut susciter l’inquiétude s’il est entre de mauvaises mains, en particulier s’il est déployé à grande échelle. Qu’un site vous recommande des produits achetés par d’autres clients au panier similaire que le vôtre est une chose, mais qu’un outil informatique dissèque votre personnalité et s’en serve pour de la désinformation en est une autre. Rappelons-nous que tous les outils de communication ont un pendant positif et négatif, et il est grand temps d’entamer une discussion sur l’utilisation éthique des IA dans la communication avant que ces outils ne soient trop puissants pour être freinés.
- Article issu de TIME US - Traduction Mathilde Pace
