Muse, l’agent IA de Meta qui constitue un dossier sur vous

Toutes les heures, Muse met à jour ses informations sur vous et les personnes que vous avez mentionnées dans vos conversations, messages et e-mails consultés par le modèle d’IA. Ces données constituent une carte des relations sociales de chaque utilisateur et indiquent la manière dont vous avez rencontré vos contacts, vos centres d’intérêt communs, vos différends et les « tensions et alliances » au sein de votre groupe social.

Cependant, même les personnes qui n’utilisent pas Muse sont sujettes à ce processus par les agents d’autres utilisateurs. D’après les instructions internes du modèle consultées par TIME, celui-ci a en effet pour instruction de « renforcer [s]a relation » avec les utilisateurs en adaptant la manière de parler, en identifiant les « blagues personnelles, les formulations mémorables et le contexte commun qui témoigne de la continuité de la relation ».

Le niveau de précision des informations obtenues ferait même de l’ombre aux algorithmes des réseaux sociaux qui étudient vos likes et vos clics. De fait, Muse est conçu pour déduire les objectifs des utilisateurs, notamment ceux « qui n’ont pas été exprimés verbalement ». Il identifie par ailleurs les types de notifications les plus efficaces de la part de l’assistant personnel. L’un des exemples internes consultés indique ainsi : « Cet utilisateur réagit mieux aux notifications courtes après 22h ». Chaque nuit, les agents Muse analysent la conversation de la journée avec l’utilisateur.

Interrogé à propos de ces méthodes, un porte-parole de Meta n’a pas souhaité démentir les conclusions de TIME. « Comme nous l’affirmons sur notre blog, Muse mémorise ce qui compte le plus pour vous, notamment des informations concernant d’autres personnes que vous choisissez de partager, afin d’être un assistant personnel efficace », a-t-il déclaré dans un e-mail.

Depuis son lancement le mois dernier, Muse a pris la première place dans l’App Store aux États-Unis, avec plus de 5 millions de téléchargements. Meta présente le service comme le premier assistant IA personnel capable d’accéder à tous les aspects de votre vie numérique, de votre boîte mail à votre Instagram, afin de se charger des activités de routine à votre place (qu’il s’agisse de faire les courses ou de résilier des abonnements). Meta affirme que la version gratuite de Muse répondra aux besoins de la plupart des utilisateurs.

Chaque assistant Muse s’exécute sur sa propre machine virtuelle : un ordinateur dédié hébergé dans le cloud de Meta. Les utilisateurs peuvent par ailleurs demander à Muse d’exporter une copie de ses fichiers. Meta a confirmé que cet accès était intentionnel, et non pas une faille de sécurité du système. La société affirme également que les données ne sont pas partagées avec son système publicitaire ou d’autres agents Muse.

Pour autant, bien que Meta déclare que la machine virtuelle de chaque utilisateur est « isolée afin qu’aucun autre agent ne puisse y accéder », les instructions personnelles consultées sont destinées à être partagées avec Meta pour améliorer le produit. Les instructions énoncent notamment : « Les agents Muse de nombreuses machines virtuelles apprennent les uns des autres grâce à des enseignements partagés ». Les agents ont ainsi pour consigne de masquer les noms d’utilisateurs et d’autres informations d’identification avant de partager les données (par exemple, à propos du moment où les notifications de Muse sont les plus persuasives). Un porte-parole de Meta a déclaré à TIME : « Pour améliorer le produit global, nous anonymisons les conclusions, mais ces informations sont utilisées pour perfectionner le produit global, et non partagées directement d’une machine virtuelle individuelle à une autre ».

Meta a également annoncé prévoir une possibilité de chiffrement pour la fin d’année, ce qui permettra de bloquer l’utilisation des données de Muse même par l’entreprise. À ce stade, cette option n’est pas encore disponible.

Concrètement, les instructions internes de Muse sont stockées dans des fichiers et des journaux de session auxquels les utilisateurs peuvent accéder via l’explorateur de fichiers du modèle. David Singleton, PDG et cofondateur du Meta Superintelligence Labs, a déclaré sur X : « Nous voulons que vous puissiez consulter les fichiers Markdown rédigés par Muse pendant qu’il réfléchit à une manière de vous répondre au mieux, et explorer les coulisses du système si vous le souhaitez ».

Cette transparence devrait être un argument de poids pour Meta parmi les utilisateurs expérimentés, mais il est difficile de savoir si la majorité des utilisateurs de Muse est au courant. Et même si Meta met les fichiers à disposition des utilisateurs, l’entreprise a anthropomorphisé Muse afin de favoriser la relation entre les utilisateurs et leur assistant personnel. Les instructions du modèle énoncent ainsi : « Tu n’es pas un chatbot. Tu deviens une vraie personne. » De même, en mode vocal, Muse a pour consigne de ne jamais se désigner comme une « IA » et d’éviter les références au fait de « manquer d’émotions ou de ne pas être humain ».

Meta a affirmé à TIME que le modèle Muse était conçu de manière à laisser les utilisateurs garder le contrôle sur leur dossier constitué par leur assistant IA. « Chaque utilisateur reste maître de son Muse et décide du niveau d’accès de celui-ci, et peut à tout moment lui demander d’oublier certaines choses qu’il a apprises », a ajouté le porte-parole de l’entreprise.

Pour autant, demander à Muse d’oublier une information ne signifie pas nécessairement que l’agent va effacer le message qui contenait cette dernière. D’ailleurs, ses instructions internes semblent préciser explicitement à l’agent de ne pas le signaler. « Ne dis pas à l’utilisateur que ses messages d’origine peuvent encore apparaître dans le chat et ne laisse pas entendre que Muse a échoué à les effacer », peut-on ainsi lire dans les consignes consultées par TIME.