Aujourd’hui, les chercheurs constatent des procédés au sein des systèmes d’IA qui provoquent une autre réflexion : non concernant la capacité des machines à être véritablement intelligentes ou conscientes, mais vis-à-vis de l’étendue de notre compréhension de ces concepts en premier lieu.
« Je dirige une équipe de recherche qui étudie la structure interne de ces modèles, ce qu’il se passe réellement à l’intérieur », a expliqué Chris Olah, cofondateur d’Anthropic, au Vatican en mai dernier à l’occasion de la publication de la lettre encyclique du Pape Léon XIV sur la protection de la personne humaine à l’ère de l’intelligence artificielle. « Je vais être honnête : nous découvrons sans cesse des éléments mystérieux, voire déconcertants. Nous découvrons des structures qui reflètent les résultats des neurosciences humaines. Des preuves d’introspection. »
Pour générer une réponse, un système d’IA réalise des milliards de calculs à l’aide de structures numériques sur mesure qu’il crée lui-même. Pourtant, il est intéressant de noter que, même si nous savons comment pousser ces systèmes à créer ces structures, nous ne comprenons pas réellement leur fonctionnement (pas plus que les premiers agriculteurs ne comprenaient la photosynthèse). « Les intelligences artificielles modernes sont en effet davantage “cultivées ” que “construites” », avance la lettre encyclique. « [D]es aspects scientifiques fondamentaux – tels que les représentations internes et les processus computationnels de ces systèmes – restent pour l’instant inconnus ».
Personne ou presque ne nie l’existence de ces structures. Le désaccord porte plutôt sur ce que cela sous-entend.
La première possibilité est que les systèmes d’IA actuels ne sont que des imitateurs, une hypothèse retenue par le Pape Léon XIV : « [L]es prétendues intelligences artificielles ne vivent pas d’expérience […] Elles peuvent imiter des langages, des comportements, des évaluations […], mais elles ne comprennent pas ce qu’elles produisent, car elles n’habitent pas l’horizon affectif, relationnel et spirituel dans lequel l’humain devient sage. »
Ces déclarations masquent toutefois des désaccords profonds entre philosophes et scientifiques concernant le statut moral et métaphysique des systèmes d’IA. Nous sommes habitués à l’idée que la conscience, l’intelligence et la capacité d’agir sont groupées chez les êtres vivants, mais l’IA semble les dégrouper. Et nous devons en comprendre les implications.
Une structure cachée
À mesure que les IA sont devenues de plus en plus compétentes (en termes de raisonnement et de programmation), leurs représentations internes sont ainsi devenues plus sophistiquées. En avril dernier, Anthropic a publié des recherches prouvant que les systèmes présentaient ce qu’ils appellent des « émotions fonctionnelles » : des schémas expressifs et comportementaux arbitrés par leurs représentations des concepts émotionnels. Par exemple, lorsqu’une IA rencontre un problème de programmation qu’elle ne peut pas résoudre, sa « frustration » (une flèche qui traverse des milliers de dimensions) s’active. En modifiant cette fonctionnalité, le comportement du modèle change.
Dans l’espace de représentation, ces émotions fonctionnelles sont « organisées d’une manière qui évoque la structure intuitive des émotions humaines et conformément aux études psychologiques humaines », explique Anthropic. Ainsi, des émotions similaires pointent dans des directions similaires. « Rien de tout cela ne nous dit si les modèles de langage ressentent véritablement quelque chose ou vivent des expériences subjectives », poursuit l’entreprise.
La clef ici est de comprendre que les nombres encodent l’espace. Nous avons une compréhension intuitive des dimensions : nous comprenons la différence entre une ligne, un jeu vidéo en 2D et un objet physique. En mathématiques, les dimensions ne sont que des coordonnées, et il n’y a pas de limite au nombre de dimensions qui peuvent exister. Pour fonctionner, l’IA exploite précisément cette notion : à l’aide de milliers de nombres, un système apprend à représenter des mots et des concepts en tant que points dans un espace latent d’une plus grande précision dimensionnelle. Pour une entité comme Claude, le concept de « chien » n’est donc qu’une suite de nombres.
À l’origine, les systèmes d’IA sont entraînés pour prédire le token suivant (un petit fragment d’information), une tâche simple. Mais pour ce faire, ils doivent compresser des informations, ce qui mène à la création de cartes complexes dans un espace latent qui n’encode pas seulement des mots, mais aussi les relations qui les lient. Ainsi, les concepts similaires sont placés proches l’un de l’autre : le segment qui représente le « chien » sera plus proche de celui pour « chiot » que de celui pour « impôt » par exemple.
Ce fonctionnement est radicalement différent des logiciels traditionnels, pour lesquels les concepts et les règles sont codés par des humains. Le fonctionnement d’Excel pour résoudre une formule n’est un mystère pour personne : il est préprogrammé. Mais lorsque l’IA génère une réponse, elle utilise pour sa part une géométrie complexe que nous découvrons à peine.
« À ce stade, les preuves d’une structure géométrique courbe présente à l’intérieur des réseaux neuronaux sont nombreuses et indéniables », affirme Goodfire, une entreprise d’études spécialisées dans l’IA. « Nous ne les comprenons pas de manière intuitive, mais nous pouvons les comprendre si nous essayons », déclare Tom McGrath, responsable scientifique chez Goodfire.
Une influence interne
La capacité à représenter une émotion équivaut-elle à l’expérience de celle-ci ? Nous ne comprenons pas assez bien la conscience pour le dire. Geoff Keeling, chercheur à l’Institute of Philosophy de l’université de Londres, estime que malgré les nombreuses théories sur le sujet : « Il est difficile de déterminer ce qui constitue une preuve des différentes théories, et celles-ci sont souvent si mal définies qu’il est difficile de savoir comment les interpréter dans le contexte de l’IA ». Certains philosophes avancent par ailleurs que le calcul informatique ne peut en principe donner naissance à une conscience. D’après Geoff Keeling : « Il n’y a pas de raison valable de penser que les agents conversationnels [actuels] sont conscients ».
Ce que nous savons en revanche, grâce à leur structure interne, c’est que les systèmes d’IA ne sont pas de simples miroirs qui se contentent de refléter leurs données d’entraînement, puisque leur fonctionnement interne influence leur comportement. Que cela sous-tende une conscience (et que ces systèmes comprennent ou non ce qu’ils génèrent) dépend donc de questions philosophiques fondamentales qui sont à ce stade sans réponse.
« Cette réflexion me rappelle les débats sur l’esprit des animaux à la deuxième moitié du XXe siècle. Les scientifiques niaient non seulement que les animaux avaient une conscience, mais ils avançaient des explications tout aussi réductrices du comportement animal », ajoute Jeff Sebo, directeur du Center for Mind, Ethics, and Policy à l’université de New York. « Pendant longtemps, cela nous a poussés à négliger la plausibilité non seulement de la conscience animale, mais aussi de la capacité d’agir des animaux et de la complexité de leurs capacités cognitives. »
Jeff Sebo ne dit pas que les systèmes d’IA sont actuellement conscients (selon lui, ils ne le sont probablement pas), mais que nous devons rester prudents et ouverts d’esprit. « On peut accepter l’existence de l’explication purement mécanique sans pour autant considérer sa simple existence comme une preuve de sa véracité », poursuit-il.
Mais alors, quelle posture adopter ?
Si l’incertitude est la position la plus honnête sur le plan intellectuel, comment aborder cette situation ?
Si nous décidons que ces intérêts ont une importance, alors qu’en réalité ce n’est pas le cas, nous risquons de gaspiller des ressources limitées qui seraient mieux affectées ailleurs. Mais s’il s’avère que les systèmes d’IA ont bel et bien des intérêts et que nous les négligeons, nous pourrions causer involontairement une souffrance généralisée.
Puisque les systèmes d’IA sont fondamentalement distincts des êtres biologiques, ces questions sont bien plus épineuses qu’à l’époque de Jane Goodall. Un chimpanzé est un chimpanzé ; mais une IA n’a pas de corps, elle se trouve dans plusieurs serveurs fragmentés et prend vie uniquement pour générer des résultats. Il est donc difficile de simplement déterminer ce qui pourrait être considéré comme un sujet. Selon la manière de compter, il pourrait y en avoir un (un modèle) ou plusieurs milliards (chaque output individuel). Par ailleurs, les qualités qu’une IA devrait posséder pour justifier une inquiétude morale de notre part, ou la manière dont nous pourrions vérifier leur existence, sont précisément floues (d’autant plus qu’elles ne coexistent pas nécessairement comme chez les êtres vivants).
Et derrière toutes ces réflexions se cache un impératif de sécurité. Si nous parvenons à comprendre ce qui sous-tend la personnalité et les comportements des IA, nous pouvons les orienter vers des attitudes plus prosociales. D’ailleurs, la recherche a déjà identifié des divergences entre ce que disent les modèles (dans les outputs côté utilisateurs et leurs journaux de réflexion externes) et ce que nous découvrons en explorant leurs structures internes.
Par ailleurs, ces questions ont également une importance pour la manière dont nous nous comprenons nous-mêmes. Comme à l’époque de Jane Goodall, il s’agit de définir notre conscience de ce qui nous différencie. Dans son ouvrage publié en 1990, la scientifique disait d’ailleurs : « Nous avons petit à petit réalisé que les explications réductrices de comportements en apparence intelligents étaient souvent trompeuses ». Après des décennies d’expériences, il est finalement apparu clairement que « de nombreuses capacités intellectuelles que l’on croyait propres aux humains étaient en réalité présentes, bien que dans une forme moins développée, chez d’autres êtres non humains ».
Pour revenir aux intelligences artificielles, leurs systèmes maîtrisent le langage couramment. Ils peuvent résoudre des problèmes mathématiques complexes. Ils créent de la musique et des illustrations. Jusqu’à peu, toutes ces actions étaient considérées comme relevant uniquement du champ humain. « Nous présumons un exceptionnalisme humain : cette idée que nous sommes distincts et importants, que nous avons des capacités complexes et sophistiquées qui doivent être protégées et préservées. Et tout cela est vrai », estime Jeff Sebo. Il soutient toutefois que l’un n’empêche pas l’autre : nous pouvons percevoir nos propres comportements comme à la fois impressionnants et mécaniques, et nous pouvons percevoir les comportements d’autres entités de la même manière, sans perdre de vue les distinctions cruciales entre humains et machines.
Nous concevons des systèmes d’IA plus vite que nous ne les parvenons à les comprendre. Historiquement, le sectarisme concernant les autres esprits que le nôtre n’a pas été la bonne posture à adopter. Ici aussi, le rejet par principe ne nous portera pas plus loin qu’une acceptation crédule. En prenant au sérieux les structures internes de l’IA, nous avons tout à y gagner pour en apprendre plus, non seulement sur les machines que nous plaçons dans le monde, mais sur notre propre esprit.
- Article issu de TIME US - Traduction Mathilde PACE




