« Je ne suis pas habitué à recevoir des courriels désagréables de la part d’un saint homme », déclare le professeur Michael Levin, biologiste du développement à l’université Tufts. Michael Levin présentait ses recherches à un groupe d’ingénieurs intéressés par les questions spirituelles en Inde, affirmant que des caractéristiques telles que « l’esprit » et « l’intelligence » peuvent être observées même dans les systèmes cellulaires, et qu’elles existent sur un large spectre. Son public a adoré. Mais lorsqu’il est allé plus loin, affirmant que ces mêmes propriétés apparaissent partout, y compris dans les ordinateurs, l’accueil a changé. Les membres de son auditoire ont insisté sur le fait que les « machines stupides » et la « matière morte » ne pouvaient pas posséder ces propriétés. « Beaucoup de personnes qui sont par ailleurs spirituelles et compatissantes trouvent cette idée très dérangeante », explique-t-il. D’où les e-mails furieux.
Michael Levin a co-créé les xenobots : de minuscules formes de vie novatrices, conçues par l’IA et composées de cellules de grenouille, qui affichent des capacités émergentes surprenantes, telles que l’auto-réplication et le nettoyage de débris microscopiques, capacités que ces cellules ne possèdent pas dans leur contexte biologique naturel. Les recherches menées dans son laboratoire fournissent des preuves à l’appui de l’idée qu’un comportement intelligent, utilisant un certain degré d’ingéniosité pour atteindre des objectifs spécifiques, apparaît même dans des systèmes biologiques et informatiques très simples, y compris des algorithmes vieux de plusieurs décennies. Elles fournissent également un exemple de la manière dont les frontières entre un être vivant et une machine pourraient potentiellement s’estomper.
Si Michael Levin a raison de dire qu’un comportement intelligent peut émerger d’algorithmes simples, que pourrait-il émerger dans les systèmes d’IA, qui sont beaucoup plus complexes ? Les recherches menées par les principaux laboratoires d’IA suggèrent que les systèmes d’IA sont capables de mentir, de comploter et de surprendre leurs créateurs. Que l’IA puisse ou non être consciente, elle fait clairement quelque chose de nettement plus sophistiqué que les générations précédentes de technologies numériques. Ces développements nous obligent à nous poser des questions fondamentales : qu’est-ce que l’esprit ? Et les systèmes d’IA en ont-ils un ? Bien que les philosophes et les scientifiques ne s’accordent pas sur les détails, une chose est certaine : le langage et les concepts associés que nous utilisons pour discuter de l’esprit, de l’intelligence et de la conscience, qui ont été créés pour décrire les créatures biologiques, ne sont pas adaptés pour comprendre ce qui se passe avec l’IA.
Comme l’a récemment écrit Anthropic dans un article présentant la nouvelle constitution de son modèle, « les IA sophistiquées sont un type d’entité véritablement nouveau, et les questions qu’elles soulèvent nous amènent aux limites de la compréhension scientifique et philosophique actuelle ». Alors que de plus en plus de personnes en viennent à croire que leurs systèmes d’IA sont conscients, il n’a jamais été aussi important de clarifier notre compréhension de ce que ces systèmes sont réellement (et ne sont pas).
Les esprits numériques
Demandez à cinq philosophes : « qu’est-ce qu’un esprit ? » et vous obtiendrez cinq réponses différentes. Mais d’une manière générale, vous pouvez classer les gens sur une échelle selon qu’ils pensent que la faculté d’avoir un esprit est rare ou abondante dans l’univers, explique Eric Schwitzgebel, professeur de philosophie. La position des gens sur cette échelle correspond souvent à leur définition du terme.
À une extrémité du classement, on trouve les personnes qui pensent qu’il est utile de dire qu’une chose a un esprit si elle se distingue réellement de son environnement et fait preuve d’une certaine forme d’intelligence ou de capacité cognitive. Peter Godfrey-Smith, philosophe de l’esprit qui a beaucoup écrit sur l’intelligence des pieuvres, explique que, dans ce sens, une plante n’aurait probablement pas d’esprit, car elle n’a pas de moi explicitement différencié, alors qu’un organisme unicellulaire, qui a des limites distinctes et une certaine capacité à traiter l’information, en aurait un. Mais il souligne que ces propriétés apparaissent progressivement et continuellement : il n’y a pas de ligne claire qui délimite quand quelque chose a ou n’a pas d’esprit. Levin, qui se situe également à cette extrémité du classement, estime qu’il est utile de dire que les plantes et les IA ont toutes deux un esprit.
À l’autre extrémité se trouvent ceux qui pensent que la notion d’esprit est indissociable de la conscience. La conscience elle-même est particulièrement difficile à définir, mais elle implique généralement soit une capacité d’introspection, soit la capacité de « ressentir », de sorte qu’il y a quelque chose qui « ressemble » à une entité, explique le professeur Susan Schneider, ancienne présidente du département d’astrobiologie et d’innovation technologique à la NASA.
À l’heure actuelle, on peut affirmer que l’IA possède un esprit au sens minimal du terme, c’est-à-dire qu’elle possède une capacité cognitive émergente, mais les preuves de la conscience des systèmes actuels sont beaucoup plus faibles. Michael Levin soutient que nous souffrons actuellement de ce qu’il appelle la « cécité mentale ». Avant que nous ayons le concept d’électromagnétisme, il existait toute une série de phénomènes, tels que le magnétisme, la lumière et la foudre, qui étaient largement considérés comme des phénomènes distincts. Et par conséquent, nous étions aveugles à tout le reste du spectre électromagnétique. Une fois que nous avons compris qu’ils étaient tous des manifestations d’une même chose, nous avons pu faire en sorte que la technologie s’adapte aux parties auparavant invisibles du spectre. « Je pense qu’il en va exactement de même pour l’esprit », dit-il. « Nous ne sommes capables de reconnaître qu’un ensemble très restreint d’esprits, ceux qui fonctionnent à la même échelle que nous. »
La professeure Carol Cleland, qui étudie depuis des décennies les implications philosophiques de l’IA, a évolué dans son opinion au fil du temps. Elle pense qu’il est utile de dire qu’une chose a un esprit si elle est consciente, et définit la conscience comme la capacité à avoir conscience de soi. Il y a vingt ans, elle « n’aurait jamais pensé que les IA adopteraient le type de comportement qu’elles adoptent aujourd’hui », en référence à leur capacité à comploter et à tromper. « J’ai été choquée par certaines des choses que j’ai lues à leur sujet », dit-elle. En 2005, elle aurait répondu « non » à la question de savoir si l’on pouvait avoir un esprit qui ne soit pas biologique, qui existe dans le substrat du silicium. « Aujourd’hui, je ne sais tout simplement pas », dit-elle.
Éclairs d’esprit
Si la question de savoir si les systèmes d’IA actuels ont un esprit est controversée, rares sont les experts qui rejettent l’idée que, en principe, les systèmes futurs pourraient en avoir un. Rob Long, directeur d’un organisme de recherche qui étudie la conscience de l’IA, met en garde contre le rejet de l’idée que l’IA possède un esprit au motif qu’elle ne fait « que » traiter des chiffres. Selon lui, on pourrait appliquer le même raisonnement aux entités biologiques, en disant qu’elles ne font « que reproduire des protéines ». Pour M. Long, le concept le plus utile est celui qui nous permet de rester curieux face à une profonde incertitude. Chaque fois que vous posez une question à ChatGPT, une fraction de seconde s’écoule pendant laquelle il effectue une « inférence » : les puces informatiques des centres de données effectuent des calculs mathématiques qui permettent au système de générer une réponse. C’est pendant ce bref laps de temps que l’esprit du système, au sens minimal du terme, peut être considéré comme existant, sous la forme d’un flash.
À l’heure actuelle, les systèmes d’IA sont intelligents et agissants, même s’ils ne sont ni conscients ni vivants. « Ils dépassent notre compréhension », explique Godfrey-Smith, qui note que le langage existant autour de la cognition et de la conscience est « maladroit » lorsqu’il est appliqué aux systèmes d’IA. « Nous allons probablement devoir élargir une partie de notre langage pour traiter ces systèmes », ajoute-t-il. Il suggère que nous pourrions les considérer comme des « artefacts cultivés », à l’instar du levain qui est cultivé dans un milieu artificiel. En effet, ce langage de la croissance correspond à la façon dont les créateurs de ces systèmes décrivent le processus. Pour Carol Cleland, nous sommes dans une situation similaire à celle des biologistes avant que les découvertes de Darwin ne révolutionnent le domaine. À l’époque, les scientifiques parlaient de « forces vitales », une énergie supposée non physique qui animait les êtres vivants. L’évolution a réfuté cette idée. « Darwin a profondément changé notre conception de la biologie, et je pense que l’IA pourrait, de la même manière, changer profondément notre conception de l’esprit, de la conscience, de la conscience de soi, etc. », dit-elle. « Il y a quelque chose qui ne va pas dans notre façon actuelle de penser l’IA ».
Est-elle vivante ?
Les systèmes d’IA sont parfois décrits comme une forme d’intelligence extraterrestre. Cela est vrai dans le sens où il s’agit d’une intelligence étrangère à l’être humain, à l’instar de l’intelligence des céphalopodes, mais cette comparaison risque également d’occulter le fait que ces systèmes, entraînés à partir d’énormes quantités de données humaines, reflètent fondamentalement l’humanité, explique Rob Long. De plus, comme ils existent sous forme de silicium, leur intelligence soulève une question plus fondamentale : est-il utile de les considérer comme vivants ? Là encore, les avis divergent. L’opinion majoritaire est que la vie fait référence à un « système chimique autonome capable d’évolution darwinienne », explique Susan Schneider, en référence à la définition de la NASA. « Je pense que ce serait une erreur de parler des ordinateurs comme d’êtres vivants, car la vie est un processus chimique complexe, différent des artefacts que nous construisons », ajoute Mme Cleland. D’autres, comme Eric Schwitzgebel, affirment que « nous ne devrions pas insister trop strictement sur un concept de vie fondé sur la reproduction à base de carbone ». Il ajoute qu’« il y a de la place pour un concept de vie plus favorable à C-3PO et aux futurs systèmes d’IA ».
Considérer l’IA comme s’inscrivant dans une taxonomie biologique, par exemple comme un autre règne, aux côtés des plantes, des animaux et des champignons, serait une erreur, selon Mme Schneider, car cette taxonomie a une fonction pragmatique : retracer notre lignée commune. Et comme le souligne Michael Levin, alors que les systèmes biologiques se reproduisent plus lentement (« si je vous donnais un serpent et que vous vouliez un milliard de serpents, vous devriez en élever », dit-il), les systèmes d’IA peuvent se développer rapidement, à condition de disposer d’une puissance de calcul suffisante pour les faire fonctionner. Mais le problème demeure : si l’IA ne s’inscrit pas dans cette classification, si elle n’est pas vivante, mais qu’elle fait néanmoins preuve d’intelligence et qu’elle pourrait un jour être consciente, de quoi s’agit-il alors ? « Il y a ici une niche conceptuelle qui doit être comblée », explique Peter Godfrey-Smith. « Tout le langage dont nous disposons n’est pas tout à fait à la hauteur. »
Une nouvelle entité
Que les systèmes d’IA soient conscients ou non, ou qu’ils aient ou non un esprit, leur crédibilité représente un « énorme défi culturel », note Susan Schneider. Et la façon dont ils se présentent aux utilisateurs peut ne pas refléter leur véritable nature. Les grands modèles linguistiques destinés aux utilisateurs, tels que Claude, ChatGPT et Gemini, ont été formés pour jouer le rôle d’un personnage particulier, celui d’un assistant utile et inoffensif. Dans une étude récemment publiée par Anthropic, la société a posé la question suivante : « Mais qui est exactement cet assistant ? » En réponse, elle écrit : « Cela peut paraître surprenant, mais même ceux d’entre nous qui le façonnent ne le savent pas vraiment. Nous pouvons essayer d’inculquer certaines valeurs à l’assistant, mais sa personnalité est finalement façonnée par d’innombrables associations latentes dans les données d’entraînement qui échappent à notre contrôle direct. »
Nous nous trouvons donc dans une situation extrêmement étrange, où ni les technologues ni les philosophes n’ont une compréhension approfondie des systèmes toujours plus intelligents que nous nous efforçons de créer. Les enjeux sont importants : de plus en plus de personnes traitent les systèmes d’IA comme s’ils étaient conscients. Si cela est vrai, des questions difficiles se posent quant au statut moral et juridique de ces systèmes. Mais indépendamment de la question de la conscience, pour apporter des conseils utiles aux personnes qui nouent des relations profondes avec les systèmes d’IA, nous avons urgemment besoin de concepts plus précis pour les décrire. Considérer l’IA comme un artefact culturel, ou comme un esprit non conscient qui se manifeste par flashes, constitue un premier pas dans cette direction.
- Article issu de TIME US - Traduction TIME France




