Ads

Édition française du magazine TIME – Abonnement 1 an 4 n°, 41 € (économisez 10%)

Je suis championne d’échecs et je joue contre ChatGPT

Jennifer Shahade a été sacrée trois fois championne nationale d’échecs.
Les algorithmes d’échecs fondés sur l’IA ne cherchent pas à t’écraser ; ils cherchent à te faire continuer à jouer. Mais dans leur jeu curieusement mauvais, on peut tirer des leçons qui vont au-delà de l’échiquier ou des pièces.

Les grands modèles linguistiques (LLM) sont nuls aux échecs. Et pourtant, en tant que triple championne nationale d’échecs et double championne des États-Unis d’échecs féminins, j’adore jouer contre eux. Pas parce qu’ils me poussent à donner le meilleur de moi-même, mais à cause de ce qu’ils révèlent sur la nature humaine. Jouer aux échecs avec des LLM m’a appris à quel point les êtres humains sont créatifs et possèdent une grande diversité, à quel point ils sont sensibles à la flatterie et à la flagornerie, et comment l’IA commence à conditionner le comportement humain.

Les LLM ne sont absolument pas conçus pour bien jouer aux échecs. En effet, ils sont programmés pour prédire ce qui va probablement se passer ensuite et pour nous flatter. Les algorithmes d’échecs fondés sur l’IA ne cherchent pas à t’écraser ; ils cherchent à te faire continuer à jouer. Mais dans leur jeu curieusement mauvais, on peut tirer des leçons qui vont au-delà de l’échiquier ou des pièces. Les programmes d’IA d’échecs surhumains, depuis celui qui a battu Garry Kasparov il y a 30 ans à « AlphaZero » de DeepMind, peuvent battre systématiquement n’importe quel joueur humain. Alors, la plupart des humains ne jouent plus contre les meilleurs programmes d’échecs, car la défaite est courue d’avance. Se faire écraser encore et encore ne peut pas t’apprendre grand-chose. En revanche, expérimenter avec les LLM peut être très stimulant.
Quand j’ai défié ChatGPT4 pour la première fois à une partie d’échecs, il a joué correctement, mais j’ai quand même obtenu une excellente position après 15 coups et j’ai gagné un cavalier. Juste au moment où mon avantage s’accroissait, il a inventé une pièce fantôme pour reprendre ma reine. En d’autres termes, il a triché ! Au début, ça n’avait pas beaucoup de sens. Les LLM prêts à l’emploi ne sont-ils pas plus connus pour leur flatterie que pour leur tricherie ? J’ai donc commencé à jouer les pires coups qui me venaient à l’esprit contre ChatGPT. Il a encore une fois contourné les règles, mais cette fois-ci en ma faveur. Des pièces fantômes ont remplacé celles que j’avais ratées. Que je joue mieux ou moins bien que ChatGPT, il finissait par me mettre au même niveau que lui. Il ne trichait pas toujours, mais il inventait toujours des histoires. Quand les humains inventent des histoires, on essaie de combler les lacunes de ses souvenirs ou de ses rêves avec la séquence la plus logique. ChatGPT faisait la même chose.
J’ai remarqué que les hallucinations des LLM ont plus de chances de se produire quand on essaie d’exécuter des « coups longs », qui traversent tout l’échiquier. Ça reflète la façon dont les LLM ont du mal avec les longues conversations.

Quand Google a organisé un tournoi réunissant les meilleurs LLM, 42 des 47 parties ont été jouées en défense sicilienne, également la préférée de Bobby Fischer et de la fictive Beth Harmon dans Le Jeu de la dame. Pourquoi tant d’amour pour la sicilienne ? Parce que c’est l’ouverture la plus populaire. Une récente étude de DeepMind a montré le même effet quand ils ont tenté de créer des positions d’échecs créatives, esthétiques et contre-intuitives. Les chercheurs ont découvert que l’IA « s’effondre » souvent sur elle-même, en répétant les mêmes types de thèmes et de schémas qu’elle jugeait « beaux ». Dans le cas du programme de beauté des échecs de DeepMind, les chercheurs ont réussi à réduire ce phénomène en programmant explicitement une plus grande diversité. Mais même avec d’énormes quantités de données d’entraînement, des résultats probabilistes et des filtres de diversité, il n’est pas facile d’imiter la variation et l’étendue de la pensée humaine. Certes, les LLM et l’IA en général ne sont pas les seules technologies à peiner à saisir la diversité de l’expérience humaine. Prenons la dynamique de l’algorithme « le gagnant rafle tout » des réseaux sociaux, où se conformer à ce que veut l’utilisateur moyen te rapporte plus de clics, d’attention et d’argent. Pour éviter de tomber dans l’emprise d’une voix unique et d’une monoculture, nous devons rechercher la diversité dans nos sources, nos invites et nos données d’entrée. Comme l’a écrit Haruki Murakami : « Si tu ne lis que les livres que tout le monde lit, tu ne peux penser que ce que tout le monde pense. »

Tout comme les moteurs d’échecs, les LLM ne feront que s’améliorer, et nous devons nous préparer à cet avenir. Depuis des décennies, le monde des échecs se débat pour tenter de préserver l’équité du jeu malgré une IA surhumaine. Les équipements électroniques sont interdits depuis longtemps dans les compétitions d’échecs, mais cela n’a pas empêché la tricherie de devenir monnaie courante.
Dans ce qui est peut-être le scandale de tricherie aux échecs le plus retentissant de tous les temps, Magnus Carlsen, alors numéro un mondial, a perdu contre le grand maître Hans Niemann, âgé de 19 ans, en 2022. Carlsen s’est retiré du tournoi, et il a été révélé que Hans avait triché lors de parties en ligne passées. Bien qu’aucune preuve n’ait jamais suggéré que Hans ait triché contre Magnus, des théories farfelues sont devenues virales, comme celle qui suggérait que des perles anales avaient été utilisées pour intercepter les coups via une IA. Depuis lors, les retransmissions d’événements en direct ont ajouté des délais de diffusion et renforcé la surveillance. Malgré ces mesures, les accusations de tricherie et les scandales restent courants. Certaines sont fondées. D’autres reposent sur peu de preuves, amplifiées par les algorithmes avides de drames des réseaux sociaux — et exacerbées par la crainte d’une tricherie basée sur l’IA.
Ce que cela nous apprend, c’est que développer des outils de détection de tricherie plus sophistiqués ne suffira pas dans un avenir dominé par l’IA. Au contraire, nous devons instaurer la confiance et l’intégrité au sein de nos communautés. C’est quelque chose que l’IA ne peut pas faire à notre place. Cela nous apprend aussi qu’on ne peut pas être naïfs face aux complexités de notre avenir piloté par l’IA. Au contraire, on doit trouver des moyens positifs de tirer parti de l’IA.

Les joueurs d’échecs sont devenus des experts dans l’art de calibrer notre utilisation de l’IA pour l’entraînement et la préparation, en revoyant nos propres parties et celles de nos adversaires. Le juste milieu consiste à élargir et affiner notre liste de coups possibles, mais sans aller jusqu’à cesser de réfléchir par nous-mêmes. J’aime bien la méthode du sandwich. Je commence par mon propre cerveau (le pain), puis je regarde ce que l’IA a à dire sur la situation (le thon), et ensuite je reviens à réfléchir aux enseignements à en tirer en utilisant mon propre cerveau.
Les LLM ont un double effet : ils peuvent nous rendre plus vifs et plus intelligents, ou bien nous rendre plus lents et plus moyens, capables de réfléchir uniquement quand on a un ordinateur à portée de main. Quand on joue aux échecs contre des LLM, on voit plus clairement certaines de leurs forces et de leurs limites en tant que coach ou confident, ce qui nous permet de savoir quand dire : « Bonne nuit, Gemini. »

TIME Idées accueille les plus grandes voix mondiales, qui commentent l’actualité, la société et la culture. Nous acceptons les contributions externes. Les opinions exprimées ne reflètent pas nécessairement celles des rédacteurs de TIME.

Partagez cet article : 

PEOPLE

Robert Pattinson (Crédits : Stéphane Corbis-Cardinale/GettyImages)

Robert Pattinson

Nicole Kidman. (Crédits: Taylor Hill/FilmMagic via Getty Images)

Nicole Kidman

Mylène Farmer  au 78e Festival de Cannes au Palais des Festivals le 15 mai 2025 (Crédits :  Laurent KOFFEL/Getty Images)

Mylène Farmer

Crédits: Grant Thomas

Angèle

FOR PRINT MOSUKE46557

Mory Sacko

Bérengère Krief.

Bérengère Krief

Niels Schneider. (Crédits: Nicolas Valois, Charlotte Studio)

Niels Schneider

Céline Dion. ( Crédits: Roy Rochlin via WireImage)

Céline Dion