C’est en tout cas ce que pensent de nombreux PDG qui décrivent un futur où les IA remplaceront les ingénieurs, les médecins et les enseignants. Mark Zuckerberg, patron de Meta, a récemment prédit que l’IA remplacerait tous les ingénieurs intermédiaires qui rédigent le code de son entreprise. Jensen Huang, cofondateur de Nvidia, a même déclaré que le code était désormais obsolète.
Si Bill Gates admet que le rythme effréné du développement des IA est « sérieux et même un peu inquiétant », cela ne l’empêche pas d’en célébrer les opportunités pour démocratiser la connaissance. Lui aussi envisage un monde où les IA auront pris la place des codeurs, des médecins et des enseignants, fournissant des avis médicaux et des cours particuliers gratuits et de qualité.
Pourtant, malgré la médiatisation, l’IA n’est pas capable de « penser » par elle-même ou d’agir sans les humains (du moins, pas encore). Qu’elle améliore l’enseignement ou nuise à la compréhension ne tient qu’à une décision cruciale : allons-nous laisser l’IA se contenter de prédire des schémas ? Ou allons-nous lui demander de tout nous expliquer, justifier et en définitive la laisser s’intégrer à notre réalité ?
Ce qui est sûr, c’est que l’IA a besoin du jugement humain, pas simplement pour superviser ses productions, mais aussi pour intégrer des sécurités scientifiques lui donnant une direction, un ancrage et une interprétabilité.
Le physicien Alan Sokal a récemment comparé les agents conversationnels d’IA à des étudiants relativement efficaces qui passent un examen oral. Lors d’un événement à l’université de Pennsylvanie, il a déclaré : « Quand ils connaissent la réponse, ils vous la donnent, et quand ils ne la connaissent pas, ils sont très doués pour improviser ». En résumé, à moins qu’un utilisateur ne soit très calé sur un sujet donné, il y a peu de chances qu’il réalise que l’outil improvise. C’est l’incarnation même du prétendu savoir de l’IA : elle reproduit la compréhension en prédisant des suites de mots, mais n’a pas les bases conceptuelles.
C’est pour cette raison que les systèmes d’IA dits créatifs ont du mal à distinguer le vrai du faux, et nombreux sont ceux qui se demandent si les grands modèles de langage saisissent vraiment les nuances culturelles. Lorsque les enseignants craignent que l’IA entrave la pensée critique de leurs élèves, ou lorsque les médecins craignent des erreurs de diagnostic de l’algorithme, ils pointent du doigt le même défaut : le machine learning est un outil brillant de reconnaissance de motifs, mais il ne possède pas la connaissance approfondie issue de l’expérience humaine systématique et cumulative et d’une méthode scientifique.
C’est là qu’un mouvement grandissant dans le domaine de l’IA offre une nouvelle piste, puisqu’il consiste à intégrer directement le savoir humain à l’entraînement des machines. Les réseaux neuronaux informés par la physique (PINN) et les réseaux neuronaux informés par la mécanique (MINN) n’en sont qu’un exemple. Si ces noms semblent techniques, le concept est en réalité simple : l’IA s’améliore en suivant les règles, qu’elles soient physiques, biologiques ou sociales. Cela implique qu’elle a besoin des humains, pas seulement pour leur savoir, mais pour la façonner. Car l’intelligence artificielle est la plus efficace quand elle s’inspire de nous.
Appliquons ce modèle au diagnostic du cancer : les tumeurs du sein émettent de la chaleur en raison de l’augmentation du flux sanguin et du métabolisme. L’IA pourrait donc analyser des milliers d’images thermiques pour identifier des tumeurs sur la base de schémas de données. En revanche, un MINN, comme celui développé récemment par des chercheurs du Rochester Institute of Technology, utilise les données de température corporelle et intègre directement les lois du transfert thermique au modèle. Au lieu de faire des estimations, le modèle peut comprendre comment la chaleur se déplace dans le corps et s’en servir pour identifier ce qui ne va pas, les raisons et l’emplacement exact. Le MINN peut ainsi prédire l’emplacement et la taille d’une tumeur dans un périmètre de quelques millimètres grâce aux perturbations de la chaleur humaine provoquées par le cancer.
La conclusion est limpide : les humains sont toujours essentiels. Alors même que l’IA devient de plus en plus sophistiquée, notre rôle ne disparaît pas pour autant. Les humains doivent saisir quand un algorithme produit un résultat étrange, partiel ou erroné, et c’est là notre atout majeur : cela implique que notre savoir doit lui aussi se développer pour piloter la technologie, la maîtriser, contrôler qu’elle fait bien ce qu’on lui demande et fournir de l’aide au passage.
La véritable menace n’est donc pas que l’IA gagne en intelligence, mais plutôt que nous arrêtions d’utiliser la nôtre. Si nous considérons l’intelligence artificielle comme un oracle, nous pourrions oublier de remettre en question, de réfléchir et d’identifier les incohérences. Fort heureusement, le futur ne semble pas s’annoncer ainsi.
Nous pouvons créer des systèmes transparents, interprétables et ancrés dans le savoir humain accumulé dans les domaines scientifiques, éthiques et culturels. Il appartient aux autorités de financer la recherche pour une IA interprétable. Les universités peuvent par ailleurs former les étudiants qui associent leurs connaissances d’un domaine à des compétences techniques. De même, les développeurs peuvent adopter des systèmes comme les MINN et les PINN, qui impliquent des modèles qui collent à la réalité. Enfin, chacun d’entre nous (utilisateurs, électeurs, citoyens) peut exiger une IA au service de la science et de la vérité objective, pas simplement des corrélations.
Il est aujourd’hui nécessaire d’aider les étudiants à comprendre le fonctionnement des algorithmes en étudiant les systèmes eux-mêmes plutôt qu’en se contentant de les utiliser machinalement. Les utilisateurs doivent comprendre la logique, le code et les mathématiques qui sous-tendent les IA pour comprendre quand elles improvisent.
L’IA ne remplacera pas les humains et ne rendra pas obsolète l’éducation. En revanche, si nous oublions comment réfléchir de façon indépendante, et négligeons l’importance de la science et de la connaissance approfondie, nous risquons de nous laisser remplacer.
Le choix ne consiste pas à rejeter ou à accepter l’IA. Il consiste à continuer à s’éduquer et à faire preuve de suffisamment d’intelligence pour garder les commandes.
- Article issu de TIME US - Traduction Mathilde Pace
