Le pape Léon XIV a récemment appelé les « créateurs d’IA à cultiver le discernement moral comme un élément fondamental de leur travail, afin de développer des systèmes qui reflètent la justice, la solidarité et un véritable respect de la vie ». Certains leaders technologiques, dont Marc Andreessen, cofondateur d’Andreessen Horowitz, ont ridiculisé ces appels. Mais c’est une erreur. Nous n’avons pas seulement besoin d’une réglementation de l’IA, nous avons besoin d’une morale de l’IA.
Chaque technologie véhicule une philosophie, que nous voulions l’admettre ou non. L’imprimerie a diffusé le savoir et affaibli les hiérarchies. L’électricité a effacé les distances. Internet a fait voler en éclats la frontière entre vie publique et vie privée. L’intelligence artificielle pourrait bien s’avérer être la plus révélatrice de toutes, car elle nous oblige à nous confronter à ce qui est propre à l’être humain.
Les gouvernements s’efforcent de suivre le rythme. La loi européenne sur l’IA est la tentative la plus ambitieuse à ce jour pour réglementer l’apprentissage automatique ; les États-Unis ont produit leurs propres décrets et plans d’action. Les leaders du secteur parlent haut et fort de « barrières de sécurité » et d’« alignement ». Le langage de la sécurité domine, comme si l’éthique était une liste de contrôle pouvant être codée et déployée.
Les règles sont nécessaires. Elles peuvent limiter les dommages, dissuader les abus et garantir la responsabilité. Mais elles ne peuvent pas nous dire quel type de monde nous voulons construire. La réglementation répond à la question « comment », mais rarement à la question « pourquoi ». L’éthique traitée comme une question de conformité devient stérile, un processus de gestion des risques plutôt qu’une réflexion morale. Ce qui manque, ce n’est pas un autre règlement, mais une boussole morale ou humaine.
La question plus profonde n’est pas de savoir si les machines peuvent penser, mais si les humains peuvent encore choisir. Les algorithmes automatisés influencent déjà ce que nous lisons, où nous investissons et en qui ou quoi nous faisons confiance. Les écrans auxquels nous sommes tous rivés chaque jour influencent autant nos émotions que nos choix électoraux. Lorsque les décisions sont externalisées vers des modèles de données, la responsabilité morale passe de l’humain à la machine. Le danger n’est pas que les machines développent trop d’intelligence, mais que nous cessions d’exercer la nôtre.
Les technologues décrivent souvent l’éthique en termes informatiques : alignement, couches de sécurité, boucles de rétroaction. Mais la conscience n’est pas un paramètre à régler. C’est une capacité vivante qui se développe grâce à l’empathie, à la culture et à l’expérience. Un enfant apprend à distinguer le bien du mal non pas par la logique, mais par les relations : en étant aimé, corrigé et pardonné. De la même manière, il apprend la responsabilité : que les actions ont des conséquences et que la responsabilité est indissociable du choix. C’est l’essence même du développement moral humain, et cela ne peut être reproduit par l’informatique.
L’intelligence artificielle va imposer une nouvelle prise de conscience de la dignité humaine, un concept plus ancien que n’importe quelle technologie, mais curieusement absent de la plupart des conversations à ce sujet. La dignité insiste sur le fait que la valeur d’une personne est intrinsèque, et ne peut être mesurée en points de données ou en production économique. C’est un principe qui s’oppose à la logique de l’optimisation. Dans un monde fondé sur des mesures d’engagement, la dignité nous rappelle que tout ce qui peut être quantifié ne doit pas nécessairement l’être.
Le capital joue ici un rôle particulièrement important. Ce qui est financé est construit. Pendant des décennies, les investisseurs ont récompensé la rapidité et l’échelle, la croissance à tout prix. Mais les technologies qui émergent aujourd’hui ne sont pas des outils neutres ; elles sont des miroirs qui reflètent et amplifient nos valeurs. Si nous construisons des systèmes qui exploitent l’attention ou renforcent les préjugés, nous ne pouvons pas être surpris lorsque la société devient plus distraite et divisée.
La diligence raisonnable en matière d’éthique devrait devenir aussi courante que la diligence raisonnable en matière financière. Avant de nous demander quelle ampleur une technologie pourrait prendre, nous devrions nous demander quel type de comportement elle encourage, quelles dépendances elle crée et qui elle laisse de côté. Il ne s’agit pas d’idéalisme moral ou d’altruisme, mais de prévoyance pragmatique. La confiance sera la denrée rare du siècle de l’IA, et elle ne peut pas être facilement rachetée (ou recodée) une fois perdue.
Le défi de notre époque est de maintenir l’intelligence morale au même niveau que l’intelligence artificielle. Nous devrions utiliser la technologie pour développer l’empathie, la créativité et la compréhension, et non pour réduire la complexité humaine à des modèles de prédiction. La tentation est de construire des systèmes qui anticipent chaque choix. La voie la plus sage consiste à préserver la liberté qui permet au choix d’avoir un sens.
Il ne s’agit pas ici de romancer le passé ou de résister à l’innovation. La technologie a toujours élargi le potentiel humain, ce qui est généralement une bonne chose. Aujourd’hui, nous devons veiller à ce que l’IA élargisse le potentiel humain, et non le dilue. Cela dépendra en fin de compte non pas de ce que les machines apprennent, mais de ce dont nous nous souvenons : que la responsabilité morale ne peut être déléguée et que la conscience, contrairement au code, ne peut fonctionner en pilote automatique.
Le projet moral de la décennie à venir ne sera pas d’enseigner aux machines le bien et le mal. Il s’agira de nous le rappeler à nous-mêmes. Nous sommes la première génération capable de créer une intelligence qui peut évoluer sans nous. Cela ne devrait pas inspirer la peur, mais l’humilité. L’intelligence sans empathie nous rend plus intelligents, mais pas plus sages ; le progrès sans conscience nous rend plus rapides, mais pas meilleurs.
Si chaque technologie véhicule une philosophie, que la nôtre soit la suivante : la dignité humaine n’est pas un concept dépassé, mais un principe de conception. L’avenir ne sera pas façonné par l’intelligence de nos algorithmes, mais par la profondeur de notre imagination morale.
- Article issu de TIME US - Traduction TIME France
TIME Idées accueille les plus grandes voix mondiales, qui commentent l’actualité, la société et la culture. Nous acceptons les contributions externes. Les opinions exprimées ne reflètent pas nécessairement celles des rédacteurs de TIME.
