Ces dernières semaines, de nombreux posts trompeurs font le tour des réseaux sociaux, dont celui mettant en scène une jeune fille, un chiot et un officier de police. On y voit une fillette de 12 ans prête à tout pour sauver son chien prendre le volant pour le conduire chez le vétérinaire avant de se faire interpeller par le policier. Ce dernier finit par la féliciter pour « son courage, sa compassion et son intelligence » et l’aide à sauver son animal de compagnie.
Mais à y regarder de plus près, les internautes ont remarqué plusieurs détails étranges : le volant est du côté droit de la voiture, qui ne comporte d’ailleurs aucun tableau de bord. Autre indice sur son origine, l’image ne provenait pas d’un média ou d’une source officielle, mais d’un simple groupe Facebook.
Cette image est un exemple parfait de ce que l’on appelle l’AI slop : des images créées artificiellement, conçues pour générer un engagement maximal sur les réseaux sociaux sans indiquer leur provenance. Et si cet exemple reste inoffensif, de plus en plus de cas envahissent le Web grâce à l’arrivée de Sora 2, le nouveau modèle avancé de conversion de texte-vidéo d’OpenAI.
La véracité de certaines vidéos, comme celle mettant en scène le Pape Jean-Paul II affrontant Tupac sur un ring, est facile à démentir, mais pour d’autres, c’est plus subtil. Sora est d’ailleurs devenue l’application gratuite la plus téléchargée sur l’App Store pendant sa première semaine.
Sam Altman, le PDG d’OpenAI, dit espérer que les vidéos créées par Sora 2 seront « amusantes et innovantes » tout en aidant à former ses IA au fonctionnement de la 3D. En face, les détracteurs y voient sonner le glas des réseaux sociaux. Ce qui devait être un moyen révolutionnaire de garder du lien est désormais une machine à générer du contenu factice, où il est impossible de distinguer le vrai du faux.
« Pendant des années, internet a été un endroit qui permettait aux gens de se connecter. Mais si tout ce qu’on trouve en ligne semble faux, et qu’on nous suggère uniquement des vidéos générées par Sora, les gens vont finir par se rabattre sur ce qui est démontrable physiquement », estime Kashyap Rajesh, vice-président de l’association américaine Encode gérée par de jeunes militants. « L’ironie, c’est que l’IA pourrait finir par sauver les relations humaines, car elle nous rend avides de réalité. »
Croissance à court terme
Ces dernières années, la génération d’images et de vidéos réalistes a constitué un objectif majeur pour toutes les entreprises d’IA. Leurs dirigeants espèrent par ailleurs que les utilisateurs pourront créer des clips vidéo, des films et des publicités plus rapidement et à moindre coût, ouvrant la porte à une nouvelle ère de créativité. Mais certains estiment que les modèles vidéo sont la première étape vers l’IAG (intelligence artificielle générale), une IA capable de comprendre parfaitement la physique et donc d’évoluer dans le monde.
Pour perfectionner leurs modèles, ces entreprises ont besoin de créer de grandes quantités de contenu qu’elles peuvent ensuite utiliser comme données d’entraînement. Cette année uniquement, Meta a lancé son flux vidéo intitulé Vibes, Google a fait de même avec Veo 3 et Bytedance a déployé Seedance. Ces applications semblent s’inscrire dans un élan plus large : gagner en popularité tout en améliorant la qualité de l’offre.
À court terme, ces produits sont très plébiscités et génèrent un trafic important pour les créateurs qui les adoptent. Par exemple, Gnomo Palomo, une série de vidéos en langue espagnole à propos d’un gnome équipé d’une GoPro qui embarque dans des aventures magiques, a attiré des centaines de milliers de spectateurs ces cinq derniers mois.
Pour autant, Ben Colman, PDG et cofondateur de la plateforme de détection des deepfakes Reality Defender, affirme que, si ces vidéos génèrent une augmentation de revenus pour les plateformes, leur succès pourrait bien être éphémère. « Je pense que l’histoire nous a prouvé que ce type de nivellement par le bas en termes de qualité de contenu tend à être négatif pour les plateformes elles-mêmes », explique-t-il.
Il évoque le cas de MySpace, un exemple de plateforme qui a subi sa décision : ne pas prioriser les utilisateurs, préférant encombrer ses pages de publicités et d’expériences fastidieuses. « Si c’est pour être exposé à du vacarme, l’expérience devient moins personnelle ».
Dans un billet de blog, Sam Altman a déclaré que Sora 2 serait optimisé pour « la satisfaction à long terme des utilisateurs » et qu’OpenAI mettrait fin au produit si son impact était considéré comme négatif sur les utilisateurs.
Risques sociaux
Le déclin des réseaux sociaux, s’il se produit, sera lent à n’en pas douter. Mais d’ici là, les détracteurs s’inquiètent des répercussions de l’AI slop sur la société. Kashyap Rajesh avance notamment que les vidéos d’IA réalistes menaceront notre compréhension commune de la réalité. Auparavant, les vidéos sur les réseaux sociaux permettaient de prouver certains événements, et pouvaient même changer le cours de l’histoire, comme dans le cas de George Floyd. Mais aujourd’hui, certains événements bien réels sont considérés comme faux, tandis que des événements factices sont acceptés comme étant réels. Les campagnes de désinformation et de mésinformation pourraient dès lors se multiplier.
« Nos flux deviennent en majorité très bruyants et peu fiables, et chaque moment d’émotion devient suspect », analyse Kashyap Rajesh. « La situation crée une légère forme de paranoïa, qui neutralise la spontanéité et la magie des réseaux sociaux. »
Certes, les vidéos générées par Sora portent un filigrane qui indique leur origine artificielle, mais des outils créés pour ajouter ou retirer ces sceaux ont déjà été développés. Dès lors, créer de fausses caméras embarquées (ou dashcam) pour orchestrer des fraudes à l’assurance devient par exemple un jeu d’enfant.
Accompagné de son équipe chez Reality Defender, Ben Colman a réalisé une expérience de sécurité et a conclu qu’il pouvait utiliser Sora pour créer des imitations artificielles de personnalités, puis les « authentifier » pour faire croire qu’elles proviennent des célébrités elles-mêmes. « Quand vous avez une entreprise à plusieurs milliards de dollars qui affirme avoir déjà procédé à la vérification d’identité, la situation prend un tournant mille fois plus dangereux », analyse-t-il.
Ce n’est un secret pour personne : les algorithmes des réseaux sociaux récompensent les contenus controversés. Ben Colman craint donc que l’IA ne fasse qu’exacerber cette dynamique. « Les plateformes sont en fait des marchés où l’on vend de l’attention. Il est plus rentable d’essayer d’attirer l’attention des gens sur des opinions extrêmes. Cela crée une caisse de résonance bien plus polarisante, qui donne aux consommateurs du marché de masse ce dont ils ont besoin pour devenir plus extrêmes en tous points. »
En parallèle, Kashyap Rajesh estime que l’essor omniprésent des deepfakes pourrait entraîner une démocratisation des systèmes de « vérification d’identité », qui impliquent de prouver son identité pour interagir en ligne. Notons que Sam Altman possède déjà un de ces outils, intitulé Worldcoin, qui vérifie l’identité des utilisateurs en scannant leur iris.
Digital détox
En réponse à ces bouleversements, de plus en plus d’internautes désabusés font le grand saut et renoncent à leur téléphone. Plus tôt dans l’année, Grant Besner a notamment coorganisé un programme de formation à Wahsington intitulé Month Offline (Un mois hors ligne) : les participants étaient invités à éteindre leur smartphone pendant un mois et à réfléchir à leur relation avec ces appareils.
Pour faire la promotion du programme pendant l’été, Grant Besner a distribué des flyers dans Washington portant l’inscription : « fausses images de vraies personnes, vraies images de fausses personnes, mécontentement à propos du contenu… Arrêtez le doomscrolling. Appelez le 1-844-OFFLINE. »
Le coorganisateur avance que la hotline a reçu des centaines d’appels. « J’ai discuté avec tellement de gens qui entretiennent une relation très tendue avec leur appareil, et le contenu lui-même joue un rôle crucial dans cette relation : ils font défiler sans réfléchir des informations qui n’apportent rien à leur vie », explique-t-il.
Par ailleurs, d’autres structures testent des approches similaires. L’Institut Aspen a par exemple organisé un rassemblement « Mode avion » cette année. Quant à lui, Andrew Yang, ancien candidat aux primaires présidentielles du parti démocrate des États-Unis, organise des soirées sans téléphones à New York et vante même les mérites d’un nouveau forfait mobile (Noble Mobile) qui rembourse les utilisateurs pour les données non utilisées.
Grant Besner ajoute que l’avènement de Sora 2 et des vidéos hyper réalistes « peut être le point de rupture qui permettra aux humains de reprendre le contrôle et de réaliser que cette manière d’interagir avec l’information et les uns avec les autres ne produit pas les meilleurs résultats ».
- Article issu de TIME US - Traduction Mathilde Pace
