Une image sans doute générée par l’IA, un compte Twitter se faisant passer pour l’agence Bloomberg grâce au système de certification en carton d’Elon Musk, Wall Street qui baisse brièvement avant de se reprendre : bienvenue dans le cauchemar de la désinformation. Une fausse image montrant une explosion au Pentagone est brièvement devenue virale sur Twitter lundi, causant un léger affaissement des marchés pendant dix minutes, et relançant le débat autour des risques liés à l’intelligence artificielle.

La fausse photographie, apparemment réalisée avec un programme d’IA générative (capable de produire du texte et des images à partir d’une simple requête en langage courant), a obligé le ministère américain de la Défense américain à réagir. « Nous pouvons confirmer qu’il s’agit d’une fausse information et que le Pentagone n’a pas été attaqué aujourd’hui », a déclaré un porte-parole. Les pompiers de la zone où se trouve le bâtiment (à Arlington, près de Washington) sont aussi intervenus pour indiquer sur Twitter qu’aucune explosion ou incident n’avait eu lieu, ni au Pentagone ni à côté.

Responsabilité de Twitter

Heureusement, il était ici facile de s’aperçevoir de la supercherie : le bâtiment ne ressemble pas au Pentagone, et il y a de nombreux bugs visuels au niveau du trottoir, des barrières de sécurité et des fenêtres. L’image a, semble-t-il, d’abord été publiée par le compte (depuis suspendu) @BloombergFeed certifié par un coche bleu grâce au nouveau système payant lancé par Elon Musk.

Sauf que le système ne vérifie pas qu’un compte est bien affilié à une organisation. De nombreux internautes, y compris certains comptant des centaines de milliers de followers, sont tombés dans le panneau. La fausse info a été reprise par la chaîne russe RT, qui s’est ensuite rétractée.

L’image semble avoir fait légèrement décrocher les marchés pendant quelques minutes, le S&P 500 perdant 0,29%  par rapport à vendredi avant de se reprendre.«Il y a eu une baisse liée à cette fausse information quand les machines l'ont détectée »,  a relevé Pat O'Hare de Briefing.com, faisant référence aux logiciels de trading automatisés qui sont programmés pour réagir à des publications sur les réseaux sociaux.

Inquiétude pour la présidentielle américaine

L’incident intervient après que plusieurs fausses photographies produites avec de l’IA générative ont été largement relayées pour montrer les capacités de cette technologie, comme celle de l’arrestation de l’ancien président américain Donald Trump ou celle du Pape en doudoune.

Les logiciels comme DALL-E 2, Midjourney et Stable Diffusion permettent à des amateurs de créer de fausses images convaincantes sans avoir besoin de maîtriser des logiciels d’édition comme Photoshop.

Mais si l’IA générative facilite la création de faux contenus, le problème de leur dissémination et de leur viralité - les composantes les plus dangereuses de la désinformation - relève, lui, des plateformes, rappellent régulièrement des experts.

« Les utilisateurs se servent de ces outils pour générer des contenus plus efficacement qu’avant (…) mais ils se répandent toujours via les réseaux sociaux », a souligné Sam Altman, le patron d’OpenAI (DALL-E, ChatGPT), lors d’une audition au Congrès mi-mai. Un sujet particulièrement sensible à l’approche de la présidentielle américaine de novembre 2024, qui risque de mobiliser à plein temps les fact-checkers.