« Est-il vrai que le Venezuela est un pays si pauvre? » demande un présentateur blond en lançant un reportage. Ce n'est pas un journaliste… ni même un humain, mais un avatar généré par intelligence artificielle.

Présentés comme faisant partie d'une sorte de journal télévisé, ces faux reportages qui appuient le pouvoir vénézuélien sont apparus comme des publicités sur les réseaux sociaux, déclenchant une polémique dans le pays et en ligne. Ce n'est pas un cas isolé.

Selon Shirin Anlen, spécialiste des technologies des médias à l'organisation non gouvernementale Witness, de plus en plus de régions parlent des hypertrucages et des contenus audiovisuels générés par l'intelligence artificielle (IA) comme d'une menace.

En février, une vidéo trafiquée du président américain Joe Biden mettant en garde la population contre une menace extraterrestre a circulé massivement sur les réseaux sociaux.

L'année dernière, un montage du dirigeant ukrainien Volodymyr Zelensky sniffant de la cocaïne et un rap d'Eminem contre le président du Mexique, Andrés Manuel Lopez Obrador, ont aussi attiré l’attention sur Internet. Rien de tout cela n’était réel; tous ces contenus ont été générés par de l'IA.

Bannir les organisations fautives

Dans le cas du Venezuela, les avatars des vidéos House of News Español provenaient du programme de création d'intelligence artificielle Synthesia. La société a signalé celles-ci à YouTube, qui les a retirées.

La porte-parole de Synthesia, Laura Morelli, n'a pas voulu révéler qui était le client à l'origine de ces vidéos, mais a indiqué qu'en ayant violé les conditions et politiques d'utilisation de l'entreprise, il avait été exclu et ne pouvait plus utiliser leurs services. Si vous prétendez être journaliste, si vous prétendez diffuser des infos, vous serez banni, a-t-elle déclaré à l'Agence France-Presse (AFP).

Les présentateurs de House of News, Noah, un blond, et Daren, un homme noir, font partie du catalogue de 93 avatars de Synthesia. Ils ont notamment été utilisés en janvier pour des vidéos de prétendus Américains soutenant un coup d'État au Burkina Faso.

Ce type de programme peut être utilisé par n'importe qui avec un minimum de connaissances, prévient Eduardo Mosqueira, docteur en informatique et professeur à l'Université de La Corogne, en Espagne. Il assure qu'il n'est pas difficile de détecter une vidéo fausse, mais souligne en revanche qu'il est difficile d'en déterminer l'origine : Si [les créateurs et créatrices] ont fait preuve d'un minimum de prudence, je suppose que c'est impossible.

La chaîne de télévision publique vénézuélienne VTV a diffusé l'une des vidéos de House of News pour évoquer la réussite du tournoi de baseball Série des Caraïbes, organisé au Venezuela pour la première fois en neuf ans.

House of News indiquait que le tournoi avait généré des millions de dollars de bénéfices, alors qu'il n'existait aucun chiffre officiel sur le sujet.

La polémique sur la provenance des vidéos a mis en colère le président vénézuélien, Nicolas Maduro, qui a réfuté tout lien des autorités avec la production : Ce n'est pas de l'intelligence artificielle, c'est de l'intelligence populaire. Je suis un robot, a-t-il dit avec ironie, en imitant une voix métallique et en mimant des mouvements mécaniques.

En février, un autre diffuseur de fausses nouvelles, Wolf News, a utilisé la même technologie pour créer les vidéos de propagande prochinoise qu'il a diffusées.

C'est la première fois que nous voyons une opération d'État utiliser des séquences vidéo générées par l'IA pour créer un contenu politique trompeur, avait déclaré à l'AFP Jack Stubbs, du studio Graphika, auteur de l'enquête qui relie les vidéos à des réseaux soutenant le Parti communiste chinois.

Faux comptes Facebook

Meta, la maison mère de Facebook, a démantelé ces derniers mois des réseaux de faux comptes, dont un à Cuba qui travaillait à créer de fausses identités pour publier sur Facebook des critiques envers les opposants au pouvoir cubain, a expliqué Ben Nimmo, responsable mondial du renseignement sur les menaces au sein de l'entreprise, lors d'une vidéoconférence avec l'AFP.

Certains de ces comptes utilisaient des photos de profil probablement générées à l'aide d'intelligence artificielle : des photos de personnes qui n'existent pas, une tactique de plus en plus utilisée, selon M. Nimmo.

M. Mosqueira estime qu'avec l'essor des technologies, il devient de plus en plus facile de programmer des avatars qui se font passer pour de vraies personnes sur les réseaux et lancent les messages que l'on veut faire passer.

Il met les gens en garde contre les puissantes répercussions des hypertrucages, même lorsqu'il est prouvé qu'ils sont faux. C'est la célèbre phrase attribuée à Joseph Goebbels (haut dirigeant nazi, responsable de la propagande, ndlr): un mensonge correctement répété 1 000 fois devient la vérité.