Des influenceurs victimes d’hypertrucages visant à polariser le débat Canada–États-Unis

Jasmin Laine a des centaines de milliers d'abonnés sur les réseaux sociaux. Mais une vidéo dans laquelle elle parle de la guerre douanière Canada–États-Unis contient des mots qu'elle assure n'avoir jamais prononcés.
Sur cette vidéo, publiée sur plusieurs comptes, il y a votre visage, votre voix, et ce qui ressemble à vous en train de parler de quelque chose que vous ne soutenez même pas en réalité
, a-t-elle déclaré à l'Agence France-Presse (AFP).
Selon le Centre pour les médias, la technologie et la démocratie (CMTD) de l'Université McGill, à Montréal, Jasmin Laine fait partie des plus de 200 créateurs de contenu dont l'image a été usurpée par un réseau utilisant l'intelligence artificielle (IA) afin de créer du contenu visant à enflammer le débat sur les tensions commerciales entre Ottawa et Washington.
Une étude publiée à la mi-novembre par le centre de recherche a recensé près de 300 comptes sur Instagram et TikTok détournant l'image de ces influenceurs dans une opération coordonnée.
Des milliers de vidéos ayant totalisé plus de 20 millions de vues ont été publiées par ce réseau, qui a ciblé aussi bien des créateurs de contenu spécialisés dans le mode de vie chrétien que des commentateurs politiques de tous bords.

Le Canada et les États-Unis entretiennent une relation tendue depuis le retour de Donald Trump à la Maison-Blanche, principalement sur la question des droits de douane.
Photo : La Presse canadienne / Adrian Wyld
Polariser
Depuis le début de la guerre sur les droits de douane lancée par le président américain Donald Trump contre le Canada l'an dernier, du contenu généré par l'IA vise régulièrement les Canadiens.
Mais selon les auteurs de l'étude, l'utilisation de l'image de vrais influenceurs a probablement permis aux vidéos créées par ce réseau d'échapper aux dispositifs des plateformes visant à détecter l'utilisation de l'IA.
Seulement 4 % des comptes observés ont ainsi déclenché l'avertissement de contenu synthétique de TikTok.
Ce réseau s'est aussi servi de l'IA pour écrire des scripts qu'il réutilisait sur d'autres comptes lorsqu'ils généraient beaucoup de vues.
Selon Aengus Bridgman, l'un des auteurs du rapport, le réseau semble trouver son origine hors du Canada. Un certain nombre de comptes utilisés sont enregistrés en Chine, et une grande part du contenu a été publiée à des heures correspondant à la mi-journée en Asie.
Rien ne permet d'indiquer que ce contenu a été monétisé. Mais que ces vidéos aient eu pour but de générer des profits ou d'orchestrer une campagne de propagande, l'idée était de polariser
, juge Aengus Bridgman.
Le débat s'est retrouvé réduit à des arguments très clivants
dans ces vidéos, abonde Jasmin Laine.
Le degré de véracité du contenu, diffusant souvent des contrevérités flagrantes, varie d'une vidéo à l'autre, tout comme le positionnement. Certaines vidéos pointaient en effet la responsabilité du Canada dans ce conflit commercial, d'autres celle de Washington.
Trop facile à faire
Les commentaires semblent montrer que la plupart des personnes ayant consulté ces vidéos n'avaient pas conscience qu'il s'agissait d’hypertrucages (deepfakes
).
Un aspect confirmé par Jasmin Laine – dont le contenu est plutôt conservateur et défavorable au gouvernement canadien de Mark Carney –, qui a été accusée d'avoir été payée pour tenir certains propos. Cela montre, selon elle, que ces personnes ne comprenaient pas que son image avait été usurpée.

Jasmin Laine publie régulièrement du contenu à saveur politique sur ses réseaux sociaux. On voit ici l'une de ses vidéos sur Instagram.
Photo : Instagram / Jasmin Laine
Sollicité par l'AFP, TikTok a affirmé avoir supprimé définitivement les comptes liés à ces vidéos, pour avoir enfreint leurs règles concernant les contenus jugés trompeurs.
Alors que les techniques évoluent, nous continuons de collaborer avec des chercheurs sur ce défi qui concerne l'ensemble du secteur et de renforcer nos technologies de modération
, a déclaré un porte-parole de la plateforme.
Aengus Bridgman indique que Meta a été un peu plus lente à retirer ces contenus problématiques. Contactée par l'AFP, la maison-mère d'Instagram n'avait pas répondu dans l'immédiat.
Influenceur canadien spécialisé dans l'immobilier, Ron Butler est l'une des autres victimes de ce réseau.
Il assure que cela n'est pas la première fois, et se dit ravi que le contenu ait été retiré rapidement, tout en se résignant à la présence de contenu généré par l'IA sur les réseaux.
On ne peut pas l'empêcher parce qu'il y a trop de gens capables de le faire. C'est trop facile à faire
, regrette-t-il.
À lire aussi :
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.