Rapport de l’Université McGill | Un réseau d’hypertrucages comme « source de divisions politiques »

(Ottawa) Un réseau probablement basé hors du Canada utilise des hypertrucages pour diffuser des contenus « suscitant des divisions politiques » auprès des Canadiens, selon un nouveau rapport publié jeudi.

Publié à 18 h 33

Anja Karadeglija La Presse Canadienne

Le rapport du Centre pour les médias, la technologie et la démocratie de l’Université McGill indique que ce réseau utilise des hypertrucages représentant de véritables influenceurs. Il combine les visages de personnes réelles avec de faux mouvements des lèvres et des voix générées par l’IA.

« Nous ne savons pas à quoi sert ce réseau, mais ses opérateurs n’hésitent pas à usurper des visages et à diffuser de fausses informations visant à monter les Canadiens contre les États-Unis, contre leur propre gouvernement et les uns contre les autres », indique le rapport.

L’utilisation d’images de personnes réelles empêche probablement ces vidéos d’être signalées comme étant générées par l’IA, précise le rapport, qui note que TikTok n’a étiqueté que 4 % de ces vidéos comme étant générées par l’IA.

Il précise que bon nombre de ces vidéos portent sur la guerre commerciale entre les États-Unis et le Canada et que les vidéos les plus visionnées contiennent des informations erronées.

Parmi celles-ci figure une vidéo évoquant un ultimatum inexistant de 48 heures lancé par le président américain Donald Trump, qui affirme à tort que le premier ministre Mark Carney aurait réagi en annulant 8 milliards de contrats de défense américains.

« Cela ne s’est jamais produit, mais cette histoire a été relayée dans 161 vidéos sur 129 comptes et visionnée 5,1 millions de fois », indique le rapport.

Les personnes qui commentent ces vidéos ne semblent pas se rendre compte qu’il s’agit de fausses informations, seules 6,3 % d’entre elles affirmant que la vidéo est fausse ou qu’il s’agit de propagande.

« Les autres approuvent ou contestent le contenu de la vidéo, et une personne sur dix s’adresse au narrateur comme s’il s’agissait d’une personne réelle : pour le remercier, le féliciter ou lui demander de vérifier ses informations », précise le rapport.

Les vidéos n’adoptent pas une position cohérente sur la guerre commerciale. Le rapport indique que les comptes prennent parti pour les deux camps, « et les narrateurs changent également de nationalité, se présentant comme Canadiens dans certaines vidéos et comme Américains dans d’autres. Il en résulte que les Canadiens sont exposés à des affirmations inventées et trompeuses des deux côtés du débat commercial ».

Le réseau comprend près de 300 comptes TikTok et Instagram et a publié plus de 3201 vidéos qui ont été visionnées 22,1 millions de fois au cours des trois derniers mois.

Le rapport précise qu’on ne sait pas exactement qui se cache derrière ce réseau, mais qu’il est « presque certainement » géré en dehors de l’Amérique du Nord.

« Les heures de publication et d’enregistrement ne correspondent pas aux fuseaux horaires nord-américains, peut-on lire dans le document. L’activité diminue pendant la nuit en Asie de l’Est et du Sud-Est, et certains comptes sont configurés en chinois ou ont été créés en Chine, ce qui constitue le seul indice dont nous disposons quant à leur pays d’origine. »

Les motivations des responsables de ce réseau restent également floues.

Les comptes ne relaient pas les discours d’un gouvernement étranger et n’ont pas été monétisés, précise le rapport, ajoutant que le réseau pourrait être en train de se constituer un public en vue d’une utilisation ultérieure.

Il indique que le réseau pourrait également servir à tester un outil ou un service, ou qu’une personne pourrait rémunérer les responsables de cette opération pour influencer les Canadiens.