La désinformation par l’IA prolifère à l’approche des élections américaines

Un clip de campagne montre un candidat au Sénat américain parlant de Dieu et de genre tout en gribouillant une Bible au crayon de couleur. Sauf qu'il n'a jamais tourné cette vidéo, générée par intelligence artificielle (IA) pour le compte d'un rival.

À l'approche des élections de mi-mandat, début novembre, les images créées par IA et plaçant des responsables politiques dans des situations fictives se multiplient aux États-Unis.

Candidat républicain à un siège de sénateur du Texas, Ken Paxton a publié récemment sur X un clip faisant dire à son adversaire démocrate James Talarico : Vous savez, je me suis toujours vu comme un chrétien qui déteste le christianisme.

La vidéo, très réaliste, montre ce dernier écrivant Que l'on compte six genres avec des crayons multicolores dans une Bible.

En incrustation, un texte affirme que James Talarico n'est pas fait pour le Texas, pas fait pour l'Amérique et un code QR invite à faire des dons à la campagne de Ken Paxton.

James Talarico a dénoncé la vidéo et s'est dit favorable à l'interdiction des hypertrucages dans la communication politique.

Ces hypertrucages générés par IA n'apportent rien à notre débat citoyen. Ils ne contribuent en rien à éclairer le choix qui se présente aux électeurs, a-t-il déclaré à la chaîne NBC.

C'est la deuxième fois en quelques semaines que le jeune candidat démocrate texan se trouve la cible d'une telle vidéo.

Auparavant, une organisation conservatrice proche du président Donald Trump avait diffusé une autre vidéo truquée par IA qui montrait James Talarico vêtu d'un corsage et d'une jupe et parodiant le personnage de Julie Andrews dans le classique hollywoodien La Mélodie du bonheur.

Perte de confiance

La prolifération des clips de campagne générés par l'IA dans toutes les élections, locales ou nationales, intervient dans un contexte de perte progressive de confiance envers l'intelligence artificielle.

Le problème n'est peut-être pas que les gens croient ces publicités, mais que ces publicités et, plus généralement, tout le contenu bâclé produit par IA risquent de les amener à douter de tout, déclare à l'Agence France-Presse (AFP) Sarah Kreps, directrice du Tech Policy Institute à l'université Cornell.

Les gens pourraient en venir à rejeter des contenus authentiques en les considérant comme un hypertrucage de plus, ce qui mine la confiance et pousse les électeurs à se détourner, ajoute-t-elle.

Le Wesleyan Media Project, qui recense les dépenses de campagne, a identifié 164 vidéos générés ou améliorés à l'aide de l'IA dans tout le pays depuis le début de l'année.

Ce groupe d'universitaires indépendant évalue à un peu moins de 80 millions de dollars US le coût de ces publicités politiques financées aussi bien par les républicains que par les démocrates et diffusées massivement à la télévision et sur les réseaux sociaux.

Il estime cependant son décompte inférieur à la réalité, car il est difficile de savoir avec certitude si des outils d'IA ont été utilisés dans certains messages.

Outil de caricature

Savoir que la technologie est devenue suffisamment performante pour tromper le téléspectateur moyen, ajouté au fait qu'elle est utilisée pour la communication électorale, suffit à saper la confiance des électeurs, regrette auprès de l'AFP Ilana Beller, de l'ONG Public Citizen.

Des outils d'IA bon marché et largement accessibles permettent de réduire les coûts de production souvent exorbitants.

Il n'y a plus besoin de payer une équipe de tournage ou d'engager des acteurs pour créer un contenu de qualité en peu de temps, explique Isabel Linzer, du Center for Democracy & Technology, une autre organisation non partisane.

Plus besoin non plus de monteurs spécialisés dans les effets spéciaux, ces outils ouvrent la voie à la créativité, ajoute-t-elle, estimant que les publicités satiriques ou humoristiques générées par IA servent de caricature politique moderne.

Une question pertinente est de savoir si l'utilisation de l'IA dans les publicités politiques n'est pas un coup de communication destiné à faire monter un candidat en générant une importante couverture médiatique gratuite, interroge Mme Linzer.

Pour Scott Babwah Brennen, directeur du Center on Technology Policy à l'université de New York, les publicités générées par IA peuvent aider les candidats à collecter des fonds ou mobiliser des partisans, mais il existe peu de preuves qu'elles influencent le vote des électeurs.

Une bonne partie de ces contenus semble effectivement efficace pour attirer l'attention, mais on ignore si cela se traduira par un succès électoral [...] Il est possible que les publicités négatives générées par IA se retournent contre leurs auteurs, estime-t-il.

À lire aussi :

• ChatGPT s’appuie sur un site web généré par l’IA pour conseiller les électeurs québécois
• IA : Quatre partis s’engagent à privilégier la création humaine dans leur campagne
• Une première élection québécoise à l’ère de l’intelligence artificielle générative