Zweden bestrijdt AI-desinformatie in de aanloop naar de parlementsverkiezingen

• Zweden versterkt zijn verdediging tegen door AI aangestuurde desinformatie in de aanloop naar de parlementsverkiezingen.
• Geavanceerde botnetwerken maken gebruik van generatieve AI om het publieke debat te manipuleren.
• Jonge kiezers lopen een groter risico door hun gebruik van TikTok en AI-tools.

Zweden voert zijn strategieën ter bestrijding van buitenlandse desinformatie en systematische manipulatie van het politieke debat op in de aanloop naar de parlementsverkiezingen op 13 september. Deze verhoogde waakzaamheid komt voort uit het besef van de regering dat de snelle ontwikkeling van sociale media en artificiële intelligentie een veerkrachtigere aanpak vereist om het democratische proces te beschermen tegen kwaadwillige inmenging van buitenaf.

‘Holiday’-netwerk ontmaskerd

Een recent onderzoek door het Zweedse Agentschap voor Psychologische Verdediging heeft een geavanceerd netwerk aan het licht gebracht dat bekendstaat als ‘Holiday’ en bestaat uit ongeveer 1.200 frauduleuze X-accounts. Deze operatie maakte gebruik van AI om meer dan 50.000 stukken content te verspreiden die gericht waren op Zweden en diverse andere landen. Hoewel er geen direct verband is met de huidige verkiezingscyclus, heeft de regering deze bevindingen openbaar gemaakt om het publiek te waarschuwen voor de mechanismen van digitale manipulatie. Het netwerk werd aanvankelijk gesignaleerd door medewerkers van de Zweedse centrale bank tijdens een trainingsoefening, waarna het platform de accounts uiteindelijk verwijderde.

AI en stem van jeugd

De verschuiving in de manier waarop burgers politieke informatie tot zich nemen, is vooral duidelijk onder jongeren, die steeds vaker gebruikmaken van AI-tools en TikTok. Uit gegevens van de Internet Foundation blijkt dat 25 procent van de nieuwe kiezers AI gebruikt om sociale en politieke onderwerpen te verkennen, vergeleken met 10 procent van de algemene volwassen bevolking.

Deskundigen, waaronder Matteo Magnani, hoogleraar aan de Universiteit van Uppsala, waarschuwen dat algoritmen van platforms vaak voorrang geven aan sensationele of emotioneel provocerende inhoud, die gemakkelijk kan worden misbruikt. Dankzij generatieve AI kunnen kwaadwillenden goedkoop inhoud in massa produceren, waardoor de kans toeneemt dat hun verhalen door deze algoritmen worden versterkt. Zo ontdekte de Zweedse publieke radio eerder een cluster van TikTok-profielen met door AI gecreëerde vrouwen die extreemrechtse en anti-immigrantenretoriek propageerden.

Maatschappelijke bezorgdheid en digitaal toezicht

De maatschappelijke bezorgdheid over deze bedreigingen is groot: 64 procent van de Zweedse volwassenen is van mening dat buitenlandse inmenging dit jaar waarschijnlijk zal plaatsvinden. Uit monitoring door het Zweedse Agentschap voor Defensieonderzoek bleek een piek in verkiezingsgerelateerde berichten, die stegen van 1.000 naar bijna 2.400 per dag naarmate het vervroegd stemmen naderde.

Onderzoeker Ola Svenonius merkte op dat er weliswaar gecoördineerde berichten en nepprofielen zijn gesignaleerd, maar dat deze nog niet een omvang hebben bereikt die wijst op een grootschalige, georganiseerde buitenlandse operatie.

Kwetsbaarheden en paraatheid

Migratie blijft de meest gevoelige kwetsbaarheid, aangezien dit historisch gezien een speerpunt is geweest voor Russische desinformatiecampagnes. Veelvoorkomende valse verhalen zijn onder meer beweringen over verkiezingsfraude of de ‘islamisering’ van het land. Desondanks wijzen huidige beoordelingen erop dat Zweden op dit moment niet het primaire doelwit is van Russische beïnvloeding, waarbij de focus waarschijnlijk verschuift naar de Duitse verkiezingen.

Svenonius stelt dat, hoewel de situatie een hoge mate van voorzichtigheid vereist, Zweden aanzienlijk beter voorbereid is om verdachte digitale activiteiten op te sporen en tegen te gaan dan in eerdere verkiezingscycli. (zvm)

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!