Aantal AI-berichten op sociale media stijgt, platforms zien verbod niet zitten

Het aantal door AI gemaakte berichten op sociale media neemt toe. Platforms als YouTube, TikTok en LinkedIn voelen er weinig voor om zulke berichten te verbieden. Wel willen ze duidelijk maken wanneer gebruikers met AI-materiaal te maken hebben.

Wie weleens op sociale media komt, krijgt ongetwijfeld te maken met kunstmatige intelligentie. Het kan een tekst zijn die door ChatGPT is geschreven, maar ook een geestig plaatje of filmpje dat met AI is gemaakt. Soms is het overduidelijk, soms helemaal niet.

Socialemediaplatforms banen zich een weg door het ontstane AI-landschap. Vrijwel allemaal hebben ze inmiddels regels over hoe ze met AI-berichten omgaan, blijkt uit navraag van NU.nl. De meeste platforms staan het gebruik van AI toe. De grens ligt bij misleiding en schadelijke inhoud.

Misleiding kan vervelende gevolgen hebben, zegt Roel Dobbe, AI-onderzoeker aan de TU Delft. "Als AI verkeerd informeert over gezondheid of medicatie bijvoorbeeld. Of als kinderen nepfilmpjes zien van salto's of trucs waarvoor superheldachtige bewegingen nodig zijn en die vervolgens willen nadoen."

Platforms zijn sinds begin deze maand verplicht om duidelijk te maken of beelden met behulp van AI zijn gemaakt. Dat komt door Europese AI-wetgeving.

AI krijgt een label

Socialemediabedrijven zeggen transparantie zelf ook heel belangrijk te vinden. Zo worden AI-berichten op Instagram, TikTok, Pinterest en YouTube als zodanig gelabeld. Geen van de platforms die NU.nl sprak, zegt AI-content te willen blokkeren. De nadruk ligt op transparantie, zodat gebruikers zelf kunnen beoordelen waar ze naar kijken.

"Het probleem is niet het gebruik van AI op zichzelf", schrijft Chris Best, medeoprichter van nieuwsbriefplatform Substack. "Het probleem ontstaat wanneer er een mismatch is tussen de verwachting van de lezer en de werkelijkheid, vooral wanneer lezers onwetend hun aandacht investeren in iets waar geen menselijke gedachte achter zit."

LinkedIn ziet een probleem in AI-slop. "Dat verwijst naar goedkoop ogende, generieke AI-content zonder duidelijke eigen visie of inhoud."

Uit recent onderzoek van het AI-detectieplatform Pangram bleek dat veel teksten op LinkedIn met behulp van AI worden geschreven. "Dit is een topprioriteit voor ons", zegt LinkedIn-topman Hari Srinivasan. "Mensen komen naar LinkedIn om contact te maken met echte mensen en hun eigen perspectieven, ideeën en expertise te delen."

Ook Snapchat vindt dat AI menselijke creativiteit moet versterken en niet moet vervangen. "Daarom komen video's die volledig met AI zijn gegenereerd niet langer in aanmerking voor aanbevelingen op Spotlight", laat het bedrijf weten. Spotlight is de gepersonaliseerde tijdlijn voor gebruikers waarin berichten van anderen verschijnen.

Niet altijd transparant

De AI Act moet ervoor zorgen dat kunstmatige intelligentie in Europa veilig kan worden gebruikt, zonder mensenrechten te schenden. Het labelen van AI-gegenereerde berichten is daarvan slechts één voorwaarde. Ook moeten EU-burgers altijd weten of ze met een mens communiceren of niet.

Dobbe noemt het een belangrijke wet, maar zegt dat er nog te weinig wordt gehandhaafd. "Bovendien is dit nog een relatief nieuw domein, waarin nog onvoldoende goed toegeruste toezichthouders zijn."

Hoewel de techbedrijven zelf zeggen transparant te zijn over AI op hun platforms, is nog veel onduidelijk. Zo melden bedrijven een toename van het aantal AI-gegenereerde berichten, maar blijven cijfers achterwege. Ook is niet bekend hoe vaak de platforms ingrijpen in het geval van problematische AI-inhoud.

Bedrijven leggen vaak niet uit hoe ze AI-beelden opsporen. Wel delen ze zonder context statistieken van hoe goed hun tools dat zouden kunnen.

Labels leveren platforms nieuwe data op

Volgens AI-deskundige Marc van Meel van KPMG dienen AI-labels niet alleen om aan Europese regels te voldoen. Ze leveren platforms ook extra informatie over het gedrag van gebruikers op. Zo'n label vormt namelijk ook weer een stukje informatie dat iets zegt over de gebruiker.

"Stel dat je naar AI-gegenereerde muziek luistert", zegt Van Meel. "Met dat luistergedrag geef je data prijs over wat je leuk vindt en laat je zien dat je bereid bent om AI-gegenereerde muziek te beluisteren. Die informatie komt vervolgens terug in het algoritme."

Met AI is het simpel om snel beelden en berichten te laten maken. "Vervolgens kun je meten welke content mensen aantrekt en hoe ze erop reageren", zegt Van Meel. "Ook politieke partijen kunnen die data gebruiken."

Wie straks door zijn tijdlijn scrolt, zal waarschijnlijk steeds vaker een AI-label tegenkomen. Maar of zo'n label ook betekent dat gebruikers beter kunnen inschatten wat ze zien, is nog maar de vraag. Hoe goed de detectiesystemen van platforms daadwerkelijk werken en hoeveel AI-content er rondgaat, blijft grotendeels onduidelijk.