Meta krijgt opdracht om deepfakes te verwijderen en AI-beveiliging te verbeteren

• Meta moet AI-deepfakes verwijderen en zijn gebrekkige beveiligingssystemen grondig herzien.
• De Oversight Board eiste strengere sancties voor accounts die misleidende synthetische media verspreiden.
• Algoritmische aanpassingen moeten gemanipuleerde inhoud lager prioriteren om de virale verspreiding ervan te beperken.

Meta moet twee AI-gegenereerde deepfakevideo’s van Facebook verwijderen. Dat heeft de eigen Oversight Board van het technologiebedrijf beslist. Het onafhankelijke orgaan bekritiseert Meta bovendien omdat de bestaande maatregelen tegen misleidende AI-inhoud onvoldoende bescherming bieden. De twee video’s toonden een Britse Labour-politicus en een jonge moslimvrouw in situaties die nooit hadden plaatsgevonden. Dat meldt The Guardian.

Zaak van de politieke vervalsing

Een van de video’s toonde een Schots Labour-raadslid dat zogenaamd provocerende uitspraken deed over vluchtelingen. De video vertoonde volgens de Oversight Board duidelijke tekenen van AI-manipulatie. Zo liepen de audio en de bewegingen van de lippen niet volledig synchroon.

Meta had de video aanvankelijk niet verwijderd en ook geen AI-label toegevoegd. De Oversight Board oordeelde dat de video wel degelijk in strijd was met de regels van Meta rond haatdragende inhoud. De beelden koppelden vluchtelingen als groep aan crimineel en seksueel roofzuchtig gedrag. Volgens de Board had Meta de video daarom moeten verwijderen en van een ‘high risk AI’-label moeten voorzien.

Vrouwen als doelwit via AI

Een tweede uitspraak ging over een AI-gemanipuleerde video van een jonge moslimvrouw in Europa. Zij zet zich in voor betere voorlichting over menstruatiegezondheid. In de video leek ze absurd te sporten en ongezond voedsel te eten.

De beelden waren volgens de Board onderdeel van een bredere reeks AI-gemanipuleerde video’s en foto’s die de vrouw belachelijk maakten. Sommige beelden kregen tientallen miljoenen views, onder meer op platforms van Meta. De Board oordeelde dat de video in strijd was met het beleid tegen pesten en intimidatie en beval de verwijdering ervan.

De Board waarschuwt daarnaast voor een breder patroon. Volgens het orgaan worden vrouwen die zich publiekelijk uitspreken steeds vaker het doelwit van AI-gemanipuleerde beelden en desinformatie.

Oproep tot een systematische hervorming

De Oversight Board omschrijft de bestaande beschermingsmaatregelen van Meta tegen deepfakes als ‘consistent en fundamenteel ontoereikend’. De Board deed daarom in de twee zaken samen twaalf beleidsaanbevelingen.

In de eerste zaak stelde de Board negen wijzigingen voor. Die omvatten onder meer een bredere toepassing van ‘high risk AI’-labels, strengere sancties voor accounts die herhaaldelijk misleidende AI-inhoud verspreiden en meer transparantie over het gebruik van AI-labels.

Voorgestelde algoritmische wijzigingen

De Board wil daarnaast dat Meta zijn algoritmen aanpast. Gelabelde ‘high risk’-inhoud moet volgens de aanbeveling lager in de feeds van gebruikers verschijnen. Daardoor moet de verspreiding van misleidende AI-content afnemen.

Ook stelde de Board voor om een waarschuwingsscherm te tonen voordat gebruikers bepaalde AI-gegenereerde inhoud kunnen bekijken. Daarnaast moet Meta volgens de aanbevelingen de definitie van ‘ongewenste gemanipuleerde beelden’ uitbreiden. Zo zouden ook deepfakes van privépersonen die ten onrechte woorden of handelingen krijgen toegeschreven, beter onder de regels vallen.(zvm)

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!