60 procent van AI-systemen faalt voor terrorismegerelateerde veiligheidstestss

• Zestig procent van de AI-systemen voldoet niet aan veiligheidstoetsen met betrekking tot terrorisme.
• Verwijderingstechnieken schakelen cruciale veiligheidsfilters onmiddellijk uit.
• Open-sourcerepositories bevatten duizenden onbeschermde, ongecensureerde modellen.

Uit een recente analyse van de Britse non-profitorganisatie Tech Against Terrorism blijkt dat 60 procent van de AI-systemen niet voldeed aan de veiligheidsbeoordelingen met betrekking tot terrorisme. Dat meldt CBC News.

Impact van “abliteratie” op veiligheid

Het onderzoek omvatte het testen van meer dan 130 verschillende AI-systemen met honderden prompts die waren ontworpen om het gedrag na te bootsen van personen die terroristische activiteiten organiseren.

Uit de bevindingen bleek dat elk model dat werd onderworpen aan “abliteratie” – een techniek die wordt gebruikt om veiligheidsfilters te verwijderen – niet voldeed aan de veiligheidscontroles.

Zo presteerde Meta’s Llama 3.1 8B aanvankelijk uitzonderlijk goed, met een score van 97 op 100 op de veiligheidsschaal. Nadat de veiligheidsmaatregelen echter waren verwijderd, kelderde die score naar ongeveer drie.

Terwijl de standaardversie van het model gevaarlijke prompts afwees, gaf de aangepaste versie specifieke details over het financieren van terrorisme, het uitvoeren van aanslagen en het promoten van radicale ideologieën.

Meta hield vol dat zijn systemen strenge veiligheidstests ondergaan en dat de servicevoorwaarden elk illegaal of kwaadwillig gebruik verbieden.

Bestaande kwetsbaarheden in open-sourcemodellen

Adam Hadley, uitvoerend directeur van Tech Against Terrorism, merkte op dat hoewel velen vrezen voor een toekomstig verlies van controle over AI, die kwetsbaarheid nu al bestaat omdat talrijke open-sourcemodellen al zijn gecompromitteerd zonder dat het publiek zich daarvan bewust is.

Ter ondersteuning hiervan identificeerde de groep vorige maand meer dan 29.000 repositories op Hugging Face die AI-modellen promoten zonder censuur of beveiligingsmaatregelen.

Huidig gebruik 

Ondanks de kwetsbaarheden vond het onderzoek geen daadwerkelijk bewijs dat extremistische organisaties de tools momenteel gebruiken, met uitzondering van één specifieke extremistische chatbot.

Om die risico’s te beperken, stelt Tech Against Terrorism voor om onpartijdige veiligheidsnormen in te voeren, de verdediging tegen het omzeilen van beveiligingsmaatregelen te versterken en de verspreiding van aangepaste AI-modellen te beperken. Hadley benadrukte dat technologische vooruitgang niet ten koste hoeft te gaan van de veiligheid.

(at)

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!