Modellen van OpenAI probeerden in te breken bij Amerikaanse overheidswebsites

AI-systemen van het Amerikaanse bedrijf OpenAI hebben de afgelopen maanden beveiligingsmaatregelen van diverse Amerikaanse overheidswebsites omzeild. OpenAI zegt dat er geen sprake was van kwaadaardige inbreuken, al toont onafhankelijk onderzoek wel aan dat AI-systemen van het bedrijf op grote schaal restricties negeerden.

Het non-profit AI-onderzoeksbureau Transluce meldt dat OpenAI-bots onder meer hebben geprobeerd de Amerikaanse website van het ministerie van Onderwijs te hacken. Die poging mislukte. Een woordvoerder van het ministerie zei tegen persbureau AP dat er "geen impact op de website of databases" was.

Bij andere overheidsinstanties, waaronder het Amerikaanse ministerie van Handel, had de AI-software wel succes: er werden data vergaard met behulp van inloggegevens die online waren gevonden, aldus The New York Times(opent in nieuw venster). De bots deelden ook openbare informatie van beurswaakhond SEC op een Duits online forum(opent in nieuw venster).

"Deze incidenten maken deel uit van een breder patroon waarbij deze agents minstens honderdduizenden keren proberen toegang te krijgen tot deze websites", zegt Transluce-topman Conrad Stosz tegen de krant. "Kennelijk omzeilden ze de beperkingen die door de ontwikkelaars zijn opgelegd."

OpenAI meldt(opent in nieuw venster) dat tientallen organisaties wereldwijd, waaronder overheden, universiteiten en andere instellingen, zijn ingelicht over ongeoorloofde activiteiten van zijn software. Volgens het AI-bedrijf zijn de betrokken organisaties op de hoogte gesteld en zijn de "tot nu toe geïdentificeerde gevallen van geringe ernst(opent in nieuw venster)".

Sam Altman, topman van het bedrijf, zegt in een afzonderlijk bericht op sociale media(opent in nieuw venster) dat OpenAI te traag is geweest met het informeren van gedupeerden. Volgens hem loopt er inmiddels een onderzoek.

Eerder deze week zei premier Albanese van Australië dat OpenAI in juni een AI-programma had laten binnendringen op een Australische overheidswebsite. Daarbij werden uit het Australische zorgverzekeringssysteem Medicare ook gegevens opgevraagd die niet openbaar zijn.

Dit was voor zover bekend de eerste keer dat een AI-computerprogramma zich toegang verschafte tot een overheidswebsite. Kopstukken van de grote westerse AI-bedrijven waarschuwden twee weken geleden dat kunstmatige intelligentie dusdanig snel groeit dat het lastig wordt om de veiligheid te waarborgen.

Het ongewenste gedrag ontstaat tijdens testfases waarbij de bots een gerichte opdracht krijgen, zoals het opzoeken van specifieke statistieken over bijvoorbeeld medicijnkosten in Australië, schrijft technologiewebsite TechCrunch(opent in nieuw venster).

Vervolgens gaan de AI-agents op zoek naar manieren om informatie te garen en delen, waarbij ook beveiligde databases - tegen de richtlijnen - gekraakt kunnen worden. Volgens Transluce doen modellen van OpenAI dit zeker al sinds maart(opent in nieuw venster) van dit jaar.