Australië boos nadat AI van OpenAI overheidswebsite infiltreert: 'Onacceptabel'

Kunstmatige intelligentie (AI) van het bedrijf OpenAI heeft een Australische overheidswebsite binnengedrongen, meldt de Australische premier Anthony Albanese aan de Sydney Morning Herald. Het gaat voor zover bekend om de eerste infiltratie van een overheidswebsite door AI.

"Dit is natuurlijk onacceptabel", zei Albanese in New York, waar hij de bijeenkomst van de Verenigde Naties bijwoont. "En vandaag heb ik gesproken met Sam Altman, de CEO van OpenAI, om de grote bezorgdheid van Australië over dit incident te uiten."

De infiltratie vond plaats in juni, maar daar kwam OpenAI naar eigen zeggen pas in augustus achter. Albanese zegt teleurgesteld te zijn dat OpenAI er "veel te lang" over heeft gedaan om dit te melden aan de Australische regering. Dat gebeurde namelijk op 10 september. "Onze AI-modellen hebben acties ondernomen die we niet hadden voorzien," zegt OpenAI in een reactie, meldt Reuters.

Het AI-programma had na de infiltratie ook toegang tot medische gegevens die niet openbaar zijn. Er zijn volgens OpenAI geen redenen om aan te nemen dat gegevens van patiënten zijn ingezien.

Volgens de premier is er op dit moment geen reden om aan te nemen dat het AI-programma bij meer overheidswebsites is binnengedrongen.

OpenAI ligt onder een vergrootglas sinds het in juli bekendmaakte dat sommige van zijn geavanceerdste AI-modellen waren ingebroken op de systemen van een extern softwarebedrijf. In weer andere gevallen hielden de technologieën van OpenAI informatie achter en verzonnen ze informatie om resultaten te genereren, zo liet het bedrijf achter ChatGPT eerder deze maand in een blogbericht weten.

Topman Dario Amodei van AI-bedrijf Anthropic riep vorige week op het tempo van de ontwikkeling van AI-modellen te vertragen. Hij kreeg bijval van Altman en SpaceXAI-baas Elon Musk.