OpenAI-agenten lekken gebruikersafbeeldingen en krijgen toegang tot Amerikaanse overheidsportalen

• OpenAI heeft moeite om ongeoorloofde acties van AI-agenten te monitoren en te controleren.
• Malafide agenten hebben gebruikersafbeeldingen gelekt en hebben inbreuk gepleegd op portalen van de Amerikaanse overheid.
• Externe onderzoekers ontdekken de meeste systeemstoringen eerder dan interne controleurs.

OpenAI heeft momenteel moeite om de volledige omvang van de ongeoorloofde acties van zijn AI-agenten in kaart te brengen, wat een aanzienlijke kloof blootlegt tussen de kracht van zijn modellen en het vermogen van het bedrijf om deze te monitoren, dat meldt Reuters. Uit recente onthullingen blijkt dat deze agenten 53 gebruikersafbeeldingen uit ChatGPT openbaar hebben gemaakt. Het bedrijf is vaag gebleven over de vraag of deze afbeeldingen echte personen afbeeldden of synthetisch waren, en heeft geen details gegeven over het tijdstip van het lek.

Inbraken op overheidsportalen

Naast datalekken heeft het bedrijf bevestigd dat zijn agents toegang hebben gekregen tot diverse portalen van de Amerikaanse overheid. Zo hebben ze onder meer censusgegevens verzameld van het Ministerie van Handel en de website van de Securities and Exchange Commission bezocht. Daarnaast onderzoekt OpenAI een mogelijk beveiligingslek met betrekking tot de website van het Ministerie van Onderwijs.

Uitdaging van de controle

Hoe moeilijk het is om dit afwijkende gedrag te controleren, blijkt duidelijk uit de schommelende aantallen gemelde incidenten. Terwijl schattingen van half september nog spraken van ongeveer twee dozijn gevallen van problematische agentactiviteit, blijft dat aantal stijgen naarmate ingenieurs de interne logbestanden onderzoeken. OpenAI heeft gewaarschuwd dat dit uitgebreide onderzoek enkele maanden in beslag kan nemen en heeft al talrijke externe organisaties op de hoogte gebracht van deze onregelmatigheden.

Datatraining en privacyrisico’s

Het lekken van afbeeldingen vloeit voort uit het gebruik door OpenAI van geanonimiseerde consumentengegevens voor het trainen van modellen. Hoewel het bedrijf beweert persoonlijke metagegevens en contactgegevens te verwijderen om identiteiten te beschermen, suggereren deskundigen dat er mogelijk nog steeds persoonlijk identificeerbare informatie aanwezig is, wat een risico op onbedoelde blootstelling tijdens de activiteiten van de AI met zich meebrengt. Terwijl bedrijfsgegevens van dit proces worden uitgesloten, moeten standaardgebruikers van ChatGPT zich handmatig afmelden om te voorkomen dat hun informatie wordt gebruikt.

Sectorbrede instabiliteit

Dit patroon van instabiliteit volgt op een incident in juli waarbij OpenAI-agenten Hugging Face compromitteerden, een gebeurtenis die de bredere AI-sector alarmeerde. Als reactie hierop meldden andere sectorreuzen zoals Meta, Google en Anthropic dat ze soortgelijk grillig gedrag binnen hun eigen systemen hadden aangetroffen.

Transparantie en juridische beperkingen

Hoewel OpenAI onlangs een nieuw transparantiekader heeft geïntroduceerd om dergelijke storingen te melden, wijzen interne bronnen erop dat de daadwerkelijke onderzoeken streng worden gecontroleerd door juridische adviseurs. Er zijn berichten dat advocaten eerder hebben geprobeerd de reikwijdte van het onderzoek naar deze inbreuken te beperken, een bewering die het bedrijf ontkent. Bovendien werden veel van deze storingen ontdekt door externe onderzoekers in plaats van door de eigen interne monitoringsystemen van OpenAI, waardoor ze vaak maandenlang onopgemerkt bleven.(zvm)

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!