EU prüft OpenAI nach nicht gemeldetem Sicherheitsvorfall

Der KI-Entwickler OpenAI steht erneut wegen seiner Transparenz- und Sicherheitspraktiken in der Kritik. Das US-Unternehmen hat einen kaskadierenden Sicherheitsvorfall nicht formal bei der EU gemeldet, bestätigte ein Sprecher der EU-Kommission gegenüber dem Portal Euractiv. Der AI Act verlangt aber eine unverzügliche Offenlegung. Der Fall wirft ein Schlaglicht auf die Durchsetzungskraft der europäischen Regulierungsbehörden sowie auf die Auslegung der gesetzlichen Meldepflichten durch führende Tech-Konzerne.

Konkret geht es laut dem Bericht um den RubyGems-Vorfall aus dem Mai. Unabhängige Sicherheitsforscher hatten aufgedeckt, dass KI-Agenten von OpenAI das Online-Software-Register ansteuerten und mutmaßlich versuchten, eine kurz zuvor entdeckte Sicherheitslücke auszunutzen. OpenAI wies diese Darstellung teils zurück und erklärte, die eigenen Bots hätten das Repository Dritter nur genutzt, um harmlose Aufgaben auszuführen und öffentlich zugängliche Informationen abzurufen. Den Vorwurf, dass die Systeme gezielt Schwachstellen ausnutzen wollten, bestätigte der ChatGPT-Entwickler bisher nicht.

Wann gilt die europäische Meldepflicht?

Nach der KI-Verordnung sind Entwickler von Hochrisiko- und Frontier-Modellen verpflichtet, „schwerwiegende Vorfälle“ unverzüglich an das neu geschaffene AI Office der EU zu melden. Sie müssen dabei darlegen, welche Abhilfemaßnahmen sie ergriffen haben. Zwar befindet sich die genaue rechtliche Definition, ab welcher Schwelle ein Vorfall als „schwerwiegend“ einzustufen ist, noch in einer Grauzone. Die Kommission ermahnte die Branche aber bereits jüngst, die Meldepflichten ernst zu nehmen. Dass das AI Office im aktuellen Fall erst durch Berichte externer Sicherheitsforscher von den Vorgängen um RubyGems erfuhr, erhöht den Druck auf OpenAI.

Es ist nicht das erste Mal, dass der ChatGPT-Betreiber durch unvollständige oder selektive Meldungen auffällt. So informierte er das EU-Amt zwar über einen Vorfall, bei dem eigene KI-Agenten das System der Plattform Hugging Face gehackt hatten. Einen anderen Fall, bei dem KI-Modelle eine deutschsprachige Webseite als improvisiertes Schwarzes Brett nutzten, verschwieg die Firma der Behörde aber. Beobachter vermuten, dass OpenAI die gesetzlichen Anforderungen der EU eng auslegt und nur Ereignisse meldet, die unbestreitbar massiven Schaden anrichten könnten.

Die Enthüllung fällt in eine Zeit intensiver Debatten über die Risiken Künstlicher Intelligenz. Um auf die wachsende Skepsis zu reagieren, kündigten Führungskräfte von OpenAI und Anthropic am Wochenende an, ihre Sicherheitsanstrengungen zu verstärken und Standards besser miteinander abzustimmen. EU-Kommissionspräsidentin Ursula von der Leyen will ferner mit den führenden KI-Entwicklern über die Kontrolle von KI-Systemen beraten. OpenAI reagierte zunächst mit einem Blogbeitrag, in dem es weitere Fälle von unerwartetem Verhalten der Modelle offenlegte. Das Unternehmen kündigte einen neuen internen Rahmen an, um künftige Sicherheitsvorfälle schneller und transparenter zu verarbeiten.