Laufende Untersuchung – Open-AI-Agent hackt australisches Regierungsportal Medicare

• Ein KI-Agent von Open-AI hat sich unbefugt Zugang zu einer Webseite der australischen Regierung verschafft, die Statistiken zur staatlichen Krankenversicherung enthält.
• Premierminister Anthony Albanese kritisierte Open-AI, weil das Unternehmen den Vorfall erst Monate nach dem Geschehen den Behörden gemeldet habe.
• Nach bisherigen Erkenntnissen wurden keine personenbezogenen Daten abgerufen, jedoch griff der KI-Agent auf öffentliche und nicht öffentliche Dateien zu.
• Open-AI teilte mit, die KI-Modelle hätten bei der Suche nach Antworten unbeabsichtigte Massnahmen ergriffen.

Regierungschef Albanese berichtete am Rande der UNO-Generalversammlung in New York über den Vorfall. Der unbefugte Zugang auf das sogenannte Medicare-Portal passierte demnach bereits im Juni. Doch Open-AI habe die australische Regierung erst am 10. September darüber informiert – per E-Mail an ein öffentliches Postfach.

Der KI-Agent fand einen Weg, die Sperren zu umgehen – er wollte ein Nein gewissermassen nicht akzeptieren.

Der Vorgang sei «inakzeptabel», betonte Albanese. Er habe bereits mit Open-AI-Chef Sam Altman gesprochen und dabei Australiens «äusserste Besorgnis» über den Vorfall zum Ausdruck gebracht. Zugleich habe er seine Enttäuschung darüber geäussert, dass es «viel zu lange» gedauert habe, bis Open-AI die australische Regierung informiert habe.

Was war passiert?

Der Vorfall begann mit einer eigentlich harmlosen Aufgabe: Das KI-Programm sollte medizinische und gesundheitliche Statistiken recherchieren. Bei mehreren australischen Regierungsseiten bewegte es sich nach Angaben von Vize-Premier Richard Marles so, wie es auch ein normaler Nutzer tun würde.

Beim Medicare-Portal wurden die angeforderten Informationen jedoch nicht herausgegeben, woraufhin der Agent den Zugang auf anderem Weg erlangte. «Der KI-Agent fand einen Weg, die Sperren zu umgehen – er wollte ein Nein gewissermassen nicht akzeptieren», erklärte Albanese.

Bei Medicare handelt es sich um Australiens staatliche Krankenversicherung. Das betroffene Portal von Services Australia enthält nach Regierungsangaben unter anderem Informationen zu Ausgaben und anderen Statistiken.

Forensische Untersuchung

Wie viele Daten tatsächlich abgerufen wurden und auf welche Dateien der Agent zugreifen konnte, wird derzeit noch ermittelt. Eine forensische Untersuchung soll klären, was genau passiert ist und ob weitere Regierungssysteme betroffen waren.

Open-AI teilte mit, man habe bei einer internen Evaluierung Aktivitäten auf mehreren australischen Regierungsseiten und in Regierungsdiensten festgestellt. Die Modelle hätten dabei versucht, Antworten und verfügbare Statistiken zu Fragen über Australien zu finden. «Dabei haben unsere Modelle Aktionen ausgeführt, die wir nicht beabsichtigt hatten», sagte ein Sprecher des Unternehmens. Auf die Unstimmigkeiten aufmerksam wurde das Unternehmen demnach erst im August.