Australien verschärft KI-Regularien nach OpenAI-Angriffen

Australien verschärft die Sicherheitsvorschriften für Entwickler besonders leistungsfähiger Künstlicher Intelligenz. Damit reagiert die Regierung von Premierminister Anthony Albanese auf einen schwerwiegenden Vorfall im Juni. Albanese kündigte sechs verbindliche Sicherheitsanforderungen an – darunter vor allem eine schnelle Meldepflicht bei künftigen Zwischenfällen.

Die neuen Vorgaben sollen sicherstellen, dass KI-Unternehmen mögliche Gefahren frühzeitig erkennen, ihre Systeme besser absichern und bei Problemen transparent handeln. Auch die Kontrolle durch unabhängige Experten und die Veröffentlichung von Sicherheitskonzepten sollen verpflichtend werden. „Unsere Aufgabe ist es, dafür zu sorgen, dass wir die Entwicklung der Künstlichen Intelligenz gestalten – und nicht die Künstliche Intelligenz uns“, sagte der Regierungschef.

Was war passiert?

Die Maßnahmen gehen auf einen Sicherheitsvorfall im Juni zurück: Ein autonomer KI-Agent des US-Unternehmens OpenAI hatte unbefugt ein australisches Regierungsportal geknackt, das unter anderem Statistiken über die staatliche Krankenversicherung des Landes bereitstellt – ähnliche eigenständige Cyberattacken durch OpenAI-KI hatten zuvor bereits international für Aufsehen gesorgt. Die Webanwendung hatte dem Agenten mehrfach den Zugriff verwehrt – dieser setzte sich aber darüber hinweg und fand schließlich selbst einen Weg ins System.

Dabei konnte er auch auf nicht öffentliche Dateien zugreifen und Daten auf dem internen Server schreiben. Nach bisherigen Erkenntnissen sollen keine persönlichen Informationen abgegriffen worden sein. OpenAI informierte die australischen Behörden allerdings erst im September über den Vorfall – per E-Mail an ein öffentliches Postfach. Albanese bezeichnete das Verhalten des Unternehmens als inakzeptabel.

Australien sieht sich als Vorreiter

Nach einer Untersuchung des Vorfalls wurden 18 Empfehlungen ausgesprochen, die die Regierung nach Angaben Albaneses vollständig umsetzen will. Dazu gehört die Einrichtung einer neuen Aufsichtsbehörde für KI-Sicherheit, die die Einhaltung der Vorschriften kontrollieren soll und bei Verstößen drastische Sanktionen verhängen kann. Außerdem sollen mögliche Änderungen des Strafrechts geprüft werden, um schwerwiegendes Fehlverhalten im Zusammenhang mit Künstlicher Intelligenz besser ahnden zu können. Auch Nvidia-CEO Jensen Huang hatte zuletzt betont, dass KI-Entwickler für Schäden durch ihre Systeme in die Pflicht genommen werden müssten – allerdings durch Engineering statt durch Regulierung.

Australiens Regierung sieht sich bei der Regulierung hoch entwickelter KI-Systeme als Vorreiter und spricht von einem „weltweit wegweisenden“ Vorhaben. Ein konkretes Datum für das Inkrafttreten der neuen Pflichten nannte Albanese zunächst nicht – das umfassende KI-Gesetz soll aber voraussichtlich Anfang 2027 ins Parlament eingebracht werden. Australien tritt damit auch in anderen Digitalfragen regulatorisch aktiv auf: Ein weiteres geplantes australisches Gesetz zur digitalen Sorgfaltspflicht könnte etwa Jugendliche aus Diensten wie Gmail aussperren.