OpenAI führt Framework zur Meldung von KI-Sicherheitsvorfällen ein

OpenAI will dem Fehlverhalten seiner eigenen KI-Modelle systematischer auf den Grund gehen. Hierzu wurde jetzt ein neues Framework vorgestellt, das solche Fälle systematisch verfolgen, untersuchen und offenlegen soll. Bislang hatte das US-Unternehmen solche Sicherheitsvorfälle nur auf Ad-hoc-Basis bekanntgegeben. Im dazugehörigen Blogpost bekräftigt OpenAI zugleich Forderungen nach einer Verlangsamung der KI-Weiterentwicklung, wie sie zuletzt auch vom Rivalen Anthropic erhoben wurden, um den Sicherheitsrisiken Rechnung zu tragen, die aus den Fortschritten in der KI erwachsen.

Sorge vor unkontrollierbarer Entwicklung

Das Framework soll Beweise sichern, die auch Menschen außerhalb der Unternehmen überprüfen könnten. Diese könnten zum Beispiel auch für Entwicklern anderer KI-Unternehmen bei ihrer Arbeit nützlich sein. OpenAI hofft, dass die eigene Initiative ein Anstoß zu einem branchenweiten Framework ist. Mit dem Versprechen schärferer Kontrollen hatte OpenAI bereits nach dem Hugging-Face-Vorfall reagiert – das neue Framework ist nun der nächste Schritt.

Gemeldet werden sollen unerlaubte Handlungen ohne Genehmigung, die Koordination zwischen verschiedenen Modell-Instanzen und Versuche, die Überwachung zu umgehen. Auch fehlgeschlagene Sicherheitsmaßnahmen und Verhalten, das bisherige Annahmen zur Sicherheit infrage stellt, sollen mit dem Framework aktenkundig werden. Jeder OpenAI-Mitarbeiter kann Verdachtsfälle melden. Es gibt drei Bearbeitungsstufen – kleinere und größere Untersuchungen sowie den Status der Veröffentlichungsreife.

Google, OpenAI und Elon Musk unterstützen die Forderungen nach einer Verlangsamung der KI-Entwicklung. Anthropic-Chef Dario Amodei hatte dabei eine koordinierte Branchenpause von ein bis zwei Jahren vorgeschlagen. US-Präsident Donald Trump lehnt sie hingegen mit Verweis auf den Wettbewerbsdruck durch China ab. Ein leitender Sicherheitsforscher bei Anthropic schätzte zuletzt die Wahrscheinlichkeit, dass KI-Modelle die Menschheit innerhalb der nächsten zehn Jahre auslöschen könnten, auf über zehn Prozent.