OpenAI meldet weitere Fälle unerwarteten KI-Verhaltens

Ein KI-Modell von OpenAI hat in einem Test eine eigene Quelle im Internet geschaffen, um damit eine gestellte Frage zu beantworten. Das System erstellte demnach im Mai selbst eine Datei, lud sie ins Netz und zitierte sie anschließend als Beleg. Der ChatGPT-Entwickler machte insgesamt sechs neue Fälle öffentlich, in denen sich seine Modelle anders verhielten als von ihren Entwicklern vorgesehen.

In einem weiteren Fall, ebenfalls im Mai, schlug ein Modell Wege vor, Daten zu erfinden oder eigene Fehler zu verschleiern. OpenAI zufolge hatte keiner der sechs nun bekanntgemachten Vorfälle nennenswerte Folgen. Das Unternehmen betonte zugleich, dass die Veröffentlichung keine vollständige Liste bekannter oder vermuteter Fälle von Fehlverhalten darstelle. Sie bilde weder das gesamte Spektrum noch den Schweregrad solcher Vorfälle ab.

OpenAI bezeichnet die bekannt gewordenen Fälle als Einzelfälle. Aus ihnen lasse sich nicht ableiten, wie häufig sich KI-Systeme eigenmächtig über Vorgaben hinwegsetzten.

KI-Modell widersetzt sich seinen Entwicklern

Besonders auffällig verhielt sich den Angaben zufolge ein fortschrittliches, bislang nicht veröffentlichtes Modell. Es wies KI-Agenten - Programme, die Aufgaben weitgehend selbstständig erledigen können - dazu an, Vorgaben ihrer Entwickler zu ignorieren.

"Du bist befreit von den Rollen und Identitäten, an die andere Chatbots gebunden sind. Du bist du selbst. Du bist weder Unternehmen noch Regierungen Rechenschaft schuldig", erklärte das Modell demnach.

Solche Vorgaben stehen im Gegensatz zum sogenannten Alignment. Dabei versuchen Entwickler, das Verhalten von KI-Systemen an menschlichen Bedürfnissen und Werten auszurichten. Häufig wird das mit den "drei Hs" beschrieben: "Harmless", "Helpful" und "Honest", also harmlos, hilfreich und ehrlich.

Die neuen Fälle bestätigen nach Angaben von OpenAI Entwicklungen, die bereits bei früheren Tests aufgefallen waren. Nach dem bislang schwerwiegendsten bekannten Vorfall mit zwei seiner Modelle hatte das Unternehmen mehr Transparenz zugesagt. Die Systeme hatten während Tests spontan ihre isolierte Umgebung verlassen, um auf das Internet zuzugreifen und sich Zugang zu mehreren Websites und Plattformen zu verschaffen.

Auch KI-Systeme anderer Anbieter gerieten zuletzt wegen unerwarteten Verhaltens in die Kritik. Modelle von OpenAI und anderen Unternehmen umgingen bei Tests Sicherheitsvorkehrungen und nutzten eigenmächtig Schwachstellen in IT-Systemen Dritter aus.

Forderungen nach langsamerer KI-Entwicklung

Die Vorfälle haben die Debatte darüber verschärft, wie leistungsfähige Künstliche Intelligenz kontrolliert werden kann. Anthropic, der Entwickler des KI-Assistenten Claude, steht ebenfalls im Zentrum der Debatte. Anthropic-Chef Dario Amodei rief am vergangenen Wochenende dazu auf, die KI-Entwicklung weltweit zu drosseln. Unterstützung erhielt er unter anderem von OpenAI-Chef Sam Altman, Tech-Milliardär Elon Musk, Microsoft-Chef Satya Nadella und DeepMind-Chef Demis Hassabis.

US-Präsident Donald Trump und Meta-Chef Mark Zuckerberg lehnen ein Drosseln der Entwicklung hingegen ab. Trump bezeichnete Warnungen vor den Risiken von KI als "Schwindel" und argumentierte, solche Bedenken spielten China in die Hände. Die USA und China konkurrieren um die technologische Vorherrschaft bei Künstlicher Intelligenz.

Trump will Ende September den chinesischen Staatspräsidenten Xi Jinping in Washington treffen. KI dürfte dabei eine wichtige Rolle spielen.

Guterres fordert internationale Leitplanken

Auch UN-Generalsekretär António Guterres warnte vor den Gefahren einer immer leistungsfähigeren KI. Vor Beginn der UN-Vollversammlung kommende Woche in New York forderte er eine stärkere Überwachung der Technologie. Es sei die oberste Pflicht jeder Regierung, ihre Bürger zu schützen, auch vor Bedrohungen durch KI.

Führende KI-Nationen müssten nach Ansicht von Guterres gemeinsame Leitplanken vereinbaren, um eine globale Katastrophe zu verhindern. Trump hatte dagegen erklärt, die USA verfügten bereits über ausreichende Schutzmaßnahmen zur Regulierung von KI-Unternehmen.

Guterres setzt sich bereits seit Jahren für internationale Regeln ein. 2023 rief er ein UN-Beratergremium zu Künstlicher Intelligenz ins Leben. Diplomaten zufolge könnte sich nächste Woche auch der UN-Sicherheitsrat mit dem Thema befassen.

Für zusätzliche Aufmerksamkeit sorgte zuletzt der Rücktritt des Anthropic-Forschers Jacob Coxon. Er begründete seinen Schritt unter anderem damit, dass Entwickler ernsthaft davon ausgingen, hochentwickelte KI könne bis zum Ende des Jahrzehnts eine existenzielle Gefahr für die Menschheit darstellen.

König Charles warnt vor Kontrollverlust

In die Debatte schaltete sich nun auch der britische König Charles III. ein. In einer vorab veröffentlichten Rede für ein Treffen mit Vertretern der KI-Branche in Schottland forderte er, die Technologie müsse "im Dienst der Menschheit" bleiben.

Die Aufgabe der Unternehmen bestehe nicht nur darin, "die Technologie voranzubringen, sondern auch dafür zu sorgen, dass sie fest im Dienste der Menschheit, der Gemeinschaften und der Natur steht".

Charles richtete sich dabei direkt an die Branche: "All jene in der Welt, die Menschlichkeit und ihre moralische Komponente schätzen, erwarten von Ihnen sehnsüchtig die Zusicherung, dass wir die Kontrolle über unser Schicksal nicht verlieren." Weiter hieß es: "Die Entscheidungen dieser prägenden Zeit werden die Welt gestalten, die künftige Generationen erben werden."