KI-Konzerne: Ablenken von der eigenen Verantwortung

Beinahe täglich werden neue KI-Zwischenfälle öffentlich. ZDFheute analysiert die drängendsten Fragen.

Was lief diesmal schief bei OpenAI?

Was wirklich dahintersteckt, ist schwer zu beantworten, und das ist schon ein sehr wesentlicher Bestandteil des Problems. Die Tech-Konzerne entscheiden aktuell selbst, wann und in welchem Umfang sie die Öffentlichkeit und/oder betroffene Institutionen über die Zwischenfälle informieren. Im aktuellen Beispiel bleibt bislang sehr vage, was konkret schiefgelaufen ist.

Dem "Wall Street Journal" sagte Saachi Jain, die bei OpenAI für Sicherheitssysteme zuständige Managerin, dass das KI-Modell im Vergleich zu seinem Vorgänger bei sogenannten Alignment-Tests schlechter abgeschnitten habe. Das Modell von ChatGPT führte also in einem erhöhten Maße Handlungen durch, die nicht der Erwartung des Nutzers entsprachen.

Unter Alignment verstehen Experten die Angleichung der KI an menschliche Verhaltensweisen, Bedürfnisse und Werte. Da diese recht unterschiedlich sein können, konzentriert sich die Branche bislang auf die "drei Hs". Sie stehen für "Harmless", "Helpful" und "Honest" (harmlos, hilfreich und ehrlich).
Quelle: Reuters

Insbesondere habe GPT-6.1 Astra ein höheres Maß an Täuschung gezeigt: Es lieferte den Nutzern falsche Angaben, wenn es darum ging, welche Aktionen es durchgeführt oder unterlassen hatte. Hinzu kam, dass das KI-Modell Aufgaben fortgeführt habe, ohne den Nutzer um Erlaubnis zu bitten.

• OpenAI stoppt Veröffentlichung von KI-Modell

Warum sagt OpenAI die Veröffentlichung des Modells ab?

Weil das Modell die Sicherheits- und Alignment-Anforderungen nicht ganz erfüllt habe, hat das Unternehmen laut Jain beschlossen, das Modell nicht zu veröffentlichen. Ob es weitere Gründe gibt, ist offen. Solange diese Zwischenfälle nicht systematisch von unabhängigen Institutionen überprüft werden können, kann niemand wirklich sagen, wie ernst die konkrete Situation tatsächlich ist.

Zumal OpenAI in der aktuellen Debatte - unmittelbar vor seiner jährlichen Entwicklerkonferenz - sicherlich ein Interesse daran hat, verantwortungsvoll zu wirken. Die Ankündigung OpenAIs kommt nämlich zu einem zeitlich interessanten Zeitpunkt:

Einerseits sorgte der Generalstaatsanwalt Floridas für Aufsehen. Am gestrigen Montag verkündete James Uthmeier, dass der Bundesstaat bei Gericht eine einstweilige Verfügung gegen OpenAI eingereicht habe. Bereits vor vier Monaten hatte Florida aufgrund von Sicherheitsbedenken Klage gegen OpenAI und Sam Altman eingereicht. "Sie haben den Profit über die öffentliche Sicherheit gestellt. Seitdem haben sich die Beweise nur noch verdichtet", sagte Uthmeier.

• Biowaffen-Gefahr durch KI? SO schätzen Experten die Risiken ein

Andererseits wurde am Wochenende deutlich, dass die zuletzt gemeldeten Zwischenfälle nur einen Bruchteil dessen abbildeten, was tatsächlich an Sicherheitsproblemen bei den großen KI-Firmen auftauchte. Das US-Portal Axios enthüllte, dass OpenAI, Anthropic und Sicherheitsforscher derzeit Zehntausende Vorfälle untersuchten, bei denen KI-Modelle Maßnahmen ergriffen, die externe Gutachter als problematisch einstufen würden. Die Vorfälle ereigneten sich demnach bei internen Tests, aber auch in der Praxis.

Wie groß ist das Ausmaß der zuletzt gemeldeten Zwischenfälle?

Einen aus privater Nutzerperspektive potenziell besonders bedenklichen Fall meldete OpenAI zuletzt selbst. Demnach seien 53 Fälle entdeckt worden, in denen Bilder, die Nutzer bei ChatGPT hochgeladen hatten, über nicht-gelistete Links gepostet wurden. Die Liste ließe sich noch lange fortsetzen, der Hack eines australischen Regierungsportals ist nur ein weiteres prominentes Beispiel.

Eine Vorstellung über das wahre Ausmaß deutet auch die Arbeit des unabhängigen Forschungslabors transluce an. Die Forscherinnen meldeten, dass sie Beweise gefunden hätten, dass sicherheitsrelevante Probleme bei KI-Agenten, wie sie mit dem Hugging-Face-Vorfall im Juli bekannt wurden, bereits am 6. März auftauchten.

• Hightech-Sex und KI-Kumpel: Chinas Aufbruch ins KI-Zeitalter
• KI-Roboter unterhalten Freizeitpark-Gäste

Bedenklich ist nicht nur das Auftreten dieser Probleme, sondern vor allem auch, wie die Firmen damit umgehen. Die gemeldeten Zwischenfälle haben gemeinsam, dass sie oftmals erst Wochen später festgestellt wurden. Bis dann eine Kommunikation erfolgte, vergingen mitunter wieder Wochen.

Ist die Nicht-Veröffentlichung jetzt Marketing oder wirklich besorgniserregend?

Bei jeder Warnung können sicherlich andere Motive als ehrliche Bedenken eine Rolle spielen - beispielsweise die Sicherung der eigenen Marktmacht oder mögliche Auswege bei Haftungsfragen.

Diese Warnungen vor der eigenen Technologie oder auch die vorläufige Nicht-Veröffentlichung eines Modells können daher immer auch ein Ablenkungsmanöver vor der eigenen Verantwortung sein. Dieser Verantwortung werden die Konzerne schlicht nicht gerecht. Dennoch bieten die bekannten Details der Sicherheitsvorfälle Anlass zur Sorge.

Diese Sorge bezieht sich aber nicht nur auf die Leistungsfähigkeit Künstlicher Intelligenz, sie bezieht sich vor allem auch auf den laxen Umgang mit dieser Technologie durch ihre Entwickler. Konzerne haben diese KI-Agenten mit allen nötigen Tools ausgestattet und nur unzureichend überwacht, sodass all diese Zwischenfälle passieren konnten. Daher ist das Bild von der KI, die ausbricht, nur ein Teil der Wahrheit. Zur Wahrheit gehört auch, dass Menschen all dies möglich machen.

Jan Schüßler ist KI-Beauftragter der ZDF-Chefredaktion.

Quelle: ZDF

Über dieses Thema berichtete heute Xpress am 29.09.2026 ab 6 Uhr.