Wer bremst, verliert? Woran mehr KI-Regeln derzeit scheitern

Immer mehr Sicherheitsvorfälle, die durch KI-Modellen verursacht worden sind, dringen an die Öffentlichkeit: Darunter prominente Zwischenfälle bei OpenAI, Anthropic oder Meta, deren Modelle sich in Datenbanken anderer Firmen oder gar Regierungsportale hackten. ChatGPT-Entwickler OpenAI stoppte zeitweise sogar das Training seiner leistungsstärksten KI-Modelle.

Zwar gründeten Sam Altman und Dario Amodei, die Chefs von OpenAI und Anthropic, laut eigenen Angaben ihre Firmen auch, weil sie die Entwicklung sicherer Modelle anderen nicht anvertrauen wollten. Doch längst ist die KI-Industrie für sie zu einem lukrativen Geschäft geworden. Weshalb werben also ausgerechnet KI-CEOs für Vorgaben, während die US-Regierung auf die "moralisch verpflichtende" Eigenverantwortung der Unternehmen setzt?

Pause bei der KI-Entwicklung: Wie steht die Branche dazu?

Die Regulierungs-Zurückhaltung der USA könnte einen einfachen wirtschaftlichen Hintergrund haben. Donald Trump versteht KI als Wettrennen mit China. "Wer bei KI gewinnt, gewinnt", sagte er und schlussfolgert: Eine Verlangsamung würde die USA wirtschaftlich und machtpolitisch zurückwerfen.

Geht es hingegen nach Anthropic-Geschäftsführer Amodei, sollte die Forschung an den stärksten Modellen des Westens für ein bis zwei Jahre koordiniert verlangsamt werden. OpenAI und Google stimmen diesem Vorschlag grundlegend zu. Entscheidend ist allerdings das Wort "koordiniert". Denn jeder Alleingang würde der Konkurrenz enorme Vorteile bringen. Und so warnt Anthropic, arbeitet zeitgleich aber am für November geplanten Börsengang: Dieser könnte zum größten der Geschichte werden.

Experte: KI-Firmen hadern mit wirtschaftlicher Entwicklung

Kritiker vermuten hinter dem Ruf nach gemeinsamen Regeln ohnehin eher den Wunsch, strengeren staatlichen Vorgaben zuvorzukommen. Statt Gesetzen ausgeliefert zu sein, könnten die KI-Giganten durch einen Entwicklungsstopp und Selbstregulierung ihre eigenen Leitplanken gestalten.

Professor Holger Hoos von der RWTH Aachen erklärt außerdem: Die Entwicklung der Unternehmen gehe derzeit "nicht in die Richtung, wie man sich das wirtschaftlich gesehen wünscht".

• KI-Konzerne: Ablenkung von der eigenen Verantwortung
• KI, der Ruf nach Regulierung - und was die EU tun kann

Sicherheitsdiskussion erreicht Deutschland

Ist der geforderte Entwicklungsstopp also nur eine Marketing-Strategie? In Europa wird diese Idee interessiert aufgenommen. Viele Hoffnungen ruhen hier auf dem französischen Unternehmen Mistral, das sich zuletzt mit einem Standort in München niedergelassen hat, technisch aber noch weit hinter der Konkurrenz liegt. Von einer Besinnungspause im Silicon Valley könnte es enorm profitieren.

Durch den Münchner Standort sitzt Mistral nun mit am Tisch, wenn in Deutschland über KI-Risiken diskutiert wird. Erst am Montag beriet das Unternehmen auf Einladung des bayerischen Digitalministers mit Google, OpenAI, Anthropic und weiteren Tech-Firmen über Sicherheit und Ethik Künstlicher Intelligenz.

Aber auch Mehring ist gegen Einschnitte bei der KI-Entwicklung: "Wenn wir jetzt in Europa auf die Pausentaste drücken und zeitgleich in China und USA weiterhin Vollgas gegeben wird, dann gewinnen wir 0,0 an Sicherheit, aber verlieren ganz erheblich an Einfluss auf die Weiterentwicklung."

Muss Europa mehr KI-Entwicklung wagen?

Die EU hat mit ihrer KI-Verordnung schon jetzt eine robustere Rechtsgrundlage als die USA. Die Durchsetzung der Regeln hält allerdings mit dem Entwicklungstempo kaum mit. "Der AI Act zeigt deutlich in die richtige Richtung, das Problem ist die Umsetzung", bewertet KI-Professor Hoos. "Es reicht nicht, andere zu regulieren. Man muss auch sicherstellen, dass die Art von KI-Technologie, die man haben möchte, irgendwo produziert wird."

• KI: Ein Hochrisiko-Experiment, dessen Ausgang niemand kennt

Anders sieht es die Wirtschaftsweise Monika Schnitzer. "Da müssen wirklich alle mitmachen", sagt sie zum Vorschlag, Europa müsse stärker ins KI-Rennen einsteigen. "Und wenn das nicht funktioniert, hat man viel Geld versenkt und am Ende immer noch kein wettbewerbsfähiges Modell. Insofern muss man sich sehr gut überlegen, ob man diesen politischen Willen aufbringt."

China und USA bleiben KI-Schauplatz

Bis auf Weiteres werden China und die USA ohnehin Schauplatz aller großen KI-Entscheidungen bleiben. Das gilt technisch wie politisch: Das nächste APEC-Treffen findet in Shenzhen statt, die G20 treffen sich im Dezember in Miami. Aller Voraussicht nach wird bei beiden Gipfeln erneut KI-Sicherheit weit oben auf der Tagesordnung stehen.

Mindestens bis dahin gilt: Wer bremst, verliert. Deshalb bremst vorerst noch keiner.

Mitarbeit: Cordelia Strauß und Julia Theres Held.

Über dieses Thema berichtete das ZDF in verschiedenen Sendungen, unter anderem in den heute-Nachrichten am 29.09.2026 um 19:00 Uhr.