Was ein Notschalter für KI bringen könnte

Regulierung von Künstlicher Intelligenz Was ein Notschalter für KI bringen könnte

Stand: 21.09.2026 • 11:22 Uhr

Die Entwicklung von KI verläuft rasant. Rufe nach Regulierungen werden laut - und nach einem sogenannten Notschalter. Doch wie könnte das funktionieren - und vor allem: Wer dürfte ihn betätigen?

Ein Notschalter für Künstliche Intelligenz klingt erstmal ziemlich einfach und sinnvoll. Die Idee: ein Modell oder einen KI-Agenten, der gefährlich wird, einfach abschalten. In der Praxis könnte das deutlich schwieriger sein, sagen Experten.

KI-Politikforscher Miles Brundage betont die Schwierigkeiten bei diesem Vorhaben. Wenn zum Beispiel in ein paar Jahren alle möglichen Krankenhäuser KI verwendeten und man feststelle, dass mit dem neuesten Modell etwas nicht in Ordnung sei, könnte das Abschalten bereits zum Problem werden, so Brundage im Gespräch mit dem US-Sender Bloomberg. In einem solchen Fall könnten möglicherweise Menschen sterben und das Abschalten damit kaum mehr eine Option sein.

Technische Umsetzung

Auch technisch ist die Frage, ob das Abschalten von einzelnen Datenzentren ausreichen würde - das könnte bestenfalls wohl bei begrenzten Problemen funktionieren. Oder ob es eine Hardware-Lösung zum Beispiel direkt auf den verwendeten Chips bräuchte.

KI-Sicherheitsforscher Mark Nitzberg von der Universität Berkeley sagte beim Sender CNBC: "Jeder Chip könnte so geliefert werden, dass er jede Minute einen bestimmten Code braucht und wenn der Code nicht kommt, dann arbeitet der Chip nicht mehr."

Wer entscheidet über den Notschalter?

Eine weitere wichtige Frage: Wer entscheidet darüber, ob der Notschalter tatsächlich aktiviert wird? Viele Experten und Politiker wollen diese Entscheidung nicht den Unternehmen überlassen.

Der KI-Pionier Geoffrey Hinton geht noch einen Schritt weiter. Er gibt sich wenig optimistisch, dass das Konzept auch dann noch funktionieren würde, wenn KI erstmal schlauer sei als Menschen, betont er beim US-Sender CNN. KI könne sehr überzeugend sein- und werde den Verantwortlichen einreden, es gebe keinen Grund zum Abschalten.

Sicherheitsstandards gefordert

Ohnehin ist der gerade viel zitierte Notschalter nur einer von vielen geforderten Kontrollmechanismen.

Es sei sehr schwierig, die Sicherheit von KI vorab nachzuweisen, weil sie immer noch eine Blackbox sei, sagt Stuart Russell von der Universität Berkeley, Präsident der Internationalen Vereinigung für sichere und ethische KI. Trotzdem müssten die Firmen dafür verantwortlich gemacht werden, die Sicherheit ihrer Modelle wissenschaftlich nachzuweisen, bevor sie auf den Markt kämen, genauso wie das bei Medikamenten gemacht werde.

Viele Fachleute weisen auch darauf hin, dass bei der KI-Sicherheit internationale Übereinkommen nötig sind. Trotzdem pocht Kaliforniens Gouverneur Gavin Newsom darauf, dass auch Regelungen in Kalifornien wichtig seien. Dort haben etwa mit OpenAI, Anthropic oder Google viele der fortgeschrittenen KI-Entwickler ihren Sitz. Er forderte die Trump-Regierung zum Handeln auf.

Trump tut Befürchtungen ab

Präsident Donald Trump hat bisher Befürchtungen im Zusammenhang mit KI abgetan, eine "AI Force" angekündigt und sucht auf Social Media nach einem neuen Namen für Künstliche Intelligenz. Newsom selbst hatte allerdings noch vor zwei Jahren ein umfassendes KI-Regulierungsgesetz per Veto verhindert. Vorgesehen waren unter anderem eine unabhängige staatliche Kontrollinstanz und die Pflicht für Unternehmen, einen Notschalter einzubauen.

Newsom steht als kalifornischer Gouverneur am Ende seiner Amtszeit. Er wird aber als möglicher Kandidat der Demokraten für die nächste Präsidentschaftswahl 2028 gehandelt.