Notschalter bei Gefahr: Kalifornien plant "kill switch" für künstliche Intelligenz

Notschalter bei GefahrKalifornien plant "kill switch" für künstliche Intelligenz

18.09.2026, 19:41 Uhr

00:00

02:33

Insider schlagen Alarm, selbst Chefs großer KI-Unternehmen in den USA sehen Gefahren in der rasanten Entwicklung künstlicher Intelligenz. US-Präsident Trump lehnt eine Regulierung der Branche dennoch ab. Kalifornien will nun im Alleingang handeln.

In der Sicherheitsdebatte über künstliche Intelligenz will der US-Bundesstaat Kalifornien eine Art Notschalter prüfen. Der kalifornische Gouverneur Gavin Newsom unterzeichnete ein Dekret, das als eine Möglichkeit zur Kontrolle von KI einen solchen "kill switch" vorsieht - also einen Mechanismus, der ein KI-System bei Gefahr stoppt oder isoliert. Eine Reihe von KI-Unternehmen ist im Silicon Valley in Kalifornien angesiedelt.

Mit dem Dekret beruft der Demokraten-Politiker Newsom zunächst "eine Gruppe weltweit führender Experten ein, die innerhalb von zwei Monaten einen Leitfaden für Kalifornien ausarbeiten sollen", um die Gesetze zur Sicherheit im KI-Bereich zu verbessern. Sie sollen unter anderem prüfen, ob unabhängige Instanzen künftig Sicherheitspläne für besonders fortschrittliche KI-Modelle erstellen können und ob KI-Unternehmen ein Notabschaltmechanismus vorgeschrieben werden kann.

Newsom erklärte, während Präsident Donald Trump und der Kongress in Washington schliefen, übernehme er selbst eine Führungsrolle, um "KI-Sicherheit für alle Amerikaner zu stärken". Trump lehnt eine Regulierung der KI-Branche ab. Der 80-Jährige will damit nach eigenen Angaben den technologischen Vorsprung der USA gegenüber China sichern. Im Kongress war diese Woche ein Vorstoß für eine KI-Notabschaltung ins Leere gelaufen.

Wegen der Risiken von künstlicher Intelligenz hatten sich mehrere Chefs großer KI-Unternehmen kürzlich für eine verlangsamte Entwicklung der Technologie ausgesprochen. Darunter sind Anthropic-Chef Dario Amodei und OpenAI-Chef Sam Altman. Mehrere ehemalige Mitarbeiter von KI-Firmen warnten sogar vor einer möglichen Auslöschung der Menschheit.

Newsom gibt den Gouverneursposten in Kalifornien im Januar nach zwei Amtszeiten ab. Sein Nachfolger wird am 3. November gewählt. Dabei tritt der Republikaner Steve Hilton gegen den Demokraten Xavier Becerra an. Kalifornien ist seit rund 20 Jahren eine Hochburg der Demokraten.