Künstliche Intelligenz: Staatschefs fordern Regeln für menschliche Kontrolle

Bundeskanzler Merz (CDU) und 17 weitere Staats- und Regierungschefs unterzeichnen einen Aufruf zu KI-Regulierung. Sie wollen verbindliche Standards.

afp | Im Vorfeld der UN-Generaldebatte haben Bundeskanzler Friedrich Merz (CDU) und 17 weitere Staats- und Regierungschefs einen Aufruf für verbindliche Sicherheitsregeln für besonders leistungsfähige KI-Modelle unterzeichnet. Solche Systeme würden bei unzureichender Kontrolle „ernste Risiken für Sicherheit und Schutz“ bergen, heißt es in der Erklärung.

Künstliche Intelligenz (KI) müsse „unter menschlicher Leitung, Aufsicht und Kontrolle“ bleiben, fordern die Unterzeichner weiter. Unternehmen sollten unter anderem zu Tests, unabhängigen Prüfungen und transparenten Sicherheitsprotokollen verpflichtet werden.

Zur Begründung verweisen die Unterzeichner auf jüngste Fälle, in denen leistungsfähige KI-Systeme Schutzmechanismen umgingen, Schwachstellen ausnutzten und sich unbefugt Zugang zu realen Computersystemen verschafften. Die rasante Entwicklung könne die Möglichkeiten überholen, neu entstehende Risiken zu kontrollieren.

Zu den insgesamt 22 Unterzeichnern der Erklärung gehören neben Merz unter anderem die Staats- und Regierungschefs von Australien, Dänemark, Finnland, Kanada, den Niederlanden, Norwegen, Singapur und Spanien. Zudem schlossen sich ihr EU-Kommissionspräsidentin Ursula von der Leyen sowie die Außenminister aus Bahrain, der Türkei und den Vereinigten Arabischen Emiraten an. Initiiert wurde der Aufruf von Finnlands Präsident Alexander Stubb und Norwegens Ministerpräsident Jonas Gahr Störe.

Überprüfbare Standards

Die USA, China, Großbritannien, Frankreich, Japan und Indien sind bislang nicht unter den Unterzeichnern. Die Erklärung bleibt für weitere Unterzeichner offen.

In der Erklärung heißt es weiter, die UN-Mitgliedstaaten sollten die Schaffung einer internationalen Institution prüfen, die Standards setzen, deren Einhaltung überprüfbar machen und Staaten bei Überschreiten bestimmter Leistungsgrenzen zusammenrufen könnte.

Die UN-Generaldebatte in New York beginnt am Dienstag.

Nach dem Erfolg der AfD bei den Landtagswahlen in Sachsen-Anhalt bangen viele Menschen um die Zukunft, es droht die erste AfD-Regierung. Das wäre eine (weitere) Zäsur für Deutschland. Gerade jetzt braucht es Zusammenhalt und Solidarität. Auch und vor allem mit den Menschen, die sich vor Ort für eine starke Zivilgesellschaft einsetzen. Die taz kooperiert deshalb mit "Alles beginnt im Zentrum". Die Kampagne unterstützt bundesweit linke, selbstverwaltete Orte und baut einen solidarischen Fonds für deren Schutz und Erhalt auf. Eine offene Gesellschaft braucht guten, frei zugänglichen Journalismus – und zivilgesellschaftliches Engagement. Finden Sie auch? Dann machen Sie mit und unterstützen Sie unsere Aktion. Jetzt unterstützen

Künstliche Intelligenz und Klimakrise UN-Klimachef sieht Tech-Konzerne in der Pflicht

Die großen Tech-Konzerne müssten mehr tun gegen die Klimakrise, fordert der Klimachef der UN – gerade in Hinblick auf künstliche Intelligenz.

Von Svenja Bergt

81. UN-Generalversammlung in New York Kriege und KI im Fokus des UN-Gipfels

Bei der jährlichen UN-Vollversammlung stehen wieder aktuelle Krisen und Herausforderungen im Mittelpunkt, echte Durchbrüche sind nicht zu erwarten.

Von Hansjürgen Mai

China, USA und KI Gespräche über ein Meldesystem für KI-Sicherheitsrisiken

Am Sonntag sprach der US-Finanzminister mit Chinas Vize-Ministerpräsident. Ergebnis: Die Länder wollen künftig Informationen über KI-Vorfälle austauschen.

taz FUTURZWEI im Abo entdecken Endlich mal ein Magazin für Zukunft

taz FUTURZWEI ist unser Magazin für eine bessere Zukunft. Das Abo bietet jährlich vier Ausgaben für nur 38 Euro. Zudem erhalten Sie eine Ausgabe von Luisa Neubauers neuestem Buch „Was wäre, wenn wir mutig sind?“ (solange Vorrat reicht).

• Jedes Quartal neu in Ihrem Briefkasten
• Nur 38 Euro im Jahr
• Als Prämie Luisa Neubauers „Was wäre, wenn wir mutig sind?“
• Herausgegeben von Harald Welzer

Jetzt abonnieren