Debatte über KI-Pause: „Jede deutsche Großküche hat schärfere Kontrollsysteme“

Der Ruf nach einer Pause und mehr Kontrollen bei der Weiterentwicklung der leistungsfähigsten KI-Modelle stößt in der deutschsprachigen Forschungslandschaft auf ein geteiltes Echo. Gleichzeitig werden in die Welt gesetzte Szenarien über ausbrechende KI-Modelle, die die Menschheit auslöschen könnten, als unrealistisch abgetan. Gefährlicher sei, was die existierenden Systeme in den Händen böswilliger Akteure anrichten könnten, meint etwa Björn Ommer, der Leiter der Computer Vision & Learning Group an der Ludwig-Maximilians-Universität München, gegenüber dem Science Media Center (SMC). Thorsten Holz, Direktor am Max-Planck-Institut für Sicherheit und Privatsphäre, hält Warnungen vor einem Ende der Menschheit für genauso wenig zielführend wie das Abtun als Panikmache.

Kritik an Scheinheiligkeit

Die Stellungnahmen beziehen sich auf den Vorschlag des Anthropic-Chefs Dario Amodei. Nach einer dramatischen Warnung eines ehemaligen Anthropic-Forschers hatte dieser eine koordinierte Pause vorgeschlagen, die der Branche ein bis zwei Jahre Zeit verschaffen soll, um Sicherheitsrisiken besser zu verstehen und einzudämmen. Binnen Stunden bekam er dafür Zuspruch von Rivalen wie OpenAI-Chef Sam Altman und Tech-Milliardär Elon Musk. Inzwischen gibt es von einem ehemaligen DeepMind-Angestellten eine ähnlich lautende Warnung vor den Gefahren der KI-Entwicklung. Mit den USA und China haben die dafür wichtigsten Staaten dem Vorschlag aber bereits widersprochen.

Gegenüber dem SMC weist der Leiter des Instituts für Theorie und Zukunft des Rechts der Universität Innsbruck, Matthias Kettemann, darauf hin, dass Amodei nicht nur eine Pause bei der KI-Entwicklung gefordert hat. Sein Ruf nach dem Verbot bestimmter KI-gestützter Biowaffenforschung, nach gegenseitigen Tests und einer „Geschwindigkeitsbegrenzung“ für die rekursive Selbstverbesserung ignoriere bestehende Regeln. Ersteres sei geltendes Recht, die anderen würden in völkerrechtlichen Dokumenten behandelt. Vor wenigen Tagen habe der UNO-Generalsekretär einen Fonds für den Aufbau von KI-Kapazitäten vorgeschlagen: „Wer die Risiken für so groß hält, dass die Welt langsamer werden muss, sollte dort zahlen, wo die Regulierungslücke am größten ist, statt vage Vorschläge zu machen, deren Umsetzung andere tragen.“

„Für sehr wichtig und grundsätzlich für richtig“ hält die Völkerrechtlerin Silja Vöneky von der Albert-Ludwigs-Universität Freiburg die Vorschläge von Amodei. Ähnliche Forderungen aus der Wissenschaft gebe es schon seit Jahren: „KI-basierte extreme Risiken und die Warnungen selbst im Jahr 2026 noch als ‚Marketing‘ abzutun, ist meines Erachtens extrem fahrlässig.“ Gleichzeitig wäre es aber auch fahrlässig, wenn sich Staaten oder Bevölkerungen darauf verlassen, dass die relevanten Unternehmen sich schon selbst regulieren werden. Staaten mit übereinstimmenden Interessen könnten stattdessen vorangehen, völkerrechtliche Verträge bräuchten aber Jahre. Für Kontrollmechanismen gebe es Vorbilder. Es sei „wichtig, dass sich die KI-Entwicklung im Hochrisikobereich verlangsamt“.

Philipp Hennig von der Eberhard Karls Universität Tübingen beginnt seine Einschätzung mit einer Kritik an der Geheimniskrämerei von Amodei und anderen. Vielsagend sei gleichzeitig, „dass Amodei ‚Embedded Evaluators‘ in sein Unternehmen einladen und sie mit ‚Schreibtischen in unseren Büros, Zugangskarten und Firmenlaptops‘ ausstatten möchte – und dann auch noch gleich das mit der Longtermismus-Bubble assoziierte Non-Profit METR für diese Rolle ins Spiel bringt, das auf der eigenen Website seine Kooperation mit Anthropic bewirbt“. Eine unabhängige und demokratische Regulierung der KI-Industrie sehe jedenfalls nicht so aus, wie von dem Anthropic-Chef skizziert: „Jede deutsche Großküche hat schärfere Kontrollsysteme.“

„Selbstbedienung mit Sicherheitsetikett“

Kritik übt auch Kristian Kersting, der Leiter des Fachgebiets Maschinelles Lernen an der Technischen Universität Darmstadt: „Wenn eine Handvoll großer Firmen selbst festlegt, was ‚gefährlich‘ ist, die passenden Prüfer auswählt und eine Ausnahme vom Kartellrecht verlangt, ist das keine echte Regulierung mehr, sondern Selbstbedienung mit Sicherheitsetikett.“ Wer glaube, dass seine KI-Modelle die Welt gefährden, „braucht für eine Pause niemandes Erlaubnis“. Das behauptete Risiko einer sich selbst befreienden, die Menschheit auslöschenden KI sei schon technisch nicht überzeugend. Frontier-Modelle liefen nicht auf einem Laptop „und man kopiert sie nicht mal eben von einem Rechner auf den nächsten“. Die Firmen könnten jederzeit den Stecker ziehen. „Tun die Firmen es vielleicht nur nicht, weil sie sonst kein Geld mehr verdienen würden?“

Ganz konkrete Risiken gehen aus einem anderen Text von Anthropic hervor, schreibt der Virologe Simon Wain-Hobson. Darin hatte das KI-Unternehmen mehrere Beispiele für Versuche aufgeführt, mit den eigenen Modellen potenziell gefährliche Forschung an Krankheitserregern durchzuführen. In allen Fällen haben die Verantwortlichen versucht, ihre Identität zu verschleiern. Wer das mache, „verfolgt geheime Absichten“. Deshalb müssten solche Versuche unbedingt verhindert werden. In diesem Bereich dürfte man keine Risiken eingehen. Von der Forschungsgemeinschaft fordert er, so entstandene Arbeiten nicht in Fachzeitschriften zu veröffentlichen.

Risiken ja, aber keine existenziellen

Wenn es um die Sorgen vor einem vollständigen Kontrollverlust geht, sind sich die Experten einig, dass diese zum gegenwärtigen Zeitpunkt weitgehend unbegründet sind. Aufgrund der großen Zentralisierung der KI-Technik in den Systemen weniger Provider sei beispielsweise eine Abkopplung von Teilen des Internets „oder ein ‚Einnisten‘ von KI auf unüberwachten Systemen im nächsten Jahr unwahrscheinlich“, meint etwa Jonas Geiping vom Max-Planck-Institut für Intelligente Systeme. Partielle Kontrollverluste habe man aber beobachtet und auch nur eine großflächige Störung der Internetkommunikation wäre ein substanzielles, globales Problem.

„Das gegenwärtig greifbarste Risiko ist nicht eine KI, die spontan beschließt, die Menschheit auszulöschen, sondern Menschen, die leistungsfähige KI missbrauchen“, fasst Björn Ommer von der LMU diese Einschätzung zusammen. Weil zur Abwehr KI-gestützter Angriffe selbst leistungsfähige KI-Systeme benötigt werden, wachse die Abhängigkeit insgesamt. Arbeit an zunehmend bei der Verbesserung von KI helfenden KI-Systemen hält er nicht deshalb für problematisch, weil ein so entwickeltes System plötzlich „‚beschließt’, sich zu verselbstständigen“. Riskant sei Recursive Self Improvement (RSI), weil damit „die Geschwindigkeit erhöht wird, mit der neue Fähigkeiten entstehen können, auf die Sicherheitsmechanismen reagieren müssen“.

Existenzielle Risiken für die Menschheit sieht auch der Alexander-von-Humboldt-Professor für Methodik der künstlichen Intelligenz an der RWTH, Holger Hoos, gegenwärtig nicht: „Eine zunehmende Anzahl von weniger katastrophalen, aber wirtschaftlich folgenreichen Unfällen ist jedoch sicherlich zu erwarten.“ Zudem hält er auch vermehrte Cyberangriffe auf kritische Infrastruktur mit potenziell schweren Konsequenzen für möglich. Schon KI-Entwicklung und -Anwendung, wie sie aktuell stattfindet, richte große Schäden an, führte er an. Diese müssten dringend eingedämmt werden: „Das Ende von ‚move fast and break things‘ ist nur ein erster Schritt in diese Richtung.“