Risiken und Regulierung von KI: Menschengecodete Krise

Auf einmal ist der Aufschrei nach Regulierung der KI-Entwicklung groß. Dabei ist die Debatte um die Gefahren unkontrollierter Systeme nichts Neues für die Menschheit.

B is zum Ende der Dekade könnten wir alle tot sein – das, sagt der KI-Entwickler Jacob Coxon, sei eine ernsthafte Einschätzung der Branche und der Grund, warum er bei Anthropic kündigt. 169 Millionen Menschen haben seinen Tweet gesehen, seitdem tourt er durch Nachrichtensendungen. Mittlerweile hat nicht nur Anthropic-Chef Dario Amodei ihm zugestimmt, sondern auch Sam Altman, CEO von OpenAI, und Tech-Unternehmer Elon Musk sprechen sich für langsamere Entwicklung und mehr Regulierung aus.

Die Menschen haben Angst vor KI, und das ist verständlich. Denn wenn KIs heute Millenniumprobleme der Mathematik lösen, wer sagt dann, dass sie nicht morgen einem Terroristen helfen, einen Supervirus herzustellen? Oder ganz selbstständig kritische Infrastruktur lahmlegen? Die Fortschritte sind beeindruckend, aber die Diskussion um die Risiken übersieht eine entscheidende Sache: Die Gefahr geht nicht von abstrakten „KIs“ aus, sondern von Menschen.

KI-Modelle brechen nicht einfach so aus einer Sicherheitsumgebung aus, um ein fremdes Unternehmen zu hacken. Sie tun es, weil ihnen gewisse Aufgaben gestellt werden, weil ihnen gewisse Werkzeuge in die Hand gegeben werden, weil sie wieder und wieder darauf gedrillt wurden, ein gewisses Verhalten zu zeigen. Wer einen Hund monatelang darauf trainiert, zu jagen, darf sich nicht wundern, wenn er am Ende bei den Nachbarn ein Kaninchen reißt.

Hinter KI stehen noch immer Menschen

Und bei KI ist die Situation noch klarer: Ein Sprachmodell kann nicht agieren, wenn es nicht gefragt wird. Es existiert quasi nur im Moment der Antwort. Die sogenannten Agenten, die für die Vorfälle verantwortlich gemacht werden, sind Schleifen von Fragen und Antworten, die nur laufen, wenn Menschen explizit ein Programm schreiben, das Frage um Frage stellt. Kein KI-Modell der Welt kann sich von alleine aufwecken.

Hinter jedem Vorfall in den Schlagzeilen stehen menschliche Entscheidungen: die Modelle auf Hacking-Fähigkeiten zu trainieren, die Agentenloops so zu gestalten, dass sie stundenlang laufen, sie unbeaufsichtigt zu lassen. Cyberrisiken erzeugen und dann Cybersicherheit verkaufen: Das kennen wir normalerweise unter dem mafiösen Begriff der Schutzgelderpressung.



Cyberrisiken erzeugen und dann Cybersicherheit verkaufen: Das kennen wir unter dem mafiösen Begriff der Schutzgelderpressung

Jacob Coxon weiß das, und deshalb prangert er die Verantwortungslosigkeit der KI-Firmen an. Und gleichzeitig ist die Diskussion großartige PR für eine Branche, die davon lebt, dass ihre Produkte mächtiger aussehen, als sie sind. Und auch davon, dass die Verantwortung den Produkten zugeschrieben wird statt den Menschen, die sie machen.

Was in der Debatte um Coxon untergeht: Die Gefahren unkontrollierter Systeme sind für die Menschheit absolut nichts Neues. Wir kennen Autos, Züge, Flugzeuge, die großen Schaden anrichten können, wenn die steuernden Menschen sie nicht im Griff haben. Wir arbeiten mit Giften, Medikamenten und Viren, und wir müssen dabei enorm vorsichtig sein, dass sie nicht unvorhergesehene Nebenwirkungen hervorrufen oder sich autonom verbreiten.

Höhere Strafen, Prüfsysteme, Regulierung

Wir haben Wege gefunden, damit umzugehen: Wir überprüfen die Sicherheit. Wir erlauben Forschung nur unter strengen Auflagen. Wer sich jetzt die Platine heiß denkt darüber, wie man einen kompletten Entwicklungsstopp für KI durchsetzen könnte, vergisst all diese Mechanismen.

Durchsetzbar wären hohe Strafen für fahrlässiges Verhalten, wie sie im EU AI Act stehen. Durchsetzbar wäre die Überprüfung von Modellen durch Sicherheitsbehörden für KI, die viele Länder bereits haben – auch die USA, wenn Trump sie nicht entkernt hätte. Durchsetzbar wären Melde- und Prüfsysteme, wie es sie in China gibt, wo übrigens die Innovationsgeschwindigkeit nicht stark unter der Regulierung zu leiden scheint.

Scheinheilig dagegen wirkt die US-Tech-Branche, die jetzt eine gemeinsame Verlangsamung und Selbstregulierung verhandelt. Amodei fordert dafür etwa eine Kartellrechts-Ausnahme. Die Grenzen sollen die Firmen setzen, der Staat soll das nur absegnen. Absprachen im Sinne der globalen Sicherheit klingen einfach besser als: „Wir kriegen es nicht hin, gute und sichere Produkte zu bauen.“ Mit dem praktischen Nebeneffekt, dass man sich den technischen Vorsprung etwas absichert und kein Konkurrent durch ein überraschend gutes Modell einen Börsengang gefährden kann.

Menschliche Kooperation bei Sicherheitsthemen ist komplex. Sie schützt uns nicht vor jedem Terroristen, jeder böswilligen Handlung und vor jedem Fehler. Aber sie existiert und ist auch den neuen Risiken der KI-Industrie gewachsen, wenn der Wille zur Durchsetzung da ist. Es sind Menschen, die jede Entscheidung hinter KI-Produkten treffen. Das macht sie nicht weniger gefährlich. Aber mit gefährlichen Menschen haben wir Erfahrung.

Nach dem Erfolg der AfD bei den Landtagswahlen in Sachsen-Anhalt bangen viele Menschen um die Zukunft, es droht die erste AfD-Regierung. Das wäre eine (weitere) Zäsur für Deutschland. Gerade jetzt braucht es Zusammenhalt und Solidarität. Auch und vor allem mit den Menschen, die sich vor Ort für eine starke Zivilgesellschaft einsetzen. Die taz kooperiert deshalb mit "Alles beginnt im Zentrum". Die Kampagne unterstützt bundesweit linke, selbstverwaltete Orte und baut einen solidarischen Fonds für deren Schutz und Erhalt auf. Eine offene Gesellschaft braucht guten, frei zugänglichen Journalismus – und zivilgesellschaftliches Engagement. Finden Sie auch? Dann machen Sie mit und unterstützen Sie unsere Aktion. Jetzt unterstützen