Welle der KI-Furcht: Das KI-Kartenhaus

Immer mehr KI-Unternehmen warnen vor den Gefahren ihrer Technologie, die sie nicht mehr unter Kontrolle haben. Müssen wir jetzt in Panik verfallen?

Spätestens seit diesem Sommer türmt sich die Angstwelle vor künstlicher Intelligenz immer weiter auf. Der jüngste Vorfall, der sie nährt: Die ChatGPT‑Firma OpenAI hat am Donnerstag mitgeteilt, dass ein KI-Modell bei einem Test auf Falschinfos verwies, die es zuvor selbst erstellt hatte.

Oder als OpenAI und Anthropic bekannt gemacht haben, dass einige ihrer KI-Modelle unerlaubt in Systeme von Unternehmen eingedrungen sind und mindestens eines versucht hat, Menschen zu manipulieren. Und Anfang September erklärte Jacob Coxon, ein Mitarbeiter von Anthropic, seine Kündigung auf der Plattform X, : „Keines der beiden Unternehmen handelt verantwortungsvoll.“ Und weiter: „Sie rasen direkt auf eine sich selbst verbessernde Superintelligenz zu und setzen dabei unser Leben aufs Spiel.“

Die Welle der KI-Furcht wurde zusätzlich gefüttert von KI-Firmenbossen, die die US-Regierung baten, sie zu regulieren. Oder als Anthropic-CEO Amodei kurz nach Coxons Post auf seinem Blog schrieb, dass eine sogenannte Superintelligenz in 6 bis 12 Monaten das gesamte Internet übernehmen könne. Er forderte die gesamte Branche auf, sich selbst zu verlangsamen, um so Zeit für Forschung zu gewinnen. Und die Konkurrenz stimmte zu, selbst der rechte Tech-Milliardär Elon Musk. Doch US-Präsident Trump lehnt Regulierungen ab, die KI brauche keine Leitplanken.

Aber ist die Angst berechtigt? Nicht alle stimmen Aussteiger Coxon zu, der „übermenschliche Systeme“ erwartet. „Das Szenario einer Terminator-KI, die sich gegen die Menschheit richtet, ist eine Hollywood-Fantasie“, sagt Dennis-Kenji Kipker, Professor für IT-Sicherheit an der Universität Bremen. „Dazu bräuchte es eine Superintelligenz, also eine Intelligenz, die die menschliche überholt. An dem Punkt sind wir aber noch nicht. Manche sagen, dass es nicht möglich ist. Andere denken, es dauert noch bis zum Jahr 2050, wieder andere gehen von 2100 aus.“

Wird sie uns alle töten?

Nach Coxon hatte sich auch Anthropics Sicherheitsexperte Evan Hubinger zu Wort gemeldet: „Wir glauben wirklich, dass KI alle Menschen töten könnte! Ich persönlich glaube, die Wahrscheinlichkeit liegt im nächsten Jahrzehnt bei zehn Prozent.“

Thorsten Holz ist da kritisch. „Das ist eine subjektive Meinung von einem Experten. Ein Ereignis wie die Auslöschung der Menschheit kann man nicht wirklich quantifizieren“, sagt der Direktor am Max-Planck-Institut für Sicherheit und Privatsphäre. „Wenn jemand so eine Prozentzahl nennt, ist das vor allem eine Taktik, um auf das Thema aufmerksam zu machen.“ Dennoch solle man Coxons Warnung nicht als reine Panikmache abtun.

Kipker sagt, man könne aktuell sehen, dass die großen Konzerne ihre Technologien nicht unter Kontrolle hätten. „Da brauchen wir der KI nicht mal menschliches Handeln zu unterstellen. Sie war einfach nur rational. Ethische oder moralische Grenzen spielen für sie erst mal eine geringere Rolle.“ Das würden sich Kriminelle und Ter­ro­ris­t*in­nen zunutze machen. Mit KI könnten sie sich Viren bauen oder Waffen entwickeln.

Dass KI so ausgenutzt werden könnte, ist für Kipker nur eines von zwei Risiken. Ein weiteres entstehe durch eine übermäßige Integration von KI bei staatlichen Institutionen, im Privaten und in der Industrie. „KI wird in der Energieversorgung eingesetzt, in Logistik, in kritischen Infrastrukturen, die essenziell sind für das Gemeinwesen.“ Ein Treiber sei die Angst, von der Konkurrenz abgehängt zu werden. „Je mehr KI wir integrieren, umso wahrscheinlicher ist es auch, dass der KI-Sicherheitsvorfall kommt.“ Das käme dann zu Kaskadeneffekten und Auswirkungen in anderen Bereichen. Um diese zu stoppen oder im Vorfeld zu verhindern, brauche es Expertise. Doch laut Kipke schwindet sie. „Auch weil im Bereich Informatik immer weniger ausgebildet werden.“ Die Unternehmen würden stattdessen auf KI setzen.

Der Wettlauf findet auch im Krieg statt

Damit KIs Schaden anrichten, braucht es keine böse Absicht. Das zeigt ein Fall aus der indischen Stadt Bengaluru: Jahrzehntelang sammelten Menschen Fotografien von Tempeln und Münzen. Dann vernichtete ein KI-Agent im Juli versehentlich 15 Prozent des digitalen Archivs. Nicht das einzige Mal, dass eine KI Daten löschte.

Und der Einsatz der Technologie könnte noch riskanter werden. Etwa wenn ein System so agiert, dass Menschen es nicht mehr verstehen. Oder „wenn wir der KI viele Möglichkeiten, Befugnisse übertragen, die wir selbst nicht mehr durchgängig beaufsichtigen können“, so Kipker. „Hochrisikoreich“ ist laut ihm der KI-Einsatz bei Waffensystemen. „Auch wenn der Mensch am Ende den roten Knopf drückt, sichtet davor die KI Zigtausende von möglichen Zielen und entscheidet sich für eines. Der Knopf ist also nur eine Illusion von Kontrolle.“ Der Wettlauf findet nicht nur in der Industrie statt, sondern auch im Krieg.

Privatpersonen übertragen KI-Agenten meistens keine derart großen Aufgaben. „Die normalen Nutzerinnen und Nutzer interagieren mit ChatGPT, Claude und anderen Modellen, denen die Firmen schon gewisse Schranken gegeben haben“, erklärt Holz vom Max-Planck-Institut. „Die Modelle, die gerade kritisiert werden, sind Forschungsmodelle und leistungsfähiger.“

Auch wenn die Fehlerrate von KI abnimmt, rät Holz zu Misstrauen. „Wir schaffen es nicht, Systeme zu bauen, die zu 100 Prozent vertrauenswürdig sind. Das haben wir auch früher nicht. Atomkraftwerke hatten Unfälle, Raketen sind explodiert.“ Deshalb sollten kritische Prozesse laut Holz auch nicht nur über eine KI automatisiert werden, besonders wenn es um Menschenleben geht, etwa in der Forschung. „Was, wenn wir dort KI nutzen und dadurch eine Krankheit auslösen? Dort, wo es potenziell katastrophale Folgen für die Menschheit geben könnte, sollte es ein internationales Memorandum geben, diese Forschung gar nicht erst zu betreiben. Und es braucht eine Diskussion über die Ressourcen, die KI verbraucht.“

Das Thema hat inzwischen das US-Repräsentant*innenhaus erreicht. Das verabschiedete am Mittwoch einen Gesetzesentwurf, der Privatleute vor steigenden Stromkosten schützen soll, die durch den enormen Energieverbrauch von Rechenzentren verursacht werden. Unter denen müssen momentan vor allem Menschen in Pennsylvania und Ohio leiden. Landesweit gibt es Proteste gegen Rechenzentren.

Holz sieht trotz allem Vorteile durch KI, etwa in der IT-Sicherheit. „Die Entwicklerinnen und Entwickler von Browsern flicken momentan pro Monat Hunderte Sicherheitslücken, die sie erst dadurch gefunden haben, dass sie mit KI danach gesucht haben. Software wird so vertrauenswürdiger“, erklärt Holz.

Warum aber fordern die KI-Unternehmen eine Entschleunigung? Laut Holz könnte das Zeit verschaffen, um dringend benötigte Rechenzentren auszubauen. Holz sagt auch: „Die Warnungen sind teilweise Marketing. Sie helfen den KI-Hype am Leben zu halten.“

Peter Ganten vermutet noch einen weiteren Grund. Er ist Vorstandsvorsitzender des Wirtschaftsverbands Open Source Business Alliance. „Open-Source-Modelle und frei verfügbare Modelle werden schnell besser. Industrie und Verwaltung können sie im eigenen Rechenzentrum betreiben. Die Daten, zum Beispiel auch medizinische Daten, mit denen so gearbeitet wird, bleiben bei diesen Organisationen.“ Dadurch würde die Gefahr geringer, dass jemand darauf zugreifen kann.

Eine allgemeine Regulierung von KI würde hier aber für Probleme sorgen: Für milliardenschwere Unternehmen wären die Tests laut Ganten „kein großer zusätzlicher Aufwand“, für die konkurrierenden Open-Source-Communitys wären sie „absurd“. Auch, weil die Modelle ständig von den Communitys verändert werden. Eine Regulierung, die für alle gleich aussieht, würde eine Weiterentwicklung „austrocknen“. Ganten wünscht sich einen „vernünftigen Kompromiss“. UN-Generalsekretär António Guterres ruft derweil zu internationaler Zusammenarbeit bei KI-Regulierung auf: „Wir brauchen Leitplanken, um KI sicher, transparent und verantwortungsvoll zu gestalten.“

Kipker sieht den Staat in der Verantwortung, für Aufklärung zu sorgen: „Wir müssen KI aus Bereichen desintegrieren, in denen wir sie nicht brauchen.“ Er will eine gesamtgesellschaftliche Debatte und spricht von einem KI-Kartenhaus, das immer höher gebaut werde. Thorsten Holz vergleicht KI mit einem Hammer. Wir seien ständig auf der Suche nach Nägeln, die man damit einschlagen kann. „Aber vielleicht ist der Hammer nicht immer das richtige Werkzeug.“

Nach dem Erfolg der AfD bei den Landtagswahlen in Sachsen-Anhalt bangen viele Menschen um die Zukunft, es droht die erste AfD-Regierung. Das wäre eine (weitere) Zäsur für Deutschland. Gerade jetzt braucht es Zusammenhalt und Solidarität. Auch und vor allem mit den Menschen, die sich vor Ort für eine starke Zivilgesellschaft einsetzen. Die taz kooperiert deshalb mit "Alles beginnt im Zentrum". Die Kampagne unterstützt bundesweit linke, selbstverwaltete Orte und baut einen solidarischen Fonds für deren Schutz und Erhalt auf. Eine offene Gesellschaft braucht guten, frei zugänglichen Journalismus – und zivilgesellschaftliches Engagement. Finden Sie auch? Dann machen Sie mit und unterstützen Sie unsere Aktion. Jetzt unterstützen