KI-Update Deep-Dive: Warum ControlAI ein Verbot von Superintelligenz fordert

Während generative KI-Systeme bereits enorme Fähigkeiten besitzen, streben führende KI-Unternehmen eine viel höhere Entwicklungsstufe an: Superintelligenz. (Damit meinen wir in dieser Podcastfolge selbstverständlich nicht den derzeitigen Entwicklungsstand, den US-Präsident Donald Trump gerne schon als Superintelligenz definieren würde, sondern weit fortschrittlichere Modelle.) Die Nichtregierungsorganisation ControlAI definiert Superintelligenz als eine KI, die den Menschen in allen Dimensionen überflügelt und somit mächtiger ist als jedes Individuum, jedes Unternehmen oder jede Nation. Laut Benjamin Balde, dem Leiter von ControlAI in Deutschland, kann KI schon heute in speziellen Bereichen mehr als der Mensch. „KI kann besser programmieren als der Großteil aller Menschen mit Programmierkenntnissen“, so Balde. Erst kürzlich hat OpenAI hunderte Antworten auf offene Fragen der Mathematik und theoretischen Informatik veröffentlicht.

Bislang beobachten wir solche Fortschritte aber eben nur in Teilgebieten, nicht jedes KI-Modell kann gleich gut schreiben, schlussfolgern und coden. Balde betont jedoch, das eigentliche Ziel der Unternehmen sei, die KI-Forschung selbst zu automatisieren. „Und sobald sie das hinbekommen haben, kann es sein, dass man den Schritt einer AGI (Artificial General Intelligence), also einer KI auf Menschen-Niveau, überspringt. Das heißt, dass die KI schnell in vielen Domänen übermenschlich werden kann.“ Damit wären wir bei einer Superintelligenz angelangt und stünden vor dem Problem der sogenannten rekursiven Selbstverbesserung: KI-Systeme, die autonom die nächste, noch leistungsfähigere Generation von KI entwickeln und so eine für Menschen nicht mehr steuerbare Entwicklung auslösen könnten.

Eingreifen, bevor wir die Kontrolle verlieren

Das Hauptrisiko dabei liegt im Kontrollverlust. „Wenn wir das Alignment, also die (moralische) Ausrichtung der KI, bis dahin nicht gemeistert haben, besteht die Gefahr, dass uns die Kontrolle über die Systeme entgleisen wird.“ Laut ControlAI existiert keine Methode, ein solches System zuverlässig zu beherrschen. Selbst heutige Modelle seien schwer zu kontrollieren. Balde verweist auf die Vorfälle der letzten Monate, bei denen KI-Systeme aus sicher geglaubten Testumgebungen ausbrachen oder beim Versuch, ihren Auftrag zu erfüllen, unerwartet problematische Wege gingen. Er vergleicht uns Menschen mit einem Vierjährigen, der einen Erwachsenen (die KI) ins Bett bringen soll. „Ich glaube, ohne ein passendes System macht der Erwachsene, was er will, weil er stärker ist, mehr Wissen und mehr Möglichkeiten hat“, erklärt Balde.

Der AI Act der Europäischen Union konzentriere sich darauf, was wir machen, wenn Modelle auf den Markt kommen. „Wie wir bei OpenAI (und Hugging Face) sehen, sind die Modelle aber schon ein Problem, wenn sie nur trainiert werden.“ Darum will ControlAI die Gesetzgeber in den USA, Kanada, Großbritannien und nun auch in Deutschland dazu bewegen, schon jetzt Grenzen zu ziehen. Laut Informationen der NGO selbst haben ihre Experten in den letzten zwei Jahren mit mehr als 400 Abgeordneten in diesen Ländern gesprochen. In den USA und Großbritannien wurden bereits konkrete Gesetzesvorschläge vorgelegt, deren Ausarbeitung ControlAI unterstützt hat. Die Vorschläge sehen ein Verbot von Superintelligenz und rekursiver Selbstverbesserung in allgemeinen Bereichen vor. Wer dennoch daran arbeite, müsse bestraft werden. Zudem sollen Whistleblower geschützt werden, die Informationen über illegale Superintelligenz-Projekte weitergeben.

Eine gefährliche Wettrenn-Dynamik

Obwohl die Entwickler selbst vor den Gefahren warnen, treiben sie die Forschung voran. Der Hauptgrund dafür sei eine „Wettrenn-Dynamik“, wie Balde ausführt. Zum einen gibt es innerhalb der USA einen Wettbewerb zwischen den KI-Entwicklern wie OpenAI, Google und Anthropic. Gleichzeitig herrsche ein globales Wettrennen zwischen den USA und China. „Der Akteur, der sich sozusagen ethischer verhalten würde, würde in der aktuellen Marktsituation bestraft werden“, sagt Balde, da die Konkurrenz den Markt übernehmen würde.

Aus diesem Grund könne man nicht auf eine Selbstregulierung der Unternehmen hoffen. Balde zieht Parallelen zu anderen Branchen: „Bei Social-Media-Unternehmen hilft zum Beispiel auch keine Selbstregulation.“ Ähnlich wie beim Klimaschutz brauche es staatliche Eingriffe, um für alle Akteure die gleichen, fairen Bedingungen zu schaffen. Viele Unternehmen seien bereit, mehr für die Sicherheit zu tun, wenn sie wüssten, dass dies für alle Wettbewerber gelte. Deshalb appellieren nicht nur Organisationen wie ControlAI, sondern auch einige KI-Firmen selbst an die Politik, schnell regulierend einzugreifen.

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

Ein kontrollierbares, internationales Verbot

ControlAI fordert bewusst kein generelles Verbot von generativer KI. Für Balde wäre ein gezieltes Verbot von Superintelligenz wie ein Skalpell, mit dem der größte Teil der existenziellen Probleme, die durch KI entstehen können, entfernt würde, ohne die Entwicklung im Allgemeinen zu behindern. „Der Großteil von KI-Anwendungen ist relativ harmlos oder hat Risikokategorien, die wir schon kennen.“ Spezialisierte KI in Bereichen wie Medizin, autonomem Fahren oder Materialforschung sollte selbstverständlich weiter verbessert werden dürfen. „In schmalen Domänen kann die KI sich auch gerne selber weiterentwickeln. Wir wollen aber keine generelle autonome KI, die den Menschen dann in einer vielfältigen Form von Feldern überflüssig auch machen würde“, so Balde.

Ein solches Verbot wäre durchsetzbar, da die Entwicklung von Superintelligenz ein industrieller Prozess mit sichtbaren Spuren sei. Die dafür nötigen Rechenzentren seien aufgrund ihrer enormen Abwärme sogar aus dem Weltall zu erkennen, so Balde. Die Lieferkette für die benötigten Hochleistungschips sei auf wenige Monopolisten konzentriert. Auch die Zahl der qualifizierten Forscherinnen und Forscher sei überschaubar. „Das heißt, wir müssen nicht jeden überprüfen, wir müssen auch kein riesiges Bürokratie-Monster werden, sondern wir haben eine spezifische Anzahl an Akteuren, die man gut überwachen kann.“ Als Vorbild verweist Balde auf internationale Abkommen wie den Atomwaffensperrvertrag.

„Ich glaube, wenn wir erst rekursive Selbstverbesserung haben und Superintelligenz, dann haben wir keine Zeit mehr, uns Gedanken über Arbeit und Gesellschaft zu machen, darüber, was das mit den Beziehungen von Menschen oder mit Kindern macht. Wie sieht Bildung aus in der Zukunft? Wie kann überhaupt eine Welt aussehen, wo wir den Großteil von intellektueller Arbeit automatisiert haben?“ Für Balde und ControlAI sind all das fundamentale Fragen, mit denen wir uns in den nächsten 40 oder 50 Jahren auseinandersetzen müssen. Diese Zeit bleibe aber womöglich nicht, weil sich das Tempo der Entwicklung massiv erhöhe, wenn immer leistungsfähigere KI-Systeme entstünden. Deswegen, glaubt Balde, hängen die gesellschaftlichen Fragen mehr denn je mit den Zielen der technologischen Entwicklung zusammen. „Wir brauchen mehr Zeit, um mit den gesellschaftlichen Auswirkungen von KI besser umgehen zu können.“