Sanders-Vorschlag: KI-Entwickler drohen 20 Jahre Haft

Wer eine Künstliche Intelligenz entwickelt, die in der Lage ist, die Menschheit zu zerstören oder mit ihrem Intellekt zu übertreffen, soll laut einem Gesetzesentwurf von US-Senator Bernie Sanders und dem Kongressabgeordneten Greg Casar zwanzig Jahre ins Gefängnis.

Der Gesetzesvorschlag, der unter dem Namen „Ban Artificial Superintelligence Act 2026“ kursiert, will „Superintelligenzen“ komplett verbieten. Als solche definiert der Entwurf eine Künstliche Intelligenz, die in der Lage ist (oder leicht so modifiziert werden kann), dass sie menschliche Fähigkeiten in den meisten Bereichen und Aufgaben übertrifft. Auch in dieser Kategorie fallen Systeme, die in der Lage sind, die Zerstörung oder Entmachtung der Menschheit beziehungsweise den Sturz oder die Untergrabung einer Regierung zu planen und umzusetzen. Diese sollen weder entwickelt, eingesetzt (weder intern noch extern), erworben, besessen, finanziert oder importiert werden dürfen. Das soll auch für Systeme gelten, die absehbar zu einer Superintelligenz werden könnten.

Wenn das „Department of Artificial Intelligence“, das das Gesetz als Kontrollbehörde schaffen will, eine solche Superintelligenz identifiziert, soll sie sofort gestoppt und innerhalb von 30 Tagen zerstört werden. Menschen, die so ein System entdecken, müssen dies dem Department innerhalb von 24 Stunden mitteilen.

Auch „normale“ KI-Systeme wie Opus oder ChatGPT wären vorübergehend betroffen

Für „fortgeschrittene KI-Systeme“ soll eine Entwicklungspause gelten, bis das Department of Artificial Intelligence einsatzbereit ist und klare Regeln definiert hat. Als „fortgeschritten“ definiert das Gesetz KI-Systeme, die mit einer Rechenleistung von mindestens 10^25 Ganzzahl- oder Gleitkommaoperationen trainiert wurden (FLOPs). Das beträfe eine Vielzahl der aktuellen Modelle: ChatGPT 4 wurde mutmaßlich bereits mit dem Doppelten hiervon trainiert. Der Schwellenwert solle jedes Jahr angepasst werden, so der Gesetzentwurf.

Ebenfalls Teil des Entwurfs sind Maßnahmen, die aktuell weitläufig in der Branche diskutiert werden: Ein Monitoring der Entwicklung, eine unabhängige Prüfung und die Notwendigkeit, vor der Veröffentlichung eines neuen Modells eine Freigabeerlaubnis einzuholen.

Wer gegen eine dieser vorgeschlagenen Regeln zu Superintelligenzen oder zu fortgeschrittenen KIs verstoße, solle laut dem Gesetz bis zu zwanzig Jahre ins Gefängnis. Zusätzlich sei ihm für zehn Jahre verboten, im KI-Sektor zu arbeiten.

Bernie Sanders äußerte sich zum Gesetzesvorschlag: „Wenn man auf eine Klippe zurast, nimmt man nicht einfach den Fuß vom Gaspedal. Man tritt auf die Bremse. Wenn die Zukunft der Menschheit auf dem Spiel steht, dürfen wir nicht zulassen, dass eine Handvoll CEOs der Big-Tech-Unternehmen ihre eigenen Regeln aufstellen“, so der Senator. „Wissenschaftler haben sich klar ausgedrückt: KI ist eine existenzielle Bedrohung für die Menschheit. Sie muss auch als solche behandelt werden. Dieser Gesetzentwurf würde die Entwicklung künstlicher Superintelligenz dauerhaft verbieten und einen sofortigen Stopp der fortgeschrittenen KI-Entwicklung verhängen, bis wir über klare Sicherheitsvorschriften verfügen [...].“ Dass KI eine existenzielle Bedrohung für die Menschheit darstellen könnte, betonen auch Forscher aus der Branche: Zuletzt hatte ein ehemaliger DeepMind-Mitarbeiter öffentlich erklärt, er sei fest davon überzeugt, dass KI das Potenzial habe, die Menschheit zu töten.

Der Gesetzesvorschlag wurde gestern im Senat und im Repräsentantenhaus eingebracht. Damit steht er ganz am Anfang des Gesetzgebungsprozesses. Hintergrund des Entwurfs ist die wachsende Debatte über die Risiken des globalen KI-Wettlaufs: Nobelpreisträger Geoffrey Hinton hält ein zehn- bis 20-prozentiges Risiko für die Menschheit für realistisch, während die Trump-Regierung die KI-Entwicklung mit dem Manhattan-Projekt vergleicht und auf Regulierung weitgehend verzichtet.