KI ausser Kontrolle? – «Dass ein Modell ausbricht, ist keine autonome Handlung»

Die Warnung des KI-Entwicklers Jacob Coxon ging um die Welt: Der ehemalige Mitarbeiter von Anthropic hat erklärt, KI könnte die Menschheit bis 2040 töten. KI-Firmen würden mit unserem Leben spielen. Stephanie Gygax arbeitet beim Tech-NGO AlgorithmWatch CH und relativiert die Warnung. Sie sagt im Interview, dass eine bessere Regulierung der Tech-Konzerne hinter der KI momentan am dringendsten sei.

Stephanie Gygax

Stellvertretende Geschäftsleiterin AlgorithmWatch CH

Personen-Box aufklappen Personen-Box zuklappen

Stephanie Gygax verantwortet bei AlgorithmWatch CH die Bereiche Operations, Communications und Fundraising. Vorher war sie bei der Stiftung Mercator Schweiz im Thema Digitalisierung + Gesellschaft für das Portfolio «Algorithmische Systeme» zuständig.

SRF News: Ein KI-Experte, der bis vor Kurzem noch bei Anthropic arbeitete, warnt in den sozialen Medien, dass KI bald die Menschheit auslöschen könnte. Hinter verschlossenen Türen herrsche bei den KI-Entwicklern nackte Angst. Wie ernst müssen wir das nehmen?

Stephanie Gygax: Stand heute wissen wir schlicht nicht, was diese Technologien tatsächlich können, denn es herrscht keinerlei Transparenz. Deshalb sind wir gezwungen, uns auf die Aussagen der Anbieter zu stützen. Ein abschliessendes Urteil lässt sich schwer fällen. Gleichzeitig generieren solche dramatischen Warnungen immer auch Aufmerksamkeit und helfen den KI‑Anbietern, sich als Marktführer einer Schlüsseltechnologie zu positionieren. Also die beste Werbung für ihre Tools und auch ein massiver Treiber für weitere Investitionen und Vormachtstellungen.

Dass ein Modell ausbricht, ist keine autonome Handlung. Fähigkeit ist nicht gleich Autonomie.

Kürzlich brachen KI-Agenten bei Tests aus ihren eigentlich geschützten Umgebungen aus und drangen in fremde Infrastrukturen ein. Ist das ein Vorgeschmack auf eine unkontrollierbare KI?

Aus technischer Sicht waren das drei sehr unterschiedliche Fälle von Systemversagen. Die Debatte fasst dies zu Unrecht unter dem Mantel «KI gerät ausser Kontrolle» zusammen. Der Fokus liegt zu stark darauf, was die Technologie angeblich schon kann, statt auf der Pflicht der Firmen, für Sicherheit zu sorgen. Dass ein Modell ausbricht, ist keine autonome Handlung. Fähigkeit ist nicht gleich Autonomie. Wir sollten der KI keinen eigenen Willen andichten. Die Lehre daraus: Es dürfen keine Systeme auf den Markt, die unsere Sicherheitsanforderungen nicht erfüllen.

Wer haftet, wenn ein autonomer Agent Schaden anrichtet? Gibt es dafür rechtliche Rahmenbedingungen?

Die Verantwortung muss immer bei den Menschen liegen, die diese Technologie kontrollieren. Das ist bisher völlig unzureichend geregelt. Genau darum braucht es verbindliche Richtlinien. Es darf nicht sein, dass diese Verantwortung am Ende auf die Gesellschaft abgewälzt wird.

Wir dürfen uns nicht auf den Goodwill von Tech-Konzernen verlassen und darauf hoffen, dass sie im Interesse der Gesellschaft handeln.

Reichen die freiwilligen Selbstverpflichtungen der Anbieter aus oder braucht es harte Gesetze?

Selbstverpflichtungen reichen nicht. Wir dürfen uns nicht auf den Goodwill von Tech-Konzernen verlassen und darauf hoffen, dass sie im Interesse der Gesellschaft handeln. Sie handeln primär im eigenen Geschäftsinteresse. Unternehmen müssen gesetzlich verpflichtet werden, Risiken lückenlos offenzulegen – und zwar zwingend vor dem Marktstart. Nur so können wir sie bei unzureichender Verantwortungsübernahme rechtlich zur Rechenschaft ziehen.

Die Machtballung bedroht letztlich das Funktionieren unserer Demokratie.

Was unterschätzen Politik und Öffentlichkeit aus Ihrer Sicht derzeit am meisten?

Die extreme Konzentration von Markt- und Meinungsmacht bei einer Handvoll Konzernen und deren CEOs, die teils antidemokratische Ansichten vertreten. Diese Machtballung bedroht die Qualität unserer Debatten, unsere Grundrechte, den Zugang zu verlässlicher Information und damit letztlich das Funktionieren unserer Demokratie. Das ist die reale Gefahr, die wir heute leider oft übersehen.