Verteidigung im Cyberspace – Schweizer KI-Modell Apertus: Segen oder Sicherheitsrisiko?

KI-Agenten könnten die Cybersicherheit grundlegend verändern. Die Systeme handeln mit einer Geschwindigkeit, auf die Menschen kaum reagieren können.

«Fortschrittliche KI-Systeme können Tausende Aktionen pro Minute ausführen», sagt Andrei Kucharavy von der Fachhochschule Westschweiz und Sicherheitsverantwortlicher für Apertus.

Die KI-Agenten von OpenAI, dem Entwickler von ChatGPT, haben dies in den vergangenen Wochen demonstriert, indem sie Dutzende von Unternehmens- und Regierungswebsites gehackt haben. Die Agenten zeigten ein Verhalten, das OpenAI selbst als «nicht im Einklang» mit den Anweisungen der Entwickler beschrieb.

Maxime Stauffer, Direktor des in Genf ansässigen Simon Institute for Longterm Governance, rechnet damit, dass solche Vorfälle häufiger auftreten. «Schwärme von KI-Agenten könnten kritische Infrastrukturen wie Schulen, Krankenhäuser und Energiesysteme oder sogar ganze Länder angreifen – ob absichtlich oder versehentlich», sagt er.

Offene KI-Modelle wie das Schweizer Modell Apertus könnten helfen, diese Risiken abzuwehren. Sie können Schwachstellen erkennen, Patches vorschlagen und Angriffe analysieren.

Zudem bleiben sensible Daten in der eigenen Infrastruktur, was besonders für Bereiche wie die Finanzbranche attraktiv ist, erklärt Nino Antulov-Fantulin, Dozent an der Eidgenössischen Technischen Hochschule (ETH) Zürich und Experte für maschinelles Lernen im Finanzwesen.

Offene KI-Modelle werden immer mächtiger

Einige Experten warnen allerdings, dass dieselben Fähigkeiten auch für kriminelle Aktivitäten missbraucht werden können.

KI-Modelle sind unterschiedlich offen zugänglich. Unterschieden werden drei Typen:

Open-Source: Die trainierten Parameter (oder «Gewichte») des Modells, der Trainingscode und Informationen zu den Trainingsdaten sind öffentlich zugänglich. Dadurch können andere das Modell überprüfen, anpassen und reproduzieren. Beispiele hierfür sind Apertus und OLMo.

Open-Weight (offene Gewichte): Die Gewichte des Modells werden öffentlich bereitgestellt und können heruntergeladen sowie angepasst werden. Der vollständige Trainingscode und die Datensätze werden jedoch nicht zwangsläufig offengelegt. Beispiele hierfür sind Llama von Meta und Qwen von Alibaba.

Geschlossen / proprietär: Die Gewichte, der Trainingscode und die Datensätze des Modells werden nicht öffentlich zugänglich gemacht. Dies trifft auf die meisten kommerziellen Modelle zu, darunter GPT von OpenAI und Claude von Anthropic.

Dies ist eine der grössten Sorgen von Stauffer. Seiner Meinung nach überwiegen bei offenen KI-Modellen aktuell die Vorteile. In Zukunft könnten die Risiken den Nutzen jedoch überwiegen.

«Wenn man über eine extrem mächtige Technologie verfügt, auf die niemand Zugriff hat und die unter Kontrolle bleibt, ist das Risiko nahezu null. Wenn aber jeder Zugriff darauf hat, ist das Risiko wahrscheinlich höher», sagt Stauffer.

Was wir wirklich brauchen, ist eine Regulierung und Gesetzgebung, die das Handeln aller KI-Entwickler steuert.

Da offene Modelle immer leistungsfähiger werden, hält Stauffer es für wichtig, eine Möglichkeit zu haben, sie wieder zurückzuziehen, falls sie sich als zu mächtig oder gefährlich erweisen – etwas, das derzeit nicht möglich ist.

Regulierung und Kontrolle

Es sei kein Zufall, so Kucharavy, dass die jüngsten Vorfälle geschlossene KI-Modelle betroffen hätten. «Das Hauptproblem ist die fehlende Aufsicht», erklärt er und fordert mehr Kontrolle und Transparenz: «Was wir wirklich benötigen, ist eine Regulierung und Gesetzgebung, die das Handeln aller KI-Entwickler steuert.»

Eine Handvoll grosser Technologiekonzerne legt die Regeln für KI selbst fest – nahezu ohne externe Rechenschaftspflicht.

Der Mangel an Aufsicht und Regeln verdeutlicht ein weiteres grosses Problem der Branche: die Machtkonzentration in den Händen weniger Akteure, die hauptsächlich im Silicon Valley ansässig sind.

Für die Digitalethik-Expertin Nathalie Klauser ist dieses Machtungleichgewicht eine noch grössere Sorge als die Frage, ob KI-Modelle offen oder geschlossen sind.

«Eine Handvoll grosser Technologiekonzerne legt die Regeln für KI selbst fest – nahezu ohne externe Rechenschaftspflicht», sagt Klauser, die eine internationale Regulierung für notwendig hält.

Im aktuellen geopolitischen Kontext hätte die Schweiz – als neutrales Land und europäischer Standort für Big Tech – eine wachsende politische Verantwortung, beim Zustandekommen eines internationalen KI-Abkommens zu vermitteln, argumentiert Klauser.

Parlamentarierinnen und Parlamentarier aller sechs Schweizer Fraktionen sehen den bevorstehenden Genfer KI-Gipfel im Juni 2027 als grosse Chance für das Land. Sie haben die Regierung aufgefordert, die Veranstaltung zu nutzen, um sich für internationale Mindeststandards bei extremen KI-Risiken einzusetzen.