Sicherheit statt Tempo – Warum der Anthropic-Chef die KI-Entwicklung bremsen will

Künstliche Intelligenz durchdringt zunehmend unseren Alltag. Wie rasant sich die Technologie entwickelt, überfordert viele und macht Sorgen – vor allem, wenn es zu kritischen Zwischenfällen kommt. So wurde kürzlich bekannt, dass eine Software von OpenAI eigenständig aus einer abgesicherten Testumgebung ausgebrochen ist und danach die Systeme einer anderen Firma gehackt hat.

Solche Risiken beunruhigen offenbar auch die grossen KI-Firmen selbst. Dario Amodei, Chef des KI-Labors Anthropic, fordert nun, dass die Entwicklung der Technologie langsamer vorangehen soll. Zustimmung erhielt er dafür von Chefs anderer Unternehmen. SRF-Digitalredaktor Jürg Tschirren ordnet ein, was das bedeutet.

Jürg Tschirren

Digitalredaktor

Personen-Box aufklappen Personen-Box zuklappen

Jürg Tschirren hat Zeitgeschichte und Journalismus studiert. Er arbeitet seit 2007 als Digital Redaktor für SRF und berichtet über IT, Kommunikation, Künstliche Intelligenz, soziale Netzwerke, digitale Distribution, Unterhaltungselektronik, Datenschutz und Computersicherheit.

Was heisst, das Tempo bei der Entwicklung leistungsstarker KI-Modelle zu drosseln?

Bisher lieferten sich KI-Firmen einen Wettlauf um das nächste, leistungsfähigste Modell. Amodei will, dass sie sich künftig mehr Zeit lassen und Modelle vor der Veröffentlichung gründlicher testen. Was das genau heisst, bleibt offen. Konkret ist bisher nur folgende Ankündigung von Anthropic: Das Unternehmen will unabhängige Prüferinnen und Prüfer engagieren – ob diese im Ernstfall auch eine Veröffentlichung stoppen könnten, ist unklar.

Weshalb wird gerade jetzt der Ruf nach einer Verlangsamung laut?

Mehrere Vorfälle der letzten Wochen liessen Ängste aufkommen, KI-Systeme seien zu mächtig und liessen sich nicht mehr kontrollieren. Tatsächlich handelt KI aber nicht auf eigene Faust – ihre Sicherheit liegt in der Verantwortung der Entwicklerfirmen. Diese spüren zudem wachsende öffentliche Kritik, nicht nur wegen der Sicherheit, sondern auch wegen Umwelt- und Jobängsten. Sich als vorsichtig zu zeigen, passt zudem zu den bevorstehenden Börsengängen von Anthropic und OpenAI.

Wollen die KI-Firmen damit auch eine strengere Regulierung, etwa durch die EU, verhindern?

Das ist nicht auszuschliessen. Die Regulierung von KI ist ein politisches Thema, auch in der EU. Schlagen die Firmen selbst Regeln vor, hoffen sie, strengere staatliche Vorgaben zu verhindern – ein Muster, das man von Meta und den sozialen Medien kennt. Zudem können Auflagen wie Sicherheitsprüfungen und Zertifizierungen als Eintrittshürde wirken, die sich vor allem grosse Konzerne leisten können. Die geforderte Regulierung könnte so ausgerechnet jene stärken, die sie fordern.

Firmen aus den USA wollen das Tempo bei der KI-Entwicklung drosseln. Werden sie durch die chinesische Konkurrenz abgehängt?

Nicht nur US-Firmen konkurrieren sich, auch die USA und China sind im KI‑Wettlauf. Die Angst, von China überholt zu werden, ist in den USA gross und spielt beim Ruf nach Verlangsamung mit: Amodei warnt vor einer chinesischen KI-Führungsrolle als Gefahr für die USA und die Welt. Gebremst werden soll die Entwicklung deshalb nur so weit, wie der amerikanische Vorsprung es zulässt, etwa durch Chip-Exportverbote und schärferes Vorgehen gegen das Kopieren westlicher Modelle.