Forscher wollten Claude für Biowaffen-Forschung nutzen

• Die KI-Firma Anthropic hat mehrere Versuche blockiert, ihr Modell Claude für mögliche Biowaffen-Forschung zu nutzen.
• In fünf dokumentierten Fällen suchten Wissenschaftler aus blockierten Regionen organisatorische Unterstützung, etwa beim Verfassen von Forschungspapieren.
• Unter den blockierten Anfragen waren Versuche, Pläne zur Gain-of-Function-Forschung und zur Entwicklung einer auf Säugetiere übertragbaren Vogelgrippe-Variante zu erstellen.

Die KI-Firma Anthropic hat in den vergangenen Monaten nach eigenen Angaben mehrere Versuche von Forschern unterbunden, verschiedene Modelle ihrer Software Claude rund um die mögliche Entwicklung von Biowaffen zu nutzen. Zugleich schränkte der Konkurrent des ChatGPT-Entwicklers OpenAI ein, dass die Ziele solcher Anfragen schwer zu ermitteln seien, da entsprechende Forschung sowohl medizinischen als auch militärischen Zwecken dienen könne.

Mehr zu diesem Thema

Auf jeden Fall zeigten die Versuche aber, dass Wissenschaftler aus blockierten Regionen und mit Verbindungen zu dortigen staatlichen Stellen versuchten, heimlich auf Künstliche Intelligenz amerikanischer Entwickler zuzugreifen, hiess es. Weder die Forschungseinrichtungen noch die Länder, aus denen sie stammen, wurden genannt. In China, Russland und dem Iran ist Claude nicht verfügbar. Ob es in diesen Ländern zu den oben genannten Anfragen kam, führt Anthropic nicht aus.

«Schwierig, klare Linie zu ziehen»

Anthropic führte in einem ausführlichen Bericht über versuchten Missbrauch seiner KI-Modelle fünf Fälle mit Bezug zu möglicher Biowaffen-Forschung auf. Dabei hätten die Forscher nicht konkrete wissenschaftliche Hilfe gesucht, sondern eher organisatorische Unterstützung, etwa beim Verfassen von Papieren. KI-Modelle sind grundsätzlich darauf getrimmt, Hilfestellung bei der Entwicklung biologischer Waffen zu verweigern. Bei Forschung, die sowohl der Medizin als auch militärischen Zwecken dienen könne, sei es manchmal aber schwierig, eine klare Trennlinie zwischen harmlosen und bösartigen Absichten zu ziehen, erklärte Anthropic.

Riskante Forschung an Vogelgrippe

Bei einem der von der KI-Firma blockierten Zugriffsversuche sei probiert worden, mit Hilfe von Claude einen Antrag auf Förderung zur Forschung an einem Virus zu verfassen. Dabei sei es um sogenannte Gain-of-Function-Forschung gegangen, bei der die Übertragbarkeit eines Erregers erhöht wird. Eine gängige Methode bei der Suche nach Gegenmitteln in Laboren – aber eben auch ein Weg, Biowaffen zu entwickeln.

Was hältst du davon, dass KI-Firmen solche Anfragen zu möglicher Biowaffen-Forschung blockieren?

Das ist richtig und längst überfällig.

In einem anderen Fall wurde den Angaben zufolge versucht, mit Hilfe von Claude einen Plan für die Erforschung einer Vogelgrippe-Variante zu entwerfen, die sich auf Säugetiere übertragen liesse. Auch hier betont Anthropic, dass solche Forschung zwar der Prävention dienen könne, aber zugleich gefährliches Wissen schaffe, das bei der Waffenentwicklung verwendet werden könne. Ein weiterer Wissenschaftler habe Claude bei der Erstellung vierteljährlicher Fortschrittsberichte bei der Erforschung eines Toxins nutzen wollen.

Folgst du schon 20 Minuten auf Whatsapp?

Eine Newsübersicht am Morgen und zum Feierabend, überraschende Storys und Breaking News: Abonniere den Whatsapp-Kanal von 20 Minuten und du bekommst regelmässige Updates mit unseren besten Storys direkt auf dein Handy.

Jasmin Steiger (jst) arbeitet seit 2026 für 20 Minuten. Sie arbeitet am Newsdesk und schreibt über verschiedenste Themen.