Anthropic stoppt mögliche Biowaffen-Forschung mit KI "Claude"
Das KI-Unternehmen Anthropic hat nach eigenen Angaben Versuche von Forschern blockiert, die Software Claude für mögliche Biowaffen-Forschung zu nutzen. Die Anfragen kamen aus gesperrten Regionen.
11.09.2026 | 0:23 minDie KI-Firma Anthropic hat in den vergangenen Monaten nach eigenen Angaben mehrere Versuche von Forschern unterbunden, verschiedene Modelle ihrer Software Claude rund um die mögliche Entwicklung von Biowaffen zu nutzen.
Zugleich erklärte der Konkurrent des ChatGPT-Entwicklers OpenAI aber, dass die Ziele solcher Anfragen schwer zu ermitteln seien, da entsprechende Forschung sowohl medizinischen als auch militärischen Zwecken dienen könne.
Jacob Coxon, Forscher der US-Firma Anthropic, warnt auf der Plattform X vor der Weiterentwicklung künstlicher Intelligenz. Laut ihm würden Unternehmen unverantwortlich handeln.
09.09.2026 | 0:38 minAuf jeden Fall zeigten die Versuche aber, dass Wissenschaftler aus blockierten Regionen und mit Verbindungen zu dortigen staatlichen Stellen versuchten, heimlich auf Künstliche Intelligenz amerikanischer Entwickler zuzugreifen, hieß es. Weder die Forschungseinrichtungen noch die Länder, aus denen sie stammen, wurden genannt.
Anthropic entwickelt mit „Claude Mythos“ eine KI, die unbekannte Softwarelücken aufdeckt. Doch genau diese Lücken könnte sie auch ausnutzen. Zu gefährlich für die Öffentlichkeit?
17.05.2026 | 3:13 minFünf Fälle möglicher Biowaffen-Forschung mit KI
Anthropic führte in einem ausführlichen Bericht über versuchten Missbrauch seiner KI-Modelle fünf Fälle mit Bezug zu möglicher Biowaffen-Forschung auf. Dabei hätten die Forscher nicht konkrete wissenschaftliche Hilfe gesucht, sondern eher organisatorische Unterstützung, etwa beim Verfassen von Papieren.
KI-Modelle sind grundsätzlich darauf getrimmt, Hilfestellung bei der Entwicklung biologischer Waffen zu verweigern. Bei Forschung, die sowohl der Medizin als auch militärischen Zwecken dienen könne, sei es manchmal aber schwierig, eine klare Trennlinie zwischen harmlosen und bösartigen Absichten zu ziehen, erklärte Anthropic.
"Mythos" könne eine große Zahl von IT-Sicherheitsschwachstellen finden, sagt IT-Sicherheitsexperte Dennis-Kenji Kipker. Das könne auch von kriminellen Akteuren genutzt werden.
17.05.2026 | 5:27 minRiskante Forschung zu Vogelgrippe-Viren
Bei einem der von der KI-Firma blockierten Zugriffsversuche sei probiert worden, mit Hilfe von Claude einen Antrag auf Förderung zur Forschung an einem Virus zu verfassen. Dabei sei es um sogenannte Gain-of-Function-Forschung gegangen, bei der die Übertragbarkeit eines Erregers erhöht wird. Eine gängige Methode bei der Suche nach Gegenmitteln in Laboren - aber eben auch ein Weg, Biowaffen zu entwickeln.
Die KI-Branche findet nun auch an den Finanzmärkten statt. Was sich OpenAI, Anthropic und Co von diesem Schritt versprechen: Einschätzungen von ZDF-Wirtschaftsexperte Frank Bethmann.
09.06.2026 | 1:37 minIn einem anderen Fall wurde den Angaben zufolge versucht, mit Hilfe von Claude einen Plan für die Erforschung einer Vogelgrippe-Variante zu entwerfen, die sich auf Säugetiere übertragen ließe.
Auch hier betont Anthropic, dass solche Forschung zwar der Prävention dienen könne, aber zugleich gefährliches Wissen schaffe, das bei der Waffenentwicklung verwendet werden könne. Ein weiterer Wissenschaftler habe Claude bei der Erstellung vierteljährlicher Fortschrittsberichte bei der Erforschung eines Toxins nutzen wollen.
Warnung vor Ausspionieren durch Länder
Das KI-Unternehmen warnten zudem grundsätzlich vor dem Nutzen der KI zum Ausspionieren von Regierungsgegnern und Minderheiten und nannte dabei unter anderem China, den Iran und Westafrika.
Quelle: dpa
Über dieses Thema berichtet ZDFheuteXpress am 11.09.2026 um 09:30 Uhr.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.