Biowaffen-Gefahr durch KI? So schätzen Experten die Risiken ein
KI-Modelle, die bei der Entwicklung von Biowaffen helfen: Es ist ein erschreckendes, aber offenbar nicht unrealistisches Szenario. Wie groß die Gefahr ist, analysiert ZDFheute live.
28.09.2026 | 29:35 minDie rasante Entwicklung Künstlicher Intelligenz wirft zunehmend Sicherheitsfragen auf. Sorgen wachsen, dass KI-Modelle auch für die Entwicklung biologischer Waffen missbraucht werden könnten. Gleichzeitig warnen Experten vor einem möglichen Kontrollverlust und fordern strengere Regulierung.
Wie groß ist die Gefahr tatsächlich? Können Anbieter ihre Systeme wirksam vor Missbrauch schützen? Und wo liegen die Grenzen kontrollierbarer KI? Darüber spricht Alica Jung bei ZDFheute live mit Harald König vom Karlsruher Institut für Technologie und Benjamin Balde von der Non-Profit-Organisation ControlAI.
Sehen Sie oben die ganze Sendung oder lesen Sie hier Auszüge.
Experte sieht drei Gefahrenszenarien durch KI
Harald König, der für den Bundestag zu den Risiken von Biotechnologie und KI gearbeitet hat, sieht vor allem drei mögliche Gefahrenszenarien. Eines davon: KI könnte Menschen ohne größere Vorkenntnisse den Zugang zu relevantem, möglicherweise gefährlichem Wissen erleichtern:
Eine der größten Gefahren, die derzeit diskutiert werden, ist, dass der Personenkreis, der Biowaffen entwickeln könnte, größer werden könnte, dadurch, dass durch KI die Hürden zur Herstellung von Biowaffen gesenkt werden.
Dr. Harald König vom Karlsruher Institut für Technologie
Menschen könnten sich so schneller Wissen über Krankheitserreger oder Giftstoffe aneignen, erklärt der Experte.
Das zweite Szenario betreffe Personen, die bereits Fachwissen und Laborerfahrung besitzen - oder staatliche Akteure. Sie könnten KI nutzen, um bestehende Viren oder Toxine gefährlicher zu machen oder sogar neuartige Varianten mit bisher unbekannten Eigenschaften zu entwickeln.
Der israelische Historiker Yuval Noah Harari zeigt in zwei neuen Büchern, welche Einschnitte uns bevorstehen und was im KI-Zeitalter zu tun ist.
24.09.2026 | 5:53 minWelche Gefahr ist am wahrscheinlichsten?
Das dritte Szenario entsteht laut König durch die Verbindung von KI mit automatisierten Laboren. Sogenannte Self-Driving Labs könnten künftig komplette Forschungszyklen weitgehend selbstständig durchführen: vom Design eines biologischen Stoffes über Herstellung und Tests bis hin zur Auswertung und Optimierung.
Für am wahrscheinlichsten hält König derzeit allerdings das zweite Szenario, also den Einsatz von KI durch bereits erfahrene Akteure.
Die Wahrscheinlichkeit, dass zum Beispiel jemand ohne Erfahrung in Biologie ein Virus herstellen könnte, das dann eine Pandemie auslöst, ist nach wie vor relativ gering.
Dr. Harald König vom Karlsruher Institut für Technologie
Trotzdem fordert König, frühzeitig Sicherheitsmechanismen aufzubauen. "Aufgrund der rasanten Entwicklung der KI-Systeme sollte man bereits heute vorsorgende Maßnahmen treffen." Diese müssten auf verschiedenen Ebenen ansetzen, weil auch die möglichen Akteure sehr unterschiedliche Fähigkeiten und Möglichkeiten hätten.
Dem Menschen in allen Bereichen überlegene KI-Systeme dürften nicht entwickelt werden, so Experte Balde bei ZDFheute live. Er fordert klare Regulierung – der Mensch müsse die Kontrolle behalten.
28.09.2026 | 17:45 min"Kein Staat kann Superintelligenz kontrollieren"
Benjamin Balde von der NGO Control AI warnt vor allem vor KI-Systemen, die sich menschlicher Kontrolle entziehen könnten. Entscheidend sei die Grenze zwischen KI als beherrschbarem Werkzeug und einer künstlichen Superintelligenz:
Wir haben KI, die ein Werkzeug ist. Und wir haben KI, die superintelligent ist, die sich nicht kontrollieren lässt, die sich nicht steuern lässt.
Benjamin Balde von der NGO Control AI
Balde argumentiert, dass schon heutige KI-Systeme teilweise Handlungen ausführten, die von ihren Entwicklern nicht beabsichtigt seien.
Bei einer noch wesentlich leistungsfähigeren Superintelligenz wäre dieses Problem aus seiner Sicht nicht mehr beherrschbar: "Kein Staat kann Superintelligenz kontrollieren." Auch die USA oder China könnten ein solches System seiner Einschätzung nach nicht dauerhaft unter Kontrolle halten.
Ein KI-Agent von OpenAI hat sich eigenmächtig in eine australische Regierungswebsite gehackt. Nun warnten die mächtigsten US-Bosse der Branche den UN-Sicherheitsrat vor existenziellen Risiken.
24.09.2026 | 1:45 minBalde fordert Verbot von "Superintelligenz"
Besonders kritisch sieht er deshalb Systeme, die sich selbst weiterentwickeln oder immer autonomer agieren. Je mehr Verantwortung der Mensch an KI abgebe, desto größer werde die Gefahr eines Kontrollverlusts.
Immer weiter sich selbst zu entmächtigen, führt ja auch nicht dazu, dass der Mensch selbstbestimmter wird.
Benjamin Balde von der NGO Control AI
Kritisch bewertet er zudem sogenannte rekursive Selbstverbesserung, bei der KI-Systeme leistungsfähigere KI-Systeme entwickeln und dieser Prozess sich fortsetzt.
Balde wolle sich aber auch nicht als grundsätzlicher Gegner von KI verstanden wissen - im Gegenteil: Anwendungen etwa in der Medizin, Pharmakologie, Materialforschung oder beim autonomen Fahren bewertet er ausdrücklich positiv. Die Grenze zieht er dort, wo KI nicht mehr kontrollierbar ist. "KI gerne, Superintelligenz auf keinen Fall." Seine Forderung sei deshalb: "Erstmal brauchen wir ein Verbot von Superintelligenz."
Es sollte nicht erlaubt sein, dass diese Unternehmen ein Ziel verfolgen, was (...) inhärent eine Gefahr für alle Bürger darstellt.
Benjamin Balde von der NGO Control AI
Quelle: ZDF
Über das Thema berichtete ZDFheute live am 28.09.2026 ab 19:30 Uhr.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.