„Super-KI“: Wie behalten wir die Kontrolle?

heute journal - der Podcast:„Super-KI“: Wie behalten wir die Kontrolle? Mit Jonas Freund und Matteo Rosoli

01.10.2026 | 19:00

Eine Künstliche Intelligenz, die klüger ist als wir alle und sich immer schneller selbst verbessert, bis wir sie nicht mehr kontrollieren können. Klingt nach Science-Fiction? Einige derjenigen, die diese Technik selbst entwickeln, halten dieses Szenario für durchaus realistisch.

Gleichzeitig setzt US-Präsident Trump darauf, dass die KI-Konzerne sich selbst kontrollieren. Diese Woche haben ihre Chefs im Weißen Haus eine freiwillige Selbstverpflichtung unterschrieben. Reicht das? Wie können wir die Kontrolle behalten? Und was bedeutet es für uns in Europa, dass die wichtigsten KI-Modelle fast alle aus den USA oder China kommen?  

Darüber sprechen Host Helene Reiner und heute journal-Moderatorin Dunja Hayali mit Jonas Freund, Senior Research Fellow beim Centre for the Governance of AI, der in persönlicher Funktion spricht. Und Matteo Rosoli. Er ist CEO und Co-Founder des Unternehmens Eustella, das sich als eine europäische Alternative zu ChatGPT sieht. 

Schon heute können KI-Systeme programmieren. Sie finden Fehler im Code oder helfen dabei, neue KI-System zu entwickeln. Eine bessere KI könnte dann auch besser darin sein, die nächste KI zu entwickeln. Die wäre wiederum noch besser darin, ihre Nachfolgerin zu verbessern... und so weiter. 

Die Entwicklung könnte sich dadurch selbst beschleunigen. Und das ist der Punkt, an dem es für viele unheimlich wird. Denn wenn sich so eine KI immer schneller verbessert, stellt sich irgendwann die Frage, ob wir da überhaupt noch die Kontrolle behalten.

Nachrichten | Thema

:heute journal - der Podcast

Was steckt hinter den großen Schlagzeilen? Gemeinsam mit Marietta Slomka, Christian Sievers und Dunja Hayali blickt Helene Reiner in jeder Folge auf ein wichtiges Thema der Woche.