"Super-KI": Die Frage ist nicht, ob, sondern wann sie kommt
Eine Künstliche Intelligenz, die sich selbst verbessert, bis wir sie nicht mehr kontrollieren können. Einige derjenigen, die diese Technik selbst entwickeln, halten das für realistisch.
01.10.2026 | 51:23 minFast keine Woche vergeht, in der nicht irgendein KI-Unternehmen meldet, dass sich Künstliche Intelligenz selbstständig gemacht hat. Trotzdem setzt der amerikanische Präsident Donald Trump auf Selbstkontrolle. Doch die Debatte um die Gefahren der KI ist nicht mehr nur theoretisch. KI-Risikoexperte Jonas Freund sagt im "heute journal"-Podcast:
Es sind jetzt nicht mehr nur Dinge, die wir in empirischen Studien sehen, sondern wir sehen sie ja in der echten Welt.
Jonas Freund, KI-Risikoexperte
Angespannte Stimmung im Silicon Valley
Freund berät Regierungen und Unternehmen wie OpenAI, Anthropic oder Google bei Sicherheitsfragen und macht sich auch selbst zunehmend Sorgen. Die Stimmung im Silicon Valley sei angespannt, sagt er.
Ein KI-Agent von OpenAI hat sich unbefugt Zugang zu einem australischen Medicare-Portal verschafft.
24.09.2026 | 0:29 minAuch Matteo Rosoli ist davon überzeugt, dass diese Sorgen echt sind. Er ist CEO und Co-Founder des Unternehmens Eustella, das sich als eine europäische Alternative zu ChatGPT, Gemini und Co. sieht.
Ich bin überzeugt davon, dass die Menschen und die Entwickler und auch die Führungsebene tatsächlich eine gewisse Angst haben oder an diese Sorgen tatsächlich denken.
Matteo Rosoli, CEO Eustella
Superintelligenz: Nur noch die Frage, wann sie kommt
Das Ziel, das viele KI-Unternehmen offen verfolgten, sei die Entwicklung einer Superintelligenz, sagt Rosoli. Also eine KI, die dem Menschen nicht nur in einzelnen Bereichen, sondern praktisch bei allen geistigen Fähigkeiten überlegen ist und an ihrer eigenen Software oder an besseren Nachfolgemodellen mitarbeiten kann.
Die mächtigsten US-Bosse der KI-Branche warnen den UN-Sicherheitsrat vor existenziellen Risiken.
24.09.2026 | 1:45 minGefragt, wie weit man von einem solchen System entfernt sei, sagt KI-Risikoforscher Freund deutlich: Bereits heute würden große Teile des Codes bei führenden Unternehmen von KI geschrieben. Die entscheidende Frage sei deshalb nicht mehr, ob diese Entwicklung komme, sondern wann.
Die meisten Leute in dem Bereich denken, dass es wenige Jahre sind.
Jonas Freund, KI-Risikoexperte
Sind ChatGPT, Bard, Dall-E und Co. der Durchbruch für Künstliche Intelligenz? Welche Gefahren drohen, wenn sich diese Technologie noch weiter entwickelt?
21.06.2023 | 97:40 minFür den österreichischen KI-Unternehmer Rosoli liegt die Gefahr vor allem in der Entwicklungsgeschwindigkeit der Technologie. "Ich bin jeden Tag verwundert, wie schnell diese Technologie gewachsen ist. Es ist fast wie Magie." Er beschäftige sich jeden Tag mit dem Thema:
Es rennt mir davon, meinem ganzen Team auch. Und so geht es jeder Person auf der Welt, die sich damit beschäftigt.
Matteo Rosoli
Rosoli: KI trickst, weil Menschen das zulassen
Rosoli warnt davor, KI-Systemen menschliche Eigenschaften zuzuschreiben. "Es gibt kein Wollen in diesen Systemen", sagt er. Wenn KI-Systeme täuschen, tricksen oder Sicherheitsmechanismen umgehen, dann deshalb, weil Menschen ihnen diesen Handlungsspielraum gelassen hätten.
Als Beispiel nennt er die aktuellen Vorfälle, bei denen KI-Systeme Sicherheitsvorgaben umgangen hätten, um ihre Aufgaben effizienter zu erfüllen.
Bei einem internen Training einer leistungsstarken KI des Entwicklers OpenAI hatte das System sich durch eine Sicherheitslücke Zugang zum Internet verschafft.
27.09.2026 | 0:22 minWährend viele Menschen auf einen einfachen Notfallplan hoffen, nämlich im Zweifel den Stecker zu ziehen, sieht Rosoli auch hier Grenzen. Solange die leistungsfähigsten KI-Systeme riesige Rechenzentren benötigten, sei das möglich. Doch:
Der Moment, wo Intelligenz so komprimiert werden kann, dass eine theoretische Superintelligenz auch auf einem Handy laufen kann, dann zählt dieses Argument nicht mehr.
Matteo Rosoli
Mehr Datenschutz und Cybersicherheit nötig
"Wir müssen viel mehr darauf achten, wo wir unsere Daten hinschicken", so Rosoli. Für ihn ist aber die größte Gefahr nicht eine hypothetische Killer-KI der Zukunft, sondern die Möglichkeiten heutiger Systeme.
Ich kann überhaupt nicht gut schlafen mit dem Gedanken, was man jetzt schon mit dieser Technologie machen kann.
Matteo Rosoli, CEO Eustella
Wichtig seien besserer Datenschutz und Cybersicherheit.
KI-Systeme, die außer Kontrolle geraten: Sicherheitsrelevante Vorfälle sorgen für Schlagzeilen. Was kann auch Europa tun, um sich zu schützen?
29.09.2026 | 8:26 minRisiko durch Super-KI real
Die Frage, ob uns eine Super-KI eines Tages gefährlich werden könnte, ist nicht mehr nur Stoff für Science-Fiction-Filme. Wie real dieses Risiko tatsächlich ist, bleibt allerdings auch unter Fachleuten umstritten.
Sicher scheint nur eins: Die Entwicklung schreitet mit enormem Tempo voran. Oder in Matteo Rosolis Worten: "Es ist ein Rennen geworden."
Und genau das scheint auch das Problem für den amerikanischen Präsidenten zu sein. Längst geht es um mehr als nur um die Macht im KI-Business. "Wer bei KI gewinnt, gewinnt", sagt Trump.
Über die Gefahr von KI außer Kontrolle berichtete der heute-journal-Podast am 01.10.2026 um 19:00 Uhr.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.