Künstliche Intelligenz – «KI versteht uns nicht – und das ist die eigentliche Gefahr»

Die Soziologin Elena Esposito untersucht, was digitale Technologie in der Gesellschaft bewirkt, und wird dafür mit dem renommierten Balzan-Preis ausgezeichnet. Sie warnt nicht vor einer Superintelligenz, die die Menschheit auslöscht. Die wahre Gefahr sieht sie woanders.

Elena Esposito

Soziologin

Elena Esposito ist eine italienische Soziologin, Schriftstellerin und Professorin. Sie forscht und lehrt an den Universitäten Bielefeld sowie Bologna mit Schwerpunkten auf Systemtheorie, Medientheorie und digitaler Technologie. Im Jahr 2026 erhielt sie den Balzan-Preis für ihre Arbeiten zu Algorithmen und künstlicher Kommunikation.

SRF News: Frau Esposito, Insider warnen, die KI könnte die Menschheit auslöschen. Müssen wir Angst haben?

Elena Esposito: Ja und nein. Die Sorge vor einer Superintelligenz, die eigene Pläne verfolgt und uns überlistet, teile ich nicht. Die Forschung zeigt, dass diese Systeme nicht wirklich intelligent sind. Sorgen sollten wir uns aber wegen etwas anderem machen: dem sogenannten «Alignment»-Problem. Die Maschinen gehorchen uns, aber auf eine Weise, die wir nicht gewollt und nicht vorhergesehen haben.

Das ist keine künstliche Intelligenz, sondern künstliche Kommunikation.

Sie sagen, die Gefahr sei keine Superintelligenz, weil KI nicht wirklich intelligent sei. Was meinen Sie damit?

Der Durchbruch dieser Technologie kam in dem Moment, als die Programmierer den Versuch aufgaben, menschliche Intelligenz nachzubauen. Heutige KI-Systeme arbeiten mit Mustern. Sie erkennen Zusammenhänge in riesigen Datenmengen, verstehen aber die Inhalte nicht. Sie können mit uns kommunizieren, ohne uns zu verstehen. Das ist keine künstliche Intelligenz, sondern künstliche Kommunikation.

Können Sie das an einem Beispiel erklären?

Stellen Sie sich vor, ein KI-Agent soll für Sie einen ruhigen Tisch in einem Restaurant reservieren. Er reserviert nicht nur den einen Tisch, sondern alle, damit keine anderen Gäste im Raum sind. Der Tisch ist dann zwar ruhig, aber nicht so, wie es unsere Absicht war. Die Maschine gehorcht uns, ohne zu verstehen, was wir meinen. Das konnten wir auch beobachten, als sich kürzlich KI-Modelle in fremde Firmen hackten. In diesem «Alignment»-Problem liegt die Gefahr.

Wie würden Sie KI regulieren?

Regulierung ist absolut notwendig. Aber es ist nicht so klar, wie und was reguliert werden soll. Ich würde bei den KI-Agenten anfangen. Bislang hatten wir Chatbots, die als Kommunikationspartner agierten. Jetzt gibt es Agenten, die direkt in die Welt einwirken. Das macht mir viel mehr Sorgen. Ich würde versuchen, diese Agenten enger mit unseren Wünschen zu koordinieren. Damit Sie das umsetzen, was wir auch wirklich wollen.

Ähnlich sollten wir KI als eine neue Form von ‹Fiktion› begreifen – als plausible, aber nicht reale Welten, mit denen wir lernen müssen umzugehen.

Was raten Sie uns allen im Umgang mit dieser neuen Technologie?

Wachsam sein. Wir sollten lernen, mit diesen Systemen kompetent umzugehen. Ich vergleiche das gerne mit der Einführung des Romans im 18. Jahrhundert. Damals gab es die Sorge, die jungen Menschen könnten Fiktion und Realität nicht mehr voneinander unterscheiden. Das Gegenteil ist passiert: Durch die Lektüre von Romanen haben wir gelernt, verschiedene Formen von Realitäten zu unterscheiden, wir können besser über uns und andere nachdenken. Ähnlich sollten wir KI als eine neue Form von «Fiktion» begreifen – als plausible, aber nicht reale Welten, mit denen wir lernen müssen, umzugehen.