Philosoph Rainer Mühlhoff – Die KI bedroht uns existenziell, aber anders als wir denken

Die Frage hört man immer wieder: Was, wenn die Künstliche Intelligenz die Menschheit auslöscht? Der Philosoph und Mathematiker Rainer Mühlhoff sieht KI als grosse Gefahr für die Menschheit – aber anders und konkreter, als wir derzeit annehmen.

Rainer Mühlhoff

Philosoph und Mathematiker

Rainer Mühlhoff ist Professor für Ethik und kritische Theorien der Künstlichen Intelligenz an der Universität Osnabrück. Sein Buch «Künstliche Intelligenz und der neue Faschismus» wurde mit dem Preis «Das politische Buch 2026» der Friedrich-Ebert-Stiftung ausgezeichnet.

SRF: Rainer Mühlhoff, sind wir in 5 Jahren noch hier oder hat uns die KI bis dahin ausgelöscht?

Ich weiss nicht, warum man gleich von der Ausrottung der Menschheit sprechen muss. Die technologische Entwicklung ist so gefährlich, dass sie gravierende Auswirkungen hat, wenn man sie nicht einhegt. Auch unterhalb der Schwelle einer Ausrottung.

In Ihrem Buch warnen Sie nicht vor der Auslöschung durch eine Superintelligenz, sondern vor der zunehmenden Verflechtung von Tech-Unternehmen und dem Staat. Was ist daran gefährlich?

Unternehmen wie Palantir sind keine Dienstleister, das sind politische Akteure.

Die Tech-Milliardäre wollen nicht immer nur mehr Geld. Sie sind so reich, dass zusätzliches Geld nicht mehr die primäre Rolle spielt. In ihrem Expansionsstreben geht es jetzt um politische Macht.

Sie schreiben, Unternehmer wie Elon Musk oder Peter Thiel träumten von einer Art CEO-Monarchie. Darin wären wir nicht mehr Bürgerinnen und Bürger, die mitbestimmen können, sondern Kundinnen und Kunden eines riesigen Unternehmens.

Für die Tech-Bros ist die Entwicklung insbesondere der KI-Technologie entscheidend, um gegen andere Nationen bestehen zu können. Die Demokratie mit ihren Mitbestimmungsprozessen ist in ihren Augen ein Hemmschuh, der diese Entwicklung verlangsamt.

Deshalb wollen sie eine Staatsform, in der die Geschicke des Staates unmittelbar mit ihren Profitinteressen verschaltet sind. Leiten soll der Staat eine Art CEO. Anders als ein Monarch wird er gewählt, allerdings von den Shareholdern: von Menschen mit Geld und politischem Einfluss.

Ein Beispiel für diese Verflechtung ist Peter Thiels Unternehmen Palantir. Es bietet Analysesoftware an, die zunehmend von Polizeibehörden, Armeen und Gesundheitseinrichtungen eingesetzt wird, auch in Europa.

Ja, das Problem ist, dass nicht nur IT-Dienstleistungen des Staates an Unternehmen ausgelagert werden, sondern zunehmend auch die Infrastruktur und Entscheidungsprozesse. Staaten werden dadurch abhängig von der privaten Industrie und verlieren ihre Souveränität.

Man muss hier wirklich von einem Machttransfer sprechen. Unternehmen wie Palantir sind keine Dienstleister, das sind politische Akteure.

Sie warnen in Ihrem Buch sogar vor einem neuen Faschismus. Warum?

Wir haben es hier mit einer Ideologie zu tun, die Demokratie und universelle Menschenrechte ablehnt. Menschen werden zum Beispiel nach ihrem IQ hierarchisiert. Gerade Peter Thiel ist ein protofaschistischer Denker, der nicht viel auf die Demokratie hält. Das ist schon seit 20 Jahren dokumentiert.

Aber ist es nicht etwas überzogen, hier die Faschismuskeule zu zücken?

Natürlich ist das ein belasteter Begriff, den viele gerne in die Geschichte der Vergangenheit packen wollen. Aber Faschismus ist nicht der deutschen Geschichte vorbehalten, es kann ihn auch wieder geben.

Wir leben nicht in einem Faschismus, auch die USA nicht. Aber die Frage ist, wie Faschismus aus einer Demokratie heraus entsteht. Ich begreife das als Prozess. Das muss nicht so sein wie bei den Nazis, deswegen spreche ich auch von einem neuen Faschismus. Ein neuer Faschismus ist eher eine technokratische Staatsform, in der die Tech-Industrie eine grosse Rolle spielt und Verwaltung zunehmend an KI-Systeme delegiert wird.

Der Text ist ein gekürzter Auszug aus der «Sternstunde Philosophie». Das Gespräch führte Barbara Bleisch.

Rainer Mühlhoff: «Künstliche Intelligenz und der neue Faschismus», Reclam, 2026.