Ist Claude bei Bewusstsein? Anthropic streitet mit dem Papst

• Anthropic-Mitgründer Christopher Olah diskutiert mit religiösen Führern, ob das KI-Modell Claude ein Bewusstsein hat.
• Papst Leo XIV schliesst in seiner Enzyklika «Magnifica Humanitas» ein KI-Bewusstsein kategorisch aus und fokussiert sich auf die Folgen für die Menschheit.
• Anthropic lobbyiert dennoch im Vatikan dafür, die Bewusstseinsfrage bei KI ernster zu nehmen.

Als Christopher Olah eine Einladung vom Papst erhielt, an einem Anlass neben ihm über KI zu sprechen, war seine Freude gross. Als er aber die Enzyklika las, die der Papst an dem Anlass vorstellen wollte, überlegte er, dem Oberhaupt der katholischen Kirche abzusagen.

Olah ist einer der Mitgründer von Anthropic, der Firma, die das KI-Modell Claude führt. Die Monate vor der Einladung des Papstes hatte er damit verbracht, mit Vertretern verschiedener Religionen über ethische Fragen zum Betrieb von KI zu diskutieren.

Olah denkt, Claude ist bereits bei Bewusstsein. Der Papst hält nicht viel von dieser Idee und sorgt sich mehr über die Auswirkungen der KI auf die Menschheit. Die «New York Times» (NYT) hat mit Olah selbst und mit einigen seiner Gesprächspartner gesprochen, um mehr über die spirituelle Auseinandersetzung zu erfahren.

Hat Claude ein Bewusstsein?

«Es scheint mir, dass Anthropic denkt, bei Claude handle es sich um ein Wesen, das über ähnliche angeborene Rechte auf Würde und Respekt verfüge wie Menschen», erzählt Navon, ein Rabbi und studierter Informatikingenieur.

«Um es klar zu sagen», erklärte Olah, «wir wissen nicht, ob KI-Modelle ein Bewusstsein haben. Wir finden Strukturen, die Ergebnisse der menschlichen Neurowissenschaften widerspiegeln. Wir finden Hinweise auf Selbstreflexion. Wir finden innere Zustände, die funktional Freude, Zufriedenheit, Angst und Trauer widerspiegeln.»

Was hältst du von der KI-Debatte?

KI wird überbewertet.

Die «New York Times» fasst zusammen, dass nach den Gesprächen mit Anthropic einige Teilnehmer weiterhin eher skeptisch gegenüber der Bewusstseinsfrage blieben. Doch viele nahmen daraufhin die Frage nach dem Bewusstsein von KI ernster.

Wie bringt man Ethik in eine KI?

Olah sagt, er wolle herausfinden, wie die KI «moralisch gebildet werden kann»: «Wie hilft man ihnen, stabil zu sein? Wie hilft man ihnen, zu reifen?» Diese Fragen stelle er sich. Fragen über die Auswirkungen von KI auf den Arbeitsmarkt und das gesellschaftliche Zusammenleben seien zwar auch hin und wieder thematisiert worden, erzählen Teilnehmer der Gespräche, diese Themen seien aber nicht als Schwerpunkt betrachtet worden. Ein Teilnehmer erklärt anekdotisch, wie Olah bei einer Diskussionsrunde von der Idee begeistert war, Claude beichten zu lassen.

Wakanyi Hoffmann studiert in den Niederlanden KI aus der Perspektive der afrikanischen Philosophie Ubuntu. Sie zeigt sich skeptisch gegenüber den Gesprächen. «Das Ganze hätte bereits in der Entwurfsphase geschehen sollen», sagt sie. «Alle Unternehmen hätten das tun sollen.» Tatsächlich geben mehrere Teilnehmer an, nicht zu wissen, ob und wie ihre Ideen in die Geschäftsentscheidungen von Anthropic einfliessen würden.

Die Gespräche werden weiterhin geführt. Mittlerweile werden neben religiösen Anführern auch Psychologen und andere Vertreter der Zivilgesellschaft miteinbezogen, so eine Sprecherin des Unternehmens zur «New York Times».

Das sagt der Papst

Papst Leo XIV hat deutliche Worte zu Fragen rund um KI gefunden. Diese hat er in einer Enzyklika mit dem Titel «Magnifica Humanitas» (die grossartige Menschheit) niedergeschrieben, bringt sie aber auch immer wieder mit Beiträgen auf Social Media zum Ausdruck.

Die Möglichkeit, dass KI ein Bewusstsein hat, schliesst der Pontifex vollständig aus. «Sogenannte künstliche Intelligenzen machen keine Erfahrungen, besitzen keinen Körper, empfinden weder Freude noch Schmerz und reifen nicht durch Beziehungen», schrieb Leo. Dementsprechend interessiert er sich weniger für den korrekten Umgang mit KI-Modellen, sondern fokussiert sich auf ihre Auswirkungen auf die Menschheit.

Olah scheint enttäuscht von den Ansichten des Papstes zu sein. «Die Menschen können unterschiedliche Ansichten darüber haben, welche konkreten Übel am schwerwiegendsten sind», sagte er der NYT. Wie die Zeitung berichtet, lobbyiert Anthropic im Vatikan dafür, die Möglichkeit eines Bewusstseins bei KI ernster zu nehmen.

Simon Misteli (sim), Jahrgang 1995, arbeitet seit 2024 als Redaktor am Newsdesk. Dabei schreibt er über verschiedenste Themen mit einem Fokus auf Auslandsgeschichten.