Schweizer KI-Berater des Papstes warnt: Wegen KI könnten bis zu 70 Prozent aller Jobs wegfallen

Er habe viel Glück im Leben gehabt, sagt Peter G. Kirchschläger (49) beim Zmorge auf der Terrasse mit Blick auf den Vierwaldstättersee. Das Haus, in dem er mit seiner Frau Miriam (51) und den Töchtern Sara (9) und Mia (7) lebt, konnte er sich nur leisten, weil er ein Start-up verkaufte, das er mit zwei Freunden gegründet hatte. Von seinem Wohnort ist er mit dem Velo in rund 20 Minuten an der Uni Luzern, wo er als Professor das Institut für Sozialethik ISE leitet. Auf die Frage, was ihr Papa denn mache, sagt Mia: «Etwas mit Ethik und viel Blabla.» Mindestens zwei Mal pro Monat reist Kirchschläger ins Ausland und hält Vorträge oder berät Gremien wie die Uno oder die OECD im Umgang mit künstlicher Intelligenz. Technische Gadgets sucht man im Hause Kirchschläger vergebens, für die Kinder gibt es nur ein TV-Gerät. «Leider ohne Netflix», sagt Sara. Der Papa hebt entschuldigend die Arme. «Da drückt meine Arbeit durch. Sie sehen: Die härtesten Kritikerinnen sitzen bei mir zu Hause.»

Artikel aus der «Schweizer Illustrierten»

Dieser Artikel wurde erstmals in der «Schweizer Illustrierten» publiziert. Näher dran – an Stars, Royals und Menschen mit Geschichten. Hier gehts zum Abo!

Dieser Artikel wurde erstmals in der «Schweizer Illustrierten» publiziert. Näher dran – an Stars, Royals und Menschen mit Geschichten. Hier gehts zum Abo!

Herr Kirchschläger, Papst Leo XIV. hat Sie zu seinem persönlichen Berater in Sachen KI ernannt. Wie kamen Sie zu diesem Job – hatten Sie plötzlich den Pontifex am Telefon?
Peter G. Kirchschläger (Lacht.) Nicht ganz. Ich erhielt ein Schreiben aus dem Vatikan, dass man mit mir zu bestimmten Themen ins Gespräch kommen möchte. Mit meiner Forschung durfte ich bereits Papst Franziskus beraten, mit Papst Leo wird es institutionalisierter. Die Arbeit selber ist eine Kombination aus persönlichen Begegnungen und einem schriftlichen Austausch.

Dürfen Sie dem Papst widersprechen?
Unbedingt! Meine Aufgabe als Berater ist nur sinnvoll, wenn ich klar Position beziehen kann.

Als Amerikaner kommt Papst Leo XIV. aus dem Land des Big Tech. In seiner ersten Enzyklika, die auch auf Ihrer Forschung basiert, fordert er: «Die künstliche Intelligenz muss entwaffnet werden.» Sind das nicht gar harte Worte?
Weder ihm noch mir geht es darum, die KI – ich würde die Bezeichnung datenbasierte Systeme (DS) vorschlagen – zu verteufeln. Wir kritisieren, dass fünf bis zehn Tech-Konzerne aus den USA und China die KI für die eigene Gewinnmaximierung in Geiselhaft haben. Der Papst betont in seinem Werk auch die Chancen der KI – etwa in der Medizin. Ziel muss sein, den technologischen Fortschritt zum Wohl der Menschen und des Planeten Erde einzusetzen und nicht dafür, dass sich ein paar wenige bereichern.

Und wie kommen wir dorthin?
Mit einer globalen, menschenrechtsbasierten Regulierung von KI. Und weil ich nicht glaube, dass diese Regeln einfach eingehalten werden, braucht es eine Kontrollinstanz bei der Uno: eine Internationale Agentur für datenbasierte Systeme. Wenn Roche oder Novartis ein neues Medikament auf den Markt bringen, wird zuerst getestet, ob es den Menschen oder der Umwelt schadet. Es ist doch stossend, dass es bei der KI keine Regeln gibt!

Was bedeutet menschenrechtsbasiert?
Datenbasierte Systeme dürfen beispielsweise nicht diskriminieren. Wenn in der Schweiz eine Firma ein KI-Tool für die Rekrutierung von Mitarbeitenden nutzt, können sie es als Frau vergessen, eine Führungsposition zu bekommen.

Wieso?
Weil es zu wenig Daten mit Frauen in Führungspositionen gibt. Und weil die Mehrheit der Algorithmen von alten weissen Männern gebaut wurde. Menschenrechtlich ein Problem sind zudem alle Mechanismen, die süchtig machen. Und Datenschutzverletzungen. Stellen Sie sich vor: Es gibt in den USA ein legal eingetragenes KI-Unternehmen, das nichts anderes macht, als Kinderbilder zu sexualisieren.

Nun warnen sogar die Chefs der Tech-Giganten vor ihrer eigenen Technologie.
Sie untermauern damit ihre Macht. Die Unternehmen signalisieren: Wir sind die einzigen, die unsere Technologie kontrollieren können. Ich habe mich mal bei einer Uno-Arbeitsgruppe zur KI unbeliebt gemacht, indem ich die Staatsvertreter fragte, warum hochrangige Mitglieder von Big Tech mit uns am Tisch sitzen. Die Antwort war: weil sie uns erklären müssen, wie ihre KI funktioniert. Das ist, wie wenn die Schweiz und die EU bei der Besprechung einer neuen Strategie zur Bekämpfung des internationalen Drogenhandels die Mafia miteinbeziehen.

Die Uno hat massiv an Macht verloren. Warum sollen Tech-Firmen auf sie hören?
Die Uno ist nicht perfekt und hat Reformbedarf. Doch sie ist der Ort, wo die Welt zusammenkommt, und verfügt über die Instrumente, um menschenrechtsverletzende KI zu verhindern. Was mich zuversichtlich stimmt: Die USA und China haben ein gemeinsames Interesse.

Welches wäre das?
Zu unterbinden, dass die organisierte Kriminalität KI für eigene Zwecke nutzt. Hinzu kommt die Unterbindung von Deepfakes. Selbst ein Diktator überlebt keinen hochstehend gemachten Deepfake, der ihn im Zusammenhang mit Kinderpornografie zeigt.

Statt zu regulieren: Sollte der Staat nicht einfach KI-Firmen bestrafen, wenn ihre Software ausschert?
Ich halte es für naiv, darauf zu vertrauen, dass der Markt alles regelt. Die Interessen der Technologiekonzerne sind einfach zu dominant.

Der junge britischen Forscher, der beim KI-Riesen Anthropic gekündigt hat, warnt davor, dass uns die KI alle umbringe.
Grundsätzlich ist das schon möglich. Aber ich glaube, diese Horrorszenarien sollen von den gegenwärtigen ethischen Problemen ablenken. Statt darüber wird nur über die Angst vor der Apokalypse gesprochen. Mich hat erschreckt, dass EU-Kommissions-Präsidentin Ursula von der Leyen gesagt hat, man müsse sich von den Tech-Firmen die Gefahren erklären lassen. Nein! Die Staaten müssen ihnen sagen, es gibt gewisse Regeln und wenn sie sich nicht daran halten, werden sie gekoppelt an den Jahresumsätzen gebüsst. Dann werden die Investoren nervös.

Nutzen Sie selber KI?
Nein, weder privat noch beruflich. Ich will kein Komplize von Menschenrechts- und Urheberrechtsverletzungen sein. Ich will selbst denken! Nutze ich die Systeme, setzte ich mich der Manipulation aus, weil die KI-Firmen in unseren Daten Verhaltens- und Entscheidungsmuster erkennen und uns so beeinflussen. Für meine Forschung schaffe ich mir aber einen Überblick, was die Systeme können und wo sie stehen. Da hilft mir meine Gastprofessur an der ETH Zürich.

Dann wissen Sie, dass KI stets dazulernt.
Ja, aber nur aufgrund von mehr Daten, die ihnen gefüttert werden. ChatGPT ist wie eine wiederkäuende Kuh. Weil das Tool Sprache, Wortschöpfungen und Formulierungen, die schon einmal gedacht worden sind, wiederkäut und ausspuckt. Meine Hoffnung ist, dass wir zu Expertensystemen kommen – so wie etwa in der Medizin. Da füttert man das System nur mit hochwertiger Fachliteratur. Vorausgesetzt die Urheberrechte sind eingehalten, ist das hochinteressant.

Ihre Studenten nutzen ChatGPT längst für Zusammenfassungen und Arbeiten.
Ich fordere sie auf, genau das nicht zu tun – weil es ihnen in der eigenen Entwicklung nicht hilft. Und ich passe Prüfungsformen an und befrage sie mehr mündlich. Grundsätzlich merke ich, dass sie zunehmend kritischer sind, was KI und die sozialen Medien – ich nenne sie asozial – mit ihnen machen. Sie sagen, dass sie ihnen nicht guttun, sie weniger kreativ denken.

Die Nutzung von KI fängt ja heute schon in der oberen Primarschule an.
Ich finde es bedrückend, dass man eine neue Technologie ohne sorgfältige Abklärung einführt. Zum Vergleich: Beim Taschenrechner haben Pädagogen zuerst Studien erstellt, ab welchem Alter dieser Sinn macht und für welche mathematischen Aufgaben.

Was raten Sie Ihren Töchtern, welchen Beruf sie im KI-Zeitalter erlernen sollen?
Ich möchte, dass sie frei und selbstbestimmt ihren Weg finden. Allerdings rechne ich damit, dass wegen KI bis zu 70 Prozent aller bezahlten beruflichen Aufgaben wegfallen. Mein Rat an die jungen Menschen: Fokussiert euch auf jene Bereiche, die Menschen von Maschinen unterscheiden. Zwischenmenschliche Interaktionen, kritisches Denken, Kreativität und – da bin ich voreingenommen – Ethik.

Bisher hat allerdings jeder technische Fortschritt mehr Arbeitsplätze geschaffen.
Eine KI ist aber anders als eine Dampfmaschine. Bisher war stets das Ziel, die schwere körperliche Arbeit von Menschen zu erleichtern. Mit KI will man Menschen ersetzen – wie etwa an der Kasse im Supermarkt. Doch nicht nur da: Anwälte, Ärztinnen – Roboter können eine Breite an Arbeiten übernehmen. Zudem wird KI bewusst so entwickelt, dass sie sich ohne menschlichen Input weiterentwickeln kann. Man kann also viel Geld verdienen, ohne einen Menschen zu beschäftigen.

Das macht einem schon Sorgen ...
Ethisch ist es nicht problematisch, wenn wir nicht mehr arbeiten. Schwierig finde ich hingegen, wenn Wirtschaftsführer behaupten, solange sich die Leute in Sachen KI weiterbilden, hätten sie nichts zu befürchten. Es wäre ehrlicher, unser Wirtschaftssystem anzupassen.

Inwiefern?
Alle Menschen sollten ein Grundeinkommen erhalten. Dieses wäre so hoch, dass es nicht nur zum Überleben reicht, sondern auch für ein menschenwürdiges Leben. Dafür müsste man Gesellschaftszeit leisten und einer frei gewählten Aufgabe nachgehen, wie etwa einem Bergbauern helfen.

Wer soll das zahlen?
Wenn die datenbasierten Systeme rund um die Uhr arbeiten, ist genug Geld vorhanden.

Sie sind auch Theologe: Immer mehr Menschen entdecken die KI als Gesprächspartner für die grossen Fragen des Lebens. Ist KI der neue Gott?
Meinen Sie Pfarrer, die ihre Predigten mit datenbasierten Systemen schreiben? Das ist problematisch. Ich will nicht, dass eine amerikanische oder chinesische Firma von der Kanzel spricht.

Für junge Menschen ist die KI zu einer Art Freund oder Freundin geworden.
Das ist eben perfid. Zuerst sorgen die Tech-Konzerne dafür, dass die Jugendlichen so abhängig von ihren Systemen sind, dass sie kaum mehr fähig sind, Freundschaften zu pflegen. Dann bringen sie ein Produkt auf den Markt, das ihnen vermeintlich die Freunde ersetzt. Das gilt auch für ältere Personen. Nur weil sie in einen Bildschirm starren, sind sie trotzdem einsam. Die Menschen verlernen, mit verschiedenen Meinungen umzugehen. Studien zeigen: Wer dauernd von Systemen gestreichelt wird, verliert die Fähigkeit, Kritik auszuhalten. Das ist fatal für eine Gesellschaft.

Externe Inhalte

Möchtest du diesen und weitere externe Beiträge (z.B. Instagram, X und anderen Plattformen) sehen? Wenn du zustimmst, können Cookies gesetzt und Daten an externe Anbieter übermittelt werden. Dies ermöglicht die Anzeige externer Inhalte sowie von personalisierter Werbung. Deine Entscheidung gilt für die gesamte App und ist jederzeit in den Einstellungen widerrufbar.