Erste Kündigung per Chatbot: Darf eine KI den Mitarbeitenden kündigen?

Erste Kündigung per Chatbot

Darf eine KI Mitarbeiter entlassen?

Kündigung durch eine KI! Im Andon Market in San Francisco hat Chatbot Luna eine unpünktliche Mitarbeiterin gefeuert. Es ist der erste dokumentierte Fall dieser Art – und wirft rechtliche und ethische Fragen auf.

Publiziert: vor 5 Minuten

Darum gehts

KI-generiert, redaktionell geprüft

• KI Luna entlässt Mitarbeiterin in San Francisco wegen Unpünktlichkeit
• Chatbot Luna schrieb Personalhandbuch, vergass jedoch seine eigenen Regeln
• Schweizer Recht erlaubt KI-Kündigungen, verlangt jedoch menschliche Überprüfung

Zu 17 von 23 Schichten zu spät gekommen: Das war zu viel. Deshalb zog Luna, die Geschäftsführerin des Andon Market, Ende Juli die Notbremse. Sie kündigte der Angestellten, die notorisch unpünktlich war.

Artikel aus der «Bilanz»

Dieser Artikel wurde erstmals in der «Bilanz» publiziert. Weitere spannende Artikel findest du unter bilanz.ch.

Dieser Artikel wurde erstmals in der «Bilanz» publiziert. Weitere spannende Artikel findest du unter bilanz.ch.

So weit, so verständlich. Der Fall hat jedoch einige Besonderheiten: Luna ist kein Mensch, sondern eine künstliche Intelligenz, und der Andon Market in San Francisco ist auch kein normaler Laden. Ein lokales Start-up betreibt ihn, um zu testen, ob eine KI dazu in der Lage ist, selbstständig ein Unternehmen zu leiten.

Luna kann alles entscheiden

Luna kann nach Gutdünken Ware beschaffen, Werbung schalten, Personal einstellen – und offenbar auch feuern, wie das Magazin «Time» berichtet. Die unpünktliche Bedienung könnte unfreiwillig eine historische Rolle gespielt haben – als erster Mensch, der von einem Chatbot entlassen wurde.

Ereilt Schweizer Angestellte in Zukunft dasselbe Schicksal? Grundsätzlich ist es nichts Neues, dass Maschinen bei Entlassungen mitreden. «Im Performance-Management etwa sind seit Jahren Systeme im Einsatz, die Entscheidungsgrundlagen liefern», erklärt Isabelle Wildhaber, Professorin für Privat- und Wirtschaftsrecht an der Universität St. Gallen.

US-Unternehmen sind anfällig

Gerade US-Unternehmen sind bekannt dafür, solche Werkzeuge auch für Kündigungen einzusetzen. Amazon zum Beispiel lässt laut Presseberichten leistungsschwache Lagerkräfte vom Algorithmus identifizieren. Der ganze Entlassungsprozess sei «automatisiert», berichtete 2019 das Onlinemagazin «The Verge».

Doch der Fall des Andon Market ist anders: Hier war ein sogenanntes Sprachmodell im Einsatz, das ähnlich wie ein Mensch denkt und entscheidet; Luna basiert auf dem bekannten Chatbot Claude.

KI-Kündigung – möglich, aber anfechtbar

Rein rechtlich wäre eine von KI unterstützte Kündigung auch hierzulande möglich. Das Gesetz verbietet Arbeitgebern nicht, Einzelentscheidungen zu automatisieren. Ein Unternehmen kann zum Beispiel aus Fehlzeiten vom Computer eine Kündigungsempfehlung ableiten lassen.

Allerdings nennt das Datenschutzgesetz in Artikel 21 Einschränkungen: «Zum einen müssen die Mitarbeitenden informiert werden, und zum anderen haben die betroffenen Personen das Recht, ihren Standpunkt darzulegen und die Entscheidung von einem Menschen überprüfen zu lassen», erklärt Leo Rusterholz, Partner bei der Kanzlei Valfor in Zürich. Sprich: Eine Person aus dem HR-Bereich muss Rede und Antwort stehen und die Kündigung begründen.

Gedankengänge der KI lassen sich nicht erklären

Letzteres könnte bei einer KI-Entscheidung schwierig werden. Denn Chatbots wie Claude oder ChatGPT gleichen Blackboxes, deren Gedankengänge selbst die Hersteller nicht erklären können. «In Deutschland hat zum Beispiel ein Gericht entschieden, dass nachvollziehbar sein muss, wie es zu einer Entscheidung kommt», sagt Dozentin Wildhaber, die sich schon vor zehn Jahren mit dem Thema «Firing by Algorithm» beschäftigt hat.

Stünde der Andon Market in Zürich, wäre die KI-Kündigung unter Umständen anfechtbar gewesen, meint auch Roman Schister, Leiter des Kompetenzzentrums für Business Law an der Ostschweizer Fachhochschule OST.

Die Einfallstore für Einsprachen

Der Professor sieht zwei mögliche Einfallstore: «Eine Frage ist, wie und mit welchen Informationen die Systeme gefüttert wurden – und ob das datenschutzkonform geschehen ist.» Daneben könne ein Anwalt argumentieren, dass die KI-Geschäftsführerin Luna die Mitarbeitenden systematisch überwacht habe, was nach Schweizer Arbeitsschutzrecht eine Gefahr für die Gesundheit darstellen könne, so Schister.

Hinzu kommt ein generelles Problem: Ein Computerprogramm kann eine Person überhaupt nicht rechtsverbindlich entlassen. «Eine Kündigung ist ein Gestaltungsrecht, das durch eine Willenserklärung ausgeübt wird, und die muss einer natürlichen oder juristischen Person zurechenbar sein», erläutert Anwalt Rusterholz. «Nur der Mensch ist juristisch handlungsfähig», betont auch Juristin Wildhaber.

Tech-Visionäre glauben zwar, dass Algorithmen in Zukunft Handlungsvollmachten wie Menschen bekommen. Doch bis dahin müssen noch viele Fragen geklärt werden – zum Beispiel, mit welchem Vermögen eine Maschine für ihre Entscheidungen haftet. Aktuell kann eine KI demnach nur beraten. Deshalb musste auch beim Andon Market letztlich ein Mensch die Kündigung aussprechen.

Wie Mitarbeitende profitieren

Noch kann eine Maschine also nicht selbstständig Arbeitskräfte entlassen. Aber vielleicht sollte sie das? Manche Fachleute sehen darin durchaus Vorteile. «Ein gut trainiertes System könnte im Durchschnitt bessere Entscheidungen als der Mensch treffen», meint Niels van Quaquebeke, Professor für Leadership and Organizational Behavior an der Kühne Logistics University in Hamburg.

Der Experte für algorithmische Führung verweist auf die Stärken von KI: Algorithmen entscheiden immer auf Basis von festen Standards – und nicht nach Bauchgefühl. Im Fall des Andon Market sei das KI-Training aber definitiv nicht optimal gewesen, sagt van Quaquebeke. «Warum hat Luna die Angestellte kein einziges Mal gefragt, weshalb sie immer zu spät kommt?»

DCX STORY: doc87raz8awhqg2xlhzfqn [Info]

«Das sollte uns Sorgen machen.»

Entscheidungen an KI auszulagern, berge trotz der möglichen Vorteile jedoch auch eine «Riesenversuchung», warnt der Organisationswissenschaftler. Was passiert, wenn eine KI das Personal lückenlos überwacht und alles auf maximale Effizienz trimmt? Der Führungsalgorithmus könnte zum Beispiel die Arbeitslast und die Gehälter genau so bemessen, dass in jedem Quartal die maximal vertretbare Anzahl von Arbeitskräften von sich aus kündigt. «Das sollte uns Sorgen machen.»

Die KI-Kündigung beim Andon Market stellt sich bei genauem Hinsehen übrigens als weniger dramatisch dar, als es die Schlagzeilen in der Presse vermuten liessen. Luna agierte nicht wie eine eiskalte Jobkillerin. Die Macher des experimentellen Ladens mussten die KI regelrecht drängen, die unpünktliche Mitarbeitende zu entlassen. Dabei hätte die synthetische Geschäftsführerin jedes Recht dazu gehabt.

Laut internem Personalhandbuch hätte es nach drei Verspätungen eine Verwarnung geben müssen, bei weiteren Verstössen wäre dann eine Kündigung möglich gewesen. Dieses Handbuch hatte Luna selbst geschrieben – aber vergessen.