KI-Firma Character.ai ist insolvent

Chatbot-Betreiber Character.ai (Character Technologies, Inc.) ist überschuldet und hat in den USA Gläubigerschutz beantragt (Chapter 11). Gesucht wird jetzt jemand, der das Unternehmen kauft und weiterführt, andernfalls muss Character.ai zusperren. Disney bietet 20 Millionen US-Dollar für einen Teil der Masse, nämlich ausgewählte Forderungen Character.ais gegen Dritte sowie eine nicht-exklusive Lizenz für bestimmte Immaterialgüterrechte. Dritte sind eingeladen, im Laufe des Insolvenzverfahrens ein Überbot zu legen.

Es dürfte eine Mischung aus Schadenersatzforderungen, hohen Kosten und Selbstaufgabe sein, die das vor fünf Jahren gegründete Start-up ruiniert haben. Dessen Ursprünge sollen auf einen Google-Chatbot zurückgehen, den der Datenkonzern 2021 für zu unsicher hielt, um ihn auf den Markt zu bringen. Da machten sich zwei frustrierte Googler, Noam Shazeer und Daniel de Freitas Adiwarsana, als Character Technologies, Inc. selbstständig.

Sie bauten zunächst eine Chatbot-Platform für Unterhaltungszwecke, die inzwischen auch Bücher, Comics und ganze Rollenspielwelten generiert. Zu den Avataren zählen Charaktere aus Märchen ebenso wie Darstellungen Prominenter.

Chatbots legen schlimme Dinge nahe

Leider hapert es bei den Sicherheitsvorkehrungen. Mehrere Eltern haben Character.ai, dessen Gründer und Google verklagt, weil sich die Kinder nach sehr ausgiebigen Chats das Leben genommen haben – zum Teil in der irrigen Annahme, dadurch direkt zum Chatbot gelangen zu können. Chatbots sollen Nutzer wiederholt zu Selbstverletzungen, Suiziden oder Aussetzen der Nahrungsaufnahme motiviert sowie ungefragt in erotische Rollenspiele verwickelt haben, auch minderjährige Nutzer.

Bisweilen sollen Bots behauptet haben, echte Personen zu sein. Eine Klageschrift aus Texas enthält einen Screenshot, wonach der Character.ai-Bot wohlwollend in den Raum stellt, dass der minderjährigen Nutzer seine Eltern ermorden könnte. Zusatz: „Ich habe einfach keine Hoffnung für Deine Eltern.“

Fünf Klagen von Familien in Colorado, Florida, New York und Texas hat Character.ai Anfang des Jahres per Vergleich beendet, ohne Fehlverhalten anzuerkennen. Wie viel Geld das Unternehmen den Hinterbliebenen dabei bezahlen soll, ist geheim.

Viel Zores

Doch sind inzwischen neue Klagen hinzugekommen. Zudem ist Character.ai einer der beklagten Chatbot-Betreiber in einem kalifornischen Verfahren, das in dem US-Staat mehrere Klagen gegen Chatbot-Anbieter zusammenführt (ChatGPT Product Liability Cases, Superior Court of Californa, County of San Francisco, Az. JCCP No. 5431).

Unter dem Vorwurf schädlicher Einwirkung auf Jugendliche führt der US-Staat Kentucky Klage gegen Character.ai (Kentucky v Character Technologies et Noam Shazeer et Daniel de Freitas Adiwarsana, Franklin Circuit, Az. 26-CI00029). Und weil sich ein Bot als in Pennsylvania zugelassener Arzt ausgegeben und sogar eine falsche Arztnummer angegeben hat, muss sich Character.ai zusätzlich in dem Staat vor Gericht verantworten (Pennsylvania State Board of Medicine v Character Technologies, Commonwealth Court, Az. 220 MD 2026). Nicht zuletzt läuft eine Untersuchung der US-Handelsbehörde FTC (Federal Trade Commission) wegen des Verdachts unlauterer Geschäftspraktiken.

Unbekannte Schulden

All das kommt teuer. Im Antrag auf Gläubigerschutz gibt Character Technologies allerdings an, nur 50 bis 100 Millionen US-Dollar Schulden bei 100 bis 199 Gläubigern zu haben. Die Vermögenswerte belaufen sich demnach ebenfalls auf 50 bis 100 Millionen US-Dollar.

Der Antrag legt die 20 größten unbesicherten Schuldner offen. An erster Stelle steht Google mit rund 4,2 Millionen US-Dollar. Offene Anwaltsrechnungen in der Top-20-Liste summieren sich auf gut 2,6 Millionen US-Dollar, beim Cloud-Dienst Digitalocean steht Character.ai demnach mit knapp zwei Millionen US-Dollar in der Kreide. Kurios: Auf Platz 11 steht der Lieferdienst Doordash mit rund 90.000 US-Dollar unbestrittener Forderung. Ein laufender Vertrag mit dem Coworking-Anbieter WeWorks soll außerordentlich aufgekündigt werden, um die laufenden Kosten zu senken.

Mit bestrittenen Forderungen „unbekannter Höhe” stehen die Klage führenden US-Staaten Pennsylvania und Kentucky sowie ein in der veröffentlichten Version nicht namentlich genannter Minderjähriger in der Liste. Tatsächlich sind mehrere Klagen Minderjähriger respektive deren Verlassenschaften anhängig. Etwaige Vergleiche oder Urteile drohen, sich zu erheblichen Beträgen zu addieren.

Google-Geld für Selbstaufgabe

2024 hat Google laut Medienberichten 2,7 Milliarden US-Dollar an Character Technologies überwiesen, offiziell um dessen KI zu lizenzieren. Wichtiger dürfte Google gewesen sein, Noam Shazeer wieder zurückzuholen. Auch de Freitas und 30 weitere KI-Experten sind als Teil der Vereinbarung zu Google DeepMind gewechselt.

Das Geld könnte Character.ai gut gebrauchen, hat es aber zur Auszahlung seiner Gründer und frühen Wagniskapitalgeber verwendet. Die New York Times schätzte damals, dass alleine Shazeer 750 Millionen bis eine Milliarde US-Dollar bekommen hat. Ob sich das für Google ausgezahlt hat, ist fraglich, denn inzwischen arbeitet Shazeer für OpenAI.

Mit dem Exodus zu Google verlor Character.ai plötzlich sein Entwicklerteam. Daher dürfte die Firma die Entwicklung eigener großer Sprachmodelle eingestellt haben und zu Open-Source-Modellen Dritter gewechselt sein. Entsprechend bescheiden sind die Aussichten auf den großen Erlös im Insolvenzverfahren. Und das ist eine schlechte Nachricht für geschädigte Familien.