US-Firmen verkaufen wohl KI-Trainingsdaten an China

Amerikanische Firmen, die auch OpenAI, Anthropic & Co. beliefern, verkaufen ihre Trainingsdaten wohl auch an chinesische KI-Firmen. Dabei geht es häufig um Reinforcement Learning Environments, die maßgeblich dazu beitragen, wie gut eine KI bei einer Aufgabe abschneidet.

Reinforcement Learning (RL) passiert nach dem Pre-Training des Modells und sorgt dafür, dass ein KI-Modell in einer Aufgabe – zum Beispiel „Slack bedienen“ – richtig gut wird. In einer Testumgebung „übt“ das Modell die Aufgabe wieder und wieder, das Ergebnis wird anhand eines festgelegten Sets an Kriterien bewertet und die KI mit Punkten belohnt oder bestraft. Im Laufe vieler Durchläufe wird das Modell so immer besser.

Häufig ist das Post-Training der entscheidende Faktor, der einen Unterschied zwischen den Modellversionen macht. Und diese Sets von verschiedenen Umgebungen, Kriterien und Trainingsdaten verkaufen die diese US-Unternehmen offenbar an chinesische KI-Betreiber.

Verkauf von Originalen und Kopien

Laut Berichten verschiedener Medien kaufen die chinesischen Unternehmen wohl möglichst exakt die RL-Umgebungen, die auch die großen amerikanischen KI-Unternehmen genutzt haben. Wenn diese vertraulich sind, weil die Frontier Labs für Geheimhaltung gezahlt haben, bieten die RL-Unternehmen sogar explizit an, neue Datensets zumindest von denselben Experten bauen zu lassen, die auch an dem Set für das Frontier Lab beteiligt waren.

Laut Recherchen von ChinaTalk verkaufen mindestens neun RL-Unternehmen an China. Darunter sind Mercor, einer der größten Datenverkäufer, der RL-Umgebungen an Alibaba verkauft haben soll, und Surge AI, das mit Tencent, Z.ai und Moonshot AI Geschäfte gemacht haben soll. Moonshot AI hatte zuletzt mit Kimi K3 ein Modell präsentiert, das laut Analyse des KI-Wettlaufs zwischen China und den USA beim Programmieren mit amerikanischen Spitzensystemen mithalten soll. Weitere RL-Unternehmen sind Turing, AfterQuery, Abundant, Pareto, DeccanAI, Eaglepoint und Invisible.

China und die USA beschränken sich gegenseitig beim Zugang zu KI-Technologien – wie Chinas geplante Exportbeschränkungen für KI-Technologien und die amerikanischen Chip-Exportkontrollen zeigen. Man könnte argumentieren, dass solche Beschränkungen dann auch für RL-Umgebungen gelten müssten.