Beschwerde von Datenschutz-NGOs: Überwacht fürs KI-Training

Wenn KI lernen soll, sind zahlreiche Arbeitende beteiligt – unter umstrittenen Bedingungen. NGOs reichen nun Beschwerde gegen eine Plattform ein.

Datenschutzverbände aus mehreren europäischen Ländern haben Beschwerde gegen den Betreiber einer großen Plattform eingelegt, die menschliche Arbeitskräfte für das Training von KI anheuert. Das Unternehmen beschäftige Arbeitende auf selbstständiger Basis und setze sie einer invasiven Überwachung aus, kritisiert die österreichische NGO Noyb, die an der Beschwerde beteiligt ist.

Beim Training von künstlicher Intelligenz sind die Hersteller gängiger KI-Chatbots wie ChatGPT, Claude oder Gemini auch auf menschliche Arbeitskräfte angewiesen. Die haben unter anderem die Aufgabe, zu überprüfen, was die KI auswirft – und das entsprechend mit Feedback zu versehen. So sollen sie etwa bewerten, ob eine Antwort des Bots passend war zum Prompt. Nicht nur unpassende Antworten, auch Inhalte, die dem Regelwerk des jeweiligen Anbieters widersprechen, sollen so möglichst aus dem System entfernt werden.

Diese Arbeit wird häufig von Arbeitenden übernommen, die die Aufträge formal auf freiberuflicher Basis über eine Plattform angeboten bekommen. Im konkreten Fall richten sich die Beschwerden gegen die Branchengröße Outlier, die zum US-Konzern Scale AI gehört. Laut Noyb beschäftigt die Plattform rund 900.000 Freiberufler:innen. Noyb kritisiert dabei nicht nur das grundsätzliche und in der Plattformökonomie verbreitete Geschäftsmodell der formal selbstständigen Beschäftigung, das die Arbeitenden schnell austauschbar macht. Sie moniert in diesem Fall auch die konkreten Bedingungen.

Ausweisdaten und Tracking

So setze Outlier seine Mit­ar­bei­te­r:in­nen „invasivem Tracking“ aus. Die Plattform platziere Tracker auf den Geräten der Betroffenen, die alle paar Sekunden persönliche Daten der Arbeitenden an Dritte senden würden, etwa Kontaktdaten und IP-Adressen. Darüber hinaus verpflichte die Plattform die Arbeitenden zu einer biometrischen Identifizierung mit Videoaufnahmen des Gesichts und einem Hochladen des eigenen Ausweises. Für den Einsatz der Tracker gebe es keine Rechtsgrundlage. Sowohl die Tracker als auch die biometrische Identifizierung verstießen gegen den in der Datenschutz-Grundverordnung festgelegten Grundsatz der Datenminimierung.

„Ein derart umfassendes Tracking während der Arbeit widerspricht wirklich allen vernünftigen Erwartungen“, kritisiert Lisa Steinfeld Leiser, Datenschutzjuristin bei Noyb. Baptiste Delmas von der französischen Organisation Intérêt à Agir sagt: „Die aufgezeigten Verstöße machen deutlich: Der KI-Boom ist auf eine riesige Anzahl von Arbeitskräften angewiesen, deren Privatsphäre auf dem Spiel steht.“ Nun sei es an den Datenschutzbehörden, dagegen vorzugehen.

Behörden müssen Beschwerden prüfen

Scale AI betont in einem grundsätzlichen Statement auf seiner Webseite, das auf Ende vergangenen Jahres datiert ist, man unternehme Anstrengungen gegen „moderne Sklaverei“ und menschliche Ausbeutung. Darin heißt es auch: Das Unternehmen lege großen Wert darauf, sich „an die höchsten Standards ethischen Geschäftsverhaltens zu halten, weil wir unglaublich hohe Ansprüche an uns selbst stellen“. Eine Anfrage der taz zu den Beschwerden der Datenschutzverbände beantwortete Scale AI nicht.

Im nächsten Schritt sind nun die Aufsichtsbehörden am Zug, bei denen die NGOs die Beschwerden eingereicht haben. Diese leiten Verfahren ein und prüfen die Vorwürfe. Bis es also ein Ergebnis gibt, werden voraussichtlich mindestens mehrere Monate vergehen.

„Prix Pascal“ für KI-Literatur Ein Preis für die Superintelligenz

Kommentar von Yannic Walter

Der französische „Prix Pascal“ soll mit künstlicher Intelligenz verfasste Bücher auszeichnen. Doch das legitimiert Technologie, die Literatur bedroht.

IT-Ethik-Professorin über KI „Was die Leute wollen, ist nicht das, was ihnen guttut“

Wie gefährlich ist künstliche Intelligenz wirklich? Und wie könnte sie sicherer werden? Die IT-Ethikprofessorin Judith Simon gibt Antworten.

Interview von Svenja Bergt

KI macht wieder Sachen Ein „Ausbruch“ auf Bestellung

Kommentar von Johannes Drosdowski

Kein Internetzugang? Von wegen. OpenAI hat neue Sicherheitsprobleme öffentlich gemacht. Aber wer ist eigentlich verantwortlich?

taz FUTURZWEI im Abo entdecken Endlich mal ein Magazin für Zukunft

taz FUTURZWEI ist unser Magazin für eine bessere Zukunft. Das Abo bietet jährlich vier Ausgaben für nur 38 Euro. Zudem erhalten Sie eine Ausgabe von Luisa Neubauers neuestem Buch „Was wäre, wenn wir mutig sind?“ (solange Vorrat reicht).

• Jedes Quartal neu in Ihrem Briefkasten
• Nur 38 Euro im Jahr
• Als Prämie Luisa Neubauers „Was wäre, wenn wir mutig sind?“
• Herausgegeben von Harald Welzer

Jetzt abonnieren