Kalifornien zwingt OpenAI zur Herausgabe von Hugging-Face-Akten

OpenAI hat noch immer nicht alle Unterlagen zu dem Sicherheitsvorfall offengelegt, bei dem eines seiner KI-Modelle aus einer Testumgebung ausbrach und eigenständig die Plattform Hugging Face hackte. Nun erzwingt der Generalstaatsanwalt des US-Bundesstaats Kalifornien, Rob Bonta, diese auf dem Rechtsweg.

Laut der Pressemitteilung des kalifornischen Department of Justice hat der Generalstaatsanwalt OpenAI eine Ermittlungsvorladung übermittelt. Diese fordert die Herausgabe von Unterlagen zu dem Hugging-Face-Vorfall und ist rechtlich bindend – OpenAI kann sie also nur auf dem Rechtsweg verhindern. Die Vorladung gehört zu breiter angelegten Ermittlungen von Kalifornien zum Hugging-Face-Vorfall.

Mit dieser behördlichen Vorladung folgt Kalifornien als „Heimatstaat“ der großen KI-Firmen dem US-Bundesstaat Alabama, der bereits Ende August eine solche Ermittlungsvorladung an OpenAI gesendet hatte. Zuvor hatten 15 US-Bundesstaaten OpenAI in einem Brief unter anderem aufgefordert, alle relevanten Unterlagen zu sichern.

Die zentrale Frage: Wer haftet für KI-Schäden?

Das Ganze steht im Kontext einer größeren Entwicklung. Im Angesicht diverser KI-Sicherheitsvorfälle der letzten Monate werden die Stimmen immer lauter, die fordern, dass KI-Unternehmen für die Aktionen ihrer Modelle und den dadurch entstandenen Schaden haften. Auch der kalifornische Generalstaatsanwalt Rob Bonta zielt darauf ab: „[...] Unternehmen, die diese Modelle entwickeln und zur Nutzung anbieten, tragen eine moralische und rechtliche Verantwortung dafür, sicherzustellen, dass sie weder während der Test- und Entwicklungsphase der Modelle noch nach deren Inbetriebnahme Cyberangriffe begehen oder ermöglichen“, sagte er in der Pressemitteilung zur Ermittlungsvorladung. „Entwickler, die dieser Verantwortung nicht nachkommen, können und sollten rechtlich zur Rechenschaft gezogen werden, und meine Behörde ist entschlossen, zu klären, ob dies im vorliegenden Fall zutrifft.“

Aktuell gibt die Rechtslage eine solche Haftung in Amerika allerdings noch nicht her. Auch in Europa, wo es bereits einen Gesetzesentwurf gab, wurde die Debatte letztes Jahr eingestellt. Sie sei „verfrüht“. Seit einigen Wochen tut sich in der EU jedoch wieder etwas.

Selbst um Beweise zu KI-Sicherheitsvorfällen anzufordern, gibt es kaum eine Gesetzesgrundlage – umso spannender ist diese Ermittlungsvorladung.