Zu viele KI-Vorfälle: US-Behörde untersucht Anthropic, METR, OpenAI

Zu oft sind große Sprachmodelle außer Kontrolle geraten und haben Dritten Schaden zugefügt. Daher hat die US-Handelsaufsicht FTC (Federal Trade Commission) eine offizielle Untersuchung gegen die Konzerne Anthropic und OpenAI sowie andere KI-Unternehmen eröffnet – schon vor dem KI-Angriff auf Hugging Face im Juli.

Das hat ein FTC-Manager der New York Post erzählt. Doch aufgrund des Angriffs auf Hugging Face und weiterer unsauberer Vorfälle vertieft die FTC ihre Untersuchung. In den kommenden Wochen wird sie den KI-Betreibern auftragen, der Behörde interne Unterlagen offenzulegen. Zudem werden die Spitzenmanager werden zu Zeugenaussagen vorgeladen. Sie sollen zu ihren Dienste und deren Gefahr für Verbraucher Rede und Antwort stehen.

Juristisch beruft sich die FTC auf den Verdacht, die KI-Betreiber könnten unfaire oder irreführende Geschäftspraktiken pflegen. Das wäre ein Verstoß gegen das FTC-Gesetz, weshalb die Behörde tätig werden kann. Ungewöhnlich ist, dass ein FTC-Manager die Verdächtigen über die Medien vorwarnt, dass sie bald Bescheide zur Offenlegung möglicher Beweise erhalten werden.

Der Bericht nennt auch das Forschungsinstitut METR, das die jüngsten KI-Modelle hinsichtlich Fähigkeiten und Risiken evaluiert, als Objekt der Untersuchung. Reuters hat den Bericht der Zeitung inzwischen bestätigt, ebenfalls unter Berufung auf einen nicht namentlich genannten FTC-Manager.

Kalifornien prüft Kill Switch

Am Dienstag waren KI-Manager im Weißen Haus zu Gast und haben US-Präsident Donald Trump versprochen, freiwillige Verhaltensstandards auszuarbeiten. Trump ist ausdrücklich gegen bindende Regeln für Entwicklung Künstlicher Intelligenz. Erforderlich ist aus seiner Sicht einzig ein starker und kluger Präsident mit hohem Intelligenzquotienten. Daher sucht der bevölkerungsreichste US-Staat Kalifornien, selbst Maßnahmen zu setzen.

Gouverneur Gavin Newsom lässt prüfen, ob und gegebenenfalls welche Sicherheitsmechanismen für KI-Systeme bis hin zu „Kill Switches“ vorgeschrieben werden sollen. Außerdem werden Kriterien ausgearbeitet, nach denen KI-Firmen Sicherheitsvorfälle verpflichtend einer Behörde melden müssen.