EU-Kommission an KI-Firmen: „Bringt euren Laden in Ordnung“

Der AI Act der Europäischen Union wird schrittweise in Kraft gesetzt. Und obwohl die wichtigsten Regeln für Sicherheit und Hoch-Risiko-Modelle erst in den kommenden Jahren greifen, müssen die KI-Anbieter sich jetzt schon verstärkt um Sicherheit kümmern. Dies betonte am gestrigen Freitag ein Sprecher der EU-Kommission bei einer Pressekonferenz in Brüssel.

Der AI Act werde „vollständig durchgesetzt“, hieß es dabei. Der Sprecher reagierte damit auf die Frage eines Journalisten, der sich nach der Haltung der Kommission zu Übergriffen von OpenAI-Modellen auf Webseiten erkundigte. Erst kürzlich stellte sich heraus, dass KI-Agenten noch vor dem Einbruch bei Hugging Face unter anderem auch die Entwicklerplattform RubyGems für Kommunikation genutzt hatten. Dies war ihnen eigentlich durch interne Regeln untersagt.

Wegen solcher Vorfälle habe die EU-Kommission schon bei mehreren Unternehmen formale Informationsanfragen gestellt, hieß es in Brüssel. Ein solcher „Request for Information“ (RFI) kann der erste Schritt in einem Untersuchungsverfahren sein. Dabei könne, so der Sprecher der Kommission, diese auch „Maßnahmen zur Risikominderung verlangen, und in extremen Fällen KI-Modelle auch einschränken, zurückziehen oder sogar zurückrufen.“

EU kann KI-Modelle auch selbst testen

Daher sei es „höchste Zeit, dass diese Anbieter Ordnung in ihre Angelegenheiten bringen und sicherstellen, dass sie ihr fortschrittlichsten Modelle in den Griff bekommen“. Die Kommission habe auch die Möglichkeiten, solche Modelle zu testen. Dazu arbeite man unter anderem gerade daran, eigene, sichere Testumgebungen bereitzustellen. Unter anderem mit Anthropic und OpenAI stehe man dazu in engem Kontakt, zu Details und den Versionen der für die EU verfügbaren Modelle wollte sich die Kommission auf Nachfragen nicht äußern.

Bei Verletzungen ihrer Regeln kann die EU-Kommission gewisse Dienste oder Produkte schlicht verbieten, meist erfolgen jedoch Geldstrafen. Oder auch beides: Im Juli verhängte die EU Strafzahlungen von insgesamt 890 Millionen Euro gegen Google wegen Verstößen gegen den „Digital Markets Act“ (DMA). Zusätzlich änderte der Konzern erst in dieser Woche seine Darstellung von Suchergebnissen, sodass diese nicht mehr andere Google-Dienste in den Vordergrund stellen.