KI überflutet EU-Institutionen mit Anträgen und Halluzinationen

Obwohl sich die EU gerne als weltweiter Vorreiter bei der Regulierung von künstlicher Intelligenz sieht, kämpfen ihre eigenen Institutionen in Brüssel und Straßburg mit den Folgen des unkontrollierten Einsatzes der Technologie. Die Verwaltung werde von der Flut an automatisiert erstellten Inhalten regelrecht überrollt, schreibt das Portal Rapporteur. Was als Instrument für mehr Effizienz gedacht gewesen sei, verursache zunehmend organisatorische Probleme, die selbst mit technischer Hilfe kaum zu bewältigen seien.

Besonders im EU-Parlament mache sich dies bemerkbar. Dessen Generalsekretär Alessandro Chiocchetti warnte jüngst vor einer rasanten Zunahme von Änderungsanträgen, parlamentarischen Anfragen, Petitionen und Anträgen auf Akteneinsicht. Verantwortlich dafür sei unverkennbar der vermehrte Einsatz generativer KI. Auch Parlamentspräsidentin Roberta Metsola äußerte sich besorgt und rief die Abgeordneten dazu auf, demokratische Verantwortung nicht an Algorithmen abzugeben. Ein mit KI verfasster Änderungsantrag dürfe nicht den echten Dialog mit Kollegen oder den direkten Kontakt zu Wählern ersetzen. Am Donnerstag verabschiedete das Parlament zudem eine Entschließung zu KI in Verwaltung und Demokratie. Neue Leitlinien der Verwaltung zum KI-Einsatz sollen bald folgen.

Halluzinationen in Gesetzestexten

Die Auswirkungen zeigen sich im Alltag in Form konkreter Pannen, ist zu vernehmen. Dolmetscher, die Dokumente in 24 Amtssprachen übertragen und dabei klassische maschinelle Übersetzung ohne KI nutzen, stoßen in Texten von Volksvertretern auf Halluzinationen und Verweise auf nicht existierende Gesetze. Auch der juristische Dienst soll mitunter tagelang damit beschäftigt gewesen sein, KI-generierte Behauptungen zu überprüfen. Beobachter berichten, dass Parlamentarier KI teils verwendeten, um mit minimalem Aufwand Aktivität vorzutäuschen und in internen Ranglisten besser dazustehen.

Um gegenzusteuern, hat etwa der irische EU-Abgeordnete Barry Andrews eine interne Richtlinie eingeführt. Der Liberale untersagt sich damit den Einsatz von KI bei Abstimmungen, Plenarreden, Pressemitteilungen und Kommissionsanfragen. Die Vorgabe enthält unten ganz transparent den Disclaimer, dass sie selbst mit KI-Unterstützung erstellt worden sei.

Da parlamentarische Anfragen stark zunehmen, wächst unter Beamten die Überzeugung, dass die Kommission ihrerseits KI nutze, um diese zu beantworten. Damit droht nach Ansicht eines Parlamentsassistenten eine weitgehend ohne Menschen geführte Kommunikation zwischen den Institutionen, was fundamentale Fragen zur Demokratie aufwerfe.

Wettlauf gegen die Zeit und interne KI-Grenzen

Die Belastung betreffe auch andere Bereiche. Die Zahl der Beschwerden bei der Europäischen Bürgerbeauftragten sei infolge von KI um 50 Prozent gestiegen, erklärte ein hochrangiger EU-Beamter gegenüber Rapporteur. Da viele Beschwerden handwerklich schwach seien, drohe die Institution im Papierkrieg zu versinken. Der estnische KI-Experte und Kommissionsberater Luukas Ilves spricht von einer „Überflutung“ durch autonome Softwareagenten. Zwar könnte KI der Kommission bei Folgenabschätzungen und öffentlichen Konsultationen helfen, doch leide die Verwaltung unter organisatorischer Trägheit – wenn auch nicht stärker als andere Behörden. Das Parlament entwickelt zwar ein eigenes KI-Werkzeug, die Verwaltung macht sich aber keine Illusionen, gegen kommerzielle Milliardeninvestitionen aus den USA zu bestehen. Es soll vor allem dazu dienen, interne Dokumente zu analysieren und sensiblen Datenverkehr von US-Cloud-Diensten fernzuhalten.

Anders bewertet der schwedische EU-Abgeordnete Jörgen Warborn den Wandel. Der Konservative nutzt KI für Recherchen und betont, der Industrial Accelerator Act habe über 5000 Änderungsanträge erhalten. Zwar dürfe KI nicht mit dem alleinigen Ziel eingesetzt werden, das System zu überlasten. Die Technik helfe aber enorm bei der Produktivitätssteigerung der Abgeordneten. Angesichts ohnehin zu vieler Bürokraten in der EU sei mehr Effizienz gern gesehen.