Auf der Suche nach einem "einfacheren" Regelwerk für KI

Als Bundeskanzler Friedrich Merz (CDU) vor zwei Wochen auf Nvidia-Chef Jensen Huang traf, stellte er dem Tech-Mogul eine zentrale Frage: Welche Regeln sollte die EU künftig für Künstliche Intelligenz aufstellen? Die Frage gleicht einem Balance-Akt und sie steht auch beim diesjährigen Digitalgipfel der Bundesregierung im Zentrum der Diskussion.

Europäische KI-Unternehmen sollen wettbewerbsfähiger gegenüber der Konkurrenz aus den USA und China werden. Gleichzeitig will man Sicherheitsrisiken oder sogar mögliche Gefahren für die Gesellschaft nicht ignorieren. Ob der Balance-Akt gelingt, scheint offen, und auch, wie viel Einfluss Deutschland am Ende haben wird.

KI-Chefs und Regierungsvertreter kommen nach Berlin

Mit rund 1.000 Vertretern aus Wirtschaft, Forschung und Politik will die Bundesregierung zwei Tage lang darüber diskutieren. Unter anderem die Chefs der KI-Unternehmen Mistral und Cohere sowie der kanadische Digitalminister kommen dafür nach Berlin.

Ganz so hochkarätig wie im vergangenen Jahr ist die Veranstaltung nicht besetzt. 2025 war Frankreichs Präsident Emmanuel Macron angereist, um große Ankündigungen zur digitalen Souveränität Europas zu machen. Nun scheinen weniger die großen Linien und mehr die Fragen der Umsetzung im Fokus zu stehen.

Deutschland drängt auf "einfacheres" Regelwerk

Es gehe bei dem Gipfel um den Anspruch, KI sicher zu gestalten und Deutschland sowie Europa im internationalen Wettbewerb weiter nach vorne zu bringen, so Digitalminister Karsten Wildberger (CDU). Konkret soll besprochen werden, wie das KI-Regelwerk der EU weiterentwickelt werden kann, um es "einfacher" zu machen, wie es im Tagungsprogramm heißt.

Die EU hatte mit der KI-Verordnung bereits 2024 umfassende Regeln zu Sicherheit und Risikoüberwachung der Systeme beschlossen. In diesem Jahr wurden mit dem "Digitalen Omnibus" einige Pflichten und Fristen aus der Verordnung dann allerdings weiter in die Zukunft verschoben, auch auf Druck der deutschen Bundesregierung.

• Wildberger: "Mehr digitale Souveränität"
• So will Berlin die KI-Aufsicht in Deutschland umsetzen

Gleichzeitig hatten Vorfälle wie der eigenständige Hackerangriff mehrerer KI-Agenten auf die Technologiefirma Hugging Face Fragen über die Kontrollierbarkeit der Systeme und Gefahren für die Gesellschaft aufgeworfen.

Deutschland baut KI-Sicherheitsinstitut auf

Aktuell im Aufbau befindet sich das deutsche KI-Sicherheitsinstitut AISI. Es soll die Bundesregierung künftig zu Risiken der Systeme beraten. Für Franziska Weindauer vom TÜV AI.Lab ist das ein begrüßenswerter Schritt. Sie und ihr Team entwickeln Prüfverfahren und Zertifikate für die Sicherheit von KI-Systemen.

Aus ihrer Sicht gebe es noch deutliche Lücken bei der staatlichen Aufsicht sogenannter Frontier-KI. Also bei den leistungsfähigsten Modellen, die nicht nur für einen bestimmten Zweck entwickelt wurden, sondern breite Aufgaben erfüllen können. Die Modelle seien durch ihre Leistungsfähigkeit auch potentiell gefährlicher, so Weindauer. Deswegen bräuchte es in diesem Bereich dringend einen internationalen Regelungsrahmen.

Experte mahnt: Abhängigkeit nochmal gewachsen

Dass von dem Gipfel große Durchbrüche ausgehen, hält Digitalexperte Markus Beckedahl für unwahrscheinlich. Insbesondere von dem im vergangenen Jahr formulierten Ziel, technologisch unabhängiger von US-Unternehmen zu werden, sei nicht viel übrig geblieben. Im Gegenteil, mit KI, Rechenzentren und Clouds aus den USA drohe die Abhängigkeit noch größer zu werden, so Beckedahl.

Laut einer Studie des Europäischen Parlaments fließen jährlich etwa 264 Mrd. Euro aus der EU an Tech-Unternehmen in den USA. Man müsse Alternativen fördern, Lieferketten diversifizieren und gleichzeitig Datenhoheit behalten und Hersteller in die Verantwortung für Sicherheitsfragen nehmen, so Beckedahl. Die Ausgangslage sei trotz der Ankündigungen aus dem vergangenen Jahr immer noch denkbar ungünstig.