Deutschland und Kanada investieren Millionen in KI-Projekt "LawZero"

Kanada und Deutschland investieren in die KI-Sicherheitsorganisation LawZero. Kanada plant dafür 150 Millionen kanadische Dollar, Deutschland rund 100 Millionen Euro. LawZero beziffert das gemeinsame Fördervolumen auf bis zu 300 Millionen kanadische Dollar.

Mit der Förderung soll LawZero sein internationales Forschungsteam vergrößern und zusätzliche Rechenkapazitäten aufbauen. Dafür sind in Kanada 360 Vollzeitstellen sowie der Aufbau einer eigenen KI-Recheninfrastruktur vorgesehen. Die deutschen Mittel sind für Forschungs- und Entwicklungsarbeiten am neuen LawZero-Standort in Berlin vorgesehen. Über die Arbeiten dort sollen europäische Normen und KI-Regeln von Beginn an in die Entwicklung einfließen. Die deutsche Förderung steht noch unter dem Vorbehalt der Notifizierung durch die EU-Kommission.

LawZero ist eine 2025 vom kanadischen Deep-Learning-Pionier und Turingpreisträger Yoshua Bengio gegründete gemeinnützige Organisation mit Sitz in Montréal. Seit 2023 beschäftigt sich Bengio verstärkt mit den Risiken von KI-Systemen. LawZero will eine KI entwickeln, bei der Sicherheit bereits in der grundlegenden Architektur berücksichtigt wird.

„Scientist AI“: LawZero erforscht KI ohne eigene Ziele

Im Zentrum steht der Forschungsansatz „Scientist AI“. Das geplante System soll die Welt möglichst neutral modellieren, Vorhersagen treffen und Hypothesen bewerten, ohne dabei selbst Ziele zu verfolgen oder bestimmte Ergebnisse anzustreben. LawZero zufolge sollen seine Schlussfolgerungen transparent und anhand der zugrunde liegenden Evidenz nachvollziehbar sein.

Zunächst soll Scientist AI dabei helfen, bestehende KI-Systeme zu bewerten und zu überwachen, wissenschaftliche Forschung zu unterstützen und als zusätzliche Sicherheitsschicht für leistungsfähige Frontier-Modelle dienen. Der Ansatz befindet sich noch in der Forschung. Die im Juli veröffentlichte Arbeit untersucht nur einen Teil des Konzepts und liefert keinen allgemeinen Sicherheitsnachweis für das gesamte Scientist-AI-System.

Bundesdigitalminister Karsten Wildberger sagte anlässlich der Ankündigung, mit dem Aufbau fortschrittlicher Kapazitäten für die KI-Forschung in Kanada und Europa werde die digitale Souveränität gestärkt. Die Förderung knüpft an die im Februar vereinbarte deutsch-kanadische Zusammenarbeit bei KI an und führt diese mit einem konkreten gemeinsamen Projekt fort.