Fields-Medaillisten kritisieren KI-Fokus auf mathematische Benchmarks

Die mathematischen Fähigkeiten von großen Sprachmodellen haben sich in den vergangenen Monaten rasant verbessert. KI-Systeme lösen inzwischen offene komplexe Probleme. Doch dieser Fortschritt bringe eine Gefahr mit sich, warnen 25 der weltweit führenden Mathematiker, die alle Träger der Fields-Medaille sind – darunter Terence Tao, Peter Scholze und Caucher Birkar. Die Fields-Medaille gilt als das Pendant zum Nobelpreis, den es für Mathematik nicht gibt.

In ihrer gemeinsamen Erklärung sprechen die Forscherinnen und Forscher von einer „schwerwiegenden Fehlanpassung“ (severe misalignment) zwischen den Zielen der KI-Industrie und den Bedürfnissen der mathematischen Gemeinschaft. Dem am 11. September veröffentlichten Text haben sich inzwischen über 6000 weitere Mathematikerinnen und Mathematiker angeschlossen.

Verstehen statt nur Resultate liefern

Im Kern der Kritik steht, dass die KI-Unternehmen das Lösen berühmter mathematischer Probleme primär als Benchmark nutzten, um die Leistungsfähigkeit ihrer Modelle zu demonstrieren. Für die Mathematik als Wissenschaft gehe es jedoch nicht um das bloße Produzieren von wahren oder falschen Aussagen. Das Lösen von Problemen sei nur ein „Werkzeug und Stellvertreter“ für das eigentliche Ziel, nämlich konzeptionelles Verständnis und tiefgreifende Einsichten. Wenn KI-Systeme in immer schnellerem Tempo Resultate lieferten, drohe der fruchtbare Boden für neue Ideen zerstört zu werden, heißt es in der Erklärung.

Die Forscher betonen, dass ein mathematischer Beweis erst durch einen langwierigen menschlichen Prozess seinen Wert entfaltet: Vorträge, Diskussionen, Vereinfachungen und letztlich eine Aufbereitung, die es künftigen Generationen von Studierenden ermögliche, die Ideen zu verstehen und weiterzuentwickeln.

Genau dieser Prozess gerät jedoch unter Druck, wie aktuelle Beispiele zeigen. Als ein 23-Jähriger per Prompt mit GPT-5.4 Pro ein 60 Jahre altes Erdős-Problem löste, war die Rohausgabe der KI laut dem Mathematiker Jared Lichtman „ziemlich schlecht“ und bedurfte intensiver menschlicher Nachbearbeitung, um die Schlüsselidee überhaupt herauszuarbeiten. Und als Anthropic kürzlich mit dem Beweisassistenten „Lean“ den Beweis für Fermats letzten Satz in 13 Millionen Zeilen Code formal verifizierte, betonten selbst die Beteiligten, dass dies keine neue Mathematik hervorbrachte, sondern „nur“ der Formalisierung diente. Lean ermöglicht es Mathematikern, Beweise lückenlos und computergeprüft zu formalisieren. Zwar können KIs wie Claude bereits rasant Lean-Code generieren, wie etwa bei Fermats letztem Satz, doch ohne die menschlich kuratierte Mathlib und konzeptionelle Prüfung bleiben diese Konstrukte unbrauchbar.

Plagiate und der Verlust der „menschlichen Überlieferungskette“

Außerdem kritisieren die Mathematiker, dass KI-gestützte Lösungen oft übereilt angekündigt werden, ohne Zeit für eine saubere Ausarbeitung und vor allem ohne korrekte Zitierung früherer menschlicher Arbeiten. Dies werfe ernsthafte Fragen zu Urheberschaft und Plagiaten auf.

Auch hierfür gibt es aktuelle Beispiele: Als ein internes OpenAI-Modell eine 80 Jahre alte Annahme zum „planar unit distance“-Problem widerlegte, wiesen prüfende Mathematiker darauf hin, dass sich die Argumentation „entscheidend“ auf Ideen stütze, die anderen Autoren zugeschrieben werden können. Noch gravierendere Vorwürfe erhob kürzlich Andreas Thom, Professor für Geometrie an der TU Dresden: Er vermutet, dass unveröffentlichte Forschungsinhalte aus seinen ChatGPT-Unterhaltungen in das Training von OpenAI-Modellen eingeflossen sein könnten und so zu einem Durchbruch beigetragen haben.

Ohne die Mathematiker, die sich um die Entwicklung und Integration neuer Ideen in den mathematischen Kanon kümmern, würden KI-erzeugte Konzepte nie vollständig zum Leben erweckt werden. Die entscheidende „menschliche Überlieferungskette“ drohe verloren zu gehen.

Warnsignal für die gesamte Gesellschaft

Die Unterzeichner sehen darin ein Beispiel für ein allgemeineres gesellschaftliches Problem: KI kann Ergebnisse intellektueller Arbeit direkt erzeugen, während dabei die Fähigkeiten und Zwecke verloren zu gehen drohen, die durch den Arbeitsprozess selbst entstehen, beispielsweise Verständnis, Kreativität und die Fähigkeit, neue Fragen zu formulieren.

Die Forscher betonen jedoch, dass sie die KI nicht grundsätzlich ablehnen. Sie räumen ein, dass KI das Potenzial habe, echtes mathematisches Studium zu verbessern und zu beschleunigen. Ob diese Entwicklung dem Fach jedoch nütze oder schade, werde maßgeblich von den Entscheidungen der Menschen abhängen, die diese Technologie kontrollieren. Die Unterzeichner fordern, dass diese Fragen dringend in der mathematischen Gemeinschaft, aber auch bei den KI-Unternehmen und der Gesellschaft als Ganzes angegangen werden müssen.