KI in der Justiz: Hilfe für Richter oder Risiko für den Rechtsstaat?

Schon zu Beginn der KI-Woche 2026 benannte der baden-württembergische Datenschutzbeauftragte Tobias Keber den Konflikt: Justiz und Verwaltung erhalten immer mehr KI-gestützte Eingaben, ihr Personal ist aber begrenzt. Assistenzsysteme könnten helfen. Zugleich müsse klar bleiben, ab welchem Punkt eine Entscheidung aus rechtsstaatlichen Gründen einem Menschen vorbehalten ist. Auch das Grundgesetz gehe schließlich davon aus, dass ein Richter ein Mensch ist.

Entlastung ja, Robo-Richter nein

Georg Borges ist Professor für Rechtsinformatik und war früher Richter am Oberlandesgericht Hamm. Für ihn ist KI in der Justiz weder grundsätzlich verboten noch eine technische Spielerei. Seine These: Die Justiz muss KI nutzen, sonst wird sie von KI-generierten Schriftsätzen überrollt und kann Rechtsschutz nicht mehr in angemessener Zeit gewähren.

Als Beispiel nannte er Brasilien, wo die Gerichte bereits in großem Stil KI einsetzen. „Das heißt, ein über Jahrzehnte wachsender Berg wird in Brasilien dank KI innerhalb weniger Jahre signifikant abgetragen und verbessert den Zugang zur Justiz“, sagte Borges. „Das sind Fakten, die man nicht einfach ignorieren kann.“

Die offiziellen Zahlen zeigen einen deutlichen Rückgang. Nach Angaben des brasilianischen Nationalen Justizrats (CNJ) lag der Bestand Ende 2023 bei 83,8 Millionen anhängigen Verfahren und sank bis Ende 2025 auf 75,5 Millionen. Der Justizrat führt das auf mehrere Faktoren zurück. Als einen Hauptgrund nennt er, dass massenhaft Steuervollstreckungsverfahren eingestellt wurden. Hinzu kamen mehr Richter und mehr Personal.

Recherche, die Strukturierung umfangreicher Akten und Entwürfe könnten auch hierzulande Richterinnen und Richter entlasten. Für einfache Massenverfahren wie Fluggastrechte hält Borges sogar eine vollautomatisierte „nullte Instanz“ für denkbar.

Die Grenze zieht Borges bei der verbindlichen, wertenden Entscheidung. Er verwies auf die amerikanische Wendung vom „day in court“, also das Recht, seinen Fall vor Gericht vorzutragen und von einem Menschen gehört zu werden. Darin sieht er den Kern des Grundrechts auf wirksamen Rechtsschutz: Wer eine wichtige Angelegenheit vor Gericht bringt, hat Anspruch darauf, von einem Menschen gehört zu werden. Borges sprach vom „Anspruch auf die Zeit des Richters“. KI dürfe die Entscheidung daher vorbereiten, aber nicht treffen. Heikel seien vor allem Systeme, die einen Urteilsentwurf so fertig liefern, dass er kaum noch eigenständig geprüft wird. Ob ein Werkzeug unterstützt oder die Entscheidung faktisch vorwegnimmt, hängt also davon ab, wie es in den Arbeitsablauf eingebunden ist. Verlangt das System etwa mehrere bewusste Prüfschritte, muss der Richter selbst nachvollziehen, was er entscheidet.

Borges unterschied außerdem zwischen Verfahren mit geringen Folgen und Entscheidungen mit schwerwiegenden Folgen. Technisch könne dieselbe KI über eine Entschädigung für eine Bahnverspätung entscheiden oder über eine Abschiebung. Für die Betroffenen sind die Folgen nicht vergleichbar. Die EU-KI-Verordnung stuft KI-Systeme zur Unterstützung bestimmter richterlicher Tätigkeiten als möglichen Hochrisikofall ein. „Hochrisiko“ bedeutet dabei nicht „verboten“. Es bedeutet, dass zusätzliche Anforderungen gelten. Nach einer inzwischen beschlossenen Änderung gelten die Regeln für Hochrisiko-Systeme nach Anhang III ab dem 2. Dezember 2027. Die konsolidierte Fassung der KI-Verordnung steht bei EUR-Lex bereit. Hochrisiko-Systeme seien beherrschbar, sagte Borges. Sie würden nur teurer, weil mehr dokumentiert werden müsse.

Sind Systeme kontrollierbar?

Silja Vöneky, Völkerrechtlerin an der Universität Freiburg, verwendete den Begriff „Hochrisiko-KI“ anders. Ihr ging es nicht um sensible Einsatzbereiche wie die Justiz, sondern um mögliche katastrophale oder existenzielle Risiken sehr leistungsfähiger Modelle. Dazu zählen der Missbrauch für biologische Waffen, groß angelegte Cyberangriffe und die Frage, ob künftige Systeme kontrollierbar bleiben. Wie wahrscheinlich solche Szenarien sind, ist umstritten. Vöneky hält es dennoch für falsch, sie allein der Selbstregulierung der Unternehmen zu überlassen.

Die EU-KI-Verordnung sieht sie als wichtigen, aber lückenhaften Rahmen. Es gebe kein echtes Zulassungsverfahren wie bei Arzneimitteln, keine eigene Haftungsregelung für KI und weitreichende Ausnahmen für Forschung und Militär. Ein verbindliches völkerrechtliches Abkommen fehlt ebenfalls. Gemeinsam mit dem Finanzmathematiker Thorsten Schmidt hat Vöneky deshalb ein Modell vorgeschlagen, das an die Bankenregulierung erinnert: Anbieter besonders riskanter Modelle hinterlegen vor der Markteinführung Kapital. Unabhängige Fachleute bewerten die Risiken. Bleiben Schäden aus, fließt das Geld nach fünf bis zehn Jahren zurück. Das schafft einen Anreiz, Risiken selbst zu verringern. Es handelt sich um einen wissenschaftlichen Vorschlag, nicht um geltendes Recht.

Verantwortung lässt sich nicht automatisieren

In der anschließenden Diskussion mit dem grünen baden-württembergischen Landtagsabgeordneten Thomas Hentschel ging es um die Frage, wie Technik und Recht zusammenpassen. Für Borges muss Verantwortung immer bei einem Menschen liegen. Das gilt für das Urteil selbst und für die Entscheidung, ein KI-System einzusetzen. Vöneky übertrug diesen Gedanken auf die Staaten. Aus den völkerrechtlich verbindlichen Menschenrechten, allen voran dem Recht auf Leben, ergeben sich Schutzpflichten. Regierungen können ihre Verantwortung deshalb nicht einfach auf Tech-Konzerne abwälzen. Im Gerichtssaal wie in der internationalen Politik gilt also dasselbe: Wer Macht über Menschen ausübt, kann die Zuständigkeit dafür nicht an ein System auslagern.