KI-Bescheide ohne menschliches Zutun in Österreich

Behörden sollen erstinstanzliche schriftliche Bescheide mittels automatischer Regeln oder sogar Künstlicher Intelligenz (KI) ausstellen, ohne dass ein Mensch je einen Blick darauf geworfen hätte. Das gilt auch für bestimmte Verwaltungsstrafen. Entsprechende Gesetzesnovellen hat der Nationalrat, Österreichs direkt gewählte Parlamentskammer, am Mittwoch mit den Stimmen der Regierungskoalition aus ÖVP, SPÖ und NEOS beschlossen. „Wir lassen einen technologieoffenen Rahmen, in dem neue technische Möglichkeiten, unter klaren rechtsstaatlichen Regeln, eingesetzt werden können‟, sagte ÖVP-Nationalratsabgeordneter Wolfgang Gerstl in der Debatte.

Voraussetzung für vollautomatisierte Entscheidungen ist, dass die „Sache im Hinblick auf den maßgeblichen Sachverhalt, die zu lösenden Rechtsfragen und den Stand der Technik für eine vollständig automatisierte schriftliche Erledigung geeignet‟ ist, formuliert es der neue $18a des Allgemeinen Verwaltungsverfahrensgesetzes 1991 (AVG) schwammig. „Jede Verwaltungseinheit hat das für sich selbst zu entscheiden‟, setzte Gerstl auseinander. Und die Erläuterungen halten fest, dass Computer selbst dann selbsttätig entscheiden dürfen, wenn unbestimmte Gesetzesbegriffe „Ermessen oder Beurteilungsspielräume‟ eröffnen.

Eine weitere Voraussetzung ist, dass „der Behörde ein bestimmender Einfluss auf den Vorgang der vollständig automatisierten schriftlichen Erledigung zukommt‟. Gemeint sind aber gerade nicht Kontrollen der einzelnen Rechtsakte durch einen Organwalter, sondern nur Stichproben. Zudem braucht es eine dokumentierte Testphase, die grundsätzliche Möglichkeit, einzugreifen, sowie die „hinreichende technische Nachvollziehbarkeit des eingesetzten Systems‟. Letzteres meint laut Erläuterungen, dass klar sein muss, welche Daten zum Training der KI verwendet wurden.

Zudem darf die KI demnach nicht selbstlernend sein. Jede Änderung von Normen oder jede neue Rechtsprechung erfordert also neues Training, eine neue Testphase, und einen neuen Beschluss des Behördenleiters, wofür die neu trainierte KI einzusetzen ist.

Eigenes Rechtsmittel für zwei Wochen

Die Opposition ist nicht angetan. Für die FPÖ kritisierte Abgeordneter Markus Tschank die neuen Vorschriften als „zu unbestimmt, zu weitreichend und verfassungsmäßig fragwürdig‟. Menschliche Einschätzung könne nicht durch KI ersetzt werden. Für die Grünen beklagte Abgeordneter Süleyman Zorba, dass Verantwortung für Fehler ungeklärt sei und nicht das Parlament, sondern die jeweilige Behörde bestimme, wo Automatisierung zum Einsatz komme.

Auf vollautomatisch erstellten schriftlichen Bescheiden prangt dann auch kein Name einer verantwortlichen Person mehr. Stattdessen muss die Behörde darauf hinweisen, dass der Rechtsakt vollautomatisch erstellt wurde. Sofern es sich um keine Strafverfügung handelt, können Betroffene zwei Wochen lang Vorstellung erheben, mit oder ohne Begründung, was den Bescheid außer Kraft setzt. Damit möchte Österreich Artikel 22 der Datenschutzgrundverordnung Genüge tun, der Bürgern das Recht gewährt, gerade keinen vollautomatischen rechtlichen Entscheidungen unterworfen zu werden. Die Behörde kann dann, wenn sie möchte, einen ganz neuen Bescheid erlassen – aber nur durch einen Menschen. In Berufungsverfahren sind vollautomatische Bescheide nicht vorgesehen.

Verwirrender Weise nutzt der Gesetzgeber hier das Wort Vorstellung. Traditionell beschreibt der juristische Begriff der Vorstellung ein remonstratives Rechtsmittel. Dabei wird der angefochtene Rechtsakt nicht durch die übergeordnete Instanz überprüft: Vielmehr muss die selbe Instanz, die die angefochtene Entscheidung getroffen hat, ermitteln. Dann kann sie ihre Entscheidung abändern oder darauf beharren, was in der Regel den Weg zur Berufung an eine übergeordnete Behörde eröffnet.

Nur wenn die Behörde nach Vorstellung kein Ermittlungsverfahren durchführt, tritt der Bescheid außer Kraft. Bei den neuen, vollautomatisch erzeugten Bescheiden hingegen führt jede Vorstellungen unmittelbar dazu, dass der Bescheid rückwirkend nichtig wird, juristisch also nie existiert hat.

Amtswegige Korrektur binnen zweier Monate

Neu ist zudem die Möglichkeit, dass die Behörde oder ihre Oberbehörde binnen zweier Monate nach Erlassung den vollautomatisch erstellten Bescheid aufheben oder abändern kann, wenn der Bürger keine Vorstellung ergriffen hat. Das ist insbesondere für Fälle gedacht, in denen die Behörde rasch realisiert, dass ihr Sprachmodell in Massenverfahren Unfug treibt, und sie die Notbremse zieht, selbst ohne Prüfung der einzelnen Bescheide. Inhaltliche Voraussetzungen gibt es daher keine, außer dass „die Behörde mit möglichster Schonung erworbener Rechte vorzugehen‟ hat. Nach wie vor können Behörden Bescheide, aus denen niemandem ein Recht erwachsen ist, unbefristet zurücknehmen oder abändern.

Absurd ist, dass eine seit Langem bestehende, unbefristete Möglichkeit, auch zum Nachteil von Bürgern Bescheide amtswegig aufzuheben, wenn das „zur Beseitigung von das Leben oder die Gesundheit von Menschen gefährdenden Mißständen oder zur Abwehr schwerer volkswirtschaftlicher Schädigungen notwendig und unvermeidlich‟ ist, für automatisierte Bescheide nicht gilt. Sie sollen laut neuem Gesetzestext nach zwei Monaten in Stein gemeißelt sein, selbst wenn das Menschenleben kostet oder die Volkswirtschaft schwer schädigt. Ein legistischer Fehler.

No-Stop-Verfahren und Chatbots

Eine weitere Neuerung ist die allgemeine Erlaubnis sogenannter No-Stop-Verfahren. Sie führen zu Bescheiden, die niemand beantragt und vor Erlassung auch niemand gesehen hat. Als Vorbild dienen die amtswegige Zuerkennung von Familienbeihilfe oder die automatische steuerliche Veranlagung von Arbeitnehmern. Fortan soll das in mehr Bereichen möglich sein, sofern es nur eine Verfahrenspartei gibt und „die Behörde automationsunterstützt Kenntnis von sämtlichen Umständen erlangen kann, die den Rechtsanspruch der Partei betreffen‟. Durch Zusammenführung unterschiedlicher Datenregister und daraus folgender antragsloser Verfahren verspricht sich die Regierung „besonders effektive und damit bürgerfreundliche Gewährung öffentlich-rechtlicher Leistungen‟.

In diese Kerbe stößt auch die neue Rechtsgrundlage für den Einsatz barrierefreier Behördenbots (Text oder Sprache) – nicht nur die weit verbreiteten Scripte, die stumpf FAQ wiederkäuen, sondern ausgefeiltere Chatbots, die Bürger „durch den gesamten Prozess eines Anbringens leiten‟. Diese Bots sollen auch die behördliche Manuduktionspflicht erfüllen dürfen, „in möglichst einfacher Sprache‟. Dies meint die rechtliche Pflicht der Behörde, nicht anwaltlich vertretene Parteien darüber zu informieren, welche Schritte ihnen offen stehen und wie sie sie setzen können.

Vollautomatisch bestraft

Für Verwaltungsstrafverfahren werden ebenfalls vollautomatische Strafbescheide eingeführt, nämlich für die schon bisher in abgekürzten Verfahren ausgestellten Strafverfügungen und Anonymverfügungen. Gegen diese gibt es allerdings kein neues Rechtsmittel. Sie müssen gegebenenfalls so bekämpft werden, wie traditionelle Straf- und Anonymverfügungen auch. Für ordentliche Verwaltungsstrafverfahren sind vollautomatische Entscheidungen nicht vorgesehen, und für Organstrafverfügungen kommen sie, mangels KI-Organen, bis auf Weiteres sowieso nicht in Betracht.

Österreichische Behörden sollen auf ihren jeweiligen Webseiten kundtun, welche Verfahren sie ohne einleitenden Antrag und/oder vollautomatisiert führen. Die Zustimmung des Bundesrates, der österreichischen Länderkammer, zu den Gesetzesnovellen gilt als Formsache. Die Regierungskoalition verfügt dort über eine Zwei-Drittel-Mehrheit.