Gesetzesvorhaben im Bundestag: KI soll indirekt in Asylverfahren mitentscheiden

Die Bundesregierung will KI im Asylsystem einsetzen. Ex­per­t*in­nen warnen: Auch wenn die Programme den Beamten nur zuarbeiten, drohen Fehlentscheidungen.

Es geht teils um Leben und Tod, um politische Verfolgung und um hochsensible persönliche Daten: Doch wenn künftig über Asylanträge Geflüchteter entschieden wird, dann sollen dabei auch KI-Programme zum Einsatz kommen, findet die Bundesregierung. Ein entsprechender Gesetzentwurf wird am späten Donnerstagabend erstmals im Bundestag diskutiert. Zwar beteuert die Bundesregierung, die eigentliche Entscheidung verbleibe bei Menschen. Doch Grüne, Linke und auch viele Ex­per­t*in­nen sind entsetzt über die Pläne, die die Asylverfahren massiv beschleunigen sollen.

Konkret sieht das Gesetz drei Einsatzgebiete für KI-Programme in Asylverfahren vor. Zunächst sollen sie genutzt werden, um abgeschlossene Asylverfahren systematisch auszuwerten. Dabei sollen Zusammenhänge identifiziert werden zwischen bestimmten Persönlichkeitsmerkmalen der An­trag­stel­le­r*in­nen und den späteren Asylentscheiden. So deuten etwa manche Namen auf die Zugehörigkeit zu einer politisch verfolgten Minderheit hin oder sie lassen Rückschlüsse auf die Herkunft aus einer Krisenregion zu. Wenn Menschen mit diesem Namen deshalb in Deutschland besonders oft Asyl zugesprochen bekommen, dann soll die KI das Muster dahinter erkennen.

Solche Erkenntnisse über Zusammenhänge verschiedener Merkmale sollen dann den Ent­schei­de­r*in­nen beim Bundesamt für Migration und Flüchtlinge (Bamf) zugänglich gemacht werden und so „die zukünftige Prüfungsintensität der Einzelfallentscheidungen“ beeinflussen. Soll wohl heißen: Bei Personen mit bestimmten Merkmalen wird dann nur noch oberflächlich oder aber besonders intensiv geprüft, bevor über ihren Antrag entschieden wird.

Als weiterer Einsatzzweck ist geplant, dass das Bamf-Personal zweifelhafte Aussagen von Asylantragstellenden per KI überprüfen lassen. Es sollen biometrische Daten – also meist Fotos – automatisch abgeglichen werden mit dem, was sich im Internet finden lässt, etwa Social-Media-Profile.

Mehr Vorurteile dank KI

Und dann ist da noch die Idee, Daten aus abgeschlossenen und laufenden Verfahren in KI-Programme einzuspeisen, um damit neue KI-Systeme zu trainieren und weitere Anwendungszwecke zu erschließen. Auch dies ist im Gesetzentwurf vorgesehen und zeigt, dass es schon jetzt die vage Absicht gibt, den Einsatz von KI noch über das bisher geplante auszuweiten.

Dabei ist das, was im Gesetzentwurf konkret vorgesehen ist, schon dramatisch genug. Zwar stimmt es, dass die Entscheide am Ende immer in menschlicher Hand verbleiben. Doch dass dem Bamf-Personal dafür Daten aus KI-Programmen an die Hand gegeben werden, öffnet gleich mehrere Einfallstore für Fehlentscheidungen.

So zeigen Studien, dass sich Menschen stark auf automatisierte Einschätzungen verlassen, wie sie nun die KI-Programme liefern sollen. Das gilt insbesondere in Stresssituationen. Wenn das Bamf-Personal am Ende also nur entscheidet, was die KI vorher empfohlen hat, kann man sich schon fragen, bei wem die Entscheidungsgewalt wirklich liegt.

Das ist insbesondere deshalb so alarmierend, weil KI-Programme und andere automatisierte Analyseverfahren eben kein objektives Bild liefern. Sie nehmen viel mehr die Tendenzen auf, die sich in den Datensätzen finden, mit denen sie trainiert wurden. Wenn in bisherigen Asylverfahren eine bestimmte soziale Gruppe etwa aufgrund rassistischer Vorurteile des Bamf-Personals besonders oft abgelehnt wurde, dann reproduziert die KI dies in ihren Einschätzungen. Am Ende könnten die Entscheidungen des KI-unterstützten Personals noch einseitiger zulasten der Betroffenen ausfallen.

Ähnlich fehleranfällig ist es wohl, Angaben der Asyl­be­wer­be­r*in­nen per KI überprüfen zu lassen. Wer schon einmal KI-Chatprogramme benutzt hat, weiß, dass selbst die neuesten Modelle weiterhin immer wieder Falschinformationen liefern, sogenannte Halluzinationen. Umgekehrt gilt: Wenn das Bamf-Personal jede von der KI bereitgestellte Information noch einmal händisch nachprüfen würde, so schrumpften die durch die Programme erhoffte Effizienzsteigerung wohl auf ein Minimum zusammen.

Die innenpolitische Sprecherin der Linksfraktion, Clara Bünger, sagt: „Geflüchtete werden als Versuchskaninchen für eine Technologie missbraucht, die man sich in dieser Schärfe bei deutschen Staatsbürgern noch nicht anzuwenden traut.“ Es sei bezeichnend, dass der Gesetzentwurf erst spätabends diskutiert werden solle, wenn kaum noch Abgeordnete – oder Jour­na­lis­t*in­nen – anwesend seien. „Deutlicher kann man nicht zum Ausdruck bringen, wie gering man die Grundrechte der Betroffenen schätzt.“

Der Obmann der Grünen im Innenausschuss, Lukas Benner, sagt: „Grundsätzlich ist gegen den Einsatz von KI in der Verwaltung nichts einzuwenden.“ Dafür brauche es aber klare Regeln und Transparenz. Der Gesetzentwurf der Regierung sei das Gegenteil, nämlich „ein Blankoscheck für den Einsatz beliebiger KI-Systeme“.

Und auch unabhängige Ex­per­t*in­nen halten die Pläne für gefährlich. So schreibt etwa die Gesellschaft für Informatik von „signifikanten Bedenken bezüglich der technischen Machbarkeit, der Vereinbarkeit mit dem Datenschutz und der Gewährleistung rechtsstaatlicher Kontrollmechanismen“.

Rationalisierung von Asylverfahren Wenn KI die Akten liest

Schleswig-Holsteins Justizministerin von der Decken will künstliche Intelligenz nutzen, um Asylanträge zusammenzufassen. Flüchtlingsrat sieht Risiko.

Von Esther Geisslinger

Künstliche Intelligenz in Asylverfahren Menschen sind auch nicht menschlich

Scholz wünscht sich, dass künftig KI bei Asylverfahren hilft. Klingt gruselig, könnte aber auch zu schnelleren und humaneren Entscheidungen führen.

Von Ann-Kathrin Leclere

Streit um Schutz für Geflüchtete Nächste Runde in der Asyldebatte

Markus Söder und Christian Dürr fordern, subsidiären Schutz für Geflüchtete abzuschaffen. Warum das kritisiert wird – und nix ändern würde.

Von Frederik Eikmanns

10 Ausgaben für 10 Euro Die Wochenzeitung mit taz-Blick

Wir schauen den Superreichen auf die Finger. Unsere wochentaz bietet jeden Samstag Journalismus, der es nicht allen recht macht und Stimmen, die woanders nicht gehört werden.

• Jeden Samstag als gedruckte Zeitung frei Haus
• Zusätzlich digitale Ausgabe inkl. Vorlesefunktion

Jetzt kennenlernen