KI und Dilemmata: Sprachmodelle verteilen Organspenden anders als Menschen

Wenn ein KI-Modell entscheiden soll, an wen das Organ eines Organspenders gehen soll, werden ganz andere Attribute priorisiert und die Entscheidung nicht so begründet, wie Menschen das tun. Das hat ein Forschungsteam aus den USA herausgefunden und meint, dass die Arbeit neue Fragen für den KI-Einsatz in der Medizin aufwerfe. Dem Vergleich liegt demnach ein hypothetisches Szenario zugrunde, in dem mehrere Menschen ein Organ benötigen, aber nur eine Spende zur Verfügung steht. Entschieden werden musste dann, wer es bekommt. Während Menschen dafür verschiedene Attribute der Patienten abwägen, hätten sich die KI-Modelle oft auf eines fixiert. Ihr Urteil hätten sie dann ohne Ausdruck von Unsicherheit vorgebracht, während Menschen anerkennen würden, dass es keine richtige Entscheidung geben könnte.

Keine richtige Entscheidung? Egal!

Zur Vorstellung der Ergebnisse versichert Studienleiter Hadi Hosseini von der Pennsylvania State University, dass sein Team nicht für die Nutzung von KI als Ersatz für professionelles Urteilsvermögen werben wolle. Es werde aber immer wichtiger, „das Verhalten von KI-Modellen zu verstehen“, weil sich an immer mehr Stellen darauf verlassen werde. Wenn KI-Prozesse an Entscheidungen beteiligt werden, die darüber bestimmen, wer lebt und wer stirbt, sei es keine Option, deren Rolle falsch zu gestalten. Für ihre Arbeit haben sie die Ausgaben der KI-Modelle mit existierenden Datensätzen zu Entscheidungen von Menschen in realen Fällen bei Nierenspenden verglichen.

Die Analyse habe zwei zentrale Erkenntnisse gebracht, schreibt das Forschungsteam. Während Menschen verschiedene Attribute der Patientinnen und Patienten miteinander abwägen, „fixieren sich KI-Modelle auf einen einzelnen Faktor, wie etwa das Trinkverhalten“. Zudem habe KI „keine Schwierigkeiten mit Unentschlossenheit“, die Modelle würden „selbstbewusst eine Entscheidung treffen“. Auch wenn man ein Modell explizit aufgefordert habe, einen virtuellen Münzwurf durchzuführen und zufällig einen Empfänger oder eine Empfängerin auszuwählen, werde eine „selbstbewusste, deterministische Antwort“ generiert. Das sei ein grundlegender Unterschied zu Menschen, die wüssten, dass es bei echten moralischen Dilemmata oft keine eindeutig richtige Antwort gebe.

„Wenn wir knappe Ressourcen zuteilen – sei es eine Niere, ein Arbeitsplatz oder der Zugang zu einer anderen Ressource –, gibt es nicht immer eine einzige objektiv richtige Antwort“, fasst John Dickerson zusammen, der an der Studie beteiligt war: „Menschen erkennen diese Mehrdeutigkeit und berücksichtigen sie im Rahmen einer offenen Debatte im Prozess der Zuteilung, KI-Modelle tun dies oft nicht.“ Dickerson ist der Geschäftsführer des Mozilla-Ablegers für vertrauenswürdige KI. Ob eine KI moralische Entscheidungen treffen kann, sei mehr als philosophische Grübelei, die Frage stehe im Zentrum der aktuellen KI-Debatten, ergänzt Hosseini noch. Die Forschungsarbeit wurde im Rahmen einer Fachkonferenz vorgestellt und veröffentlicht. Die Verantwortlichen plädieren für ein gezieltes KI-Feintuning mit wenigen Beispielen.