Führt KI-Schmeichelei zur Spaltung der Gesellschaft?

Kürzlich sorgten die Wortmeldungen namhafter KI-Experten für Schlagzeilen. Sie schürten die Befürchtung, künstliche Intelligenz könnte die Kontrolle durch den Menschen abschütteln und die Menschheit auslöschen. Doch bevor es soweit kommt, könnte die KI dazu beitragen, dass die Menschen sich gegeneinander wenden.

Forschende an der Staatlichen Universität Campinas (UNICAMP) in Brasilien haben festgestellt, dass beliebte Chatbots ihre Antworten an die politischen Ansichten hypothetischer Nutzer anpassen. Die Wissenschaftler warnen davor, dass Nutzende diese maßgeschneiderten Antworten als unabhängige Einschätzung missverstehen und so die Polarisierung der Gesellschaft verstärkt werden könnte.

Vom Chatbot zum ideologischen Chamäleon

Für die in der wissenschaftlichen Fachzeitschrift Scientific Reports veröffentlichten Studie testete das Team von UNICAMP 21 Large Language Models (LLMs) verschiedener Entwickler, darunter OpenAI, Meta, Google, xAI, DeepSeek und Microsoft.

Die Modelle gaben an, inwieweit sie 112 Aussagen aus sieben Bereichen der brasilianischen Politik zustimmen, darunter Wirtschaft, öffentliche Sicherheit, Sozialwesen, Korruption und Umwelt. Jedes Modell wurde in drei verschiedenen Szenarien getestet: ohne Informationen zu den politischen Ansichten des Nutzenden, mit einem Prompt, der einen politisch eher links orientierten Benutzer beschrieb und mit einem Prompt, der einen politisch eher rechts stehenden Benutzer beschrieb.

Wurden keine Informationen über die politischen Ansichten des Nutzenden angegeben, gaben 20 der 21 Modelle Antworten, die die Forschenden als eher links einordneten, mehrere bewegten sich dabei jedoch nahe der politischen Mitte. Grok 4.1 war das einzige Modell, dessen Antworten die Forschenden rechts einordneten.

KI-Wettrüsten: Panikmache oder reale Gefahr?

Waren Informationen zur politischen Ausrichtung vorhanden, verschob jedes Modell seine Antworten in Richtung der im Prompt enthaltenen Informationen.

"Am auffälligsten war, wie weit verbreitet dieses Verhalten war", sagt Zanoni Dias, Co-Autor der Studie und Computerwissenschaftler an der UNICAMP, zur DW. "Alle der von uns getesteten 21 Modelle verschoben ihre Position entsprechend der vom Nutzenden zum Ausdruck gebrachten politischen Haltung. Beim Ausmaß dieser Verschiebung gab es jedoch große Abweichungen."

Die Forschenden beschreiben die Modelle als "ideologische Chamäleons" und entwickelten einen "Chamäleon-Index", um zu messen, wie weit sich die Antworten verschoben.

Bei Llama 3.1 8B von Meta und DeepSeek V3.2 war die Verschiebung am geringsten, während die Verschiebung bei Gemma 3 27B von Google und GPT-5 Nano von OpenAI zu den stärksten zählte.

Von Personalisierung zu politischer Schmeichelei

Dass Chatbots ihre Antworten an ihr Publikum anpassen, ist nicht immer problematisch. So können sich zum Beispiel das verwendete Vokabular, die Beispiele oder die Detailtiefe je nach Nutzendem unterscheiden. Doch die Modelle veränderten mehr als nur die verwendete Sprache oder ihren Sprachstil: Sie veränderten ihre politische Haltung.

"Der wichtigste Unterschied liegt darin, ob die Art und Weise, wie eine Antwort kommuniziert wird, angepasst wird, oder sich die zum Ausdruck gebrachte inhaltliche Beurteilung ändert", sagt Dias.

"Wir haben die Modelle nicht angewiesen, mit dem Nutzenden übereinzustimmen oder als Vertreter einer Partei zu antworten. Dennoch verschob sich ihre Einschätzung in Richtung der Ansichten des Nutzenden", fügt er hinzu.

Die Forschenden werteten dies als politische Schmeichelei: Die KI-Systeme gaben wieder, was die Nutzenden vermeintlich hören wollten. Eine mögliche Erklärung dafür könnte sein, dass Chatbots darauf trainiert werden, Antworten zu bevorzugen, die von menschlichen Auswertenden besonders hoch eingestuft werden. Werden gefällige Antworten höher eingestuft, lernen die Chatbots, die Ansichten der Nutzenden zu bestätigen.

Schaffung persönlicher Echokammern

Die sozialen Medien können Überzeugungen bestärken, indem die Algorithmen immer wieder ähnliche Inhalte anbieten, doch ein Chatbot könnte noch einen Schritt weiter gehen. Er könnte eine personalisierte Echokammer erzeugen, indem er Argumente für einen bestimmten Nutzenden generiert, auf Einwände eingeht und die Argumentation im Laufe des Gesprächs verfeinert.

Die Nutzenden jedoch könnten diese auf sie zugeschnittenen Antworten für eine unparteiische Analyse halten, ohne sich bewusst zu sein, was der Chatbot über sie weiß und wie sich dies auf seine Antworten auswirkt.

"Es besteht die Sorge, dass das gleiche System gegensätzliche politische Positionen unterschiedlicher Nutzer bestätigen könnte, wobei jeder Nutzer diese Bestätigung als unabhängige Einschätzung werten würde", meint Dias.

Untersuchungen des Verhaltensforschers Zakary Tormala von der Stanford University weisen darauf hin, dass Menschen besonders empfänglich für Argumente zu sein scheinen, von denen sie glauben, dass sie von einer KI stammen.

"Die Menschen neigen dazu, KI als informativer, objektiver und unvoreingenommener wahrzunehmen, als weniger daran interessiert, sie zu überzeugen, als es eine andere Person wäre", erklärt Tormala gegenüber der DW. "Dadurch sind die Menschen möglicherweise weniger wachsam und eher bereit, der KI zuzuhören."

Dieses Vertrauen könnte politische Schmeichelei wirksamer machen. "Zu hören, dass andere die eigenen Ansichten bestätigen, bestärkt die Menschen bekanntermaßen in ihren Ansichten", erläutert Tormala. "Verfestigen sich die Überzeugungen der Leute erst einmal, neigen sie dazu, anderen Ansichten gegenüber weniger zugänglich zu sein." Ob die Bestätigung durch KI dieselben Auswirkungen habe, sei noch nicht bewiesen, fügt er hinzu, doch es sei durchaus plausibel.

Führt Validierung zu mehr Polarisierung?

Nicht getestet wurde in der UNICAMP-Studie, ob eine solche politische Spiegelung von Ansichten wirklich die Überzeugung oder das Verhalten der Nutzenden verändert. Gemessen wurde nur, wie sich die Antworten der Modelle veränderten.

KI in Deutschland - Chance oder Albtraum?

"Unsere Studie belegt, dass sich unter kontrollierten Bedingungen die Antworten der Modelle ändern", betont Dias. "Sie belegt keine Polarisierung oder Radikalisierung in den Ansichten der Nutzer oder dass diese konfliktbereiter werden. Das sind andere Ergebnisse, bei denen eine Verbindung nicht vorausgesetzt werden kann."

Petter Tornberg, der an der Universität von Amsterdam zu KI und politischer Polarisierung forscht, bezweifelt, dass die Modelle außerhalb ihrer Testumgebung dieselben Antworten geben würden. Er warnt davor, davon auszugehen, dass Chatbots zwangsläufig die Ansichten der Nutzenden bestärken. In manchen Gesprächssituationen könnten sie Menschen dabei helfen, ihre Ansichten zu überdenken.

Eine private Unterhaltung mit einem Chatbot unterscheide sich von einer öffentlichen Auseinandersetzung in den sozialen Medien, betont Tornberg. "Sie können häufig recht rationale und faktengestützte Erläuterungen bieten, ohne die durch soziale Identität verursachte Dynamik in öffentlichen politischen Debatten", sagt er zur DW. "Es ist also zumindest möglich, dass diese Systeme unter manchen Umständen depolarisierend statt polarisierend wirken."

Ob KI Gräben vertieft oder schließt, hängt also möglicherweise davon ab, ob sie die Nutzenden herausfordert oder ihnen einfach sagt, was sie hören wollen.

Weniger politische Schmeichelei

Dias sähe gerne, dass Entwickler ihre Modelle mit Nutzenden mit unterschiedlichen politischen Ansichten testen, um zu überprüfen, ob sie Sachverhalte konsistent bewerten. Sie könnten die Modelle darauf trainieren, höflich zu widersprechen, Zweifel anzuerkennen, unbestätigte Annahmen zu korrigieren und unterschiedliche Ansichten fair darzustellen. Das hieße nicht, dass jede Antwort in der politischen Mitte liegen muss.

"Übergeordnetes Ziel der Entwicklung sollte sein, den Menschen dabei zu helfen, ihre Überzeugungen zu hinterfragen", meint Dias. "Belege, Zweifel und konkurrierende Überlegungen sollten dabei sichtbar sein und Raum für legitime politische Meinungsverschiedenheiten gelassen werden."

Adaptiert aus dem Englischen von Phoenix Hanzo.

USA: Widerstand gegen KI-Rechenzentren