Falschinformationen vor US-Zwischenwahl: „Meine größte Sorge ist die Spaltung darüber, was als Fakt gilt“

Welche Rolle spielt Desinformation vor den Midterm-Wahlen in den USA? Social-Media-Forscherin Renée DiResta über verlorenes Vertrauen, identitätsstiftende Influencer und KI.

taz: Frau DiResta, Sie haben jahrelang im Standford Internet Observatory Desinformation und Propaganda in der Politik untersucht. Das Institut wurde auf Druck von Washington geschlossen. Wie ist das passiert?

Renée DiResta: Es ging bei unserer Arbeit um die Integrität von Wahlen. Wir haben die Wahlen 2020 und 2022 beobachtet und über unsere Erkenntnisse berichtet. Das wurde dann zunächst von einem Mann namens Mike Benz als Zensurkomplott gegen rechte Stimmen dargestellt. Benz war Mitarbeiter der Trump-Regierung und leugnete das Ergebnis der Wahl von 2020. Außerdem informierte er republikanische Kongressabgeordnete, von denen er erwarten konnte, dass sie diesen Anschuldigungen gegenüber aufgeschlossen sind. Nachdem die Republikaner im November 2022 dann die Mehrheit im Repräsentantenhaus gewonnen hatten, begannen sie gegen uns zu ermitteln. Es gab eine Anhörung im Kongress, und einige Tage später erhielten wir einen Brief, in dem wir aufgefordert wurden, unsere E-Mails der Regierung zur Verfügung zu stellen. Gleichzeitig wurden wir von America First Legal verklagt, der von Stephen Miller gegründeten, rechtsgerichteten juristischen Organisation. Danach wurde unsere Organisation schrittweise abgewickelt.

taz: Sie haben über Ihre Erkenntnisse aus dem Projekt und über diese Vorfälle ein Buch geschrieben. Zentrale These des Buches ist, dass Desinformation aus dem Zusammenspiel von Influencern, Algorithmen und der Crowd (dem Publikum) entsteht. Wie wirken diese drei Elemente zusammen?

DiResta: Man kann diese Elemente nicht isoliert betrachten. Influencer wie etwa Trump oder Musk haben eine große Anhängerschaft. Ihre Inhalte richten sich sowohl an diese Anhängerschaft – also an die Crowd – als auch an den Algorithmus. Wenn du beispielsweise etwas auf Instagram veröffentlichst, das deine Zielgruppe eigentlich lieben müsste, es aber nicht so aufbereitest, dass der Algorithmus es bevorzugt ausspielt, wird es kaum jemand sehen. Die eigenen Inhalte werden außerdem den Followern zunehmend nicht mehr automatisch angezeigt. Stattdessen konkurrieren sie mit allen anderen potenziell passenden Inhalten – den sogenannten nicht verknüpften Inhalten –, um in den Feeds der NutzerInnen aufzutauchen. Diese Inhalte machen mittlerweile 40 Prozent dessen aus, was Sie in Ihrem Feed sehen. Der Algorithmus wiederum orientiert sich daran, wie die Crowd auf Inhalte reagiert. Wenn ein Beitrag ausgespielt wird, ist entscheidend, wie viel Aufmerksamkeit er in der ersten Stunde erhält. Davon hängt ab, ob er noch mehr Menschen gezeigt wird. Der Algorithmus ist also auf Rückmeldungen der Crowd angewiesen. Gleichzeitig entscheidet der Algorithmus darüber, ob die Inhalte eines Influencers überhaupt sichtbar werden. Schließlich beeinflusst die Crowd selbst die Influencer. Die Crowd kann Druck ausüben: Warum sprichst du nicht über Gaza? Warum hast du diese Meinung geäußert? Dieses Phänomen nennt man „Audience Capture“: Die Crowd kann beeinflussen, worüber ein Influencer schreibt und spricht, weil dieser Angst hat, seine Anhängerschaft zu verlieren.

taz: Als Sie in Stanford waren, hatte Ihr Team Desinformation markiert und die Plattformen darüber informiert. Diese reagierten dann darauf – oder eben nicht. Wie war die Resonanz?

DiResta: In unserem Bericht steht, dass die Plattformen in 60 Prozent der Fälle nichts unternahmen. Das war also nicht besonders wirkungsvoll.

Im Interview: Renée DiResta

forscht an der Georgetown University in Washington zu den Themen Desinformation und Propaganda in der US-Politik. Bis 2024 arbeitet sie am Stanford Internet Observatory, einer Watchdog-Gruppe zur Bekämpfung von Desinformation. Das Labor wurde auf Druck republikanischer Politiker geschlossen. Zuletzt schrieb sie über ihre Erfahrungen und ihre Erkenntnisse das Buch „Invisible Rulers – The People Who Turn Lies Into Reality“ (Unsichtbare Herrscher – Die Leute, die Lügen in Wahrheit verwandeln).

taz: Verfügen die Plattformen überhaupt noch über wirksame Mechanismen, um Desinformation in ihren eigenen Ökosystemen zu bekämpfen und Inhalte zu moderieren?

DiResta: Es gibt durchaus noch interne Teams für die Integrität von Wahlen. Ihre Aufgabe ist es, dafür zu sorgen, dass Beiträge, die gegen die jeweiligen Richtlinien verstoßen, nicht viral gehen. Meistens werden solche Beiträge markiert. Wenn Inhalte tatsächlich entfernt werden, handelte es sich überwiegend um Betrugsversuche oder Androhungen von Gewalt – zum Beispiel im Vorfeld des 6. Januar. Mein Team hat zwar nicht gezielt zum 6. Januar geforscht, wir haben allerdings untersucht, welche der von uns gemeldeten Inhalte entfernt wurden. Es waren etwa 10 Prozent. Bei den entfernten Inhalten handelte es sich vor allem um Identitätsmissbrauch, Betrugs- und Phishingversuche. Beiträge von Menschen, die behaupteten, die Wahl sei manipuliert worden, wurden nur selten gelöscht.

taz: Die Lüge über die angeblich gestohlene Wahl war vermutlich die folgenreichste Desinformation der vergangenen Wahlzyklen. Was sind Ihrer Ansicht nach die gefährlichsten Falschinformationen, die den aktuellen Zwischenwahlkampf beeinflussen?

DiResta: Das ist eine interessante Frage. Ich betreibe auf X inzwischen einen Bot, der Community Notes verfasst – ein nutzerbasiertes System zur Selbstkontrolle. Im vergangenen Jahr wurde dieses Programm für KI-gestützte Autoren geöffnet. Dieses Jahr beschloss ich, selbst einen solchen Bot zu bauen. Warum ich das mit Ihrer Frage verbinde: Ich kann jetzt sehen, welche Korrekturen angefordert werden – was Nutzer melden und worüber sie eine Richtigstellung wünschen. Es ist meist ziemlich vorhersehbar. Die Details ändern sich, aber die grundlegenden Erzählmuster bleiben gleich. Ich bekomme beispielsweise viele Anfragen zu angeblich illegalen Stimmen von Einwanderern ohne Aufenthaltsstatus. Andere drehen sich um die vermeintliche Unsicherheit von Wahlen wegen Briefwahl. In der vergangenen Woche gab es viele Anfragen zu James Talarico und seiner angeblichen Einweisung in eine psychiatrische Einrichtung. Neben der Frage, welche Themen den Menschen wichtig sind und welche Gerüchte verbreitet werden, zeigt sich dabei vor allem, dass selbst sehr solide Korrekturen häufig abgewertet werden. Man kann etwa Informationen einer staatlichen Stelle vorlegen oder offizielle Statistiken zu illegalen Stimmen. Trotzdem bewerten andere Nutzer die Korrektur negativ. Sie sagen, es handle sich um eine Meinung, die Quelle sei nicht zuverlässig genug oder die Informationen seien unvollständig. Mich hat überrascht, wie häufig die Debatte letztlich darum geht, was überhaupt als Tatsache gilt. Ich habe deshalb keine konkrete Antwort darauf, welches einzelne Gerücht die größte Falschinformation darstellt. Meine größte Sorge ist die enorme Spaltung der Öffentlichkeit darüber, was als Fakt gilt und welche Quellen oder Belege als akzeptabel angesehen werden.

taz: Sie sagen, die häufigsten Falschinformationen seien weitgehend immun gegen Korrekturen durch staatliche Stellen, traditionelle Medien oder Faktenprüfer. Gibt es überhaupt noch wirksame Möglichkeiten, Desinformation und Propaganda zu bekämpfen?

DiResta: Wenn das Publikum dem Absender vertraut, ist es für Korrekturen empfänglich. Das Problem ist, dass dieses Vertrauen oft zerbrochen ist. Wenn Menschen den Institutionen misstrauen, die Korrekturen anbieten, sind Widerlegungen und Faktenchecks wirkungslos. Deshalb argumentiere ich in meinem Buch, dass wir mehr brauchen als Faktenchecks. Wir brauchen glaubwürdige Kommunikatoren, die Beziehungen innerhalb von Communitys aufbauen, Medienkompetenz, die Menschen dabei hilft, wiederkehrende Gerüchte und Propagandatechniken zu erkennen, und Plattformen, die Sensationslust und Empörung nicht ständig belohnen.

taz: Sie schreiben in Ihrem Buch über die Psychologie von Gerüchten und Desinformation. Welche menschlichen Impulse sprechen Influencer und Algorithmen an?

DiResta: Identität. Zugehörigkeit. Kameradschaft. Das Gefühl, für dieselbe Sache einzutreten. Menschen wollen das Gefühl haben, Teil von etwas Sinnvollem zu sein und etwas zu wissen, das anderen verborgen bleibt. Gerüchte laden zur Beteiligung ein: Menschen teilen Geschichten, untersuchen vermeintliche Beweise, verbinden einzelne Punkte miteinander und versuchen gemeinsam, die Ereignisse zu verstehen. Algorithmische Verstärkung und Kuratierung haben diesen uralten menschlichen Prozess enorm beschleunigt. Influencer geben den Menschen eine Geschichte, für die sie sich begeistern können, und vermitteln ihnen ein Gemeinschaftsgefühl. Dieses Gefühl, beteiligt zu sein, ist belohnend. Man konsumiert eine Geschichte nicht mehr nur, sondern hilft dabei, dafür zu sorgen, dass andere Menschen ebenfalls die „Wahrheit“ erfahren.

taz: In diesem Wahlkampf spielt KI eine immense Rolle. Wie hat sie das Zusammenspiel von Influencern, Algorithmen und Crowd verändert? Hat sie die Bekämpfung von Desinformation unendlich viel schwieriger gemacht?

DiResta: KI hat das Zusammenspiel von Influencern, Algorithmen und Crowd nicht grundlegend verändert, wohl aber die ökonomischen Bedingungen. Die Technologie ist inzwischen sehr, sehr leistungsfähig. Es ist ausgesprochen schwer geworden, zu erkennen, was echt ist. Zugleich ist die Produktion solcher Inhalte billig, weshalb es viel mehr davon gibt. Ihre Überprüfung wird hingegen immer aufwendiger. Desinformation zu bekämpfen lohnt sich schlicht nicht mehr.

Vor den US-Midterms Was macht Trump, falls er die Wahlen verliert?

Auch wenn die US-Demokraten die Kongresswahlen gewinnen, können die Republikaner das sabotieren. Manche Tricks sind illegal – manche schlicht bizarr.

Von Sebastian Moll

Polit-Influencer Hasan Piker Ein „Marxist“ im Maßanzug auf Twitch

Der Polit-Influencer und Streamer Hasan Piker verschiebt die Grenze des Sagbaren in den USA nach links. Damit trifft er vor den Midterms einen Nerv.

Von Fabian Schroer

Midterm Elections Wer? Wann? Was? Wie?

Die Zwischenwahlen am 3. November können entscheidend sein für die Zukunft der USA. Aber was passiert da genau und worauf kommt es an? Ein Überblick.

Von Bernd Pickert

taz FUTURZWEI im Abo entdecken Endlich mal ein Magazin für Zukunft

taz FUTURZWEI ist unser Magazin für eine bessere Zukunft. Das Abo bietet jährlich vier Ausgaben für nur 38 Euro. Zudem erhalten Sie eine Ausgabe von Luisa Neubauers neuestem Buch „Was wäre, wenn wir mutig sind?“ (solange Vorrat reicht).

• Jedes Quartal neu in Ihrem Briefkasten
• Nur 38 Euro im Jahr
• Als Prämie Luisa Neubauers „Was wäre, wenn wir mutig sind?“
• Herausgegeben von Harald Welzer

Jetzt abonnieren