Deepfakes, Bots und Desinformation: KI im israelischen Wahlkampf

Neunzehn Sekunden lang ist der Wahlkampfclip auf X, der den israelischen Präsidentschaftskandidaten Gadi Eisenkot mit ausgestreckten Armen und einem breitem Lächeln im Gesicht zeigt. Im Zeitlupentempo sieht man ihn über eine Wiese auf eine Person zulaufen, die seinem Sohn ähnelt und auf dessen T-Shirt die Worte "Israeli Unity" (israelische Einheit) zu lesen sind. Doch Eisenkot läuft an ihm vorbei und umarmt stattdessen Mansur Abbas, einen bekannten arabischen Abgeordneten und Vorsitzenden der Partei Ra'am (Vereinigte Arabische Liste), der am 27. Oktober wiedergewählt werden will.

Gepostet wurde das Video vom Account des Ministerpräsidenten Benjamin Netanjahu. In den Meinungsumfragen liefern sich Netanjahu und Eisenkot, der ehemalige Generalsstabschef der Israelischen Streitkräfte, ein Kopf-an-Kopf-Rennen. Das KI-generierte Video soll wohl anti-arabische Gefühle bedienen, ein Thema, das in Netanjahus Wahlkampf viel Raum einnimmt. Über eine Million Mal wurde das Video, abgespielt. Und es rief große Empörung hervor, denn der Sohn Eisenkots wurde 2023 während des Krieges zwischen Israel und der Hamas getötet.

"Die erste Wahl, die von KI geprägt ist"

ZebeAI ist ein Forschungsprojekt der Open University of Israel, das den Einsatz von KI-Inhalten in diesem Wahlkampf verfolgt. Die Wissenschaftler zählen mehr als 2000 weitere Beiträge mit KI-generierten Inhalten, die von Netanjahus Likud-Partei bis zum 23. Oktober im Laufe des Wahlkampfs veröffentlicht wurden. Das wäre etwa ein Viertel des Likud-Materials auf den sozialen Medien, das von ZebeAI analysiert wurde.

Bei den Parlamentswahlen am Dienstag könnte Netanjahu entweder aus dem Amt gedrängt werden oder aber seine Machtposition für die kommenden Jahre festigen. Politikwissenschaftler sprechen von der ersten Wahl in Israel, die von KI geprägt ist. Intelligente Systeme werden von den Parteien in allen Bereichen des Wahlkampfs eingesetzt: von der Produktion provokanter Videos, mit denen Kontroversen angestachelt werden sollen, bis hin zu automatisierten Anrufen bei Wählern und dem Einsatz von Bots im Internet.

"Es gibt dieses Szenario, in dem KI zu einem strategischen Zeitpunkt kurz vor den Wahlen so eingesetzt werden könnte, dass Kontroversen geschürt werden, die das Wahlergebnis beeinflussen", sagt Anat Ben-David, die das ZebeAI-Projekt leitet.

KI-Videos sind im Mainstream angekommen

Seit Ende Juli verfolgen Ben-David und ihr Team alle Beiträge, die Politiker in den sozialen Medien veröffentlichen. Bis zum 23. Oktober hatten sie mehr als 52.000 Beiträge auf Facebook, Instagram, X und TikTok gesammelt und festgestellt, dass in mehr als 14 Prozent davon KI benutzt wurde. Dabei ist überwiegend ein hybrider Ansatz zu beobachten: KI wird für Teile oder Ausschnitte der Wahlwerbung eingesetzt, in Bildern, Musik, Untertiteln, Logos. Doch auch vollständige Deepfakes wurden erstellt.

Proportional ist der Anteil KI-generierter Inhalte bei einigen der kleineren Parteien am höchsten. In absoluten Zahlen fanden die Forscher jedoch die meisten KI-unterstützten Beiträge beim Likud. Hinter der Partei des Ministerpräsidenten folgen mit großem Abstand die Rivalen aus der linken Opposition, Eisenkots Partei Jaschar und die Demokraten. 

Im Juli veröffentlichte das Zentrale Wahlkomitee Israels eine neue Regelung, der zufolge alle im Wahlkampf genutzten KI-generierten oder -manipulierten Inhalte gekennzeichnet werden müssen. Darüber hinaus gelten jedoch nur wenige Einschränkungen. "Es gibt kein KI-Gesetz und kein Gesetz über digitale Dienste. Auch das Datenschutzgesetz ist ziemlich veraltet", erklärt Ben-David. "Man kann also einen Einsatz von KI beobachten, der in Europa unmöglich wäre."

Zu denen, die die KI entsprechend nutzen, zählen auch einige der bekanntesten israelischen Politiker. Jair Golan, der Vorsitzende der Demokraten, will populäre Internet-Trends für sich nutzen. Ein als KI-Inhalt gekennzeichnetes Video zeigt ihn unter einem Deckenventilator sitzend. Mit jeder Umdrehung des Ventilators ändert sich seine Kleidung: von einer Armeeuniform zu einem T-Shirt mit der Aufschrift "bring them home now" (ein Slogan, der sich auf die israelischen Geiseln im Gazastreifen bezieht) zu Anzug mit Schlips.

In einem im September von Finanzminister Bezalel Smotrich geteilten fotorealistischen KI-Video ist angeblich zu sehen, wie die Generalstaatsanwältin Gali Baharav-Miara, die wiederholt mit der Regierungskoalition aneinandergeraten ist, sowie mehrere Richter des Obersten Gerichts bei einer regierungskritischen Demonstration festgenommen werden.

Itamar Ben-Gvir, der Minister für öffentliche Sicherheit, wiederum teilte ein KI-generiertes Video, das zeigt, wie Palästinenser auf einem Fließband in etwas hineingefördert werden, das aussieht wie ein Konzentrationslager. Der Beitrag stieß auf breite Kritik. Das deutsche Außenministerium bezeichnete ihn als "vollkommen inakzeptabel" und "abscheulich".

Bei einigen dieser Videos griff die Wahlbehörde ein. Ihr Vorsitzender wies Smotrich im Juli an, ein nicht als KI-Video gekennzeichnetes Video zu entfernen. Das Video wurde als irreführend bezeichnet.

Täuschend echt: automatisierte Anrufe

Doch es geht nicht nur um Deepfakes und Wahlwerbung, KI kommt auch beim direkten Wählerkontakt zum Einsatz. Einige Wählerinnen und Wähler erhalten eine neue Art automatisierter Anrufe. Diese wirken deutlich echter als die roboterhaften automatisierten Anrufe der Vergangenheit.

Nitsan Yasur, Desinformationsforscher bei der Israel Internet Association, spielte der DW die Aufnahme eines vierminütigen Telefongesprächs vor. In dem Gespräch stellt sich eine Stimme als Danielle vor, Meinungsforscherin an einem israelischen Umfrageinstitut, die nach Wahlpräferenzen fragt. Als Yasur nachforscht, ob die Stimme menschlich sei, gibt sie zu, dass kein Mensch in der Leitung sei und fragt dann "Möchten Sie mit der kurzen Umfrage fortfahren?"

Wahl in Israel: Tausende fliegen zur Stimmabgabe ein

Der Bot weicht Fragen von Yasur mehrmals aus und kommt immer wieder darauf zurück, wem Yasur seine Stimme geben würde. Fünfmal fragt Yasur, wer die Umfrage in Auftrag gegeben hat, erhält jedoch keine Antwort. Es bleibt also unklar, ob der Anruf Teil einer Umfrage oder eine Wahlkampagne war. Deutlich wird jedoch, wie weit fortgeschritten die Technologie bei automatisierten Anrufen mittlerweile ist. "Man braucht keine echten Menschen mehr, die echte Anrufe machen, was ja bekanntlich viel Zeit und Kapazitäten in Anspruch nimmt", sagt Tehilla Shwartz Altshuler vom Israel Democracy Institute zur DW. 

Doch auch die Wählerinnen und Wähler nutzen KI. Einige wenden sich an sie, um sich bei der Wahlentscheidung beraten zu lassen. Wie die Israel Internet Association in einer Umfrage feststellte, ist etwa ein Viertel der Israelis bereit, bei der Wahlentscheidung die Hilfe von KI-Tools oder anderen Online-Diensten in Betracht zu ziehen. Das wirft Fragen zur generativen Suchmaschinenoptimierung (GEO) auf. Dabei geht es um die Erstellung von Online-Inhalten, die so konzipiert sind, dass sie von KI-Chatbots erfasst werden und deren Antworten beeinflussen.

Die israelische Regierung betätigt sich bereits auf diesem Feld. Laut Unterlagen, die im Rahmen des US-Registrierungsgesetzes für Auslandsvertreter gespeichert wurden, bezahlte die israelische Regierung ein US-Unternehmen dafür, Websites zu erstellen mit dem Zweck, Large Language Modelle (LLM) mit regierungsfreundlichen Inhalten zu versorgen und KI-Chatbots so israelfreundlicher zu machen. "Dieselben Verfahren werden jetzt auch nach innen eingesetzt, um die Wahlen zu beeinflussen", sagt Shwartz Altshuler.

Bots als Follower

Doch es gibt nicht nur gefälschte Inhalte, es gibt auch gefälschte Zielgruppen. Scooper ist ein israelisches Unternehmen, das sich auf die Beobachtung der Medien spezialisiert hat. Wie es der DW berichtet, hat es ein Netzwerk von gefälschten Accounts entdeckt, mit denen die Zahl der Follower Netanjahus in den sozialen Medien in die Höhe getrieben wird. Auf X werden täglich über 1000 neue Accounts erstellt, die sofort dem israelischen Ministerpräsidenten folgen. Auch die Zahl seiner Follower auf Instagram ist in den vergangenen Wochen nach oben geschossen.

Netanjahus letzte Runde? – Israel vor der Wahl

Etwa 70 Prozent der Accounts, die Netanjahus Inhalte auf X teilen, befinden sich außerhalb Israels und weisen Ähnlichkeiten mit Bots auf, sagt Gil Feldman von Scooper zur DW. Identifiziert hat das Unternehmen diese Accounts, indem es nach Verhaltensauffälligkeiten suchte, wie zum Beispiel einem erst kurze Zeit zurückliegendem Erstellungsdatum, dem Posten von Beiträgen rund um die Uhr oder fehlenden Profilbildern.

Doch es geht nicht nur um Netanjahu. Die israelische Plattform FakeReporter hat eine Bot-Kampagne aufgedeckt, die mit dem Wahlkampf von Itamar Ben-Gvir in Verbindung gebracht wird. Sein Büro bestreitet eine solche Verbindung. Laut FakeReporter gibt es ein Netzwerk von mehr als 100 Accounts, von denen einige KI-generierte Bilder und Identitäten verwenden, um Smotrich und andere ins Visier zu nehmen.

Auch wenn Bot-Netzwerke nichts Neues sind: dank KI lassen sie sich leichter und preisgünstiger betreiben. Die Israelis standen neuen Technologien schon immer offen gegenüber und haben sie früh und häufig angewendet. Shwartz Altshuler sieht das Land daher als Testfall dafür, wie KI Wahlen weltweit verändert. Und sie ist überzeugt: "Die gesamte Maschinerie der politischen Propaganda ist dabei, sich von Grund auf zu verändern."