Im Kampf gegen KI-Scam: Wie Bots Betrügern ihre wertvolle Zeit stehlen

Künstliche Intelligenz soll Menschen eigentlich helfen. Wie sich zeigt, werden die Tools aber seit ihrem Aufkommen genutzt, um Schaden anzurichten. Einer der Sektoren, der besonders von Chatbots und Agenten profitiert, sind Phishing-Angriffe und Scam-Versuche. So zeigte eine Studie etwa, dass LLMs dabei helfen können, die Erfolgsrate von Phishing-Mails deutlich zu erhöhen. Dabei bleibt für die Betroffenen die Frage, wie sich solche Angriffe unterbinden lassen.

KI hält Scammer bei der Stange

Diese Frage haben sich auch die Sicherheitsexperten der australischen Firma Apate gestellt. Sie haben ein KI-gestütztes System entwickelt, um Telefon-Scammer möglichst lange von ihrem Handwerk abzuhalten. Das System greift dabei auf eine Auswahl von etwa 350.000 KI-Bots zurück, die etwa Anrufe von Betrügern annehmen oder per Messenger auf dubiose Nachrichten antworten.

Das Ziel der Bots ist es, die Scammern möglichst lange zu beschäftigen. Sie geben ihnen immer wieder Hoffnung, dass sie bald auf den Betrugsversuch hereinfallen könnten, damit die Betrüger noch mehr Zeit investieren. Dali Kafaar, CEO von Apate, sagte gegenüber Wired dazu: „Wir hoffen, dass wir die perfekten Opfer für Scammer gebaut haben. Eine Minute, in der ein Scammer mit einem Bot oder einem Agenten spricht, ist eine Minute, in der man hunderte, wenn nicht sogar tausende Menschen potenziell davor schützt, vor derselben Person kontaktiert zu werden.“

Die Bots imitieren dabei unterschiedliche Persönlichkeiten und Verhaltensmuster. Manche von ihnen können Whatsapp nutzen, andere nicht. Andere sollen auch mit den Betrügern spielen und beim ersten Annehmen des Telefonats sagen, dass sie gerade keine Zeit haben und die Scammer später zurückrufen. Teilweise dauern die Gespräche zwischen KI und Scammern laut Apate mehr als zwei Stunden an. Doch mit der Zeitverschwendung endet die Arbeit der Bots noch nicht.

Die KI-Agenten treiben sich auch in Scam-Gruppen im Netz herum und infiltrieren die Gespräche dort. Laut Kafaar konnten die KI-Tools so schon mehr als 250.000 Informationen über betrügerische Aktivitäten und die Verantwortlichen zusammentragen. Das reicht von Informationen über die Personen selbst bis zu Bankkonten, mit denen die kriminellen Aktivitäten verschleiert werden sollen. Das dürfte auch die bessere Methode sein, um die Scam-Aktivitäten langfristig zu stoppen. Zwar können Apates Bots die Zeit der Betrüger verschwenden, doch sie nicht vollständig unterbinden. Und bei jährlich weltweit rund 68 Milliarden Scam-Anrufen (via Truecaller) sind selbst 350.000 KI-Bots nur ein Tropfen auf dem heißen Stein.