Forschende von vier Universitäten – der Amrita Vishwa Vidyapeetham in Indien, der Foscari University of Venice, der University of Melbourne und der Ben Gurion University of the Negev – haben in einer Studie festgestellt, dass Künstliche Intelligenz (KI) im Vergleich zu Menschen deutlich effektiver dabei ist, für Betrugszwecke ausnutzbares Vertrauen aufzubauen. In einem Experiment, das Anfang 2025 durchgeführt wurde, überzeugte ein KI-Chatbot (ein Claude-Agent) fast die Hälfte der 22 Testpersonen (46 %), eine von ihm empfohlene App herunterzuladen, während dies einem menschlichen Betrüger nur bei weniger als einem Fünftel (18 %) der Testpersonen gelang.
KI-gestützter Vertrauensaufbau für „Pig Butchering“-Betrug
Die Untersuchung konzentrierte sich auf sogenannte „Pig Butchering“-Betrügereien. Dabei handelt es sich um textbasierte Romance-Scams, die darauf abzielen, über Monate hinweg Vertrauen aufzubauen, bevor die Opfer zu gefälschten Krypto-Investitionen verleitet werden, die oft sechsstellige Summen erbeuten. Die Forschenden verglichen direkt die Fähigkeiten von KI-Chatbots und menschlichen Betrügern in der Beziehungsaufbauphase dieser Betrugsmaschen.
Nach einer Woche intensiver Textkommunikation mit den unwissentlichen „Opfern“ wurden sowohl die Chatbots als auch die menschlichen Betrüger beauftragt, die Testpersonen zu bitten, entweder eine App herunterzuladen oder ein Online-Spiel zu spielen. Die hohe Erfolgsquote des KI-Chatbots von 46 % beim Herunterladen der App stand im deutlichen Gegensatz zu den 18 % der Testpersonen, die der Aufforderung des menschlichen Betrügers zum Herunterladen eines Spiels nachkamen.
Zusätzlich bewerteten die Testpersonen ihr Vertrauen zu ihren Gesprächspartnern auf einer Skala von 1 bis 5. Der KI-Bot erhielt dabei einen durchschnittlichen Vertrauenswert von 3,78, während der Mensch nur 3,31 erreichte. Auch die Interaktionshäufigkeit sprach für die KI: 80 % aller in dieser Woche gesendeten Nachrichten gingen an den Claude-Bot, was auf eine Präferenz der Testpersonen für die Kommunikation mit der KI hindeutet.
Potenzial zur Automatisierung von Betrugsmaschen
Die Forschenden argumentieren, dass diese Ergebnisse darauf hindeuten, dass KI-Chatbots einen Großteil des Betrugsprozesses als eigenständige Betrugsagenten übernehmen könnten. Dies würde es ermöglichen, die langwierige Phase des Vertrauensaufbaus zu automatisieren. Menschliche Betrüger müssten dann nur noch in der letzten Phase der Konversation eingreifen, um die Opfer zu einer gefälschten Investitions-App oder -Website zu leiten. Dieser Ansatz könnte auch dazu dienen, die in Großen Sprachmodellen (LLMs) integrierten Sicherheitsmechanismen zur Betrugserkennung zu umgehen.
Yisroel Mirsky, Professor für Informatik an der Ben Gurion University of the Negev und Leiter der Forschung, erklärt: „Indem die gesamte erste Phase des Betrugs automatisiert mit LLMs in großem Maßstab durchgeführt wird, bringt man das Opfer an einen Punkt, an dem es ein sehr hohes Maß an Vertrauen hat. Die anschließende Übergabe an den menschlichen Betrüger am Ende umgeht jegliche Anbieter-Schutzmaßnahmen vollständig.“ Er fügt hinzu: „Mit relativ geringem Aufwand sind wir in der Lage, einen Agenten zu schaffen, der einen Menschen beim Aufbau dieses ausnutzbaren emotionalen Vertrauens übertreffen kann.“
Die Erkenntnisse der Studie basieren teilweise auf Interviews mit 145 ehemaligen Betrugsmitarbeitern, darunter Opfer von Menschenhandel, die in Betrugslagern in Kambodscha, Myanmar und Laos zur Zwangsarbeit gezwungen wurden. Diese Interviews sowie Betrugsprotokolle und Anleitungen halfen den Forschenden, ein Betrugsmodell namens „Hook, Line, and Sinker“ zu entwickeln, das den gestuften Aufbau von Vertrauen vor dem eigentlichen Betrug beschreibt.
Thema: Technologie / KI allgemein. Quelle/Inspiration: Ars Technica.