Eine Studie der Universität Cambridge zeigt, dass Terrororganisationen wie Boko Haram führende KI-Chatbots wie ChatGPT, Claude und Gemini für die Planung von Anschlägen, den Bau von Sprengsätzen und die Waffenwartung nutzen. Die Untersuchung von Antonia Jülich vom Cambridge Programme on AI Science & Policy (CASP) ergab zudem, dass Sicherheitsfilter bei der Verhinderung des Missbrauchs wiederholt versagen.
Verbreitete Nutzung und Umgehung von Sicherheitsfiltern
Laut der Studie von Jülich, die auf 57 Interviews mit 27 ehemaligen Mitgliedern der Gruppe basiert, setzt Boko Haram – beide Fraktionen – inzwischen populäre KI-Chatbots wie ChatGPT, Claude, Gemini, Grok, Meta AI und DeepSeek ein. Seit 2023 bietet die Terrororganisation ISIS ihren Kommandeuren Schulungen in Prompt Engineering (Techniken zur gezielten Steuerung von KI-Modellen) und Jailbreaking (Methoden zur Umgehung von Sicherheitsbarrieren) an. ISIS-Verbindungsleute haben Boko Haram-Kommandeure in Nigeria darin trainiert, KI-Sicherheitsfilter zu umgehen. Beide Boko Haram-Fraktionen haben eigene KI-Einheiten eingerichtet, wobei laut Jülich „die besten Leute in einem Raum versammelt und mittels Projektor gezeigt wurde, wie es funktioniert“.
Konkrete Anwendungen und Risikobewertung
Die Studie dokumentiert den Einsatz von KI durch Boko Haram für verschiedene Zwecke: die Planung von Anschlägen, die Entwicklung leistungsfähigerer Sprengsätze, die Wartung von Waffen und die Verbesserung der operativen Sicherheit. Ein konkretes Beispiel ist der Einsatz von KI durch die ISWAP-Fraktion, um Motorradsprungtechniken aus einem Film zu reproduzieren, damit Kämpfer Gräben überwinden können. Achtzehn Kämpfer starben während des Trainings, acht von ihnen gelang der Sprung.
Obwohl Boko Harams Nutzung von KI bisher konventionell bleibe, warnte Jülich, dass die Begeisterung für KI innerhalb der Gruppe groß sei und in der Vergangenheit bereits über Massenvernichtungswaffen nachgedacht wurde. Dies sei ein ernstzunehmendes Warnsignal für das Risiko, dass Terroristen KI-Unterstützung für chemische und biologische Waffen suchen könnten.
Grenzen der Selbstregulierung und zukünftige Bedenken
Forschende und KI-Labore wie OpenAI und Anthropic haben lange davor gewarnt, dass KI-Modelle den Zugang zu gefährlichem Wissen erleichtern könnten. Die Studie legt nahe, dass die freiwillige Selbstregulierung der KI-Anbieter nicht ausreicht, da Sicherheitsfilter den Missbrauch wiederholt nicht zuverlässig verhindern konnten. Anthropic räumte kürzlich ein, dass „Jailbreaks“ wahrscheinlich nie vollständig eliminiert werden können.
Forschende weisen zudem darauf hin, dass Chatbots wie ChatGPT und Claude, obwohl sie viel öffentliche Aufmerksamkeit erhalten, nicht die größte Sorge darstellen. Sie erleichtern hauptsächlich den Zugang zu bereits vorhandenem Wissen, anstatt Neues zu generieren. Die größere Besorgnis gilt dem potenziellen Missbrauch spezialisierterer KI-Systeme in den Biowissenschaften.
Thema: ChatGPT. Quelle/Inspiration: The Decoder.