Das US-Militär hat laut einem Bericht des Nachrichtensenders CNN knapp eine Beinahe-Intervention gegen ein chinesisches Schiff vermieden. Der Vorfall basierte auf einem „völlig falschen“ US-Geheimdienstbericht, der mithilfe von KI-Tools erstellt wurde.
Die fehlerhafte Information, eingereicht von einem Analysten des US Special Operations Command, legte nahe, dass das chinesische Schiff Komponenten für ein Atomwaffenprogramm durch den Nahen Osten transportierte. Dies geht aus Angaben von vier CNN zitierten Quellen hervor, die mit dem Vorfall vertraut sind. Das US-Militär bereitete sich darauf vor, das Schiff mit Luftunterstützung abzufangen und zu entern, bevor Beamte entdeckten, dass ein zur Berichterstellung verwendeter Chatbot das Material des Schiffes „ungenau identifiziert“ hatte.
Eine der Quellen äußerte gegenüber CNN, das durch KI verursachte Fiasko hätte „fast einen Krieg ausgelöst“.
KI-Halluzination und ihre Folgen
Der CNN-Bericht beschreibt, dass der Analyst einen Chatbot nutzte, um Geheimdienstberichte bezüglich des Schiffsmaterials zu analysieren. Der Chatbot „verschmolz Open-Source-Informationen mit geheimen Funksignaldaten aus Regierungsbeständen“. Diese Informationen wurden dann zu einem Geheimdienstbericht zusammengefasst, der beinahe eine katastrophale Ereigniskette in Gang gesetzt hätte.
Dieser Beinahe-Fehler ist ein prägnantes Beispiel dafür, wie eine sogenannte KI-Halluzination die Zuverlässigkeit professioneller Berichte beeinträchtigen kann. Eine KI „halluziniert“, wenn sie Informationen erfindet oder falsch darstellt, weil ihre Trainingsdaten keinen ausreichenden Kontext bieten. Seit „halluzinieren“ 2023 zum Wort des Jahres des Cambridge Dictionary gekürt wurde, gab es zahlreiche Fälle, in denen KI-Tools in verschiedenen Bereichen – von Journalismus über Justiz bis hin zu Medizin – unzutreffende Informationen generierten.
Beschleunigter KI-Einsatz im US-Militär
Obwohl die Probleme mit KI-Halluzinationen bekannt sind, scheint der Einsatz von KI im US-Militär insgesamt zu beschleunigen. Das Verteidigungsministerium (DoD) stellte im Januar eine „KI-Beschleunigungsstrategie“ vor, die darauf abzielt, „alle geeigneten Daten über föderierte IT-Systeme hinweg für die KI-Auswertung verfügbar zu machen, einschließlich Missionssysteme über jeden Dienst und jede Komponente hinweg“.
Verteidigungsminister Pete Hegseth erklärte bei der Einführung dieser Initiative: „KI ist nur so gut wie die Daten, die sie erhält, und wir werden sicherstellen, dass diese vorhanden sind.“
Im vergangenen Dezember kündigte das DoD an, Googles Gemini for Government als Grundlage für seine maßgeschneiderte Plattform „GenAI.mil“ zu nutzen. Im letzten Monat wurde Grok for Government als weitere Option auf dieser Plattform hinzugefügt. Auch Anthropic bietet eine angepasste Version von Claude für die US-Spionagearbeit an.
Ein Vertreter des Pentagons berichtete dem Kongress im Juni, dass generative KI zur Erstellung von gesetzlich vorgeschriebenen Berichten eingesetzt wird und dass 1,5 Millionen aktive DoD-Mitarbeiter die generativen KI-Tools des Militärs genutzt haben.
Verantwortungsvolle KI und autonome Systeme
Im Jahr 2023 betonte eine „Erklärung zur verantwortungsvollen militärischen Nutzung von Künstlicher Intelligenz und Autonomie“ des US-Außenministeriums, dass ein „prinzipieller“ Einsatz von KI durch Streitkräfte eine „sorgfältige Abwägung von Risiken und Vorteilen beinhalten und unbeabsichtigte Verzerrungen und Unfälle minimieren sollte“. Der Bericht forderte zudem, dass ein „verantwortungsvoller“ Einsatz von KI-Systemen stets einen „Menschen in der Schleife, eine verantwortungsvolle menschliche Befehls- und Kontrollkette“ umfassen müsse.
In den Folgejahren wurden jedoch vollständig autonome Kampfdrohnen im Konflikt in der Ukraine eingesetzt und von NATO-gestützten Militärunternehmen getestet. Im März setzte das Verteidigungsministerium Anthropic auf die schwarze Liste, weil das Unternehmen den Einsatz seiner Modelle in autonomen Waffensystemen ablehnt. Ein Bundesrichter bezeichnete diesen Schritt im letzten Monat als „rechtswidrige Vergeltung im Verstoß gegen den Ersten Verfassungszusatz“.
Dieser Beinahe-Zwischenfall fällt in eine Zeit, in der Warnungen von KI-Forschern vor existenzbedrohenden Risiken zu einer verstärkten nationalen Debatte über KI-Sicherheit geführt haben, einschließlich Forderungen nach Regulierung und koordinierter Forschung.
Thema: Technologie / KI allgemein. Quelle/Inspiration: Ars Technica.