Die US-Regierungswebsite Federal Register setzte kurzzeitig ein chinesisches KI-Suchwerkzeug ein, das am Mittwoch von den Verantwortlichen entfernt wurde. Der Einsatz eines Modells aus Alibabas Qwen-Reihe, das die Suche nach öffentlichen Kommentaren zu vorgeschlagenen Verordnungen ermöglichte, stieß auf Kritik, da das FBI zuvor vor der Nutzung chinesischer KI-Modelle gewarnt hatte.
Kurzzeitiger Einsatz und Kritik
Die National Archives, die für die Website Federal Register verantwortlich sind, hatten Besuchern die Option geboten, ein Qwen-Modell zur Suche zu nutzen. Dies stand im Widerspruch zu früheren Aussagen führender US-Strafverfolgungsbehörden. Das Federal Bureau of Investigation (FBI) hatte Alibaba Anfang des Monats namentlich unter sechs führenden chinesischen Firmen genannt, denen eine „industrielle Destillation“ vorgeworfen wird. Dies beziehe sich auf das angebliche illegale Kopieren fortschrittlicher US-KI-Modelle, um Kosten und Entwicklungszeiten im globalen Rennen um die KI-Führerschaft zu reduzieren.
Es ist unklar, wann genau die National Archives die Nutzung des Qwen-Modells ermöglichten. Ein Nutzer mit dem Namen „tleilax__“ veröffentlichte jedoch am 15. September auf X einen Screenshot, der die Option auf der Regierungswebsite zeigte. Eine archivierte Version des Quellcodes der Website bestätigte, dass das Qwen-Modell am Mittwoch entfernt wurde, was bedeutet, dass der Dienst mindestens einen Tag lang verfügbar war. Die zuständigen Behörden, darunter die National Archives, das Weiße Haus und das FBI, haben sich bisher nicht zu dem Vorfall geäußert.
Daniel Castro, Präsident der Information Technology and Innovation Foundation, bezeichnete die Diskrepanz zwischen der Nutzung eines Alibaba-Modells durch eine US-Behörde und den FBI-Empfehlungen, ausschließlich amerikanische Modelle zu verwenden, als „absurd“.
Sicherheitsbewertung und politische Debatte
Experten bewerteten das Sicherheitsrisiko des konkreten Einsatzes als gering. Anupam Chander, Juraprofessor an der Georgetown University, erklärte, dass der Inhalt der Website „bereits öffentlich ist, sodass das Modell nicht mit sensiblen Regierungsinformationen arbeitete“. Senator Marker Warner (D-Va.) merkte an, dass es entscheidend sei, ob US-Daten von „Alibaba-kontrollierten Systemen“ verarbeitet wurden. Sicherheitsfachleute wiesen jedoch darauf hin, dass das genutzte Qwen-Modell, ein kleines Open-Source-Modell der „Qwen3 0.6B“-Klasse, nicht Alibabas größtes Flaggschiffmodell ist. Es dient lediglich der Dokumentenabfrage, bietet keine komplexe Argumentation und sendet keine Regierungsdaten an Alibaba oder Dritte.
Für US-Behörden bietet ein solches Suchwerkzeug laut Reuters-Berichten mehr Kontrolle über Daten, da die Modelle heruntergeladen und lokal ausgeführt werden können. Dies vermeidet die Notwendigkeit, Anfragen an extern betriebene, größere Modelle zu senden. Diese Fähigkeit, die Weitergabe sensibler Daten zu vermeiden, sei ein Grund, warum es zu einem „Standard“-KI-Suchwerkzeug geworden sei, so ein chinesischer Nachrichtenbericht von Sina.com, neben seiner niedrigeren und besser vorhersehbaren Preisgestaltung.
Der Vorfall fällt in eine globale Debatte über KI-Sicherheit und die Frage, ob Regulierungen in den USA notwendig sind oder die Wettbewerbsfähigkeit des Landes beeinträchtigen könnten. Die US-Politik konzentrierte sich bisher stark auf die Führung bei fortschrittlicher (Frontier) KI, vernachlässigte jedoch den Ausbau des eigenen Open-Source-Ökosystems. China erkannte diese Lücke und schloss sie. US-Exportkontrollen, die auf fortschrittliche Halbleiter abzielen, adressieren nicht den Einsatz kleiner, spezialisierter und quelloffener Modelle, die weniger Rechenleistung benötigen und ihren Vorteil in der Anwendung generieren. Dies könnte dazu führen, dass der aktuelle US-Politikrahmen die falsche Ebene des Wettbewerbs anspricht.
US-Repräsentant John Moolenaar (R-Mich.), Vorsitzender des House China Committee, vertritt eine harte Haltung: „Keine Bundesbehörde sollte ein chinesisches KI-Modell verwenden.“ Er fügte hinzu, dass dies die Bundesregierung nur abhängiger von chinesischen KI-Modellen mache, was nicht im nationalen Interesse sei.
Thema: Technologie / KI allgemein. Quelle/Inspiration: Ars Technica.