Die Debatte um den Einsatz chinesischer Open-Weight-KI-Modelle in US-Unternehmen erreicht einen Höhepunkt. Während Befürchtungen vor einer potenziellen Gefahr zunehmen und sogar über ein mögliches Verbot durch die Trump-Regierung spekuliert wird, widerspricht Lucas Atkins, CTO des US-amerikanischen Open-Source-KI-Labors Arcee, der These einer inhärenten Bedrohung. Er betont, dass diese Modelle nicht gefährlicher seien als andere Open-Source-Software und sogar Vorteile bieten könnten.
Hintergrund der Debatte um chinesische KI-Modelle
Chinesische Open-Weight-KI-Modelle, wie Kimi K3 von Moonshot AI oder Qwen von Alibaba, gewinnen in den USA an Fähigkeiten und Beliebtheit. Sie bieten Inferenz – die Anwendung eines trainierten Modells zur Generierung von Ausgaben – zu einem Bruchteil der Token-Kosten, die bei proprietären Modellen großer US-Labore wie OpenAI oder Anthropic anfallen. Diese Kostenvorteile stellen eine Konkurrenz für die Gewinnmargen der US-Anbieter dar. Gleichzeitig wächst die Sorge, dass diese Modelle ein Einfallstor für chinesische Hacker sein könnten, obwohl bisher keine konkreten Maßnahmen für ein Verbot ergriffen wurden.
Sicherheitsbewertung durch Arcee
Lucas Atkins von Arcee, einem Unternehmen, das selbst offene Modelle als Alternative zu chinesischen Angeboten entwickelt, argumentiert gegen die Angst vor einer speziellen Bedrohung. Er erklärt, dass die Funktionsweise dieser Modelle grundlegend missverstanden werde: „Es gibt wirklich keine Möglichkeit für ein Arcee oder ein Alibaba, ein Modell zu erstellen, es von jemandem in dessen eigener Umgebung ausführen zu lassen und dann irgendeinen Zugriff darauf zu haben.“ Er vergleicht die Nutzung chinesischer Open-Weight-Modelle mit der Verwendung jeder anderen Open-Source-Software.
Obwohl es sich meist um sogenannte „Open-Weight“-Modelle handelt, bei denen die Gewichtungen (Parameter) des Modells öffentlich sind, aber nicht unbedingt die vollständigen Trainingsdaten oder -methoden, ist der Quellcode, der auf Servern ausgeführt wird, größtenteils sichtbar und überprüfbar, wenn er von Plattformen wie Hugging Face heruntergeladen wird. Große Organisationen sollten jedes Modell einer gründlichen Sicherheitsprüfung unterziehen. Zudem können sie die Modelle für spezifische Anwendungsfälle nachtrainieren (Post-Training), wodurch Aspekte wie Voreingenommenheit, Toxizität oder die Sensibilität für bestimmte Themen untersucht und angepasst werden können.
Die theoretische Möglichkeit, dass ein für die Codegenerierung eingesetztes Modell bösartige Backdoors in den erstellten Code integriert, wird von Atkins als äußerst unwahrscheinlich eingeschätzt. Er bezweifelt die Umsetzbarkeit eines solchen „akrobatischen Kunststücks“, da große Sprachmodelle (LLMs) von Natur aus kreativ sind und die Wahrscheinlichkeit gering ist, dass sie gezielt Malware ausgeben.
Vorteile und Wettbewerb im KI-Ökosystem
Atkins betont, dass Unternehmen ihre KI-Anwendungen zunehmend modellagnostisch entwickeln, also so, dass sie mit verschiedenen KI-Modellen interoperabel sind. Dies verhindert eine dauerhafte Abhängigkeit von einzelnen Anbietern, selbst wenn chinesische Modelle aktuell preislich attraktiver sind. Arcee selbst profitiert von der Offenheit chinesischer Modelle, indem es deren Ansätze studiert und darauf aufbaut.
Anstatt ein Verbot zu diskutieren, plädiert Atkins dafür, ein robustes, offenes KI-Ökosystem in den USA zu fördern. Er ist überzeugt, dass der effektivste Weg, mit chinesischen Modellen zu konkurrieren, darin besteht, schlicht bessere eigene Modelle zu entwickeln.
Thema: Technologie / KI allgemein. Quelle/Inspiration: TechCrunch.