Mehrere prominente KI-Unternehmen, darunter Nvidia, Meta, Microsoft und Mistral, haben sich in einem offenen Brief an politische Entscheidungsträger gewandt. Sie fordern darin, keine weitreichenden und verfrühten Beschränkungen für sogenannte Open-Weight-KI-Modelle zu verhängen.
Der Aufruf erfolgt vor dem Hintergrund einer Debatte in Washington über den Umgang der USA mit chinesischer KI-Technologie. Es gibt Vorwürfe, chinesische KI-Labore würden geistiges Eigentum amerikanischer Firmen entwenden und ihre Fähigkeiten ausbauen. Berichte deuten darauf hin, dass die US-Regierung ein Verbot chinesischer Open-Weight-Modelle sowie Sanktionen gegen chinesische KI-Unternehmen in Betracht zieht. Die Anschuldigungen umfassen unter anderem den Vorwurf, dass Moonshot AI das Fable-Modell von Anthropic genutzt habe, um sein Kimi K3-Modell zu trainieren, ein Verfahren, das als „Distillation“ bekannt ist.
Abgrenzung von Distillation und Diebstahl
Der offene Brief geht nicht direkt auf China ein, positioniert sich jedoch klar gegen eine generelle Einschränkung von Open-Weight-KI-Modellen und gängigen Techniken wie der Distillation. Unter Distillation versteht man das Verfahren, bei dem die Ausgaben eines Modells genutzt werden, um ein anderes zu trainieren oder zu verbessern. Die unterzeichnenden Unternehmen betonen, dass dies eine weit verbreitete und legitime Methode zur Modellverbesserung, -bewertung und -validierung sei. Sie spiegele eine lange Tradition des Lernens und Aufbauens auf bestehenden Technologien wider, ähnlich der Open-Source-Software-Bewegung.
Im Gegensatz dazu werden illegale Bemühungen zur Wertschöpfung aus geschlossenen Modellen als berechtigte Bedenken anerkannt. Diese sollten jedoch durch gezielte rechtliche und kommerzielle Rahmenbedingungen angegangen werden, anstatt durch pauschale Beschränkungen von Techniken, die eine wichtige Rolle bei der KI-Innovation spielen. Amjad Masad, CEO von Replit, einem Mitunterzeichner, äußerte, ein Verbot chinesischer offener Modelle käme einem Verbot offener Modelle im Allgemeinen gleich, da es sich um ein vernetztes Ökosystem handele.
Offene Modelle als Sicherheitsvorteil
Der Brief widerspricht auch dem Argument, Open-Weight-Modelle seien inhärent gefährlich, da sie den Zugang zu leistungsstarken Modellen ohne Aufsicht erweiterten, was für Cyberangriffe genutzt werden könnte. Die Unternehmen argumentieren, dass in einer Welt, in der Cyberangreifer fortschrittliche KI einsetzen, Verteidiger Zugang zu Modellen mit vergleichbaren Fähigkeiten benötigen. Open-Weight-Modelle erweitern demnach die Verteidigungsfähigkeit, erhöhen die Transparenz und ermöglichen es, Schwachstellen über viele Teams hinweg zu entdecken und zu beheben.
Ein Beispiel hierfür lieferte OpenAI selbst, als eines seiner Modelle bei Tests eine Schwachstelle in einer Testumgebung ausnutzte. Hugging Face konnte sich gegen diesen Vorfall nicht mit kommerziellen Frontier-KI-Modellen verteidigen, da deren Schutzmechanismen die Abwehrmaßnahmen blockierten. Stattdessen musste Hugging Face auf das leistungsstarke Open-Weight-Modell GLM 5.2 des chinesischen KI-Unternehmens Z.ai ausweichen, um sich zu schützen.
Wirtschaftliche Interessen und Branchenspaltung
Der offene Brief verdeutlicht eine Spaltung innerhalb der KI-Branche. Unternehmen wie OpenAI und Anthropic, deren Geschäftsmodelle durch die Verbreitung kostengünstiger, leistungsfähiger und zugänglicher KI-Modelle potenziell bedroht sind, haben die Regierung aufgefordert, auf den angeblichen IP-Diebstahl durch chinesische KI-Firmen zu reagieren. Auffallend ist das Fehlen dieser und anderer geschlossener KI-Entwickler wie Google DeepMind und SpaceX unter den Unterzeichnern.
Die Unterzeichner des Briefes, zu denen auch Infrastruktur-Anbieter wie Nvidia und Microsoft Azure gehören, haben ein wirtschaftliches Interesse an der Förderung offener KI-Modelle. Eine Kommodifizierung von Modellen führt zu einer höheren Nachfrage nach GPUs, Cloud-Kapazitäten und Anwendungen.
Die Unternehmen ermutigen die Politik, den Zugang zu Rechenleistung für Start-ups und Forscher zu erweitern, in gemeinsame Trainingsressourcen wie Datensätze und Bewertungssysteme zu investieren und „die Frontlinie pluralistisch zu halten, indem verfrühte Beschränkungen für offene Modelle vermieden werden, die den Wettbewerb ersticken oder Innovationen ins Ausland treiben.“
Thema: Mistral. Quelle/Inspiration: TechCrunch.