Dario Amodei, Gründer und CEO von Anthropic, hat am Montag seine Position zu Open-Weight-KI-Modellen und den wachsenden KI-Kapazitäten Chinas präzisiert. Amodei reagierte damit auf brancheninterne Gerüchte, sein Unternehmen unterstütze Bemühungen der US-Regierung, Open-Weight-Modelle aus China oder generell zu verbieten.
„Jeder, der meine früheren Schriften gelesen hat, sollte wissen, dass ich solche Verbote nicht als nützliche Maßnahme betrachte, aber ich möchte es klar sagen, damit kein Zweifel besteht: Anthropic hat sich niemals für ein Verbot von Open-Weight-Modellen ausgesprochen“, schrieb Amodei in einem Blogbeitrag. Seine Stellungnahme erfolgte, nachdem Nvidia-CEO Jensen Huang auf X einen offenen Brief veröffentlicht hatte, in dem Nvidia und weitere KI-Unternehmen wie Hugging Face, Meta, Microsoft und Mistral politische Entscheidungsträger aufforderten, keine vorschnellen Beschränkungen für Open-Weight-KI-Modelle zu verhängen.
Amodeis Position zu Open-Weight-Modellen
Amodei sieht Open-Weight-Modelle, also KI-Modelle, deren interne Parameter und Architekturen öffentlich zugänglich sind, als ein öffentliches Gut an, solange sie keine gefährlichen Fähigkeiten besitzen. Sie verursachen demnach keine Kosten außer der benötigten Rechenleistung und bieten Unternehmen, Entwicklern und Forschern Mehrwert.
Er erklärte, dass er seit Langem Bedenken hinsichtlich der Künstlichen Intelligenz hege, aber die Nutzung von Open-Weight-Modellen durch Unternehmen, selbst solche aus China, gehöre nicht dazu.
Die Bedrohung durch autoritäre Staaten
Amodeis eigentliche Sorge gilt der Möglichkeit, dass autoritäre Regierungen KI-Modelle entwickeln könnten, die mächtiger sind als jene in den USA. Dies könnte dazu dienen, eine „permanente militärische Überlegenheit“ zu erlangen oder die eigene Bevölkerung zu unterdrücken. Er betonte, dass die Kommunistische Partei Chinas (KPCh) zwar nicht die einzige autoritäre Regierung sei, die ihn beunruhige, aber die „fähigste“.
Zudem befürchtet Amodei, dass KI „biologische Angriffe“ ermöglichen könnte, über reine Cyberangriffe hinaus. In solchen Szenarien seien Open-Weight-Modelle gefährlicher, da es schwierig sei, Schutzmechanismen (Guardrails) auf sie anzuwenden oder ihre Nutzung zu überwachen. Er wies unter Berufung auf einen Bericht des britischen AI Security Institute darauf hin, dass einmal veröffentlichte Open-Weight-Modelle nicht mehr zurückgezogen werden können. Dies steht im Gegensatz zur Argumentation von Open-Source-Befürwortern, die meinen, dass der Zugang zu mächtigen, nicht von einer einzelnen Entität kontrollierten Modellen Verteidigern helfe, sich zu schützen.
Vorschläge zur Risikobegrenzung
Um die von China ausgehenden Risiken zu mindern, schlägt Amodei mehrere Maßnahmen vor. Dazu gehören die Einschränkung des Zugangs Chinas zu leistungsstarken Chips – eine langjährige US-Politik – sowie ein formelles Vorgehen gegen die Destillation. Die Destillation ist ein Verfahren, bei dem eine KI eine andere durch gezielte Abfragen lernt, was als Methode des Diebstahls geistigen Eigentums betrachtet wird. Die USA haben bereits Sanktionen gegen China angedroht, falls IP-Diebstahl im Zusammenhang mit US-Modellen festgestellt wird.
Interessanterweise unterstützt Amodei auch verstärkte Bemühungen, teils von den USA geleitet, eine Organisation für die Sicherheitstests von KI-Modellen zu schaffen. Dies gelte insbesondere, wenn sich die gesamte Welt, einschließlich China, bereit erklären würde, sich diesen Tests zu unterziehen. Amodei sieht hier einen möglichen Konsens, auch wenn eine globale Beteiligung, inklusive der KPCh, für die Wirksamkeit entscheidend wäre. Eine begrenzte Zusammenarbeit zur Verhinderung von KI-gestützten Biowaffen hält er für möglich, da dies auch im Interesse Chinas liegen könnte.
Thema: Anthropic. Quelle/Inspiration: TechCrunch.