Anthropic warnt vor Cyberrisiko durch offenes KI-Modell GLM-5.3

Der KI-Entwickler Anthropic hat Ende letzten Monats einen Bericht veröffentlicht, der vor erheblichen Cyberangriffsrisiken durch das Modell GLM-5.3 warnt. Das im August von dem chinesischen Unternehmen Z.ai herausgegebene und frei herunterladbare sowie modifizierbare Modell steht im Zentrum einer anhaltenden Debatte darüber, ob leistungsstarke „Frontier-KI-Modelle“ – also hochmoderne und fortschrittliche Künstliche Intelligenz-Systeme – offen zugänglich sein sollten oder von ihren Entwicklern unter Verschluss gehalten werden müssen.

Offene vs. geschlossene KI-Modelle

Um die Diskussion zu verstehen, ist die Unterscheidung zwischen offenen und geschlossenen KI-Modellen entscheidend. Ein geschlossenes Modell, wie es beispielsweise ChatGPT oder Claude antreibt, ist ausschließlich über eine Webseite, eine App oder eine Programmierschnittstelle (API) zugänglich. Details über seine interne Struktur bleiben dabei verborgen.

Im Gegensatz dazu ist ein offenes Modell direkt herunterladbar. Informationen über seinen inneren Aufbau, die als „Modellgewichte“ bezeichnete Zahlenreihen umfassen, sind öffentlich verfügbar. Solche Modelle werden manchmal auch als „Open-Weight-Modelle“ bezeichnet, um sie von Systemen zu unterscheiden, bei denen noch mehr Details, wie etwa zum Trainingsprozess, offengelegt sind.

Aktuell sind geschlossene Modelle tendenziell leistungsfähiger. Die acht führenden Modelle auf dem „Artificial Analysis LLM Leaderboard“ sind zum Zeitpunkt der Veröffentlichung des Quellmaterials geschlossen, obwohl offene Modelle in ihrer Entwicklung nur wenige Monate zurückliegen.

Vorteile offener KI-Modelle

Trotz der aktuellen Leistungsunterschiede gibt es mehrere Gründe, sich für offene Modelle zu entscheiden:

• Sicherheit und Kontrolle für Unternehmen: Offene Modelle können auf der eigenen Hardware eines Unternehmens betrieben werden. Dies ist vorteilhaft, wenn sensible Daten oder proprietäre Informationen verarbeitet werden müssen, da lokale Modelle die Betriebssicherheit erhöhen können.
• Kosteneffizienz: Laut einem aktuellen Bericht von Mozilla sind offene Modelle, selbst wenn sie von externen Anbietern betrieben werden, in der Regel kostengünstiger als geschlossene Alternativen.
• Forschung und Entwicklung: Für akademische Forscher, die KI-Systeme verstehen und verbessern wollen, sind offene Modelle nahezu unerlässlich. Sie ermöglichen es, die internen Abläufe und die „Gedankenkette“ der Modelle zu untersuchen. Forscher können zudem offene Modelle kombinieren, komprimieren oder für neue Anwendungen feinabstimmen.
• Demokratisierung der Technologie: Ein wesentliches Argument für offene Modelle ist die Verhinderung einer massiven Konzentration von Macht. Elizabeth Seger vom Tony Blair Institute for Global Change betont, dass diese grundlegende Technologie ein öffentliches Gut sein sollte. Die Frage, wer die Infrastruktur der KI kontrolliert, sei so bedeutend wie die Kontrolle über Informationen im Internet. Offene Modelle könnten verhindern, dass wenige Unternehmen oder Regierungen die vollständige Kontrolle über immer mächtigere KI-Systeme erlangen.
• Geopolitische Auswirkungen: Hamish Hobbs vom Centre for Long-Term Resilience argumentiert, dass eine Welt, in der jeder Einzelne über ein sicheres, loyales KI-System verfügt, weniger besorgniserregend wäre als eine, in der man sich auf undurchsichtige Regierungs-KI-Systeme verlassen muss. Offene Modelle könnten das Gleichgewicht beispielsweise in der Cyberverteidigung verschieben, da derzeit die fortschrittlichsten Hacking-Modelle aus den USA stammen.

Bedenken und Risiken

Den Vorteilen stehen erhebliche Bedenken gegenüber, die vor allem die Sicherheit betreffen:

• Missbrauch durch Akteure: Wie von David Gray Widder, Assistenzprofessor an der University of Texas at Austin, ausgeführt, warnen Befürworter der KI-Sicherheit davor, dass offene Modelle leicht von böswilligen Akteuren missbraucht werden könnten. Der Bericht von Anthropic über GLM-5.3 unterstreicht diese Gefahr konkreter Cyberangriffe.
• Ausbeutung und Machtkonzentration: Paul Azunre, Mitbegründer von Ghana NLP, weist darauf hin, dass offene Modelle auch dazu dienen können, dass Unternehmen von der Arbeit und dem Fachwissen weniger privilegierter Nationen profitieren, ohne diese angemessen zu vergüten oder anzuerkennen. Er beschreibt ein Muster, bei dem KI-Firmen Modelle offen veröffentlichen, die Verbesserungen der Community beobachten und diese dann in ihre eigenen Produkte integrieren, oft ohne Nennung oder Kompensation der Urheber.

Die Debatte und Interessenskonflikte

Die Diskussion über den Umgang mit offenen Modellen findet größtenteils öffentlich statt und ist mit erheblichen finanziellen Interessen verknüpft. Jensen Huang, CEO von Nvidia, dessen Unternehmen vom Verkauf von Hardware für den Betrieb offener Modelle profitiert, befürwortet nachdrücklich die Entwicklung weiterer offener Modelle in den USA. Dario Amodei von Anthropic hingegen, dessen Unternehmen durch leistungsfähige und kostengünstige offene Modelle untergraben werden könnte, plädiert für einen vorsichtigeren Ansatz.

David Gray Widder merkt an, dass die Position in der Offenheitsdebatte oft von der grundsätzlichen Einstellung zur KI-Debatte beeinflusst wird: Während die einen die Risiken der KI-Sicherheit betonen, sehen andere im praktischen Potenzial eine Notwendigkeit, die Macht nicht bei wenigen großen Unternehmen zu belassen.

Zwischen einem vollständigen Verbot und einer uneingeschränkten Veröffentlichung offener Modelle gibt es verschiedene Ansätze. Jede Entscheidung, die Regierungen oder Gesellschaften treffen, beinhaltet jedoch einen Kompromiss zwischen Sicherheit und Demokratisierung. Ein tiefgehendes Verständnis der jeweiligen Risiken und Vorteile ist unerlässlich, um die Produktion offener Modelle zu unterstützen oder zu begrenzen.

Thema: Anthropic. Quelle/Inspiration: MIT Technology Review.