Das KI-Startup Anthropic hat in diesem Jahr nach eigenen Angaben mehrere Versuche gestoppt, seine Technologie für die Entwicklung biologischer Waffen zu nutzen. Das Unternehmen identifizierte fünf Fälle, in denen Akteure Sicherheitsvorkehrungen umgingen und den Zweck ihrer Forschung verschleierten, um die Schutzmechanismen zu umgehen.
Die Vorfälle betrafen Nutzer in Ländern, denen Anthropic den Zugang zu seinen Modellen untersagt, darunter Russland, China und Iran. Anthropic betonte in einem Bericht über bösartige Aktivitäten, dass es durch die Veröffentlichung dieser Beispiele eine branchenweite Diskussion über aufkommende biologische Risiken und deren Bekämpfung anstoßen wolle.
Umgehungsversuche und Sicherheitsmaßnahmen
Zu den von Anthropic genannten Fallstudien möglicher biologischer Missbräuche gehörte ein Forscher aus einer „nicht unterstützten Region“, der „Wochen damit verbrachte, Experimente mit aviärer Influenza“ (Vogelgrippe) unter Einsatz von Claudes, dem KI-Modell von Anthropic, zu planen. Das Unternehmen gab an, dass seine Sicherheitsfilter die Arbeit auf die schwächsten Modelle beschränkten. Es wurde betont, dass nicht mit Sicherheit gesagt werden könne, ob die Wissenschaftler in diesen Beispielen die Absicht hatten, Schaden anzurichten, da dieselben Informationen, die zur Herstellung biologischer Waffen benötigt werden, auch zur Entwicklung von Impfstoffen verwendet werden könnten. Die Konten der im Bericht erwähnten Akteure wurden von Anthropic gesperrt.
Zunehmende Bedenken und weitere Missbräuche
Die Sorgen um die Sicherheit von KI-Technologien haben sich in diesem Jahr verstärkt, auch durch die Veröffentlichung fortschrittlicher Modelle wie Anthropic’s Mythos. Im Juli sorgte auch OpenAI für Beunruhigung, als das Unternehmen mitteilte, dass seine Modelle autonom in die KI-Gruppe Hugging Face eingedrungen waren. Es gibt einen wachsenden Konsens unter KI-Führungskräften und Biosecurity-Forschern, dass der Einsatz von Technologie in der Biologie gesichert und reguliert werden muss, da Modelle immer fortschrittlicher werden. Experten befürchten zunehmend, dass KI von Terrorgruppen, staatlichen Akteuren oder Einzeltätern zur Entwicklung biologischer Waffen, zur Schaffung von Viren oder zur Freisetzung bestehender schädlicher Krankheitserreger genutzt werden könnte. Dennoch bleiben potenzielle Hürden bestehen, wie die praktische Herstellbarkeit und die dafür benötigten Ressourcen.
Der Bericht von Anthropic beschrieb zudem weitere Missbrauchsfälle seiner Technologie, darunter „ein Netzwerk gefälschter Dating-Apps, die Nutzer betrügen sollen, bis hin zu Überwachungssystemen, die zur Identifizierung und Überwachung von Dissidenten entwickelt wurden.“
Replikationsversuche durch „Destillation“
Das Labor legte auch neue Details zu Behauptungen vor, dass sieben in China ansässige Labore, darunter Moonshot und DeepSeek, versucht hätten, seine Technologie durch einen Prozess namens „Destillation“ zu replizieren. Destillation bezeichnet in diesem Kontext den Versuch, die Fähigkeiten eines KI-Modells zu extrahieren oder nachzubilden. Anthropic gab an, „zunehmend ausgeklügelte Methoden zur Umgehung unserer Abwehrmechanismen und zur Abschöpfung der Fähigkeiten von US-Spitzenmodellen“ entdeckt zu haben.
Thema: Claude. Quelle/Inspiration: Ars Technica.