Das auf Künstliche Intelligenz (KI) spezialisierte Unternehmen Anthropic hat dem externen Kontrollorgan METR, einer gemeinnützigen Organisation, umfassenden Zugang zu seinen internen Systemen und seiner Hardware gewährt. Dieser Schritt ist die erste konkrete Umsetzung einer Selbstverpflichtung, die darauf abzielt, die Sicherheitsvorkehrungen angesichts möglicher weitreichender Risiken durch fortschrittliche KI-Systeme zu erhöhen.
Hintergrund der Sicherheitsinitiative
Die Entscheidung folgt auf wachsende Bedenken hinsichtlich der potenziellen Gefahren, die leistungsfähigere KI-Systeme für Wirtschaft, Cybersicherheit und die Menschheit insgesamt darstellen könnten. Anthropic-CEO Dario Amodei hatte bereits im September einen Vorschlag zur Einbindung externer Prüfer in führende KI-Labore gemacht, der von prominenten Branchenvertretern wie Sam Altman (OpenAI) und Elon Musk (SpaceX) unterstützt wurde. Anthropic betont, dass mit zunehmender Leistungsfähigkeit der Modelle stärkere Sicherheitsvorkehrungen und anspruchsvollere Risikobewertungen erforderlich seien.
Das Unternehmen möchte öffentlich Rechenschaft über seine Entscheidungen ablegen, jedoch nicht alle sicherheitsrelevanten Informationen öffentlich teilen, da dies böswilligen Akteuren oder Wettbewerbern zugutekommen könnte. Die nun erfolgte Einbindung von METR markiert den ersten Schritt zur Umsetzung dieser Zusagen, während OpenAI noch keine konkreten Pläne zur Einführung externer Prüfer vorgelegt hat.
Umfang des Zugangs und Unabhängigkeit
Ein Team von sechs METR-Mitarbeitern ist nun direkt in den Büros von Anthropic tätig und verfügt über Zugang zu Hardware, internen Systemen und Tools, der dem der eigenen Risikobewertungsteams entspricht. Anthropic hat seine Mitarbeiter ermutigt, Informationen mit den externen Prüfern so zu teilen, wie sie es mit einem Kollegen im Risikobereich tun würden. Diese Form der Zusammenarbeit wird von Anthropic mit der Bankenaufsicht verglichen, bei der Prüfer direkt in Großbanken eingesetzt werden, um Risiken frühzeitig zu erkennen.
Die Unabhängigkeit von METR wird dadurch gewährleistet, dass Anthropic das Kontrollorgan nicht für diese Vereinbarung bezahlt. METR, das bereits mit führenden Laboren wie OpenAI, Google und Meta zusammengearbeitet hat und unter anderem den Hack von Hugging Face durch OpenAI-Modelle untersuchte, wird durch Spenden von Einzelpersonen, philanthropischen Organisationen und staatlichen Stellen wie dem britischen AI Security Institute finanziert. Die Prüfer dürfen ihre Ergebnisse ohne die Zustimmung von Anthropic veröffentlichen. Anthropic kann lediglich verlangen, dass bestimmte Informationen geschwärzt werden, wie Kundendaten, Anwaltsgeheimnisse oder Details zur Modellarchitektur.
Kritik und weitere Partner
Kritiker der Vorschläge zur Einbindung externer Prüfer äußerten Bedenken hinsichtlich potenzieller Interessenkonflikte, ähnlich denen im Rechnungslegungssektor, und forderten eine stärkere staatliche Regulierung. Anthropic arbeitet zudem weiterhin mit Accenture zusammen, das im vergangenen Monat als Partner für Sicherheitstests benannt wurde. Beide Unternehmen haben sich verpflichtet, jeweils mindestens 1 Milliarde US-Dollar in neue Sicherheitsvorkehrungen zu investieren. Ein weiterer externer Prüfer ist SecureBio, der das Unternehmen bei der Bewertung von Risiken im Zusammenhang mit chemischen und biologischen Waffen unterstützt.
Finanzielle und strategische Aspekte
Anthropic steht unter dem Druck, Investoren zu versichern, dass Sicherheitsfragen den für dieses Jahr erwarteten Börsengang, bei dem eine Bewertung von über 2 Billionen US-Dollar erwartet wird, nicht überschatten. Das Unternehmen widmete in dieser Woche einen Großteil seiner Investorenpräsentationen der Darstellung seiner Sicherheitspraktiken. Anthropic betont, die Einbettung von Prüfern erfolge freiwillig und ermutigt alle führenden KI-Unternehmen (Frontier AI Companies), diesem Beispiel zu folgen.
Thema: Anthropic. Quelle/Inspiration: Ars Technica.