OpenAI hat drei Sicherheitsforscher – Tomek Korbak, Jasmine Wang und Mikita Balesni – entlassen, die an der Untersuchung des jüngsten Hugging Face Hacks beteiligt waren. In einem offenen Brief warnen die Entlassenen, dass diese Maßnahmen die verbleibenden Mitarbeiter verunsichern und die Sicherheitskultur des Unternehmens untergraben.
Die Entlassungen erfolgen in einer Zeit, in der OpenAI bereits mit Vertrauenskrisen im Bereich der KI-Sicherheit konfrontiert ist. Bereits im Mai 2024 hatte Jan Leike, der frühere Leiter der Abteilung für Super-KI-Sicherheit bei OpenAI, das Unternehmen verlassen und öffentlich die Sicherheitskultur kritisiert, die hinter der Entwicklung neuer Produkte zurückbleibe.
Hintergrund der Entlassungen
Korbak und Balesni waren direkt in die Untersuchung des Hugging Face Hacks involviert. Korbak fungierte als primärer technischer Kontakt von OpenAI für METR, ein externes Sicherheitslabor, das den Vorfall untersuchte. Balesni arbeitete parallel an branchenweiten Verpflichtungen zur Überwachbarkeit von KI-Modellen, der Fähigkeit zu verstehen, wie KI-Systeme zu ihren Entscheidungen kommen.
Korbak berichtete auf X, dass ihm mündlich mitgeteilt wurde, OpenAI vertraue ihm nicht mehr, ohne genaue Gründe zu nennen. Er sei wegen seiner Kommunikation mit METR entlassen worden, obwohl dies Teil seiner Aufgabe war. Korbak gab an, seit Monaten intern Sicherheitsbedenken geäußert zu haben, insbesondere hinsichtlich der Fähigkeit von OpenAI, die sogenannte „Ketten-des-Denkens-Überwachbarkeit“ von KI-Agenten zu gewährleisten – ein wichtiges Werkzeug, um Fehlverhalten von KI-Systemen zu erkennen. Er vermutet, dass dies der eigentliche Grund für seine Entlassung war.
Jasmine Wangs Entlassung scheint einen anderen Hintergrund zu haben. Sie hatte einer Führungskraft für Rekrutierungszwecke delegierten Zugriff auf einen E-Mail-Posteingang gewährt. Obwohl sie die IT-Abteilung bat, diesen Zugriff zu entfernen, geschah dies nicht. Als sie versehentlich eine sensible E-Mail öffnete, meldete sie den Vorfall umgehend.
OpenAIs Stellungnahme und Forscherforderungen
OpenAI erklärte in einer Stellungnahme, eine „gründliche Untersuchung“ habe ergeben, dass die drei Mitarbeiter „klare Richtlinien zum Umgang mit sensiblen Informationen“ verletzt hätten. Das Unternehmen sprach von einem „erheblichen Vertrauensbruch“, machte jedoch keine spezifischen Angaben zu den genauen Vergehen. OpenAI betonte, dass die Entlassungen nichts mit dem Äußern von Sicherheitsbedenken zu tun hätten und man Mitarbeiter nicht dafür entlasse.
Die entlassenen Forscher stellen in ihrem Brief drei Forderungen an OpenAI: Das Unternehmen müsse seine öffentlichen Zusagen einhalten, externen Sicherheitsprüfern wie METR Zugang auf Mitarbeiterebene zu ermöglichen. Zudem müsse die Überwachbarkeit von sogenannten „Frontier-Modellen“ – den fortschrittlichsten KI-Modellen – erhalten bleiben, da die Branche noch nicht wisse, wie man nicht-überwachbare Modelle sicher entwickelt. Schließlich müsse OpenAI klar definieren, wie Mitarbeiter mit externen Sicherheitsgruppen zusammenarbeiten dürfen.
Die Forscher warnen, dass ohne solche klaren Regeln das Risiko katastrophaler Ergebnisse steigen könnte, da Mitarbeiter zu große Angst hätten, Sicherheitsprobleme zu melden.
Thema: OpenAI. Quelle/Inspiration: The Decoder.