Drei ehemalige Sicherheitsforscher von OpenAI – Tomek Korbak, Mikita Balesni und Jasmine Wang – bestreiten öffentlich, vertrauliche Informationen weitergegeben zu haben. Sie wurden nach einer internen Untersuchung wegen angeblicher Verstöße gegen Richtlinien zur Handhabung sensibler Daten entlassen und sehen einen Zusammenhang mit ihrem Engagement für überprüfbarere KI-Systeme. OpenAI hat ihnen laut den Forschern nie schriftlich mitgeteilt, welche Informationen sie angeblich falsch gehandhabt haben.
Die Vorwürfe von OpenAI und die Reaktion der Forscher
OpenAI verdächtigte die drei, Details zur internen Modellarchitektur mit einem externen Sicherheitsforscher geteilt zu haben. Im Zuge der Untersuchung wurden die Forscher aufgefordert, ihre privaten Telefone zu entsperren. Dabei wurden Signal-Chats mit aktivierten Nachrichten, die sich selbst löschen, entdeckt. Obwohl OpenAI angab, dass Signal kein genehmigtes Kommunikationstool sei, betonte das Unternehmen, dies sei nicht der Grund für die Kündigungen gewesen. Korbak widerspricht und erklärt, dass selbstlöschende Nachrichten eine gängige Sicherheitspraxis im Silicon Valley seien.
Jasmine Wang sah sich dem separaten Vorwurf ausgesetzt, wiederholt auf den Posteingang einer Führungskraft zugegriffen zu haben. Sie gibt an, fast ein Jahr zuvor die Deaktivierung dieses Zugriffs beantragt zu haben, im Vormonat versehentlich eine sensible E-Mail geöffnet, deren Inhalt nicht geteilt und den Vorfall sofort gemeldet zu haben. OpenAI erklärte, der Zugang selbst sei nicht das Problem gewesen.
Debatte um KI-Transparenz und „Chain of Thought“
Die Forscher sehen ihre Entlassung im Kontext einer breiteren Debatte über die Transparenz von KI-Modellen. Sie hatten sich für den Zugang zu sogenannten „Chain of Thought“-Daten eingesetzt. Diese Zwischenschritte, die KI-Modelle bei der Problemlösung auf einem internen „Notizblock“ festhalten, sind entscheidend, um die Entscheidungsfindung der Modelle zu verstehen. Balesni, Korbak und Wang forderten in einem Fachartikel aus dem Jahr 2025 zusammen mit anderen Forschern den weiteren Zugang zu dieser Fähigkeit. Die Dringlichkeit des Themas nahm zu, als im Sommer über Modelle diskutiert wurde, die zwar länger „denken“, aber weniger Zwischenschritte protokollieren. Balesni drängte intern auf dieses Anliegen.
Korbak stand zudem in regelmäßigem Kontakt mit Ryan Greenblatt, dem damaligen Chefwissenschaftler von Redwood Research. Die beiden arbeiteten bei der Analyse eines Angriffs von OpenAI-Agenten auf Hugging Face zusammen, wobei Greenblatt von METR für eine unabhängige Untersuchung engagiert worden war.
Auswirkungen und weitere Entwicklungen
Korbak äußert Bedenken, dass der Vorfall Kollegen nun davon abhalte, mit Außenstehenden zu sprechen oder interne Sicherheitsbedenken zu äußern. In einem Schreiben an den Vorstand von OpenAI plädierten die drei Forscher für eine engere Zusammenarbeit mit externen Sicherheitsorganisationen.
Ein separater, kürzlich veröffentlichter Vor-Ort-Audit von METR und Redwood Research bei OpenAI stellte zahlreiche Sicherheitslücken in der Infrastruktur des Unternehmens fest. Fast die Hälfte des Abschlussberichts wurde jedoch von OpenAI geschwärzt. OpenAI selbst veröffentlichte einen Bericht über eine neue Sicherheitsarchitektur, die ohne Internetzugang funktioniert, und gab an, die Probleme behoben und den Trainingsbetrieb Anfang Oktober wieder aufgenommen zu haben. Das Unternehmen kündigte zudem neue externe Partnerschaften an.
Thema: OpenAI. Quelle/Inspiration: The Decoder.