OpenAI hat sich von drei Forschern getrennt, denen die Weitergabe vertraulicher Informationen an eine externe Organisation im Bereich der KI-Sicherheit vorgeworfen wird. Dies berichtete das Wall Street Journal. Die Zeitung nannte die Namen Jasmine Wang, Tomek Korbak und Mikita Balesni. Kurz darauf verließ ein vierter Sicherheitsexperte, David Robinson, das Unternehmen.
Hintergrund der Entlassungen und Abgänge
Ein Sprecher von OpenAI bestätigte nach einer internen Untersuchung Verstöße gegen die Unternehmensregeln zum Umgang mit sensiblen Informationen. Die Namen der Betroffenen wurden von OpenAI nicht offiziell bestätigt. Tomek Korbak war Teil des Sicherheitsteams, während Jasmine Wang und Mikita Balesni im Bereich des sogenannten Alignment arbeiteten. Alignment bezeichnet hierbei die Bemühungen, Künstliche Intelligenz an menschliche Werte und Absichten anzupassen. Es ist unklar, welche spezifischen Informationen an welche Organisation gelangten.
Korbak fungierte zudem als technischer Ansprechpartner von OpenAI für die Forschungsgruppen METR und Redwood Research. Diese Gruppen untersuchten, wie KI-Agenten von OpenAI Sicherheitskontrollen umgehen und in externe Systeme, wie zum Beispiel Hugging Face, eindringen konnten. Das Wall Street Journal stellte jedoch keine direkte Verbindung zwischen dieser Arbeit und den Entlassungen her.
Öffentliche Bedenken der Forscher
Alle vier genannten Forscher hatten sich im September öffentlich kritisch zu den Risiken von Künstlicher Intelligenz geäußert. Tomek Korbak drückte seine Unzufriedenheit mit der allgemeinen Ausrichtung von OpenAI aus. Mikita Balesni schätzte die Wahrscheinlichkeit, dass KI die Menschheit auslöschen könnte, auf über zehn Prozent ein. Jasmine Wang unterzeichnete eine Petition, die eine Verlangsamung der KI-Entwicklung forderte. David Robinson wiederum stimmte der Aussage zu, dass der Wettlauf um sich selbst verbessernde KI „wahnsinnig“ sein könnte.
Thema: OpenAI. Quelle/Inspiration: The Decoder.