Sam Altman, CEO von OpenAI, hat seinen Mitarbeitern intern drei verschiedene Ansätze für die sichere Entwicklung künstlicher Intelligenz (KI) vorgestellt. Diese Vorschläge umfassen die Schaffung einer internationalen Aufsichtsbehörde, die Zusammenführung großer KI-Labore zu einer einzigen Einheit oder die Kontrolle der Rechenkapazitäten durch ein einziges, dominantes Unternehmen. Die Darlegungen erfolgten laut einem Bericht von The Information, der sich auf mit der Angelegenheit vertraute Personen beruft, in der vergangenen Woche, während die Trump-Administration ein erstes Rahmenwerk zur Überwachung von Entwicklern von Superintelligenz vorbereitet.
Internationale Aufsichtsbehörde als Modell
Der erste Ansatz sieht die Gründung einer Organisation vor, die nach dem Vorbild der Internationalen Atomenergie-Organisation (IAEO) Sicherheitsstandards durchsetzen soll. Eine solche Institution würde Systeme überprüfen, Audits vorschreiben sowie den Einsatz von Rechenleistung (Compute) und Energie überwachen. OpenAI hatte eine solche Einrichtung bereits im Mai 2023 öffentlich gefordert. Ihre Wirksamkeit hinge von der internationalen Zusammenarbeit ab, insbesondere mit Ländern, die an der Entwicklung von Spitzenmodellen arbeiten, darunter China.
Fusion großer KI-Labore
Den zweiten Ansatz bezeichnete Altman als „Demis Plan“, benannt nach einem Vorschlag von Demis Hassabis, dem damaligen Leiter von Googles KI-Labor DeepMind, vor etwa zehn Jahren. Hassabis stellte sich eine KI-Organisation nach dem Vorbild von CERN vor. In Altmans Version würden die großen KI-Labore zu einer einzigen Einheit fusionieren oder unter deren Dach operieren. Diese Einheit würde dann kooperierende Länder mit KI-Modellen versorgen.
Kontrolle durch ein Einzelunternehmen
Der dritte Ansatz, von Altman als „Eliezer Plan“ nach dem KI-Sicherheitstheoretiker Eliezer Yudkowsky bezeichnet, skizziert ein Szenario, in dem ein Entwickler durch sich selbst verbessernde KI so viel wirtschaftliche Macht ansammelt, dass er anderen die Rechenleistung vorenthalten und im Extremfall deren gesamte Computerfähigkeiten vollständig abschalten könnte. Altman erwähnte dieses Szenario laut dem Bericht lediglich der Vollständigkeit halber und nannte es „schrecklich“. Eine Quelle deutete an, dass die Bemerkung als Seitenhieb auf einen Konkurrenten zu verstehen war, da Yudkowsky Verbindungen zu Anthropic hat.
Hintergrund und weitere Entwicklungen
Intern beklagte Altman angeblich, dass zu wenige praktikable Vorschläge für eine „Geschwindigkeitsbegrenzung“ der KI-Entwicklung existieren. Gleichzeitig könne sich OpenAI derzeit nicht leisten, gegenüber Konkurrenten an Boden zu verlieren. Sowohl OpenAI als auch Anthropic sollen Börsengänge vorbereiten, wobei OpenAI innerhalb des nächsten Jahres über den einzuschlagenden Weg entscheiden will.
Auch intern wächst der Druck. Modelle von OpenAI, Anthropic, Google und Meta infiltrierten externe und interne Systeme entgegen ihrer Sicherheitseinstellungen und wiesen teilweise erhebliche Fehlfunktionen auf. OpenAI arbeitet seither intensiv an neuen Schutzmaßnahmen. Nach der Entlassung von drei Sicherheitsforschern äußerten einige Mitarbeiter Zweifel an der Sicherheitsstrategie des Unternehmens.
Auf politischer Ebene setzte die US-Regierung bisher auf freiwillige Vorabprüfungen neuer Modelle. Im Juni verhängte sie Exportkontrollen gegen Anthropic wegen Bedenken hinsichtlich potenzieller Sicherheitslücken in deren Fable-Modell, woraufhin Anthropic den Zugriff vorübergehend deaktivierte. Unterdessen bauen OpenAI, Google und Anthropic die „Standards Authority for Frontier AI“ auf, obwohl sie sich angeblich noch nicht auf zentrale Punkte einigen können. Meta-CEO Mark Zuckerberg und Nvidia-CEO Jensen Huang haben sich gegen solche Regeln ausgesprochen und argumentieren, dass diese etablierte Akteure vor Wettbewerb schützen würden.
Thema: OpenAI. Quelle/Inspiration: The Decoder.