OpenAI-CEO Sam Altman hat den Börsengang seines Unternehmens bis 2027 verschoben und begründet dies mit Sicherheitsbedenken im Bereich der Künstlichen Intelligenz. Gleichzeitig unterstützen Altman, Elon Musk und Demis Hassabis die Forderung nach einer unabhängigen Aufsicht über die Entwicklung von KI-Systemen.
Altman, Musk und der ehemalige DeepMind-CEO Demis Hassabis (heute bei Google DeepMind) haben sich den Vorschlägen von Dario Amodei, CEO von Anthropic, angeschlossen. Sie befürworten eine Verlangsamung der KI-Entwicklung, zumindest in Teilen, und stimmen alle der Notwendigkeit einer unabhängigen Aufsicht innerhalb von KI-Laboren zu. Elon Musks Unterstützung dieser Forderungen ist angesichts seiner langjährigen Warnungen vor den Risiken der Künstlichen Intelligenz nicht überraschend.
Altman teilte dem Magazin Fortune mit, dass OpenAI in diesem Jahr nicht an die Börse gehen wird, was er mit Sicherheitsbedenken begründet. Diese Entscheidung war intern bereits im Juni kommuniziert worden. Eine weitere mögliche Interpretation ist, dass die finanziellen Kennzahlen von OpenAI derzeit einen Börsengang nicht ausreichend stützen, insbesondere im Vergleich zu Anthropic. Es ist denkbar, dass beide Gründe zutreffen.
Kritik an „Geschwindigkeitsbegrenzung“
Nicht alle Experten teilen die Ansicht, dass die KI-Entwicklung verlangsamt werden sollte. Peyman Milanfar, ein Forscher bei Google, argumentiert gegen eine solche „Geschwindigkeitsbegrenzung“. Er bezeichnet die Annahme einer rekursiven Selbstverbesserung (RSI), bei der ein KI-System sich selbstständig optimiert, als naiv. Milanfar führt an, dass die Rückkopplungsschleifen (Feedback Loops) solcher Systeme inhärent instabil seien. Je stärker ein System sich selbst optimiert, desto tiefer gerate es in blinde Flecken.
Zuverlässige Erkenntnisse stammten seiner Meinung nach nur aus der realen Welt, nicht aus Benchmarks. Milanfar kommt zu dem Schluss, dass eine von Amodei vorgeschlagene „Geschwindigkeitsbegrenzung“ unnötig sei. Er zitiert: „Systeme, die sich zuverlässig selbst verbessern, werden von Margen begrenzt, gedämpft und langsam sein, die verschwenderisch erscheinen. Denn Stabilität ist die Geschwindigkeitsbegrenzung.“
Thema: OpenAI. Quelle/Inspiration: The Decoder.