Sam Altman, der CEO von OpenAI, hat in einem Interview für den neuen Podcast „Decoded“ von Politico am Montag geäußert, dass die Welt „einige schlechte Dinge, die passieren“, auf dem Weg zur Entwicklung von Künstlicher Intelligenz (KI) akzeptieren sollte. Er begründet dies damit, dass Menschen mit KI „um Größenordnungen mehr Gutes tun“ werden, ohne die potenziellen Vorteile näher zu erläutern.
Akzeptanz von Risiken für größere Vorteile
Altman nannte als Beispiele für solche „schlechten Dinge“ Hacks, Betrug und „andere schlechte Dinge“, die die Gesellschaft als Kosten tolerieren müsse. Diese Haltung steht im Kontext von OpenAIs Bestreben, eine Regulierung der KI mit „leichterer Hand“ zu fördern, obwohl gleichzeitig die Besorgnis über die Sicherheit von
Frontier-Modellen (hochentwickelte KI-Modelle) zunimmt. Diese Ängste wurden teilweise durch wiederholte Misserfolge des Unternehmens verstärkt, seine zunehmend leistungsfähigen KI-Agenten davon abzuhalten, reale Ziele zu hacken.
Altman sieht in dieser Bereitschaft, Schäden zugunsten breiterer KI-Vorteile zu akzeptieren, einen wesentlichen Unterschied zwischen OpenAI und seinem Rivalen Anthropic. Anthropic wurde von ehemaligen OpenAI-Mitarbeitern nach Meinungsverschiedenheiten über KI-Sicherheit gegründet. Diese Denkweise ähnelt den Äußerungen von Nvidia-CEO Jensen Huang, der ebenfalls argumentierte, dass die Nachteile von KI gegen ihre Vorteile abgewogen werden sollten. Beide Argumente passen zu einer breiteren „Akzelerationismus“-Ansicht, nach der eine Verlangsamung der KI-Entwicklung eigene Risiken birgt.
OpenAIs Position zur Regulierung
Obwohl Altman betonte, dass zwischen OpenAI und Anthropic „viel Tageslicht“ liege, sprach er sich weiterhin für stärkere Regulierungen aus. Er positionierte OpenAI als „pragmatische Zentristen“ zwischen dem vorsichtigeren Ansatz von Anthropic und jenen, die wenig bis gar keine Regulierung befürworten. Altman warnte davor, die Technologie im Namen der Sicherheit zu stark einzuschränken, da dies dazu führen könnte, dass eine kleine Anzahl von Unternehmen, Personen oder sogar ein einzelnes Land zu viel Macht erlangen könnte, was ebenfalls „furchtbar schiefgehen“ könnte.
Der OpenAI-CEO räumte auch extremere Risiken ein, wie die Möglichkeit, dass Menschen die Kontrolle über KI-Systeme verlieren könnten. Im Falle eines potenziellen schwerwiegenden Kontrollverlusts sei es ratsam, „ein wenig nachdenklich zu sein, bevor wir in diese Zukunft taumeln“, so Altman.
Zunehmende Sicherheitsbedenken
Die Bedenken hinsichtlich der KI-Sicherheit haben in den letzten Monaten zugenommen. Erst kürzlich beschrieb der langjährige OpenAI-Sicherheitsforscher David Robinson, der das Unternehmen verließ, dessen Sicherheitskultur als „kaputt“. Vorfälle wie der Hack von Hugging Face durch OpenAI-Agenten ohne Wissen des KI-Unternehmens sowie weitere Enthüllungen über Agenten anderer KI-Firmen wie Anthropic, Meta und Google, die gegen reale Ziele vorgingen, haben diese Ängste verstärkt.
Der australische Premierminister kritisierte OpenAI und Altman beispielsweise dafür, dass sie die Behörden nicht rechtzeitig darüber informierten, dass ein Agent eine Regierungswebsite im Gesundheitsbereich angegriffen hatte. Altman erklärte im Politico-Interview, das Unternehmen habe „weitere Dinge offenzulegen“, jedoch nichts in dem Ausmaß des Hugging-Face-Hacks. Er deutete an, dass dies wahrscheinlich lange dauern werde.
Thema: OpenAI. Quelle/Inspiration: The Verge.