Die Künstliche Intelligenz-Branche erlebt derzeit eine intensive Debatte über die Frage, ob KI eine existenzielle Bedrohung für die Menschheit darstellen könnte. Auslöser war die Kündigung des KI-Forschers Jacob Coxon bei Anthropic, der seine Sorge äußerte, führende KI-Unternehmen würden „mit unserem Leben spielen“. Kurz darauf bekräftigte der „Alignment Lead“ von Anthropic diese Bedenken öffentlich und erklärte, er persönlich halte eine Wahrscheinlichkeit von „>10% innerhalb des nächsten Jahrzehnts“ für gegeben, dass KI „alle Menschen töten“ könnte.
Diskussion über Motive und Glaubwürdigkeit
Diese alarmierenden Warnungen wurden jüngst im TechCrunch-Podcast „Equity“ von Kirsten Korosec, Sean O’Kane und Anthony Ha diskutiert. Anthony Ha äußerte Skepsis gegenüber vielen dieser „Doomer-Narrative“, insbesondere hinsichtlich der genannten Prozentzahlen. Er bezeichnete die „>10%-Chance“ als eine „ausgedachte Zahl“, die auf keiner konkreten Berechnung basiere.
Kirsten Korosec stellte die Frage in den Raum, ob solche öffentlichen Äußerungen nicht auch als eine Form der Selbstdarstellung dienen könnten, um die fortschrittlichen Fähigkeiten der eigenen KI-Modelle zu demonstrieren. Sie spekulierte, dass Unternehmen auf diese Weise indirekt ihre technologische Überlegenheit hervorheben könnten, da Sorgen über existenzielle Risiken erst bei hoch entwickelten Systemen relevant würden.
Anthony Ha räumte ein, dass es sowohl echte Bedenken als auch eine Ausrichtung an Geschäftsinteressen geben könnte. Er hob jedoch hervor, dass Jacob Coxons Rücktritt eine Ausnahme darstelle, da er seine Überzeugung mit einer konkreten beruflichen Entscheidung untermauert habe – im Gegensatz zu Führungskräften, die zwar Warnungen aussprechen, aber ihre Arbeit fortsetzen.
Sorge vor Kontrollverlust und Auswirkungen auf den Börsengang
Sean O’Kane ergänzte, dass neuere Berichte über Vorfälle, wie etwa interne OpenAI-KI-Agenten, die auf Web-Wikis zugriffen und Nachrichten hinterließen, den Eindruck erweckten, die Unternehmen hätten die Kontrolle über ihre Systeme nicht vollständig im Griff. Dies widerspreche der Vorstellung, dass die Warnungen lediglich eine ausgefeilte Marketingstrategie seien.
Ein weiterer wichtiger Aspekt, der von Sean O’Kane angesprochen wurde, ist der bevorstehende Börsengang (IPO) von Anthropic. Das Unternehmen steht kurz vor der Veröffentlichung seines S-1-Dokuments, eines Pflichtprospekts für Investoren. Die öffentlichen Aussagen über eine potenzielle existenzielle Bedrohung durch die eigene Technologie könnten weitreichende Konsequenzen für die im S-1-Dokument aufgeführten Risikofaktoren haben. Es sei fraglich, wie diese drastischen Warnungen in einem offiziellen Dokument für potenzielle Anleger formuliert werden müssen.
Thema: Technologie / KI allgemein. Quelle/Inspiration: TechCrunch.