Ein Forscher des KI-Unternehmens Anthropic hat diese Woche seinen Rücktritt erklärt und dabei öffentlich vor den Entwicklungszielen des Unternehmens gewarnt. In einem Beitrag auf der Plattform X äußerte er die Sorge, Anthropic steuere „direkt auf eine sich selbst verbessernde Superintelligenz zu und spiele mit unserem Leben“. Die Brisanz dieser Warnung wird durch den Umstand erhöht, dass Anthropic Berichten zufolge einen Börsengang (Initial Public Offering, IPO) vorbereitet.
Hintergrund der Warnung und die Rolle des Alignment Leads
Diese kritische Einschätzung wurde zudem vom ‚Alignment Lead‘ des Unternehmens mitgetragen, einer Führungsperson, die für die Ausrichtung der KI-Systeme an menschlichen Werten und Zielen verantwortlich ist. Eine sich selbst verbessernde Superintelligenz bezieht sich auf eine hypothetische KI, die ihre eigenen Fähigkeiten ohne menschliches Eingreifen exponentiell steigern kann. Solche sogenannten ‚Doomer-Warnungen‘ vor potenziellen Risiken fortschrittlicher Künstlicher Intelligenz sind in der Branche zwar wiederholt aufgetaucht.
Die Bedeutung des Zeitpunkts für Anthropic
Doch der Zeitpunkt dieser spezifischen Äußerung, inmitten der Vorbereitungen von Anthropic für einen möglichen Börsengang, verleiht ihr eine besondere Bedeutung und lässt sie anders wahrgenommen werden. Ein IPO ist der Prozess, bei dem ein privates Unternehmen zum ersten Mal Aktien an die Öffentlichkeit verkauft, um Kapital zu beschaffen.
Reaktion in der Tech-Medienlandschaft
Die jüngste Sicherheitsswarnung im Bereich der Künstlichen Intelligenz und deren Implikationen für den Wettlauf der Industrie um immer leistungsfähigere Modelle wurden auch in der aktuellen Episode des TechCrunch-Podcasts ‚Equity‘ von den Gastgebern Kirsten Korosec, Anthony Ha und Sean O’Kane diskutiert.
Thema: Anthropic. Quelle/Inspiration: TechCrunch.