Einige langjährige Mitarbeiter des KI-Unternehmens Anthropic erwägen laut einem Bericht des Wall Street Journal den Kauf von abgelegenem Land in den Vereinigten Staaten. Diese Maßnahme wird als Vorsichtsplan für den Fall betrachtet, dass die Entwicklung künstlicher Intelligenz (KI) außer Kontrolle gerät.
KI-Risikobewusstsein bei Entwicklern
Die Überlegung, vor unkontrollierter KI zu fliehen, ist in diesem Kreis nicht neu. Ehemalige Mitarbeiter erinnern sich, dass bereits bei Unternehmensessen in den frühen Tagen von Anthropic Szenarien diskutiert wurden, die dem Manhattan-Projekt ähnelten: Die Möglichkeit, in die Wüste umgesiedelt zu werden, um KI in einer elektromagnetisch abgeschirmten Regierungseinrichtung weiterzuentwickeln.
Der Bericht des Wall Street Journal beleuchtet die engen Verbindungen der frühen Mitarbeiter von Anthropic und OpenAI zur Subkultur des sogenannten „Effektiven Altruismus“. Einige dieser Personen stammen aus einem Netzwerk von „Doomers“ (Apokalyptikern) in der Bay Area, die seit über einem Jahrzehnt Weltuntergangsszenarien durchspielen. Eliezer Yudkowsky warnte bereits Mitte der 2000er Jahre vor unkontrollierter KI und gilt als intellektueller Vordenker dieser Subkultur. Bevor KI zum Top-Risiko auf ihrer Liste avancierte, beschäftigte sich die Gruppe intensiv mit katastrophalen Risiken wie Asteroideneinschlägen oder Supervulkanen.
Thema: Anthropic. Quelle/Inspiration: The Decoder.