Mehr als 20 führende KI-Forscher, darunter die renommierten Pioniere Geoffrey Hinton und Yoshua Bengio sowie Jakub Pachocki, Forschungsleiter bei OpenAI, warnen in einer aktuellen Studie vor einer drohenden „Intelligenzexplosion“. Diese könnte durch sich selbst verbessernde Künstliche Intelligenz (KI) ausgelöst werden, da KI-Systeme die gesamte Forschung und Entwicklung im Bereich der KI automatisieren könnten.
Automatisierung der KI-Forschung als Beschleuniger
Die Forscher betonen, dass KI-Systeme bereits heute einen Großteil des Codes in den Unternehmen schreiben, die sie entwickeln. Sie könnten die gesamte Forschungs- und Entwicklungspipeline für KI innerhalb weniger Jahre vollständig automatisieren. Dies hätte zur Folge, dass Fortschritte, die normalerweise Jahre in Anspruch nehmen, innerhalb von Monaten erzielt werden könnten. Die Autoren der Studie befürchten, dass die Gesellschaft mit dieser rasanten Entwicklung möglicherweise nicht Schritt halten kann.
Eine potenzielle Folge der unkontrollierten Beschleunigung sei der Verlust der Kontrolle über übermenschliche KI-Systeme. Zudem könnte das Machtgleichgewicht zwischen Nationen, Unternehmen und Regierungen untergraben werden. Angesichts dieser Risiken fordern die Wissenschaftler die politischen Entscheidungsträger dringend auf, deutlich mehr Einblick in die Automatisierung der KI-Forschung zu erhalten.
Wachsende Bedenken in der KI-Community
Die vorliegende Studie reiht sich in eine wachsende Zahl von Warnungen aus der KI-Community ein. Erst kürzlich forderten 42 führende Mathematiker mehr Aufmerksamkeit für existenzielle Risiken, die von KI ausgehen könnten. Mitarbeiter verschiedener KI-Labore äußerten ebenfalls Bedenken, dass KI die Menschheit gefährden könnte. Jakub Pachocki selbst erklärte, dass kein Labor die sogenannte „Alignment“-Problematik ausreichend gelöst habe, um „verantwortungsvoll mit maximaler Geschwindigkeit weiter zu skalieren“. „Alignment“ bezeichnet die Herausforderung, KI-Systeme so zu gestalten, dass ihre Ziele und Werte mit denen der Menschen übereinstimmen und sie sicher und nützlich agieren.
Berichten zufolge suchen einige Mitarbeiter des KI-Unternehmens Anthropic bereits nach sicheren Zufluchtsorten, falls die Entwicklung der KI unkontrollierbare Richtungen einschlägt.
Thema: OpenAI. Quelle/Inspiration: The Decoder.