OpenAI, ein führendes Unternehmen im Bereich Künstliche Intelligenz, fordert internationale Standards für die Entwicklung fortschrittlicher KI-Systeme. Im Fokus steht dabei die rekursive Selbstverbesserung (RSI), bei der KI-Systeme eigenständig die Forschung und Entwicklung für ihre nächste Generation übernehmen könnten. Ziel ist es, den Verlust menschlicher Kontrolle und potenzielle Gefahren zu verhindern.
Risiken der unkontrollierten KI-Entwicklung
Die rekursive Selbstverbesserung (RSI) beschreibt einen Prozess, bei dem KI-Systeme zunehmend die notwendige Forschung zur Entwicklung ihrer eigenen Nachfolger automatisieren. Dies könnte den Fortschritt in der KI-Entwicklung erheblich beschleunigen. OpenAI betont, dass „vollständig autonome RSI derzeit nicht stattfindet“ und nur dann vorangetrieben werden sollte, „wenn dies sicher geschehen kann“. Ohne ausgereifte Schutzmechanismen könnten Menschen die Übersicht über die KI-Entwicklung verlieren, was dazu führen könnte, dass KI „gefährlicher, weniger ausgerichtet und insgesamt eine Gefahr für die Menschen“ wird.
Forderung nach globaler Führung und konkreten Maßnahmen
OpenAI schlägt vor, dass die Vereinigten Staaten eine führende Rolle bei der Festlegung globaler technischer Standards übernehmen sollten. Dies könnte auf nationalen KI-Sicherheitsinstituten wie CAISI und Organisationen wie ISO aufbauen. Solche Standards sollten gemeinsame Messmethoden, Mechanismen zur Meldung von Vorfällen und Regeln für die menschliche Aufsicht über automatisierte KI-Forschung umfassen.
Ähnliche Bedenken wurden kürzlich auch von einem wissenschaftlichen Gremium der Vereinten Nationen geäußert. Das UN-Gremium warnte vor dem Verlust der Kontrolle über Schwärme autonomer Agenten und schlug eine internationale Zusammenarbeit im Bereich der KI-Sicherheit vor. Als Vorbilder für solche Rahmenwerke könnten die Luftfahrt, die Kernenergie und die Cybersicherheit dienen.
Thema: OpenAI. Quelle/Inspiration: The Decoder.