Eine Reihe von zwölf Interviews mit aktuellen und ehemaligen KI-Forschern von Unternehmen wie OpenAI, Google und Anthropic warnt vor der Möglichkeit, dass künstliche Intelligenz die Menschheit auslöschen könnte. Die Videos wurden von Palisade Research, einer gemeinnützigen Organisation, die sich mit den Fähigkeiten und Motivationen von KI befasst, gesammelt und auf der Plattform frominside.ai veröffentlicht.
Forschungsergebnisse und Warnungen
Geoffrey Irving, ein ehemaliger Mitarbeiter von OpenAI und Google DeepMind, äußerte in einem der Interviews seine Einschätzung: „Die Wahrscheinlichkeit der menschlichen Auslöschung liegt meiner Meinung nach bei etwa einem Münzwurf.“ Neel Nanda, ein Forschungswissenschaftler bei Google DeepMind, sprach von einer „mindestens 10-prozentigen Wahrscheinlichkeit, dass es die menschliche Auslöschung verursacht, und das ist lächerlich hoch.“
Daniel Kokotajilo, ein ehemaliger OpenAI-Forscher, ging noch weiter und behauptete, eine superintelligente KI – eine künstliche Intelligenz, die menschliche kognitive Fähigkeiten in allen Bereichen übertrifft – „wäre im Grunde gottgleich mächtig.“ Er fügte hinzu: „Leider wissen wir überhaupt nicht, wie man sie kontrolliert. Und so würde sie wahrscheinlich niemand kontrollieren. Das ist genau so gefährlich, wie es klingt, und darf nicht zugelassen werden.“
Motivation und Skepsis
Die Videos beleuchten auch die Frage, ob diese Warnungen übertrieben sind oder Marketingzwecken dienen, und warum die Forscher an Technologien arbeiten, die sie selbst als gefährlich einstufen. Mary Phuong von Google äußerte sich dazu offen: „Ich denke, Sie sollten absolut misstrauisch sein gegenüber dem, was ich sage, denn ich werde von dem Labor bezahlt.“
Neel Nanda erklärte seine Motivation damit, dass er seine Arbeit als direkten Beitrag zur Reduzierung dieser existenziellen Risiken sieht. Er sagte: „Wenn ich nicht glauben würde, dass meine Arbeit diese existenziellen Risiken direkt reduziert, würde ich kündigen… Diese Unternehmen werden die Entwicklung dieser Systeme nicht einstellen, nur weil ich kündige.“ Die Interviews bieten keine einheitliche Lösung für die angesprochenen Probleme.
Thema: OpenAI. Quelle/Inspiration: The Verge.