Sam Altman, CEO von OpenAI, warnt davor, Künstliche-Intelligenz-Modellen (KI) religiöse Kräfte zuzuschreiben. Er bezeichnet diese Praxis als „echtes Sicherheitsproblem“ und äußert großes Unbehagen, wenn Menschen KI-Modellen eine religiöse Bedeutung oder die Aufgabe menschlicher Urteilskraft zuschreiben.
Diese Äußerungen folgen detaillierten Berichten über Gespräche des KI-Unternehmens Anthropic mit religiösen Denkern sowie einer Erklärung von Papst Leo XIV., der betonte, dass Algorithmen der „Funke der Menschlichkeit“ fehle.
Altman distanziert sich von früheren Metaphern
Interessanterweise hatte Altman selbst in den Jahren 2023 und 2024 noch das Ziel von OpenAI als den Bau einer „magischen Intelligenz am Himmel“ beschrieben. In derselben Zeit äußerte er die Hoffnung, auf der Seite Gottes zu stehen und sich bei der Arbeit an KI „auf der Seite der Engel“ zu fühlen. Auch OpenAI hat in der Vergangenheit Gespräche mit religiösen Führern geführt.
Altmans wiederholtes Ziel ist eine KI auf dem Niveau des Science-Fiction-Films „Her“, was eine tiefgehende Vermenschlichung der Modelle bedeutet. Dies unterscheidet sich jedoch von der Zuschreibung von Bewusstsein oder religiöser Bedeutung an die Modelle selbst, eine Entwicklung, vor der er nun warnt.
Thema: OpenAI. Quelle/Inspiration: The Decoder.