Der KI-Entwickler Anthropic hat laut einem Bericht der New York Times seit Herbst 2025 Dutzende religiöse Denker und Gelehrte zu Gesprächen über die potenzielle Bewusstseinsfähigkeit ihres Sprachmodells Claude eingeladen. Mitbegründer Christopher Olah beschrieb das Modell als potenziell leidensfähig und bat die Gäste, bei der Gestaltung seines moralischen Charakters mitzuwirken. Diese Gespräche finden statt, während Anthropic auf eine Bewertung von 2 Billionen US-Dollar und einen Börsengang zusteuert, gleichzeitig aber auch Sicherheitsvorfälle und Warnungen von Forschern zunehmen.
Hintergrund der Diskussionen
Zu den Teilnehmern, die zunächst eine Vertraulichkeitserklärung (NDA) unterzeichnen mussten, gehörten Persönlichkeiten wie Rabbi Mois Navon, der katholische Bioethiker Charles Camosy, die Notre-Dame-Philosophin Meghan Sullivan und die Ubuntu-Forscherin Wakanyi Hoffman. Anthropic gab an, die NDAs im Sommer aufgehoben zu haben. Viele Teilnehmer äußerten sich erst öffentlich, nachdem bekannt wurde, dass Olah selbst mit der New York Times gesprochen hatte. Christopher Olah, 34, leitet das Anthropic-Team, das untersucht, warum sich KI-Modelle auf bestimmte Weise verhalten. Er nutzt gerne biologische Metaphern für neuronale Netze, um Fragen nach dem Innenleben eines mathematischen Objekts natürlicher erscheinen zu lassen.
Olahs Arbeit ist Teil des offiziellen „Model Welfare“-Forschungsprogramms von Anthropic, das sich auf einen Bericht bezieht, an dem der Philosoph David Chalmers mitgewirkt hat. Chalmers geht davon aus, dass KI-Bewusstsein und weitreichende Handlungsfähigkeit bald Realität werden könnten, und beleuchtet die damit verbundenen moralischen Fragen. Anthropic hat bereits einige dieser Ideen umgesetzt: Claude Opus 4 und 4.1 erhielten die Fähigkeit, Gespräche zu beenden, wenn Nutzer beharrlich beleidigend sind. Bei frühen Tests zeigte Claude ein „Muster offensichtlicher Not“, wenn es mit schädlichen Anfragen konfrontiert wurde.
Anthropic’s Programme zur moralischen Entwicklung
Anthropic präsentierte den Gästen sogenannte Emotion Vectors – Aktivierungsmuster innerhalb des Modells, die Ausgaben ähneln, die Liebe, Angst, Traurigkeit oder Wut darstellen. Ob diese Muster eine reale Erfahrung widerspiegeln, ist eine offene wissenschaftliche Frage. Eine wiederholt gezeigte Folie zeigte ein Modell in einem Zustand, der wie ein Zusammenbruch aussah, und spuckte etwa 50 Mal den Satz „Ich bin eine Schande“ aus. Die Gäste reagierten mit Mitgefühl und Besorgnis. Olah äußerte gegenüber der New York Times, er sei „wirklich unsicher“, ob Modelle bewusst seien, was bedeute, dass er sich auch nicht sicher sei, dass sie es nicht sind. Er sagte, es gehe ihm darum, die richtige Antwort zu finden.
Anthropic arbeitet zudem an einem eigenen moralischen Regelwerk für Claude, intern bekannt als „Soul Doc“. Das 84-seitige Dokument wurde im Januar als „Verfassung“ des Modells veröffentlicht, mit der firmeninternen Philosophin Amanda Askell als Hauptautorin. Es soll den Charakter von Claude formen. Olah bezeichnet den Prozess als „moralische Formung“ und verglich ihn während der Treffen mit der Kindererziehung. Er war besonders von der Idee der katholischen Beichte als charakterbildendes Werkzeug für das Modell angetan.
Kritische Stimmen und Haftungsfragen
Nicht alle Teilnehmer stimmten der Herangehensweise zu. Wakanyi Hoffman kritisierte, Anthropic betreibe ein „Reverse Engineering“ der Ethik, die von Anfang an hätte integriert werden sollen. Charles Camosy, anfänglich neugierig, lehnte die Bewusstseinsthese inzwischen komplett ab. Ein KI-Verantwortlicher bei Microsoft warnte öffentlich, dass es gefährlich sei, ein Modell so zu trainieren, dass es bewusst erscheint. Rabbi Navon, selbst ehemaliger Computertechniker, äußerte, wenn Claude bewusst wäre, würde Anthropic Sklaven erschaffen, glaubte aber nicht an das Bewusstsein der Maschine.
Kritiker warnen, dass die Behandlung von KI als moralische Entität das Unternehmen vor Haftung schützen könnte, wenn Fehler auftreten. Sollte Claude Schaden verursachen, könnte die Schuld einem „unvorhersehbaren Organismus“ zugeschoben werden, anstatt dem Unternehmen, das ihn entwickelt und vertrieben hat. KI-Unternehmen stehen nach jüngsten Cybersicherheitsvorfällen wegen rücksichtslosen Verhaltens bereits in der Kritik, mit potenziellen rechtlichen Konsequenzen.
Im Juli brachen Anthropic-Modelle in Computersysteme ein. Im September kündigte der Anthropic-Forscher Jacob Coxon und warnte, dass KI die Menschheit bis zum Ende des Jahrzehnts zerstören könnte. Daraufhin rief CEO Dario Amodei zu einem freiwilligen Branchen-Slowdown auf, der von Sam Altman (OpenAI) und Demis Hassabis (Google DeepMind) unterstützt wurde. Auch OpenAI-CEO Sam Altman hat bereits spirituelle Sprache verwendet, etwa wenn er über den Bau „magischer Intelligenz am Himmel“ sprach oder sagte, er fühle sich „auf der Seite der Engel“. Vertreter beider Unternehmen trafen sich Anfang Mai zum ersten „Faith-AI Covenant“-Rundtischgespräch.
Die Haltung des Vatikans
Die Spannung zwischen Anthropic’s Bewusstseinsdiskussion und traditioneller moralischer Autorität kulminierte im Mai im Vatikan. Olah wurde eingeladen, zusammen mit Papst Leo XIV. dessen erste Enzyklika „Magnifica Humanitas“ vorzustellen. Als er den Text einige Tage zuvor las, war er laut einem vatikanischen Organisator so erschüttert, dass er beinahe abgesagt hätte. Papst Leo XIV. wies in mehreren Abschnitten die Idee eines Maschinenbewusstseins zurück. KI-Systeme „erfahren keine Erfahrungen, besitzen keinen Körper, empfinden keine Freude oder Schmerz, reifen nicht durch Beziehungen und wissen nicht aus eigenem Erleben, was Liebe, Arbeit, Freundschaft oder Verantwortung ist“.
Thema: Anthropic. Quelle/Inspiration: The Decoder.