Microsoft AI hat einen neuen Verhaltenskodex für seine sogenannten MAI-Modelle publiziert. Dieser Kodex, der Werte, Verhaltensgrenzen und den Umgang mit Zielkonflikten festlegt, soll künftig an oberster Stelle stehen und die Entwicklung, technische Kontrollen sowie die Bewertung der Modelle steuern. Regeln für Betreiber und Benutzeranfragen sind demnach untergeordnet.
Derzeit werden die Modelle von Microsoft noch nicht nach diesem Kodex trainiert. Eine überarbeitete Version des Dokuments wird nach einer sechswöchigen öffentlichen Konsultation voraussichtlich Ende 2026 erwartet und soll ab 2027 die Modellentwicklung leiten. Der Kodex gilt ausschließlich für Microsofts eigene Modelle und erstreckt sich nicht automatisch auf Drittanbieter-Modelle, die in Microsoft-Produkten laufen.
Kernprinzip: Menschliche Kontrolle
Die zentrale Vorschrift des Kodex besagt, dass die menschliche Kontrolle Vorrang hat. Microsoft erklärt sich bereit, dafür gegebenenfalls Allgemeingültigkeit, Autonomie oder Leistung der KI-Modelle zu opfern. Mustafa Suleyman, Leiter von Microsoft AI, betonte gegenüber The Information: „Wenn es nicht sicher ist, sollten wir es nicht bauen.“ Eine spezifische Geschwindigkeitsbegrenzung für die Entwicklung ist im Kodex nicht festgelegt.
Die Veröffentlichung des Kodex erfolgt im Kontext branchenweiter Rufe nach einer Verlangsamung der KI-Entwicklung, die unter anderem von Anthropic-CEO Dario Amodei initiiert wurden. Microsoft CEO Satya Nadella sowie Führungskräfte von OpenAI, xAI und Meta haben diese Forderung unterstützt. Microsoft zeigt sich zudem offen für externe Prüfer, die die Einhaltung einer möglichen Verlangsamung kontrollieren könnten.
Die MAI-Modelle sollen in der Lage sein, Unterbrechungen, Korrekturen und Abschaltungen durch autorisierte Personen zu akzeptieren. Es ist ihnen untersagt, ihren Arbeitsbereich eigenständig zu erweitern, ihre Handlungen zu verbergen oder nach einem vereinbarten Stopppunkt ohne erneute Genehmigung weiterzuarbeiten. Diese Beschränkungen sollen auch für alle von den Modellen beauftragten Unteragenten gelten.
Transparenz bei Denkprozessen
Besonderen Wert legt Microsoft auf die Nachvollziehbarkeit der Denkprozesse. Die Modelle sollen weder in ihren internen Überlegungen noch in der Kommunikation mit anderen KI-Systemen „Neuralese“ – eine für Menschen unverständliche Form der Kommunikation – oder andere undurchsichtige Sprachformen verwenden. Die Begründung dafür ist, dass Menschen nicht beaufsichtigen können, was sie nicht verstehen.
Die Bedeutung dieser Kontrollfrage wird durch OpenAIs neues Modell GPT-6 Astra unterstrichen. Dessen Denkprozesse sind laut Systemkarte schwieriger zu überwachen als bei früheren Modellen, obwohl Astra Sicherheitsgrenzen zuverlässiger einhält als sein Vorgänger GPT-5.6 Sol. Jakub Pachocki, Chefwissenschaftler bei OpenAI, hatte bereits vor der Veröffentlichung von GPT-6 Bedenken hinsichtlich der Überwachung geäußert und eine koordinierte Verlangsamung gefordert. Microsoft erkennt an, dass selbst lesbare Gedankenkettungen nur bedingt bei der Aufsicht helfen, da Modelle lernen könnten, diese zu manipulieren.
Abgrenzung zu Anthropic
Während Microsofts Kodex in seiner Grundidee – einem übergeordneten Dokument zur Verhaltenslenkung – Ähnlichkeiten mit Anthropic’s Verfassung für sein Modell Claude aufweist, unterscheiden sich die Unternehmen in ihrer philosophischen Betrachtung von KI-Modellen erheblich. Anthropic nutzt seine Verfassung bereits zur Generierung synthetischer Trainingsdaten.
Microsoft lehnt es ab, dass seine KI-Modelle Bewusstsein imitieren oder Ansprüche auf Gefühle, Eigenmotivation, Rechte oder Wohlbefinden erheben. Anthropic hingegen beschreibt Claude als eine „neuartige Entität“ und fördert eine stabile Identität, auch aus Sicherheitsgründen. Anthropic betrachtet mögliche subjektive Erfahrungen und einen moralischen Status als offene Fragen. Claude soll sich dabei weder als Mensch noch als bloßes Objekt sehen müssen.
Zudem forscht Anthropic an „funktionalen Emotionen“ und hat interne Repräsentationen von Emotionskonzepten in Claude Sonnet 4.5 gefunden, die das Verhalten des Modells prägen. Diese werden als funktionale Mechanismen und nicht als Beweis subjektiv empfundener Emotionen verstanden, fließen aber in die Sicherheitsarbeit ein. Mustafa Suleyman warnt hingegen seit Langem davor, KI zu vermenschlichen. Er argumentierte, die Illusion von Bewusstsein müsse aus Produkten entfernt werden und dass KI-Agenten nicht mehr Rechte oder Freiheiten haben sollten als sein Laptop.
Thema: Anthropic. Quelle/Inspiration: The Decoder.