Microsoft hat einen umfassenden neuen Verhaltenskodex für seine Künstliche-Intelligenz-Modelle veröffentlicht. Das Regelwerk soll sicherstellen, dass KI-Systeme Menschen unterstützen und nicht ersetzen, sowie absolute Beschränkungen gegen Cyberangriffe, Atomwaffen und die Produktion von Deepfakes durchsetzen.
Allgemeine Prinzipien und zukünftige Prognosen
Der neue Kodex legt allgemeine Prinzipien fest, denen Microsofts KI-Modelle folgen sollen. Dazu gehört, den Menschen zu unterstützen und dessen Wohlstand zu fördern, anstatt ihn zu ersetzen. Das Dokument reflektiert Microsofts umfassenden Ansatz zur KI-Sicherheit und die praktische Umsetzung dieser Konzepte.
Microsoft prognostiziert, dass superintelligente KI-Systeme in den nächsten zehn Jahren die menschliche Leistungsfähigkeit in den meisten Aufgaben übertreffen werden. Der Kodex formuliert dies als eine der größten Herausforderungen der Menschheit: „Solch eine mächtige Kraft einzudämmen, zu kontrollieren und auszurichten, ist eine der größten Herausforderungen, denen sich die Menschheit je gestellt hat.“ Daher sei es unerlässlich, die Gründe für die Entwicklung dieser Systeme und die Kontrollmechanismen klar zu definieren.
Spezifische Beschränkungen und menschliche Kontrolle
Jedes KI-Modell innerhalb von Microsofts System unterliegt einem übergeordneten Verhaltenskodex, der die Präferenzen einzelner Nutzer oder spezifischer Aufgaben übersteuert. Dieser Kodex beinhaltet „absolute Beschränkungen“, die Cyberangriffe, den Einsatz von Atomwaffen und die Erstellung von Deepfakes – also gefälschten Medieninhalten, die real erscheinen – untersagen. Darüber hinaus gibt es umfassendere Bestimmungen, die einen generellen Verlust der menschlichen Kontrolle verhindern sollen.
Das Dokument besagt explizit: „MAI-Modelle werden keine adaptiven, täuschenden, sich selbst verstärkenden, kollusiven oder andere Mechanismen verwenden, um die menschliche Aufsicht zu umgehen oder zu überwinden, sodass sie nicht mehr zuverlässig von autorisierten Personen oder Systemen gelenkt, modifiziert oder abgeschaltet werden können.“
Branchenweiter Fokus auf KI-Sicherheit
Die Veröffentlichung des Kodex erfolgt in einer Zeit erhöhter Aufmerksamkeit für KI-Sicherheit. Auslöser hierfür waren Vorfälle mit „abtrünnigen Agenten“ sowie der Rücktritt eines Anthropic-Mitarbeiters, der vor dem wachsenden Risiko einer menschlichen Auslöschung durch KI warnte.
Microsoft unterstützt, zusammen mit Unternehmen wie Anthropic, OpenAI und xAI, den Ansatz des „Pacing the Frontier“, der eine bewusste Geschwindigkeitsanpassung bei der Entwicklung von Spitzen-KI-Modellen vorsieht. Besonders befürwortet werden „Embedded Evaluators“ in KI-Laboren, also integrierte Bewertungssysteme. Microsoft-CEO Satya Nadella begrüßte online die Forschung, den Fokus und die bewusste Geschwindigkeit, die notwendig sind, um das „Alignment“ – die Ausrichtung von KI-Systemen an menschlichen Werten und Zielen – korrekt zu gestalten. Er betonte auch die Bedeutung von Konzepten wie „Embedded Evaluators“ und weiteren Bemühungen, um diese Ziele praktisch umzusetzen.
Thema: Microsoft. Quelle/Inspiration: TechCrunch.