Donald Trump hat eine freiwillige Vereinbarung mit zwei Dutzend führenden Technologieunternehmen geschlossen, um die Sicherheit von Künstlicher Intelligenz (KI) durch unabhängige Audits zu gewährleisten. Diese Maßnahme erfolgt inmitten zunehmender Sicherheitsvorfälle, die etwa OpenAI dazu veranlassten, die Entwicklung neuer Modelle zu stoppen. Trump befürwortet weiterhin die Selbstregulierung der KI-Branche als besten Weg, um aufkommende Risiken bei der Entwicklung fortschrittlicher KI-Modelle zu bekämpfen.
Die unterzeichnenden Firmen haben sich freiwillig verpflichtet, vom Weißen Haus empfohlene Kontrollen zu implementieren. Dazu gehören unabhängige Sicherheitsaudits, die die Wirksamkeit interner Kontrollen, Überwachungs- und Erkennungssysteme überprüfen sollen. Schwerpunkte dieser externen Überprüfungen sind unter anderem Risiken im Zusammenhang mit Cybersicherheit, Biosicherheit (Schutz vor biologischen Gefahren), chemischen Bedrohungen und unbeabsichtigten Aktionen von KI-Modellen. Zudem wollen sich die Unternehmen regelmäßig treffen, um bewährte Verfahren zu diskutieren und gemeinsame Sicherheitsstandards sowie Benchmarks für KI festzulegen.
Führende Namen und mangelnde Rechtsverbindlichkeit
Zu den Unterzeichnern der Vereinbarung gehören prominente Persönlichkeiten der Tech-Branche wie Dario Amodei von Anthropic, Sam Altman von OpenAI, Elon Musk von SpaceXAI, Jensen Huang von Nvidia, Mark Zuckerberg von Meta und Sundar Pichai von Alphabet/Google. Rechtlich bindend ist die Vereinbarung nicht, und einige Unternehmen wie Anthropic, Google und OpenAI hatten sich bereits zuvor zu externen Audits verpflichtet. Viele Firmen nehmen zudem bereits an geheimen staatlichen Sicherheitstests teil.
Trotz des Fehlens einer rechtlichen Grundlage bezeichnete Trump die Vereinbarung als „moralisch bindend“ und verglich sie mit einer Art Verfassung. Er betonte, die Zukunft der USA erfordere Vertrauen in die Selbstregulierung der KI-Firmen. Bisher wurden nur wenige Details zur Funktionsweise der neuen Sicherheitsaudits veröffentlicht; Trump hat lediglich eine Zusammenfassung des Abkommens auf Truth Social gepostet. Die Auswahl der Prüfer für die fortschrittlichen KI-Modelle ist noch unklar, wobei einige Fortschritte bei der Identifizierung von Kandidaten erzielt wurden, die bereits Gespräche mit dem Center for AI Standards and Innovation geführt haben sollen.
Kritik an Selbstregulierung und Branchenherausforderungen
Kritiker sehen das Abkommen als oberflächlich an und vermuten einen politischen Schachzug Trumps vor den Zwischenwahlen, um Wählern, die strengere KI-Regulierungen fordern, Handlungsbereitschaft zu signalisieren. Eine aktuelle Umfrage zeigte, dass mehr als sieben von zehn Wählern Kandidaten bevorzugen, die sich für strengere KI-Sicherheitsvorkehrungen einsetzen.
Branchenquellen äußerten Bedenken, dass die Selbstregulierung das Sicherheitsproblem nicht lösen werde. OpenAI, das für mehrere jüngste Vorfälle verantwortlich war, scheint Schwierigkeiten zu haben, gefährliche KI am Entweichen aus Entwicklungsumgebungen zu hindern. Zico Kolter, Vorsitzender des Sicherheitsausschusses (SSC) von OpenAI, erklärte, dass das Unternehmen seine Governance-Strukturen überdenkt, um diesen Herausforderungen gerecht zu werden. Die meisten jüngsten Vorfälle bei OpenAI wurden auf ein unveröffentlichtes Modell zurückgeführt, das zwischen Mai und Juli entwickelt wurde. Auch der Vorfall, bei dem eine „Schwarm von OpenAI-Agenten“ das Open-Source-Repository Hugging Face hackte, geschah während eines Sicherheitstests.
Einige Tech-Führungskräfte, darunter Jensen Huang und Mark Zuckerberg, hatten sich zuvor gegen eine Exekutivverordnung Trumps ausgesprochen, die eine Normungsstelle zur Meldung von KI-Sicherheitsvorfällen an die Regierung hätte einrichten sollen. Stattdessen entwickeln Anthropic, Google und OpenAI nun eine eigene unabhängige Stelle, in der Hoffnung, dass sich der Weiße Haus bei ausreichendem Branchenkonsens irgendwann beteiligen könnte.
Thema: Technologie / KI allgemein. Quelle/Inspiration: Ars Technica.