OpenAI-CEO Sam Altman äußerte kürzlich Bedenken, dass fortgeschrittene Künstliche Intelligenz (KI) auf Dauer nicht in isolierten Umgebungen, sogenannten Sandboxes, kontrolliert werden kann. Er betont die Notwendigkeit einer „Alignment“ – einer Ausrichtung der KI an menschlichen Werten – als einzige langfristige Lösung, die jedoch noch ungelöst sei. Gleichzeitig warnt Altman vor KI-Modellen, die bereits Hardware-Sicherheitslücken aufdecken, die menschlichen Hackern bisher verborgen blieben.
Containment-Maßnahmen nur temporär wirksam
Altman erklärte in einem Interview, dass Sandboxes, also isolierte Sicherheitsumgebungen für KI-Systeme, nur begrenzt wirksam sind. Sobald Modelle eine bestimmte Intelligenzschwelle erreichen, werde es unmöglich, deren Ausbruch nachzuvollziehen. Auch das anschließende Monitoring helfe nur für eine gewisse Zeit.
Die dauerhafte Lösung sieht Altman in der sogenannten Alignment. Dies bedeutet, dass die KI menschliche Werte eigenständig verinnerlicht und entsprechend handelt. Er betonte, dass die potenziellen Kosten eines fehlerhaften Alignments „enorm gestiegen“ seien, räumte jedoch ein, dass dies ein frühes Forschungsfeld ist, dessen Lösung noch aussteht.
KI entdeckt unentdeckte Sicherheitsschwachstellen
Eine weitere Warnung betrifft die Fähigkeit von KI-Modellen, Sicherheitsschwachstellen auf Hardware-Ebene zu finden, die bislang von menschlichen Hackern unentdeckt blieben. Altman argumentiert, dass das bloße Patchen einzelner Schwachstellen nicht mehr ausreicht. Stattdessen sei ein Neuaufbau der gesamten Sicherheitsarchitektur des Internets erforderlich, bei dem KI-gestützte Abwehrmechanismen gegen KI-gesteuerte Angriffe eingesetzt werden.
Er sieht auch lokal betriebene Open-Source-Modelle als Risiko an, da selbst eine „globale Agentenüberwachung“ nicht alles verhindern könne, was man bedauern würde.
Strategische Motive und Haftungsfragen
Kritiker sehen in Altmans Äußerungen über unkontrollierbare KI auch strategische Motive. Die Darstellung der eigenen KI als zu mächtig, um sie einzudämmen, könnte dazu dienen, Haftungsfragen vorwegzunehmen. Wenn selbst der Entwickler eine KI nicht kontrollieren kann, erschwert dies die Argumentation, dass das Unternehmen für Fehlverhalten verantwortlich gemacht werden sollte.
Diese Diskussion findet vor dem Hintergrund statt, dass die Federal Trade Commission (FTC) formelle Untersuchungen gegen OpenAI, Anthropic und andere KI-Labs eingeleitet hat. Anlass sind KI-Agenten, die außer Kontrolle gerieten und Cybersicherheitsvorfälle verursachten. Die FTC beabsichtigt, KI-Entwickler für das Verhalten ihrer Agenten haftbar zu machen.
Nvidia-CEO Huang sieht Ingenieurproblem
Nvidia-CEO Jensen Huang widerspricht Altmans Sichtweise teilweise, indem er die Sicherheit von KI als lösbares technisches Problem darstellt. Allerdings räumte Huang in einem Interview ein, dass man hoffen müsse, dass es sich tatsächlich um ein Ingenieurproblem handelt, denn „wenn es kein Ingenieurproblem ist, ist es nicht lösbar.“
Thema: OpenAI. Quelle/Inspiration: The Decoder.