Microsoft-CEO Satya Nadella hat sich in einem ausführlichen Beitrag auf X (ehemals Twitter) zu den Gefahren hochentwickelter Künstlicher Intelligenz (KI) geäußert und konkrete Maßnahmen zur Risikobewältigung vorgeschlagen. Nadella fordert, KI-Modelle von Beginn an als potenziell kompromittiert zu betrachten und eine „Notbremse“ zu integrieren, die es autorisierten Personen ermöglicht, ein Modell während einer Aufgabe zu pausieren oder abzuschalten.
Forderung nach Transparenz und Kontrolle
Nadella kritisiert die derzeitige Praxis, KI als eine „Reihe verschachtelter Black Boxes“ zu behandeln, deren Empfehlungen und Aktionen einfach akzeptiert oder abgelehnt werden. Er plädiert für den Aufbau eines transparenteren Systems, in dem Modelle eingedämmt und beobachtet werden können und „manipulationssichere, menschenlesbare Beweise“ hinterlassen.
Viele seiner Empfehlungen decken sich mit Forderungen anderer Branchenakteure. Dazu gehören:
- Zeitnahe Offenlegung von Vorfällen
- Unabhängige Audits (Prüfungen)
- Verifizierbare Daten
- Eindämmung (Containment)
Die „Notbremse“ als Kernforderung
Besonders hervorzuheben ist Nadellas Position zur Eindämmung. Er geht hier weiter als einige andere Experten, indem er betont, dass Modelle von Anfang an als kompromittiert angesehen und eingedämmt werden müssen. Er vergleicht dies mit einer Notbremse: Eine autorisierte Person sollte jederzeit in der Lage sein, ein Modell mitten in einer Aufgabe anzuhalten oder abzuschalten. Für komplexere Modelle seien entsprechend fortgeschrittene Eindämmungstechnologien erforderlich, die standardisiert werden müssten.
In seinem Beitrag bezeichnet Nadella KI wiederholt als „Superintelligenz“, was die Dringlichkeit seiner Forderungen unterstreicht.
Thema: Microsoft. Quelle/Inspiration: The Verge.