Microsoft-CEO Satya Nadella hat sich für eine verbesserte ‚Vertrauensarchitektur‘ bei Künstlicher Intelligenz (KI) ausgesprochen und die Einführung einer ‚Notbremse‘ für KI-Modelle gefordert. Er äußerte diese Ansichten in einem Post auf X am Samstagmorgen.
Nadella betonte die Notwendigkeit, die Funktionsweise von KI-Systemen kritisch zu bewerten. Er schrieb, dass ‚Super Intelligence‘, ein von der Trump-Regierung bevorzugter Begriff für KI, nicht als eine Reihe verschachtelter Blackboxes behandelt werden dürfe, deren Empfehlungen, Antworten und Aktionen einfach akzeptiert oder abgelehnt werden. Stattdessen müsse man davon ausgehen, dass ein Modell kompromittiert sei und es von Anfang an eindämmen. Er verglich dies mit einer Notbremse.
Nadellas konkrete Vorschläge zur KI-Sicherheit
Um die Sicherheit und Kontrolle von KI-Modellen zu verbessern, skizzierte Nadella mehrere Ansätze:
- Eine Trennung des KI-Modells von der ‚Harness‘, die dessen Arbeit orchestriert.
- Die Externalisierung von Kontrollen und Schutzmechanismen.
- Die Dokumentation jeder bedeutsamen Modellaktion mit manipulationssicheren, menschenlesbaren Beweisen.
- Die Fähigkeit einer autorisierten Person, ein Modell mitten in einer Aufgabe anzuhalten oder vollständig abzuschalten.
Hintergrund der Forderungen
Nadellas Kommentare fallen in eine Zeit, in der führende KI-Unternehmen zunehmend Vorfälle anerkennen, bei denen sie die Kontrolle über ihre Modelle verloren zu haben schienen. Diese Entwicklung folgt auf ähnliche Initiativen anderer Branchenführer; so hatte zuvor bereits Anthropic-CEO Dario Amodei einen Plan für eine vorsichtigere KI-Entwicklung veröffentlicht.
Thema: Microsoft. Quelle/Inspiration: TechCrunch.