Laut dem „Digital Trust Insights 2027“-Report von PwC gibt es in Unternehmen noch keine klare Definition, wer die Verantwortung für Künstliche Intelligenz (KI) und deren Sicherheit trägt. Die Studie basiert auf einer Befragung von rund 4.000 Geschäfts- und Technologie-Führungskräften aus 71 Ländern.
Unklare Verantwortlichkeiten bei KI-Sicherheit
Die Nutzung von KI, insbesondere autonomer KI-Agenten (Agentic AI) und großer Sprachmodelle (LLMs), nimmt in Unternehmen rasant zu. Während KI Betriebsabläufe optimieren und Arbeitslasten reduzieren kann, birgt sie auch Risiken wie unkontrollierte Modelle, Sicherheitsvorfälle und neue Einfallstore in Netzwerke.
Die PwC-Studie zeigt, dass keine einzelne Rolle eine eindeutige Verantwortung für die Verwaltung von autonomen KI-Systemen oder deren Sicherheit besitzt. Obwohl das Bewusstsein für KI-Vor- und -Nachteile in rund der Hälfte der Unternehmen die Vorstandsebene erreicht hat, ist Cybersicherheit nur für 47 Prozent der Befragten ein fester Vorstandspunkt. Neun von zehn Führungskräften gaben an, dass grundlegende Risikopraktiken wie Aufsicht und Rechenschaftspflicht vorhanden sind.
Etwa ein Drittel (33 Prozent) der Organisationen hat zwar dedizierte KI-Rollen wie Chief AI Officers geschaffen, doch es bleibt unklar, ob diese auch die umfassende Verantwortung für KI-Sicherheit und -Governance beinhalten. Die Meinungen zur Verantwortlichkeit sind geteilt:
- 29 Prozent der CEOs und Sicherheitsverantwortlichen sehen sie beim CIO, CTO oder einer ähnlichen Technologierolle.
- 17 Prozent der Befragten glauben, dass die Verantwortung beim CISO oder den Cybersicherheitsteams liegt.
- 26 Prozent sind der Ansicht, dass sie bei einem dedizierten KI-Leiter verbleiben sollte.
- 11 Prozent der Befragten empfinden die Verantwortlichkeit als unklar und auf mehrere Funktionen verteilt.
Diese Ergebnisse verdeutlichen, dass Unternehmen die Notwendigkeit erkennen, Verantwortung für KI-Agenten zu übernehmen, die Verantwortlichkeitskette jedoch noch nicht klar definiert ist.
Technologische Lösungen und neue Rollenmodelle
Analog zur Entstehung des CISO (Chief Information Security Officer) im Jahr 1994 wird eine neue Rolle wie der Chief AI Security Officer (CAISO) diskutiert, um die zusätzliche Belastung für CIOs und CISOs durch KI-Sicherheit zu managen.
Jim Taylor von RSA betont, dass technologische Lösungen zur Kontrolle von KI-Agenten beitragen können. Er schlägt vor, dieselben Identitätskontrollen wie für menschliche Nutzer – darunter Passwörter, Zero-Trust-Prinzipien und Multi-Faktor-Authentifizierung (MFA) – auch für KI-Agenten anzuwenden. Jeder KI-Agent besitzt eine Identität, Zugangsdaten und Zugriffsrechte. Eine zentrale Plattform könnte genehmigte KI-Agenten registrieren und sie einem menschlichen Besitzer zuordnen, der risikoreiche Aktionen autorisiert. Zudem sollten Governance-Kontrollen gemäß Industriestandards angewendet und KI-Agenten regelmäßig evaluiert werden. Taylor warnt, dass Unternehmen für Compliance-Verstöße ihrer KI-Agenten haftbar sind, selbst wenn sie diese nicht direkt kontrollieren können.
Thema: Technologie / KI allgemein. Quelle/Inspiration: ZDNet.