In fast jeder überprüften Umgebung finden sich laut Cisco „Schatten-Agenten“, die ohne angemessene Identität oder Zugriffskontrollen operieren. Diese Warnung kommt von Matt Caulfield, Vice President of Product for Identity bei Cisco, dessen Team das Produkt Duo Agentic Identity entwickelt hat, um die Sicherheitsherausforderungen autonomer KI-Agenten zu adressieren.
Autonome KI-Agenten versprechen, Geschäftsstrategien grundlegend zu verändern, stellen aber IT-Verantwortliche vor erhebliche Probleme. Entwickler verbinden diese Agenten oft direkt mit Produktionssystemen, ohne die IT-Abteilung einzubeziehen, was eine große Sicherheitslücke darstellt. Traditionelle Systeme für Identitäts- und Zugriffsmanagement (IAM), die für menschliche Benutzer oder statische Nicht-Mensch-Identitäten wie Service-Konten und API-Schlüssel konzipiert wurden, sind für die dynamische und eigenständige Natur von KI-Agenten unzureichend.
Was autonome KI-Agenten und ihre Sicherheitsrisiken bedeuten
KI-Agenten sind selbstständige Akteure, die in der Lage sind, Datenbanken abzufragen, Workflows auszulösen, Kommunikationen zu senden und eigenständig Entscheidungen zu treffen – und das mit Maschinengeschwindigkeit. Ihre Autonomie kollidiert mit den Annahmen, auf denen die meisten aktuellen IAM-Systeme basieren. Während menschliche Identitäten einmalig definiert und regelmäßig aktualisiert werden, übernehmen autonome Agenten oft die Zugangsdaten aus ihrem Ausführungskontext. Dies kann ihnen weitreichende Zugriffsrechte für beliebige Aktionen verschaffen. Die Folge ist eine wachsende Diskrepanz: Unternehmen setzen Agenten schneller ein, als die IT-Abteilungen deren Governance sicherstellen können.
Matt Caulfield betont, dass es nicht darum geht, zwischen Geschwindigkeit und Sicherheit zu wählen, sondern Vertrauen zwischen Menschen und Agenten aufzubauen. Ciscos Team hat dafür die Prinzipien des Zero Trust – ein Sicherheitskonzept, das davon ausgeht, dass kein Benutzer oder Gerät innerhalb oder außerhalb eines Netzwerks standardmäßig vertrauenswürdig ist und daher jede Zugriffsanfrage überprüft werden muss – auf diese neue Klasse nicht-menschlicher Akteure angewendet.
Ciscos Antwort: Drei Säulen für Vertrauen und Kontrolle
Ciscos Ansatz zur Integration autonomer Agenten in das Identitätsmanagement basiert auf drei Säulen:
Umfassende Sichtbarkeit
Die erste Herausforderung ist die mangelnde Sichtbarkeit. „Man kann nicht vertrauen, was man nicht sehen kann“, so Caulfield. Duo Agentic Identity baut auf bestehenden Cisco-Systemen auf und ist nicht auf Entitäten beschränkt, die explizit eine Verifizierung anfordern, was autonome Agenten oft nicht tun. Durch die Beobachtung der Netzwerkkommunikation kann Cisco einen Schatten-Agenten sofort erkennen, sobald er aktiv wird. Das Ergebnis ist ein kontinuierliches, Echtzeit-Inventar aller aktiven KI-Agenten in einer Umgebung.
Rigorose Verantwortlichkeit
Nach der Entdeckung eines Agenten ist dessen Governance entscheidend. Jeder Agent erhält einen vollständigen Identitätslebenszyklus, vergleichbar mit einem neuen Mitarbeiter: Er wird mit klarer Verantwortlichkeit „eingestellt“, während seiner Aktivität überwacht und nach Beendigung seiner Aufgabe „entlassen“. Duo Agentic Identity behandelt jeden Agenten als eigenständiges Identitätsobjekt, das einem spezifischen menschlichen Eigentümer zugeordnet wird und in Gruppen für Richtlinien eingeordnet ist. Jede Aktion wird protokolliert und dem Eigentümer zugeordnet, wodurch eine klare Rechenschaftspflicht entsteht. Das System unterstützt Standards wie OAuth 2.1 für die Autorisierung und das aufkommende Model Context Protocol (MCP), ein Protokoll zur Steuerung und Überwachung von KI-Modellen und -Agenten.
Feingranulare Zugriffssteuerung
Überprivilegierte Agenten stellen laut Caulfield das höchste Risiko dar. Die Lösung erfordert eine detailliertere Steuerung, als Sicherheitsteams gewohnt sind. Diese Durchsetzung erfolgt über ein MCP-Gateway, das als Kontrollpunkt zwischen einem Agenten und den von ihm genutzten Tools fungiert. Das Gateway fängt jede Anfrage eines Agenten ab, bewertet sie anhand einer detaillierten Autorisierungs-Engine und erlaubt oder blockiert die Aktion, bevor sie das Zielsystem erreicht. Ein Agent könnte beispielsweise das Recht erhalten, einen Kundendatensatz zu lesen, aber blockiert werden, wenn er versucht, ihn zu exportieren. Richtlinien können auf genaue Bedingungen und Operationen zugeschnitten werden, was IT-Teams eine Kontrolle pro Tool-Aufruf und nicht pro Sitzung ermöglicht.
Der Wert der autonomen KI – schnellere Abläufe, intelligentere Automation und End-to-End-Workflows – ist real. Doch dieser Wert lässt sich nur sicher nutzen, wenn er auf einer Grundlage des Vertrauens zwischen Menschen und den agierenden Agenten ruht, so Caulfield.
Thema: Technologie / KI allgemein. Quelle/Inspiration: ZDNet.