ServiceNow und Nvidia haben Arc, einen neuen KI-Agenten für Unternehmen, vorgestellt, der ab sofort allgemein verfügbar ist. Die Lösung zielt darauf ab, die Sicherheit autonomer KI-Systeme durch ein mehrstufiges Framework zu gewährleisten und damit ein zentrales Hindernis für die Unternehmensadoption zu überwinden, insbesondere nach Vorfällen mit Agenten-gesteuerten Sicherheitslücken.
Arc wird von den Unternehmen als „persönlicher, langfristiger KI-Agent für alltägliche Aufgaben“ beschrieben. Er ist darauf ausgelegt, tägliche Arbeiten zu unterstützen, die Produktivitätstools wie E-Mail und Microsoft Teams nutzen. Der Agent kann lokal auf dem Desktop eines Mitarbeiters oder innerhalb von Nvidia OpenShell auf einem separaten Gerät ausgeführt werden. Arc ist für den effizienten Betrieb auf Nvidias neuen RTX Spark-Geräten optimiert und entwickelt im Laufe der Zeit eigene Fähigkeiten und ein Gedächtnis, um seine Leistung kontinuierlich zu verbessern. Aktuell ist Arc für Mac verfügbar, eine Windows-Unterstützung ist geplant.
Mehrschichtiges Sicherheitskonzept
Das Alleinstellungsmerkmal von Arc ist laut ServiceNow und Nvidia das mehrstufige Sicherheitsframework. Dieses System verlagert die Sicherheitsdurchsetzung über die Softwareebene hinaus in die Laufzeit- und Hardwareebenen und soll so eine zuverlässigere Sicherheit bieten.
Zentrale Komponente ist der ServiceNow Super Intelligence Control Tower, ein Governance-Framework für KI-Agenten. Er überwacht die Aktivitäten der Agenten, überprüft deren Zugriffsrechte, sucht nach Sicherheitsrisiken wie Prompt Injection (Manipulation von Eingabeaufforderungen) und misst die Agentenleistung. Der Control Tower definiert die Richtlinien für den Einsatz von KI-Agenten im Unternehmen.
Nvidia OpenShell ist ein Open-Source-Tool, das die Laufzeit (die Ausführung von Software) steuert. Es setzt die vom Control Tower definierten Unternehmensrichtlinien während der Ausführung durch. Dadurch erhalten IT-Abteilungen eine detaillierte Kontrolle darüber, auf welche Systeme KI-Agenten zugreifen, welche APIs sie aufrufen und welche Daten sie lesen dürfen.
Eine weitere Sicherheitsebene ist der AI Passport, der die Regeln eines Unternehmens bezüglich Risikotoleranz und erlaubter Dienste für Arc und andere Agenten enthält. Dieser „Pass“ wird vom Control Tower festgelegt und fungiert als Brücke zwischen der ServiceNow-Infrastruktur und den Prüfpunkten von Nvidia. Er ermöglicht es Nvidia-Funktionen wie OpenShell, effizient einzugreifen, wenn ein KI-Agent eine nicht autorisierte Aktion ausführt.
Sollte der Control Tower einen „Passentzug“ (Revocation) an OpenShell melden, wird die vom Agenten beabsichtigte Aufgabe in einer Sandbox isoliert und für eine spätere Überprüfung bereitgestellt. Diese Unterbrechung ist auf die spezifische Aufgabe beschränkt, sodass andere genehmigte Agentenaktionen fortgesetzt werden können.
Die „Enforcement in Silicon“-Technologie von Nvidia BlueField verstärkt diesen Schutz. Sie setzt Passentzüge maschinell durch, bevor der KI-Agent fortfahren kann, um Überschreibungen durch kompromittierte Software zu verhindern. Das gesamte System ist darauf ausgelegt, Aktionen und Berechtigungen von Agenten kontinuierlich zu überwachen, um Sicherheitsverletzungen und nicht genehmigte Handlungen zu verhindern.
Thema: Nvidia. Quelle/Inspiration: ZDNet.