Outshift von Cisco, unter der Leitung von Senior Vice President und General Manager Vijoy Pandey, entwickelt eine neue architektonische Lösung, um die Koordination zwischen autonomen KI-Agenten zu verbessern. Diese Initiative zielt darauf ab, die Fähigkeit von spezialisierten KI-Systemen zu steigern, gemeinsam an komplexen Problemen zu arbeiten und somit die Effizienz in Bereichen wie dem Gesundheitswesen zu erhöhen. Bisherige Multi-Agenten-Systeme zeigten in Studien hohe Fehlerquoten.
Aktuell agieren KI-Agenten, obwohl sie in ihren jeweiligen Domänen (z.B. Symptombewertung, Terminplanung, Versicherung, Apotheke in einem Gesundheitssystem) Experten sind, weitgehend isoliert. Sie können Daten austauschen, aber nicht koordiniert zusammenarbeiten oder gemeinsame Entscheidungen treffen. Pandey beschreibt dies als fehlendes „Bindegewebe“, das „vier Fremde in ein Team“ verwandelt. Studien belegen eine Versagensrate von 41 bis 87 Prozent bei bestehenden Open-Source-Multi-Agenten-Systemen. Das Problem liegt laut Pandey nicht in der individuellen Intelligenz der Agenten, sondern in der Architektur ihrer Zusammenarbeit.
Eine neue Architektur für kollektive Intelligenz
Outshift adressiert diese Lücke mit zwei aufeinander aufbauenden Schichten: dem „Internet of Agents“ und dem „Internet of Cognition“.
- Das Internet of Agents ist eine Konnektivitätsschicht, die es autonomen Agenten ermöglicht, sich gegenseitig zu finden, ihre Identität zu überprüfen und Nachrichten über verschiedene Domänen hinweg auszutauschen. Dafür hat Outshift das Open-Source-Projekt AGNTCY unter der Linux Foundation entwickelt, das offene, standardisierte Protokolle nutzt.
- Darauf aufbauend ermöglicht das Internet of Cognition als semantische Schicht den Agenten, gemeinsame Absichten zu teilen, Kontext zu sammeln und kollektive Entscheidungen zu treffen. Pandey vergleicht diesen Schritt mit der Entwicklung der menschlichen Zivilisation, in der Individuen lernten, Wissen und Absichten zu teilen.
Drei Säulen der Agenten-Koordination
Die kollektive Arbeitsweise der Agenten basiert auf drei technologischen Säulen:
- Geteilte Absicht durch Kognitionszustandsprotokolle: Diese Protokolle dienen als „semantischer Händedruck“, der Agenten hilft, sich auf ein Ziel zu einigen und daraufhin zu verhandeln. Outshift hat hierfür die Open-Source-Koordinationsschicht Mycelium entwickelt. Interne Tests zeigten, dass die Entscheidungsfindung von etwa einem Drittel auf 93 Prozent anstieg, wenn Agenten Ziele deklarierten, fehlende Informationen aufdeckten und Konflikte vor der Handlung lösten.
- Geteilter Kontext durch Kognitions-Fabric: Ein Kognitions-Fabric ist ein gemeinsamer institutioneller Speicher und ein Kommunikationsnetz, das sicherstellt, dass die Erkenntnisse der Agenten im Laufe der Zeit kumulieren und nicht nach jeder Sitzung zurückgesetzt werden. Diese richtliniengesteuerte Kontextebene verhindert „organisatorische Amnesie“ und erhöht die Basisintelligenz der Systeme kontinuierlich.
- Geteiltes Denken durch Kognitionsverstärker und Guardrail-Technologien: Kognitionsverstärker beschleunigen das gemeinsame Denken und Modellieren. Guardrail-Technologien (GATs) implementieren Sicherheits-, Kosten- und Compliance-Rahmenwerke. Menschen sind in dieser Schicht aktiv beteiligt, indem sie Entscheidungen treffen, die das System ihnen zur Überprüfung vorlegt, anstatt nur Ergebnisse zu prüfen.
Sicherheitsmechanismen für autonome Agenten
Die gemeinsame Nutzung von Kognition in Multi-Agenten-Systemen birgt neue Risiken, darunter unbeabsichtigte Delegationen, bösartige Prompt-Injections, Gedächtnisvergiftung oder überprivilegierte Agenten. Um diesen Risiken zu begegnen, sind umgebungsspezifische Kontrollen erforderlich.
Outshift hat hierfür die Open-Source-Referenzimplementierung Continuous Agent Semantic Authorization (CASA) entwickelt, eine GAT, die eine kontinuierliche Autorisierung gewährleistet. CASA überprüft jede Tool-Anfrage eines Agenten gegen die ursprünglich autorisierte Aufgabe. Wenn ein Agent beispielsweise beauftragt wird, eine Patientenakte zusammenzufassen, aber versucht, eine gesamte Datenbank abzufragen, könnte CASA diesen Aufruf ablehnen, da er nicht mehr der ursprünglichen Autorisierung entspricht. Aktuelle Kontrollen sind oft auf Rollen oder Sitzungen beschränkt und nicht auf spezifische Aufgaben, was Agenten erlaubt, Tools für nicht autorisierte Zwecke zu nutzen.
Unternehmen, die KI-Intelligenz horizontal skalieren möchten, sollten laut Pandey mit Experimenten beginnen.
Thema: Intel. Quelle/Inspiration: MIT Technology Review.