Cloudflare hat seine intern entwickelte Plattform Cloudflare OS quelloffen (Open Source) veröffentlicht. Diese Plattform wurde ursprünglich geschaffen, um Mitarbeitern, auch solchen ohne tiefgreifende Programmierkenntnisse, das Erstellen von Anwendungen mithilfe von KI-Agenten zu ermöglichen. Die Veröffentlichung auf GitHub erfolgte am 5. August, wie das Unternehmen in einem Blogbeitrag mitteilte.
Cloudflare OS erlaubt es Nutzern, Arbeitsabläufe in natürlicher Sprache zu beschreiben, woraufhin ein KI-Agent diese in Anwendungen umsetzt. Tausende Cloudflare-Mitarbeiter nutzen die Plattform nach Unternehmensangaben täglich, um Dokumente und Präsentationen zu erstellen, wiederkehrende Aufgaben zu automatisieren und kleine Anwendungen zur Datenvisualisierung zu entwickeln. Ein zentrales Element ist ein Sicherheitsrahmen, der das Risiko von Schwachstellen oder Datenlecks durch sogenannte „Vibe-Coding“-Sitzungen minimieren soll.
Sicherheitsarchitektur und Leistung
Kenton Varda, Principal Engineer bei Cloudflare, betonte, dass die Sandbox so sicher sei, dass die KI keine signifikanten Sicherheitslücken einführen könne. Das Sicherheitsmodell basiert auf der Erstellung fein granularer Anwendungsinstanzen. Jede Anwendung und jedes Dokument laufen in einer separaten, isolierten Sandbox. Diese „Isolates“ genannten Instanzen des V8 JavaScript-Ausführungs-Engines sind im Vergleich zu herkömmlichen Software-Containern deutlich schneller und speichereffizienter. Sie starten in Millisekunden und verbrauchen nur wenige Megabyte Arbeitsspeicher, was sie bis zu 100-mal schneller und 10- bis 100-mal effizienter macht.
Um die Exposition von Unternehmensdaten zu minimieren, starten KI-Agenten ohne Berechtigungen und müssen den Zugriff auf Ressourcen explizit über die Cloudflare OS-Plattform anfordern. Server-Code hat keinen globalen externen Netzwerkzugriff, und Client-Code läuft in einem sandboxed Frame im Browser, wodurch jeglicher Internetzugang nur über explizit bereitgestellte Funktionen möglich ist.
Flexibilität und Kostenkontrolle bei KI-Modellen
Cloudflare OS ist mit verschiedenen KI-Modellen kompatibel, sodass Organisationen das jeweils am besten geeignete Modell auswählen können. Sam Rhea, Chief Information Officer bei Cloudflare, wies darauf hin, dass nicht jeder Nutzer auf die rechenintensivsten Modelle zugreifen muss und Unternehmen unnötige Kosten vermeiden können. Die Plattform wurde auch dahingehend optimiert, dass sie für bestimmte Workflows verstärkt deterministische Schritte nutzt und KI-Inferenz nur bei Bedarf einsetzt, um ressourcenintensive Inferenzsitzungen zu reduzieren. Administratoren können zudem die KI-Inferenzkosten der Mitarbeiter überwachen und Budgets sowie Ratenbegrenzungen festlegen.
Erkenntnisse aus der internen Anwendung und der Engineering Codex
Cloudflare teilte auch Erfahrungen aus der internen Nutzung. Ein anfänglicher Fehler war, nicht-technischen Teams die gleichen Entwickler-Tools zur Verfügung zu stellen, was zu einer Flut von „Vibe-Coded“-Anwendungen führte, die oft keine klare Problemstellung hatten. Die zunehmende Nutzung von KI-Agenten bedeutete auch, dass „jeder bei Cloudflare jetzt schlechten Code schneller schreiben konnte“, so Rhea. Als Reaktion darauf entwickelte das Unternehmen den Cloudflare Engineering Codex, einen Leitfaden, der sowohl menschlichen Ingenieuren als auch KI-Agenten hilft, Code zu überprüfen und potenzielle Probleme zu identifizieren. Ein KI-Code-Reviewer hat in den letzten vier Monaten fast eine Viertelmillion Abweichungen von den Cloudflare-Standards markiert und 16.000 Zusammenführungen blockiert, berichtete Timo Reimann, Systems Engineer bei Cloudflare.
Hinweis zur Bereitstellung und schnelle Reaktion
Obwohl Cloudflare OS nun quelloffen ist, gibt es eine wichtige Einschränkung für die Bereitstellung des Backends: Es erfordert ein kostenpflichtiges Cloudflare Workers-Abonnement. Diese Anforderung war anfangs nicht klar kommuniziert, was zu Frustration bei Nutzern führte. Cloudflare reagierte jedoch schnell, aktualisierte den Bereitstellungsprozess und informierte die Nutzer frühzeitig über die benötigte kostenpflichtige Plan-Mitgliedschaft.
Thema: Technologie / KI allgemein. Quelle/Inspiration: Ars Technica.