Base Labs, die Forschungsgruppe des KI-Inferenzanbieters Baseten, hat eine Partnerschaft mit Hugging Face und Goodfire AI bekannt gegeben. Ziel ist die Entwicklung einer Infrastruktur zur Sicherheitsbewertung und -überwachung für offene KI-Modelle. Diese Initiative reagiert auf die wachsende Herausforderung durch „abliterierte“ Modelle, bei denen Schutzmechanismen entfernt wurden.
Offene KI-Modelle, die ohne ihre eingebauten Schutzmaßnahmen manipuliert wurden – ein Prozess, der als „Abliteration“ bekannt ist – stellen ein zunehmendes Sicherheitsrisiko dar. Auf der Plattform Hugging Face, einem zentralen Host für Open-Source-KI-Modelle, sind derzeit über 6.000 solcher abliterierten Modelle gelistet. Diese Entwicklung hat eine Debatte über die Sicherheit und Verantwortlichkeit im Bereich offener KI-Systeme ausgelöst.
Neuer Standard für offene KI-Modelle
Base Labs, das Anfang des Jahres von Baseten ins Leben gerufen wurde, wird Methoden für das Training und die Überwachung offener Modelle entwickeln und veröffentlichen. Das Unternehmen positioniert diese zukünftige Arbeit als einen „Standard“ für offene Modelle, der Transparenz bietet und direkt in die Entwicklung und den Einsatz der Modelle integriert wird, anstatt nachträglich angefügt zu werden. Baseten betont, dass Offenheit ein Vorteil für die KI-Sicherheit sei, da sie mehr Einblick in das Verhalten von Modellen ermögliche und effektivere, transparente Kontrollen zulasse als bei Closed-Source-Systemen.
Goodfire AI, ein Spezialist für die Interpretierbarkeit von KI-Modellen, wird voraussichtlich eine Schlüsselrolle bei der Integration von Sicherheitsfunktionen spielen. Das Unternehmen formulierte das Ziel, dass Sicherheit in offene Modelle eingebaut und von den Anbietern bereitgestellt werden müsse. Baseten ist ein Anbieter von KI-Inferenzlösungen, und Hugging Face ist eine führende Plattform für Open-Source-KI-Modelle.
Baseten hat im Juni eine Series-F-Finanzierungsrunde über 1,5 Milliarden US-Dollar abgeschlossen, wodurch die Unternehmensbewertung auf 13 Milliarden US-Dollar stieg. Auch der Partner Goodfire AI ist gut kapitalisiert; das Unternehmen sicherte sich zuvor in diesem Jahr 150 Millionen US-Dollar in einer Series-B-Runde, angeführt von B Capital, um seine Plattform zur Modellinterpretierbarkeit weiterzuentwickeln.
Baseten ruft die Entwicklergemeinschaft auf, sich an der Entwicklung dieses Frameworks zu beteiligen, mit dem Ziel, ein Ökosystem sicherer und zugänglicher offener Modelle zu schaffen.
Thema: Hugging Face. Quelle/Inspiration: TechCrunch.