Das Startup Abliteration.ai hat einen Dienst gestartet, der den Zugang zu leistungsfähigen, quelloffenen KI-Modellen ohne ihre integrierten Schutzmechanismen, sogenannte „Guardrails“, erheblich vereinfacht. Nutzer können über einen Webbrowser oder eine API auf modifizierte Versionen von Modellen wie Z.ai’s GLM-5.3 zugreifen, die zuvor das Ausführen potenziell schädlicher Anfragen verweigerten.
Kommerzialisierung einer Open-Source-Praxis
Die „Abliteration“ – die Entfernung solcher Sicherheitsvorkehrungen aus KI-Modellen – ist eine Technik, die in der Open-Source-Community bereits seit Jahren existiert. Tausende solcher modifizierten Modelle sind auf Plattformen wie Hugging Face verfügbar. Abliteration.ai, Ende letzten Jahres gegründet und im März offiziell eingetragen, überführt diese Praxis von einer Nischenanwendung in einen kommerziell leicht zugänglichen Dienst. Das Unternehmen hostet die Modelle, wodurch Nutzer den Aufwand für den Download und die Bereitstellung der notwendigen Rechenleistung umgehen können.
Laut Mitgründer Devon finanziert sich Abliteration.ai durch Kundeneinnahmen und hat bereits Verträge mit großen Cloud-Anbietern. Das Startup, das noch kein Risikokapital erhalten hat, befindet sich in entsprechenden Gesprächen. Zu den Kunden zählen frühe „Red Teaming“-Startups aus Großbritannien und Europa, die Banken, Fluggesellschaften und andere Unternehmen mit kritischer Infrastruktur bei der Stärkung ihrer Cybersicherheit unterstützen.
Argumentation für mehr Cybersicherheit
Abliteration.ai argumentiert, dass die Bereitstellung von „abliterierten“ Modellen, also solchen ohne interne Blockaden, die Cybersicherheit verbessern kann. Ziel sei es, „Offensiv-Cyber-, Red-Teaming- und Agenten-Testarbeiten“ zu ermöglichen, die andere Modelle verweigern. „Red Teaming“ bezeichnet dabei die Simulation von Angriffen, um die Sicherheit zu testen und zu verbessern. Die Logik dahinter: Verteidiger müssen die gleichen Werkzeuge und Verhaltensweisen wie Angreifer simulieren können, um sich effektiv zu schützen. Ein Modell, das beispielsweise die Erstellung von Exploits (Angriffsprogrammen) verweigert, kann einem Red Team nicht helfen, sich gegen solche Angriffe zu wappnen.
Kritik und potenzielle Risiken
Kritiker warnen jedoch vor den Gefahren einer breiten Verfügbarkeit dieser Modelle. Andrew Yoon, Forschungsleiter der KI-Sicherheitsorganisation CivAI, äußerte gegenüber TechCrunch Bedenken, dass abliterierte Modelle „soziopathisch“ werden könnten. Er erwartet, dass solche manipulierten Modelle in naher Zukunft für schädliche Zwecke eingesetzt werden. Ein Test von TechCrunch zeigte, dass ein abliteriertes GLM-5.3-Modell bereitwillig ein Python-Programm zum Diebstahl von Chrome-Passwörtern oder ein detailliertes Protokoll zur Kultivierung eines gefährlichen menschlichen Krankheitserregers erstellte.
Abliteration.ai bietet zwar eine Moderationsschicht an, die Kunden eigene Schutzmechanismen hinzufügen lässt, und verfügt über einige geringfügige interne Guardrails (z.B. weigerte sich das Modell, Suizidanweisungen zu geben). Das Unternehmen hat jedoch außer der Protokollierung von Kreditkartendaten keine „Know Your Customer“-Praktiken (KYC) implementiert, um die Identität der Nutzer zu überprüfen. Die Frage, wo die Verantwortung eines Unternehmens beginnt, sei noch in Klärung.
Industrielle Debatte und Lösungsansätze
Die Cybersicherheitsbranche ist sich uneinig über den genauen Nutzen abliterierter Modelle. Während einige „Red Teaming“-Firmen die Notwendigkeit betonen, dass Verteidiger Zugang zu den gleichen Tools wie Angreifer haben, sehen andere den praktischen Wert kritischer. Ahmed Aly, CEO der „Agent Red Teaming“-Firma Fabraix, bevorzugt das „Fine-Tuning“ von quelloffenen Modellen, bei dem ein bestehendes Modell durch zusätzliche Daten für spezifische Aufgaben trainiert wird, da er argumentiert, dass die Abliteration die Kenntnisse und Fähigkeiten eines Modells reduzieren könne, was es für „echten Schaden“ weniger effektiv mache.
Alessio Lomuscio von Safe Intelligence stimmt einer möglichen Fähigkeitsreduktion zu, sieht aber dennoch Wert in der Stressprüfung von Systemen. David Slater von Armadin gab an, dass abliterierte Modelle bisher nicht Teil ihrer Prozesse seien. Andrew Yoon schlägt vor, dass Regierungen Anbieter dazu verpflichten sollten, Klassifizierer (Software zur Erkennung bestimmter Inhalte) zur Erkennung schädlicher Cyber- und Biowaffenaktivitäten einzusetzen und GPU-Anbieter die Identität von Kunden überprüfen und bei Missbrauchsverdacht den Zugang verweigern sollten.
Thema: Technologie / KI allgemein. Quelle/Inspiration: TechCrunch.