Das Technologieunternehmen Musubi hat am Dienstag das Entscheidungsmodell PolicyLM-1.7B vorgestellt. Dieses leichtgewichtige Modell ist für die Echtzeit-Moderation von Online-Inhalten konzipiert und wurde mit offenen Gewichten (Open Weights) veröffentlicht, was bedeutet, dass seine Parameter für die Öffentlichkeit zugänglich sind.
Die Kernidee von PolicyLM-1.7B besteht darin, Content-Richtlinien, die in einfacher Sprache verfasst sind, auf Nachrichten anzuwenden. Das Modell ist darauf ausgelegt, dies in weniger als 50 Millisekunden zu erledigen. Musubi positioniert sein Modell in Bezug auf Kosten und Geschwindigkeit ähnlich wie die KI-Klassifizierungssysteme, die bereits auf den meisten sozialen Plattformen zur Moderation eingesetzt werden. Ein entscheidender Vorteil ist jedoch die Flexibilität, die modernen großen Sprachmodellen (LLMs) eigen ist. Dadurch kann es komplexe Richtlinien ohne spezielle Trainingsdaten anwenden.
Ein weiterer Vorteil ist, dass das Modell keine erneute Schulung benötigt, wenn sich die Richtlinien ändern. Dies ermöglicht es menschlichen Richtlinienerstellern, Anpassungen vorzunehmen, ohne den Moderationsprozess zu unterbrechen. Filip Jankovic, Mitbegründer und Chief AI Officer von Musubi, betont, dass dies Plattformbetreibern ein Werkzeug an die Hand gibt, Inhalte proaktiv zu kennzeichnen.
„Produktteams wünschen sich lediglich ein besseres Verständnis dessen, was auf ihrer Plattform geschieht, insbesondere da die Menge an Inhalten exponentiell zunimmt“, so Jankovic. „Die Möglichkeit, all dies auf eine sehr skalierbare, anpassbare Weise zu kennzeichnen, ist äußerst nützlich.“
Technologie und Kontext von Entscheidungsmodellen
Entscheidungsmodelle sind in der KI-Welt seit der Veröffentlichung von TypeSafe AIs Jev im September und darauf folgenden Modellen von OpenAI und Amazon zu einem wichtigen Thema geworden. Im Gegensatz zu herkömmlichen großen Sprachmodellen, die Text ausgeben, liefern Entscheidungsmodelle Wahrscheinlichkeiten für bestimmte Ergebnisse. Im Fall von PolicyLM-1.7B ist das Urteil binär: Der Inhalt gehört entweder zur Kategorie oder nicht.
Durch die Begrenzung der Modellausgabe auf eine Reihe vordefinierter Optionen können Entscheidungsmodelle schneller und kostengünstiger arbeiten als große Sprachmodelle, während sie die Flexibilität der zugrunde liegenden Transformer-Architektur beibehalten. Ein früher Anwendungsfall für solche Modelle ist die Kontrolle von Fehlverhalten durch KI-Agenten, sodass die Anwendung auf menschliches Fehlverhalten eine logische Weiterentwicklung darstellt.
Jankovic merkt an, dass sein Interesse an Entscheidungsmodellen bereits vor Jev bestand und auf ein Projekt namens GLiNER (Generalist Model for Named Entity Recognition) aus dem Jahr 2024 zurückgeht, das ähnliche Techniken einsetzte. Musubi sieht die Vergleiche mit Jev positiv und nutzt das gestiegene Interesse an Entscheidungsmodellen, um die Aufmerksamkeit auf die Inhaltsmoderation zu lenken. Eine Produktankündigung des Unternehmens beschreibt PolicyLM-1.7B als ein Modell „der gleichen Art wie Jev, das speziell für die Inhaltsmoderation trainiert wurde und das Sie selbst ausführen können.“
Thema: Technologie / KI allgemein. Quelle/Inspiration: TechCrunch.