Das Technologieunternehmen Inception hat sein neues Sprachmodell Mercury 3 veröffentlicht. Laut Inception ist Mercury 3 das leistungsfähigste Diffusions-Sprachmodell auf dem Markt. Es soll vier- bis achtfach schneller als Modelle wie GPT-6 Luna und Claude Haiku 5.5 arbeiten und diese in acht von zwölf Benchmarks übertreffen. Unabhängige Tests zur Verifizierung dieser Angaben liegen noch nicht vor.
Geschwindigkeit durch Diffusionsarchitektur
Die hohe Geschwindigkeit von Mercury 3 resultiert aus seiner Architektur. Während herkömmliche Sprachmodelle wie GPT oder Claude Wörter sequenziell, also eines nach dem anderen, generieren, arbeiten Diffusionsmodelle anders. Bekannt aus der Bildgenerierung, erstellen sie zunächst eine grobe Skizze der gesamten Antwort und verfeinern diese dann in mehreren Durchläufen, wodurch viele Wörter gleichzeitig erzeugt werden können. Google hat dieses Prinzip in seinem technischen Bericht zu DiffusionGemma erläutert.
Inception gibt an, dass Mercury 3 auf Nvidia-GPUs 1.068 Tokens pro Sekunde generiert. Im Vergleich dazu erreichen Claude Haiku 5.5 etwa 240 Tokens und GPT-6 Luna circa 130 Tokens pro Sekunde.
Leistung in Benchmarks und Skalierbarkeit
Laut Inceptions eigener Benchmark-Tabelle gewinnt Mercury 3 acht von zwölf Tests bei mittleren Einstellungen. Die größte Überlegenheit zeigt sich in der Befolgung von Anweisungen (Instruction Following). Auf IFBench erreicht Mercury 3 76,84 Punkte, 15 Punkte mehr als GPT-6 Luna. Auch im autonomen Coding auf SWE-Bench Atlas liegt es mit 51,08 Punkten deutlich vor seinen Konkurrenten, die 33,33 und 32,26 Punkte erreichen. Claude Haiku 5.5 ist hingegen im längeren Coding-Test DeepSWE und beim Auffinden von Informationen in langen Texten überlegen. GPT-6 Luna hat in zwei Tests von Artificial Analysis die Nase vorn. Inception selbst beschreibt die Qualität von Mercury 3 als gleichwertig oder besser.
Inception betont, dass Mercury 3 über 40-mal so viele Parameter wie Mercury 1 besitzt, aber dennoch mit gleicher Geschwindigkeit läuft. Die Leistung habe sich seit dem kleineren Mercury 1 mini verdreifacht. Dies deutet laut Inception darauf hin, dass Diffusionsmodelle wie auch Standard-Sprachmodelle mit zunehmender Skalierung zuverlässig besser werden. Die genaue Anzahl der Parameter wurde nicht offengelegt.
Anwendungsbereiche und Praxiserfahrungen
Inception positioniert Mercury 3 primär für den Einsatz in KI-Agenten, Suchfunktionen, Kundensupport und Nachhilfesystemen. KI-Agenten, die Aufgaben in vielen einzelnen Schritten abarbeiten, profitieren besonders von der Geschwindigkeit, da sich kleine Verzögerungen hier schnell summieren.
- Octen AI, ein Entwickler von Suchfunktionen für Smart Glasses, berichtet, dass die mediane Antwortzeit mit Mercury 3 bei 0,9 Sekunden lag, während der gesamte Prozess 2,2 Sekunden benötigte. Zuvor sei das Sprachmodell der Engpass gewesen.
- Das Bildungsunternehmen General Learning liefert nun Hinweise und Korrekturen an Studierende in etwa einer Sekunde.
- Der Kundenservice-Anbieter Lorikeet meldet schnellere Reaktionszeiten und bessere Ergebnisse.
- Bei TinyFish AI löste Mercury 3 25 von 50 Navigationsaufgaben auf realen Websites und übertraf damit GPT-6.1-Sol.
Preise und Verfügbarkeit
Die regulären Kosten für Mercury 3 betragen 0,20 US-Dollar pro Million Input-Tokens und 0,70 US-Dollar pro Million Output-Tokens. Zum Start halbiert Inception die Preise, wobei das Ende des Rabatts nicht bekannt gegeben wurde. Nach Ablauf des Rabatts wäre Mercury 3 bei kürzeren Eingaben teurer für Output als GPT-6 Luna und Claude Haiku 5.5, die 0,50 US-Dollar berechnen. Bei sehr langen Prompts sind die Konkurrenzmodelle jedoch deutlich teurer. Mercury 3 kann bis zu einer Million Tokens gleichzeitig verarbeiten.
Das Modell ist auf Inceptions eigener Plattform sowie über OpenRouter, Baseten und Vercel verfügbar. Es nutzt dieselbe API wie OpenAIs Modelle, was Entwicklern einen einfachen Wechsel ermöglichen soll.
Hintergrund und Wettbewerb
Inception veröffentlichte im Februar Mercury 2, das als erstes Diffusionsmodell bezeichnet wurde, das Zwischenschritte zur Argumentation nutzte. Das Startup hat zuvor 50 Millionen US-Dollar von Investoren wie NVentures (Nvidia), M12 (Microsoft) und Snowflake Ventures erhalten.
Auch Google verfolgt diesen Ansatz. Nach der Gemini Diffusion-Demo im Juni wurde das offene Modell DiffusionGemma vorgestellt. Google gibt an, dass es bis zu viermal schneller als das Standard-Gemma 4 läuft, aber leicht schwächere Ergebnisse liefert.
Thema: Claude. Quelle/Inspiration: The Decoder.