Das KI-Startup Recursive hat mit Flint sein erstes Sprachmodell vorgestellt, das speziell für die lokale Code-Entwicklung konzipiert wurde. Das 40-Milliarden-Parameter-Modell entstand in vier Monaten mithilfe des hauseigenen KI-Systems „Eureka Machine“, das den Forschungsprozess weitgehend automatisiert.
Flint, ein Mixture-of-Experts (MoE)-Modell mit 40 Milliarden Parametern, aktiviert pro Rechenschritt nur 2,5 Milliarden. Es ist für die lokale Code-Entwicklung ausgelegt und beansprucht laut Recursive die Führung in spezifischen Coding-Benchmarks wie SWE-Bench Pro v2 und Terminal-Bench 2.1 unter MoE-Modellen unter 50 Milliarden Parametern. Eine unabhängige Verifizierung dieser Ergebnisse steht noch aus. Recursive zufolge ist die Inferenz (Ausgabegenerierung) auf lokaler Hardware bis zu doppelt so schnell wie bei vergleichbaren Modellen und erreicht über 125 Tokens pro Sekunde auf einem MacBook Pro mit M4 Pro sowie über 150 Tokens pro Sekunde auf einer Nvidia RTX Spark mit 64 GB Speicher.
Die Rolle der „Eureka Machine“
Die „Eureka Machine“ von Recursive ist ein KI-System, das Forschungsansätze vorschlägt, Experimente durchführt und deren Ergebnisse bewertet. Sie war an fast jedem Entwicklungsschritt von Flint beteiligt, von Trainingsdaten bis zur Inferenzoptimierung. Beispiele für ihren Einfluss:
- Die „Eureka Machine“ testete verschiedene Expertenkonfigurationen, um die Architektur zu optimieren. Das resultierende Design mit 40 Milliarden Gesamt- und 2,5 Milliarden aktiven Parametern stellte sich als bester Kompromiss zwischen Geschwindigkeit und Code-Leistung heraus.
- Bei der Quantisierung (Reduzierung der Datengenauigkeit) reduzierte das System die Ausgabeschicht auf vier Bit, entgegen gängiger Praxis. Ein zusätzlicher Destillationsschritt stellte die Genauigkeit wieder her; die finale NVFP4-Version liegt nur 0,7 Punkte hinter der 16-Bit-Version.
- Das System entwickelte zudem spezialisierte Compute Kernels für Apple Silicon und Nvidia RTX Spark. Auf Apples M4- und M5-Chips kombiniert ein Metal Megakernel den gesamten Vorwärtslauf während der Token-Generierung in einem einzigen Vorgang, was die hohe Inferenzgeschwindigkeit ermöglicht.
Lokale Ausführung und Zukunftsambitionen
Flint unterstützt Kontextfenster von bis zu 512.000 Tokens. Die Modellgewichte sind unter Apache 2.0 Lizenz auf Hugging Face verfügbar und können mit gängigen Runtimes genutzt werden; Recursive bietet zudem „rec“, eine eigene Inferenz-Engine für Apple Silicon. Die lokale Ausführung ermöglicht Code-Entwicklung ohne externe Server, erfordert jedoch bei komplexen Aufgaben mehr Anleitung, so Recursive.
Das Startup, das im Mai 2026 mit 650 Millionen US-Dollar Kapital und einer Bewertung von 4,65 Milliarden US-Dollar aus dem Stealth-Modus kam, präsentierte mit Flint sein erstes konkretes Ergebnis eines automatisierten Forschungsprozesses. Recusives langfristiges Ziel ist eine sich selbst verbessernde Superintelligenz. Jedes Modell soll die „Eureka Machine“ als Forscher optimieren. Ob dies zu einer sich beschleunigenden Selbstverbesserung führt, ist in der Fachwelt umstritten; auch andere KI-Labore nutzen KI zur Modellentwicklung, wobei die menschliche Rolle oft entscheidend bleibt.
Thema: DeepMind. Quelle/Inspiration: The Decoder.