OpenAI hat am Donnerstag sein neuestes KI-Modell namens Astra veröffentlicht. Das Unternehmen bewirbt Astra als sein bisher leistungsfähigstes und fähigstes Modell, das eine „neue Grenze der Computer- und Browsernutzung“ darstelle und Aufgaben mit „beispielloser Geschwindigkeit, Genauigkeit und Sicherheit“ bewältigen soll.
Verfügbarkeit und Leistungsansprüche
Astra ist ab Donnerstag zunächst für Kunden des Cybersicherheitsprogramms Daybreak verfügbar. In der kommenden Woche wird es auch über OpenAIs kostenpflichtige Abonnements wie Pro, Plus, Enterprise und Business sowie über die API zugänglich gemacht.
Greg Brockman, Präsident von OpenAI, bezeichnete Astra in einem Journalisten-Call als das „intelligenteste und, sehr wichtig, am besten abgestimmte Modell“ des Unternehmens. Er betonte, es vereine „Jahre unserer Forschung und großer Wetten, wobei jeder Durchbruch auf dem vorherigen aufbaute“ und stelle eine „echte Verschiebung dar, welche Art von Arbeit Menschen an KI delegieren können und wie sie sie befähigen kann.“
Fokus auf Cybersicherheit und Software-Entwicklung
OpenAI hob die Cybersicherheitsfähigkeiten von Astra hervor. Das Modell wurde laut Unternehmen auf verschiedene Sicherheits-Benchmarks getestet und soll „die Fähigkeit besitzen, Zero-Day-Exploits zu identifizieren und zu entwickeln, um Verteidigern beim Auffinden und Patchen von Schwachstellen zu helfen.“ Das Unternehmen veröffentlichte zudem einen Blogbeitrag über neue Fähigkeiten und Schutzmechanismen.
Astra wird von OpenAI auch als das „beste Modell für Software-Engineering bis heute“ beworben. Benchmark-Tests sollen zeigen, dass Astra bei Aufgaben wie dem Auffinden von Fehlern, dem Ausführen von Terminal-Aufgaben und dem Beantworten von Anfragen zu Codebasen besser abschneidet als andere Modelle, einschließlich OpenAIs Sol und Anthropics Fable.
Kontroverse um Modell-Transparenz
Astra ist potenziell auch OpenAIs umstrittenstes Modell. Dies liegt an der Verwendung einer Reasoning-Technik namens „opaque recurrence“ (undurchsichtige Rekurrenz). Diese Technik erschwert die Überwachung des „chain of thought“ (Gedankenkette), eines wichtigen Prozesses, der Forschenden Einblicke in die Entscheidungsfindung eines KI-Modells gibt.
Jakub Pachocki, Chefwissenschaftler bei OpenAI, spielte den Grad der undurchsichtigen Rekurrenz herunter. Er deutete an, dass ein gewisses Maß an Opazität eine natürliche Folge der Modellentwicklung sei. Pachocki erklärte, die Überwachung des Reasoning-Prozesses sei eine kritische Form der Aufsicht, werde aber „mit zunehmender Modellfähigkeit schwieriger“. Ein Grund dafür könne sein, dass „leistungsfähigere Modelle härtere Aufgaben mit weniger oder gar keinen Sprach-Tokens ausführen können“, was die Überwachung dieser spezifischen Aufgaben reduziere.
Diskussion um Künstliche Allgemeine Intelligenz (AGI)
Auf die Frage eines Reporters, ob Astra die offizielle Ankunft von AGI (Artificial General Intelligence) – dem oft diskutierten Punkt, an dem KI menschliche Fähigkeiten übertrifft – bedeute, reagierte Brockman differenziert. Er stellte klar, dass es „keine vertragliche AGI-Auslösung mehr gibt“, womit er sich auf eine frühere Vereinbarung mit Microsoft bezog, die im Falle von AGI die Partnerschaft aufgelöst hätte.
Brockman definierte AGI stattdessen als ein „Missionskonzept oder spirituelles Konzept“ und überließ es dem Leser, selbst zu entscheiden, ob Astra diese Kriterien erfüllt. Persönlich befand er: „Für mich persönlich denke ich, dass wir dort sind.“
Thema: OpenAI. Quelle/Inspiration: TechCrunch.