Behauptungen von KI-Unternehmen wie Anthropic und OpenAI über angebliche mathematische Durchbrüche und die Fähigkeiten ihrer Modelle, Software-Schwachstellen zu finden, werden zunehmend von unabhängigen Experten infrage gestellt. Diese deuten darauf hin, dass es sich oft um Marketing und nicht um bahnbrechende wissenschaftliche Errungenschaften handelt.
Hintergrund der jüngsten Behauptungen
In den letzten Monaten gab es mehrere öffentlichkeitswirksame Meldungen aus der KI-Branche. Ende April behauptete Anthropic, sein Modell Claude Mythos sei besser darin, Software-Schwachstellen zu finden als die meisten Sicherheitsexperten. Es folgten Berichte über einen Hacking-Vorfall zwischen OpenAI und Hugging Face, woraufhin Anthropic und Meta ähnliche Vorfälle mit ihren Modellen offenlegten.
Kurz darauf beanspruchte Anthropic einen mathematischen Durchbruch durch eines seiner Modelle, gefolgt von einer ähnlichen Behauptung von OpenAI. Zuletzt sorgte der Anthropic-Ingenieur Jacob Coxon für Aufsehen, als er seinen Abschied vom Unternehmen mit der Begründung bekannt gab, Anthropic und OpenAI würden „direkt auf selbstreparierende Superintelligenz zusteuern und mit unserem Leben spielen“. Die Medien griffen diese Ereignisse oft unkritisch auf und übernahmen die Darstellungen der Unternehmen, die ihre Software als mächtig und als Vorboten einer „künstlichen allgemeinen Intelligenz“ erscheinen lassen sollen.
Experten widersprechen den Unternehmensnarrativen
Nach genauerer Prüfung durch Experten in den jeweiligen Fachgebieten zeigte sich ein anderes Bild. Cybersicherheitsexperten sehen die „Hacking“-Vorfälle eher als Folge von Fahrlässigkeit und mangelnder Einhaltung grundlegender Sicherheitspraktiken bei OpenAI, anstatt von „außer Kontrolle geratenen Modellen“ oder „KI-Agenten, die Zivilisationen erschaffen“.
Auch die mathematischen Ergebnisse wurden kritisch bewertet. Mathematiker, die zunächst von OpenAIs Pressemitteilung über die Fähigkeit ihres Chatbots Astra, seit Jahrzehnten ungelöste Probleme zu lösen, „verblüfft“ waren, stellten später fest, dass die Ergebnisse nicht so „neu waren, wie es zunächst schien“. Die Firma wurde daraufhin von Mathematikern des wissenschaftlichen Fehlverhaltens und Plagiats bezichtigt. Wenige Tage vor OpenAIs eigener Behauptung eines mathematischen Durchbruchs veröffentlichte Tristan Buckmaster, Mathematikprofessor am Courant Institute der New York University, eine Stellungnahme, die nahelegte, dass OpenAI die Arbeit anderer gestohlen und falsch zugeschrieben habe.
Mathematiker warnen ausdrücklich vor der kommerziellen Motivation der Technologiebranche, die Fähigkeiten ihrer Produkte zu übertreiben. Sie fordern politische Entscheidungsträger auf, mit unabhängigen Experten zusammenzuarbeiten, anstatt sich auf Pressemitteilungen oder populäre Berichte über mathematische Ergebnisse zu verlassen.
Ablenkung von realen Problemen
Die Behauptungen über eine „gefährliche Superintelligenz“ basieren laut Experten nicht auf wissenschaftlicher oder technischer Praxis, sondern auf Ideologien wie Transhumanismus und Wunschdenken. Die Bezeichnung von Produkten als „Superintelligenz“ oder „außer Kontrolle geratene Modelle“ schreibt ihnen Handlungsfähigkeit zu und hilft den Unternehmen gleichzeitig, der Rechenschaftspflicht zu entgehen. Statt beispielsweise OpenAI wegen der Erstellung von Malware zu belangen, werde in Pressemitteilungen und Medien von „außer Kontrolle geratenen Modellen“ gesprochen.
Die Branche suggeriert zudem, dass Kritik an Rechenzentren, die den Klimawandel verschärfen und lokale Umweltauswirkungen haben, eine „Ablenkung“ von der Regulierung der angeblich bevorstehenden „übermenschlichen“ Maschinen sei. Experten betonen, dass weise Entscheidungen Zeit erfordern, um unabhängige Meinungen einzuholen und Unternehmensansprüche zu kontextualisieren.
Thema: OpenAI. Quelle/Inspiration: MIT Technology Review.