Fünfundzwanzig führende Mathematiker, allesamt Träger der renommierten Fields-Medaille, haben in einem offenen Brief ihre Besorgnis über die Auswirkungen von KI-Laboren auf ihre intellektuelle Arbeit zum Ausdruck gebracht. Sie argumentieren, dass der Wettlauf von KI-Firmen um die Lösung berühmter mathematischer Probleme die Grundlagen ihrer Forschung gefährdet.
Konkrete Vorwürfe gegen OpenAI
Die Kritik richtet sich unter anderem gegen OpenAI. Der NYU-Professor Tristan Buckmaster beschuldigte das Unternehmen, ihn unter Druck gesetzt zu haben, einen Mitarbeiter von Anthropic nicht für die Lösung eines wichtigen mathematischen Problems zu nennen. Buckmaster äußerte zudem den Verdacht, OpenAI könnte die gemeinsame Arbeit mit ihrem KI-Modell Codex genutzt haben, um eine eigene bahnbrechende Beweisführung zu erstellen.
Die Spannungen eskalierten weiter, als OpenAI diese Woche seine Sponsoring-Zusage für eine Mathematik-Veranstaltung am CalTech zurückzog, nachdem das Unternehmen von Forschern der Universität kritisiert worden war.
Bedenken der mathematischen Gemeinschaft
Die Unterzeichner des Briefes, deren Auszeichnung als die prestigeträchtigste der Mathematik gilt, betonen, dass die Fähigkeit von KI-Modellen, mathematische Probleme zu lösen, nur dann ein Vorteil für die Menschheit sei, wenn die Lösungen von der mathematischen Gemeinschaft verstanden und kommuniziert werden können. Sie kritisieren, dass solche Lösungen oft überstürzt veröffentlicht werden, ohne Zeit für eine ordnungsgemäße Ausarbeitung, die Isolierung neuer Methoden und Ideen oder das Zitieren relevanter Vorarbeiten anderer. Der von OpenAI beanspruchte Beweis sei beispielsweise noch unbestätigt.
Diese Praxis werfe ernsthafte Fragen der Attribution und des Plagiats auf. Ohne die aktive Beteiligung von Mathematikern, die für die Entwicklung und Integration von Ideen in den mathematischen Kanon sorgen, würden KI-konzipierte Ideen nie vollständig lebendig, und die entscheidende menschliche Übertragungskette ginge verloren.
Innerhalb der mathematischen Gemeinschaft wächst die Paranoia, ob die eigene Nutzung von Modellen wie Codex in neue KI-Modelle von OpenAI einfließt. Es bestehe die reale Gefahr, dass die Kultur der offenen Forschung bedroht werde. Wenn führende KI-Labore einen vielversprechenden Weg zu einer Entdeckung sehen, könnten sie Millionen von Dollar investieren, um mit großen Sprachmodellen (LLMs) die ursprünglichen Forscher bei einem Beweis zu übertreffen – eine Dynamik, die Geheimhaltung fördern würde.
Bedeutung über die Mathematik hinaus
Die Anliegen der Mathematiker ähneln denen, mit denen andere wissenschaftliche und kreative Berufe konfrontiert sind. Sie deuten auf breitere Fragen für die gesamte Menschheit hin: Wie kann sichergestellt werden, dass wir durch die Veränderungen der Arbeitsweise durch KI das ursprüngliche Ziel der Arbeit nicht aus den Augen verlieren?
Der offene Brief folgt der im Juni veröffentlichten Leiden Declaration, einem Dokument einer Mathematiker-Arbeitsgruppe, das sich ebenfalls mit den Auswirkungen von LLM-Beweisen auf ihre Arbeit auseinandersetzt und Empfehlungen für Mathematiker, Institutionen und politische Entscheidungsträger bietet.
Thema: OpenAI. Quelle/Inspiration: TechCrunch.