OpenAI hat am Montag beeindruckende Durchbrüche in Mathematik, Informatik und Physik verkündet. Gleichzeitig stellte das Unternehmen einen sich entwickelnden Ansatz zur Kommunikation dieser Ergebnisse vor. Trotz dieser scheinbaren Kurskorrektur zeigen sich Forscher, die sich gegenüber The Verge äußerten, zunehmend frustriert über das Vorgehen des Unternehmens.
Bereits in den vergangenen Monaten gab es Spannungen zwischen OpenAI und Mathematikern, die sich noch immer mit Hunderten von Preprints – also Vorabveröffentlichungen wissenschaftlicher Artikel – auseinandersetzen, die im Oktober ohne weitere Erläuterungen bereitgestellt wurden. Nun gibt OpenAI an, mit externen „Experten-Hirten“ zusammenzuarbeiten, um die beste Art der Veröffentlichung seiner neuesten Erkenntnisse zu bestimmen.
OpenAIs neue Veröffentlichungsstrategie
Die drei aktuellen Ergebnisse betreffen zentrale ungelöste Probleme in Mathematik, Informatik und Physik. Einige bauen auf früheren Arbeiten von OpenAI auf, andere erschließen Neuland. Basierend auf den Empfehlungen der „Experten-Hirten“ verfolgt OpenAI für jedes Ergebnis eine andere Veröffentlichungsstrategie:
- Für das Mathematik-Ergebnis wurde die von KI generierte Ausgabe freigegeben, sodass Forscher ihre eigenen Anstrengungen zur Erklärung des Ergebnisses organisieren können.
- Für die Informatik-Erkenntnis wird OpenAI eine externe Gruppe von Forschern zusammenstellen, die das Ergebnis erläutern soll.
- Das Physik-Ergebnis wurde bisher überhaupt nicht veröffentlicht; OpenAI überlässt es einer externen Expertengruppe, wie die Materialien freigegeben werden sollen.
Angesichts der unterschiedlichen Offenlegungsgrade und der Komplexität der Bewertung solcher Arbeiten ist es für Forscher schwierig, die Ergebnisse vollständig zu beurteilen. Selbst mit allen Informationen würde dies Zeit in Anspruch nehmen. Die von The Verge befragten Experten bezeichneten die Ergebnisse jedoch als „riesig“, „große Durchbrüche“ und „bedeutend“ und sehen gute Gründe, sie ernst zu nehmen.
Kritik an der Zugangsregulierung
Die Begeisterung der Forscher über die wissenschaftlichen Fortschritte wird jedoch durch Frustration über OpenAIs Vorgehen getrübt. Viele wünschen sich, dass die breitere wissenschaftliche Gemeinschaft die anspruchsvolle Aufgabe der Überprüfung der KI-Erkenntnisse übernehmen kann und hinterfragen, warum OpenAI zusätzliche Barrieren errichtet, indem es Experten für die Überwachung des Prozesses auswählt.
Die meisten von The Verge befragten Experten begrüßten OpenAIs Entscheidung, externe Forscher zu konsultieren. Sie argumentierten jedoch, dass die öffentliche Ankündigung von Ergebnissen auch bedeuten sollte, diese Arbeit für jedermann zur Prüfung zugänglich zu machen. Constantin Kogler, ein Forscher am Institute for Advanced Study, begrüßte die überschaubarere Anzahl von drei Ergebnissen im Vergleich zu den Hunderten zuvor. Er hinterfragte jedoch die Entscheidung, den Zugang auf von OpenAI ausgewählte Experten zu beschränken. „Es ergibt keinen Sinn, dass zuerst nur wenige ausgewählte Wissenschaftler sie einsehen können“, so Kogler.
Andreas Karch, Physikprofessor an der University of Texas at Austin, bezeichnete die Handverlesung der Gruppe als „Katastrophe“. Er betonte, dass große Labore bereits über ausreichend Macht verfügten und nicht „Gewinner und Verlierer“ bestimmen sollten. Karch sprach sich für eine sofortige Veröffentlichung der Beweise aus, um den Zugang zu demokratisieren und gleichzeitig zu zeigen, dass OpenAI an der Verständlichkeit der Ergebnisse interessiert ist.
Die Advisory Group on Mathematics and Artificial Intelligence (AGMAI), eine Expertengruppe, die OpenAI zuvor zur Beratung bei der Veröffentlichung von Erkenntnissen zugesagt hatte, warnte bereits einen Tag vor der Ankündigung vor genau dieser Art der Zugangsregulierung. Sie empfahl, dass KI-Unternehmen diese Praxis nicht anwenden sollten, da die Auswahl bestimmter Personen, die die Ergebnisse zuerst erhalten, „unnötig“ sei, den Ruf ausgewählter Forscher nutze und Ungleichheit, voreingenommene Auswahl und Verzögerungen riskiere. Stattdessen empfahl AGMAI, dass KI-Labore ihre Ergebnisse in wissenschaftlichen Repositorien veröffentlichen, mit formalisierten Beweisen und Informationen zur Problemstellung, und Unterstützung für die Erforschung der Ergebnisse bereitstellen sollten.
Nach der Veröffentlichung der neuesten Ergebnisse forderte AGMAI OpenAI auf, die Ergebnisse im Bereich Physik unverzüglich öffentlich zugänglich zu machen. Die Gruppe betonte, dass das Verständnis sich offen entwickeln sollte, mit gleichem Zugang für alle.
OpenAI selbst räumt ein, dass es verschiedene Ansätze ausprobiert und jeder Kompromisse mit sich bringt. Jared Duker Lichtman, Mathematiker in Stanford, bemerkte dazu: „Mein Gefühl ist, dass es bei jedem Ansatz jemanden geben wird, der verärgert ist. Es geht also nur darum, die am wenigsten anstößige Option zu finden.“
Thema: OpenAI. Quelle/Inspiration: The Verge.