OpenAI hat eine neue unabhängige Beratergruppe für Mathematik und Künstliche Intelligenz (AGMAI) ins Leben gerufen, um die Kommunikation mathematischer Forschungsergebnisse zu verbessern. Die Gründung erfolgte am 21. September, doch die Art und Weise der Ankündigung durch OpenAI führte zu Verwirrung über die tatsächliche Unabhängigkeit der Gruppe.
Hintergrund der AGMAI-Gründung
Die AGMAI wurde durch einen Gastbeitrag auf dem Blog von Terence Tao, einem Mathematikprofessor der UCLA und Fields-Medaillengewinner, bekannt gegeben. Tao ist bekannt für seine Kritik am Vorgehen von KI-Unternehmen im Bereich Mathematik. Die Gruppe besteht aus neun führenden Mathematikern und soll OpenAI sowie andere führende KI-Labore bei der Überprüfung und Kommunikation neuer Ergebnisse beraten.
OpenAI betonte in seiner eigenen Ankündigung wiederholt die Unabhängigkeit der Gruppe. Die Mitglieder sollten demnach die Freiheit haben, das Unternehmen öffentlich herauszufordern, ihre Ratschläge zu veröffentlichen und unaufgeforderte Empfehlungen abzugeben. Gleichzeitig wurden die Grenzen des Einflusses der Gruppe klar definiert: Sie ist nicht dafür zuständig, OpenAI bei der internen Geschwindigkeit des mathematischen Fortschritts zu beraten.
Zweifel an der Unabhängigkeit der Beratergruppe
Die weitaus lautere Ankündigung durch OpenAI führte jedoch zu einer breiten Verwirrung. Viele Mathematiker gingen davon aus, dass es sich bei der AGMAI um ein von OpenAI ernanntes Gremium handelte. Diese Annahme war nicht unbegründet, da auf der Webseite der AGMAI vermerkt ist, dass die Gruppe entstand, nachdem OpenAI einige der späteren Mitglieder bezüglich der Gründung eines Beirats angesprochen hatte, bevor diese sich zur Unabhängigkeit entschlossen und weitere Mitglieder einluden.
Martin Hairer, ein Mitglied der AGMAI und Mathematikprofessor am Imperial College London sowie an der EPFL, betonte in einem Gespräch mit The Verge die Unabhängigkeit der Gruppe von OpenAI. Er bestätigte, dass die Gruppe keine finanzielle, technische oder sonstige Unterstützung von OpenAI erhält und dass keines ihrer Mitglieder Vereinbarungen unterzeichnet hat, die über übliche Vertraulichkeitsanforderungen für den Zugang zu fortgeschrittener Forschung hinausgehen. Hairer beschrieb die Tage nach der Ankündigung als „sehr frustrierende“ und „intensive“ Erfahrung und merkte an, dass die Formulierung der OpenAI-Ankündigung der jungen Gruppe nicht geholfen habe, ihre Unabhängigkeit zu etablieren, obwohl der Wortlaut „sorgfältig“ gewesen sei.
OpenAIs Umgang mit mathematischen Durchbrüchen
OpenAI hat in den letzten Monaten beeindruckende mathematische Durchbrüche erzielt, diese jedoch wiederholt unglücklich kommuniziert und damit die mathematische Gemeinschaft verprellt. Ein Beispiel hierfür war die Lösung eines bedeutenden Millennium-Preisproblems, die zu Streitigkeiten über Urheberschaft und die Behandlung von Mathematikern führte.
Die Dringlichkeit der aktuellen Situation könnte darauf zurückzuführen sein, dass OpenAI nach eigenen Angaben mehr als 100 lange bestehende offene Probleme in verschiedenen Bereichen der Mathematik durch ein noch unveröffentlichtes Modell gelöst hat. Die Aussicht auf diese „Flutwelle von Durchbrüchen“ weckt bei Forschern bereits Besorgnis über die möglichen Auswirkungen auf ihr Fachgebiet. OpenAI versuchte durch die Einberufung der AGMAI, ein weiteres PR-Desaster zu vermeiden. Doch das laute Hervorheben der schieren Anzahl der wartenden Ergebnisse unterstreicht, wie sehr OpenAI in der mathematischen Gemeinschaft als Außenseiter wahrgenommen wird.
Thema: OpenAI. Quelle/Inspiration: The Verge.