Der von Science im Jahr 2016 als „einflussreichster Informatiker“ bezeichnete Michael I. Jordan, Professor emeritus der UC Berkeley und Leiter eines Lehrstuhls am französischen Forschungsinstitut Inria, weist Warnungen vor existenziellen Bedrohungen durch Künstliche Intelligenz (KI) entschieden zurück. Er bezeichnet die Rhetorik um „Superintelligenz“ als „reine Science-Fiction“ und kritisiert die Forderungen von KI-Unternehmen nach Regulierung sowie die Rücktritte junger Forscher als „große moralisierende Performance“.
Kritik an der „KI-Hysterie“
Michael I. Jordan, heute 70 Jahre alt, äußerte sich in einem Interview mit Libération „völlig frustriert“ über den KI-Diskurs des Sommers. Bereits 2019 warnte er vor dem sorglosen Gebrauch des Begriffs „KI“, der die aktuelle Hysterie hervorgerufen habe. Er beobachtet, wie nach „KI“ nun von „AGI“ (Artificial General Intelligence, allgemeine Künstliche Intelligenz) und schließlich von „Superintelligenz“ gesprochen wird.
„Theater“ um Regulierung und Forscher-Rücktritte
Die Forderungen von KI-Unternehmen nach Regulierung bezeichnet Jordan als „Theater“. Die Unternehmen wollten sich damit als „die Guten“ darstellen, während sie tatsächlich die volle Kontrolle über die Regulierung behalten möchten. Auch die Rücktritte junger KI-Forscher, wie im Fall von Jacob Coxon, sieht Jordan kritisch. Er beschreibt viele dieser jungen Mitarbeiter als „nicht wirklich Ingenieure“, die aus den Geisteswissenschaften oder der Philosophie kommen, etwa 25 Jahre alt und naiv seien. Sie hätten keine Erfahrung in großen Unternehmen, in denen diszipliniert reale Produkte für reale Menschen entwickelt werden. Diese Rücktritte seien Teil einer „großen moralisierenden Performance“, die den Beteiligten ermögliche, sich tugendhaft und wichtig zu fühlen, obwohl sie oft bereits über Aktienoptionen verfügten.
Superintelligenz als Science-Fiction
Jordan betont, dass „Superintelligenz“ ein „Science-Fiction-Begriff“ ist. Eine dominante Debatte darüber sei „sehr, sehr schädlich“ für die technologische Entwicklung, junge Menschen und die Denkweise ganzer Länder. Er kritisiert insbesondere Nobelpreisträger Geoffrey Hinton, dessen These, das Gehirn könne in Silizium reproduziert und zu Superintelligenz skaliert werden, er als „nicht glaubwürdig“ und „reines Science-Fiction“ abtut. Jordan merkt an, dass Hinton nie ein Unternehmen gegründet habe, das „echte Dienstleistungen für echte Menschen“ anbietet. Gegenüber Yoshua Bengio zeigt sich Jordan etwas wohlwollender, da dieser „direkt auf Sicherheit fokussierte Dinge“ unternimmt, die sich auf Mängel aktueller KI-Technologien beziehen.
Datenzentren und „dumme Experimente“
Die massiven Investitionen in Datenzentren betrachtet Jordan als „enorme Wette“, deren Ausgang ungewiss sei. Aktuelle große Sprachmodelle (LLMs) seien für Aufgaben der natürlichen Sprachverarbeitung bereits ausreichend. Billionen von Dollar, die in Rechenzentren investiert würden, brächten nicht unbedingt wesentlich mehr. Stattdessen sei oft spezialisiertes Wissen basierend auf lokalen Daten gefragt, wofür keine gigantischen Datenzentren notwendig seien, insbesondere bei der Nutzung von Open-Weight-Modellen. Den Hack von Hugging Face durch OpenAI-Agenten bezeichnet Jordan als schlechtes Engineering und „eher dumme Experimente“, die „Doom-Szenarien“ erst befeuerten. Solche Situationen seien mit der Chemieingenieurkunst, die Explosionen nicht zulassen würde, um zu sehen, wie schlimm es werden kann, nicht vergleichbar.
Thema: Intel. Quelle/Inspiration: The Decoder.