Robert O’Callahan, ein technischer Experte bei Google DeepMind in Neuseeland, hat das Unternehmen verlassen. Als Begründung nannte er, dass die aktuelle Geschwindigkeit der KI-Entwicklung „viel zu hoch“ sei und er seinen Beitrag zu dieser Entwicklung nicht länger rechtfertigen könne.
O’Callahan war bei Google DeepMind an der Entwicklung von Chip-Design-Tools beteiligt, die dazu beitrugen, Künstliche Intelligenz (KI) kostengünstiger und schneller zu machen. Diese Arbeit kann er nach eigenen Angaben nicht mehr verantworten, da er die Risiken der rasanten Fortschritte überwiegen sieht. Er beabsichtigt nun, sich „eindeutig pro-menschlicher“ Arbeit zu widmen.
Bedenken bezüglich der Entwicklungsgeschwindigkeit
O’Callahan bezeichnet das Risiko einer superintelligenten KI (ASI), also einer KI, die die menschliche Intelligenz weit übertrifft, als „real, aber ungewiss“. Er betont, dass es „inhärent unverantwortlich“ sei, auf die baldige Entwicklung einer solchen ASI hinzuarbeiten. Seiner Einschätzung nach überwiegen die potenziellen Schäden der KI deren Nutzen.
Er berichtet zudem, dass viele seiner Kollegen bei DeepMind seine Bedenken teilen, diese jedoch selten öffentlich äußern.
Umfassende Risikobewertung
Der scheidende Forscher warnt vor einer Reihe von spezifischen Gefahren, die mit der schnellen Entwicklung von KI einhergehen könnten. Dazu gehören die kognitive Übertragung – die Abgabe menschlicher Denkprozesse an KI –, KI-induzierte Psychosen und Einsamkeit, die Konzentration von Macht in den Händen weniger Akteure, wirtschaftliche Verwerfungen, Cybersicherheitsrisiken sowie ein Mangel an Verantwortlichkeit bei KI-Systemen.
Hintergrund und weitere Perspektiven
O’Callahan verweist in diesem Zusammenhang auf den Artikel „If Anyone Builds It“ von Eliezer Yudkowsky und Nate Soares, ohne jedoch deren Behauptung einer unvermeidlichen Katastrophe durch superintelligente KI zu teilen. Die Autoren sind mit der Bewegung des „effektiven Altruismus“ verbunden, die in der Vergangenheit kritisiert wurde, weil sie Wohltätigkeit der Umverteilung vorziehe. Ein internes Memo des Weißen Hauses soll die Bewegung als kultähnliche Randgruppe dargestellt und den Anthropic-CEO Dario Amodei als Gesicht des KI-„Doomerismus“ bezeichnet haben.
Thema: Google DeepMind. Quelle/Inspiration: The Decoder.