Der Harvard-Psychologe Steven Pinker bezeichnet Ängste vor einer KI-gesteuerten Auslöschung der Menschheit als übertrieben. Er lehnte eine öffentliche Debatte über existenzielle KI-Risiken mit dem einflussreichen Tech-Blogger und Psychiater Scott Alexander ab, da er solche Veranstaltungen als „Zuschauer-Sport“ betrachtet. Pinker machte seinen Standpunkt in einem offenen Brief auf der Plattform Quillette deutlich.
Pinkers Argumentation gegen Untergangsszenarien
Pinker argumentiert, dass gängige Untergangsszenarien, wie das des Büroklammer-Maximierers – ein bekanntes Gedankenexperiment, bei dem eine Künstliche Intelligenz die Menschheit opfert, um möglichst viele Büroklammern zu produzieren – Intelligenz mit einem Drang zur Herrschaft verwechseln. Solche Annahmen würden zudem davon ausgehen, dass KI-Systeme sich manisch auf ein einziges Ziel fixieren.
Obwohl Pinker in der Vergangenheit optimistisch in Bezug auf Künstliche Intelligenz war, räumt er ein, die Leistungsfähigkeit großer Sprachmodelle (Large Language Models, LLMs) und die rücksichtslose Art der Produktveröffentlichung durch KI-Unternehmen unterschätzt zu haben. Er weist darauf hin, dass die aktuelle Geschwindigkeit der Produktveröffentlichung ironischerweise von jenen Kreisen vorangetrieben wird, die gleichzeitig vor den Risiken warnen.
Fokus auf Sicherheitstechnik statt Panikmache
Die Gefahren, die Pinker ernst nimmt, sind Bioterrorismus, Cyberangriffe und unkontrollierte KI-Agenten. Er ist überzeugt, dass Untergangs-Rhetorik diese Probleme nicht lösen wird. Stattdessen plädiert er für eine nüchterne Sicherheitstechnik, die auf unabhängiger Aufsicht, Haftung und menschlicher Kontrolle basiert.
Scott Alexander legte seine eigene Position bereits im Juni auf seinem Blog dar. Er schätzt die Wahrscheinlichkeit, dass KI die Menschheit auslöscht, auf 20 Prozent ein. Alexander fordert sowohl eine verbesserte Sicherheitsforschung als auch internationale Abkommen zur Verlangsamung der KI-Entwicklung.
Thema: Technologie / KI allgemein. Quelle/Inspiration: The Decoder.