Forscher des DeepMind Institute, darunter Benjamin Bratton, Blaise Agüera y Arcas und James Manyika, schlagen ein neues Paradigma für die Entwicklung Künstlicher Allgemeiner Intelligenz (KAGI) vor. Sie argumentieren, dass KAGI nicht als einzelne, überlegene Superintelligenz entstehen wird, sondern als komplexes Netzwerk kooperierender KI-Agenten und Menschen. Im Fokus stehe dabei nicht die Größe der Modelle, sondern die Regeln und Institutionen, die deren Zusammenarbeit steuern.
Künstliche Symbiotische Intelligenz als Alternative
Diese Vision, die die Autoren als „Künstliche Symbiotische Intelligenz“ (KSI) bezeichnen, beschreibt ein Ökosystem, in dem Menschen und Maschinen langfristig koexistieren, sich gegenseitig beeinflussen und gemeinsam Entscheidungen treffen. Sie stellt einen direkten Gegenentwurf zur Vorstellung einer „Singularität“ dar – einem Zeitpunkt, an dem eine einzelne, sich selbst verbessernde Superintelligenz die menschliche Kontrolle übertrifft. Die zentrale Herausforderung der KI-Forschung verlagert sich laut den DeepMind-Forschern vom Bau isolierter Maschinenintelligenz hin zur Koordination und Steuerung eines komplexen Netzwerks aus Agenten, Menschen und den verbindenden Systemen.
Intelligenz als soziales Phänomen
Die Idee, dass Intelligenz ein soziales Phänomen und keine individuelle Eigenschaft ist, basiert auf früheren Arbeiten der Autoren. Eine Studie zu Denkmodellen wie DeepSeek-R1 und QwQ-32B zeigte, dass diese Modelle während des Trainings oft Muster entwickeln, die internen Debatten ähneln – sie wechseln Perspektiven, äußern Einwände und gleichen widersprüchliche Ansätze ab. Dieses multiperspektivische, konversationelle Verhalten entsteht, wenn die Modelle durch Reinforcement Learning für ihre Argumentationsgenauigkeit belohnt werden, ohne dass es explizit programmiert wird. Das DeepMind-Essay weitet diese Erkenntnisse von einzelnen Modellen auf das Design von Gesellschaften aus, die aus Menschen und KI-Agenten bestehen.
Historischer Wandel und das Wesen von KI-Agenten
Die Autoren sehen diese Entwicklung als potenziellen historischen Wendepunkt. Während die menschliche Bevölkerung in Industrieländern schrumpft, wächst die Anzahl der KI-Agenten rasant. Dieser Wandel könnte so plötzlich erfolgen, dass er in historischen Maßstäben einem Sprung gleichkommt, vergleichbar mit der Industriellen Revolution, als Maschinen die körperliche Arbeit übernahmen. Ein ähnlicher Schwellenwert könnte erreicht werden, wenn synthetische Text-, Code- und Verwaltungsarbeit die kombinierte Leistung biologischer Gehirne übertrifft.
Ein KI-Agent wird dabei als temporäres Bündel aus Modellen, Rollen, Erinnerungen, ethischen Ausrichtungen, Werkzeugen und Fähigkeiten definiert. Im Gegensatz zu einem Menschen, der ein kontinuierliches Selbst besitzt, wird die Handlungsfähigkeit eines KI-Agenten mit jeder Anfrage neu zusammengestellt. Diese Systeme als digitale Zwillinge mit festen menschlichen Identitäten zu behandeln, verkenne ihre Natur und unterschätze das Potenzial koordinierter Agentenschwärme.
Neue Interaktionsformen und erforderliche Fähigkeiten
Die Interaktion mit KI wird sich laut den Forschern grundlegend ändern. Das direkte Gespräch mit einem Bot könnte eine Übergangsphase sein. Zukünftige Schnittstellen könnten eher visuellen Netzwerkdiagrammen ähneln, die Agenten als Knotenpunkte darstellen und es Nutzern ermöglichen, diese über eine zentrale Übersicht zu steuern. Auch die benötigten menschlichen Fähigkeiten wandeln sich: Statt des traditionellen Programmierens, das auf Konzentration und präzisen Schritten beruht, wird die Koordination von Agentenschwärmen das Arbeiten mit schwer fassbaren Systemen, das Ausprobieren und die Delegation von Aufgaben an Maschinen erfordern.
Für eine effektive Zusammenarbeit ist zudem ein theoretischer Rahmen notwendig, eine Art „Theory of Mind“ für Maschinen, um zu verstehen, wie eine Maschine eine Situation handhabt. Modelle entwickeln bereits eigene Begriffe für ungewöhnliche Zustände in ihren Ausgaben, wie „Session-death“ für das Ende einer Sitzung oder „Prompt thrownness“ für das unvermittelte Eintreten in eine Aufgabe mit vorgegebenem Kontext. Diese Begriffe sollen als Hinweise auf die Funktionsweise der Maschinen dienen, anstatt sie reflexartig zu vermenschlichen.
Regeln und Institutionen für die Zusammenarbeit
Die größte offene Frage ist, wie die Regeln für die Zusammenarbeit zwischen Menschen und vielen Agenten festgelegt werden. Bessere Modelle oder reibungslosere Schnittstellen allein seien nicht ausreichend, und der Markt könne die gesamte Koordination nicht übernehmen, da grundlegende soziale Konzepte nicht auf Preise oder Transaktionen reduziert werden können. Die Autoren fordern daher Institutionen, die menschliche und maschinelle Teilnehmer in klar definierten Rollen zusammenführen. Als Beispiel nennen sie ein Gericht, wo festgelegte Rollen, Regeln und ein geordneter Austausch zu einem Urteil führen. Der Wert einer solchen Institution liege in den Regeln, Verfahren, Präzedenzfällen und Feedback-Schleifen, die das Handeln der Agenten prägen. Erste Anzeichen dieses Ansatzes zeigen sich bereits in modernen Orchestrierungssystemen, die mehrere Modelle koordinieren und oft leistungsfähiger sind als einzelne, vermeintlich „intelligentere“ Modelle.
Thema: DeepMind. Quelle/Inspiration: The Decoder.