Die USA und China, die weltweit führenden Nationen im Bereich Künstliche Intelligenz (KI), haben diese Woche erste Gespräche über die Sicherheit von KI-Systemen aufgenommen. Vor einem bevorstehenden Treffen zwischen Donald Trump und Xi Jinping kündigte US-Finanzminister Scott Bessent die Erörterung eines neuen Benachrichtigungsmechanismus für KI-Sicherheit an. Dieses System soll eine direkte Kommunikationslinie schaffen, um Warnungen bei potenziellen Bedrohungen oder unvorhersehbarem Verhalten von KI-Systemen auszutauschen und eine gemeinsame Vision von Zielen zu teilen.
Die vorgeschlagene Initiative erfolgt in einer Phase angespannter Beziehungen zwischen den beiden Mächten. Die USA haben in jüngster Zeit Exportkontrollen verschärft, um Chinas Zugang zu KI-Technologien zu beschränken, und der US-Kongress erwägt weitere Maßnahmen. Zudem beschuldigte das US-Justizministerium chinesische KI-Hersteller des Diebstahls von US-Forschungsergebnissen, was China vehement bestreitet. Trotz dieser Spannungen und Trumps wiederholter Äußerungen über die Notwendigkeit der US-Dominanz in der KI-Entwicklung haben die chinesischen Vertreter an den Gesprächen teilgenommen.
Zweifel an der Wirksamkeit des Systems
China hat das vorgeschlagene Warnsystem bisher nicht öffentlich kommentiert. Beobachter äußern zudem Bedenken hinsichtlich der praktischen Umsetzung. Quellen, die mit Bessents Plan vertraut sind, bezeichneten ihn als oberflächlich, da er keine technischen Experten vorsieht, die die Dringlichkeit von Risikomeldungen bewerten könnten. Sam Bresnick, Wissenschaftler am Center for Security and Emerging Technology der Georgetown University, bezeichnete die fehlende Beteiligung von Fachexperten als „rote Flagge“. Obwohl er den bestehenden Kommunikationskanal als besser als keinen neuen Kanal ansieht, äußerte er wenig Zuversicht, dass dies einen wesentlichen Unterschied machen werde.
Su Lian Jye, Chefanalyst bei Omdia, sieht im Austausch von KI-Warnungen zwar eine Möglichkeit, die Transparenz zu fördern, bezweifelt jedoch, dass dies das Misstrauen zwischen den Ländern verringern wird. Für eine effektive Nutzung des Mechanismus seien weitreichendere Einigungen notwendig, etwa über Risikoklassifikationen, Auslöser für Benachrichtigungen, Reaktionsprotokolle und regelmäßige Überprüfungsverfahren.
US-Repräsentant Ro Khanna forderte, die Gespräche müssten über die Einrichtung einer einfachen Kommunikationslinie hinausgehen. Er plädierte für ein internationales Abkommen, das dringend ein Verbot „rekursiver selbstverbessernder KI“ und Schutzmaßnahmen gegen den Missbrauch von KI für biologische oder nukleare Waffen umfassen sollte.
Potenzial für zukünftige Zusammenarbeit
Dennoch wird der Austausch von Sicherheitswarnungen von einigen Experten als ein annehmbarer erster Schritt zur Verbesserung der US-chinesischen Koordination im KI-Bereich gewürdigt. Alvin Wang Graylin, ein globaler Technologiestratege des Stanford Digital Economy Lab, zeigte sich überrascht von dieser positiven Entwicklung und wertete die bereits für November angesetzten weiteren Treffen als Zeichen dafür, dass beide Seiten den Gesprächen Wert beimessen.
Graylin betonte, dass die USA und China viele KI-Risiken teilen, sowohl existenzielle Bedrohungen als auch Risiken durch böswillige Akteure wie Hacker oder Terroristen. Er hob hervor, dass China, das regelmäßig KI-Modelle auditiert, Wissen teilen könnte, während die USA möglicherweise mehr Erfahrung mit der Auditierung von fortgeschrittenen Modellen beisteuern könnten. Beide Länder würden erkennen, dass die Kontrolle von KI-Risiken eine Zusammenarbeit erfordere.
Bresnick merkte an, dass die Gespräche eine Gelegenheit bieten könnten, die unterschiedlichen Risikowahrnehmungen zu ergründen. Während in den USA Ängste vor unkontrollierbarer KI bestehen, sei diese Furcht in China weniger ausgeprägt, da der Staat dort das Gefühl habe, KI kontrollieren zu können. Diese Perspektive könnte sich ändern, wenn Chinas fortgeschrittene KI-Fähigkeiten denen der USA näherkommen.
Thema: Intel. Quelle/Inspiration: Ars Technica.