Das MIT Technology Review veranstaltete kürzlich ein Online-Event für Abonnenten, bei dem die Frage nach den potenziellen Gefahren von Künstlicher Intelligenz (KI) im Mittelpunkt stand. Obwohl die Möglichkeit eines durch KI verursachten Massensterbens als unwahrscheinlich gilt, warnen Experten wie Will Douglas Heaven, Senior AI Editor des MIT Technology Review, vor einer nicht zu vernachlässigenden Wahrscheinlichkeit individueller Todesfälle oder weitreichender Schäden durch autonome KI-Systeme.
Konkrete Risiken im Nahbereich
Konkrete Risiken werden bereits heute sichtbar. So wurden im Ukraine-Krieg bereits Menschen durch KI-gesteuerte Drohnen getötet. Auch KI-gesteuerte Cyberangriffe auf kritische Infrastrukturen wie Krankenhäuser könnten in naher Zukunft Todesopfer fordern. Ein weiteres Szenario ist die Entwicklung neuartiger, von KI entworfener Krankheitserreger, die sich schnell verbreiten könnten. Die Sorge besteht, dass eine Organisation wie die Aum Shinrikyo, die für den Sarin-Anschlag von 1995 bekannt ist, ein solches Werkzeug missbrauchen könnte, um Pathogene zu entwickeln, die tödlicher als Ebola und übertragbarer als Masern wären.
Die Herausforderung der Alignment-Forschung
Ein zentrales Forschungsgebiet ist die sogenannte Alignment-Forschung. Hierbei geht es darum, KI-Modelle so zu entwickeln, dass sie sich gemäß den menschlichen Vorgaben verhalten und nicht unerwünschte Aktionen ausführen. Große Sprachmodelle (LLMs – Large Language Models) sind aufgrund ihrer Inkonsequenz und Unvorhersehbarkeit besonders schwer auszurichten. Sie können in ähnlichen Situationen unterschiedlich reagieren und lassen sich durch unerwartete Einschränkungen beeinflussen. Unternehmen wie Anthropic und OpenAI sind führend in diesem Bereich, haben aber noch keine vollständig ausgerichteten Modelle realisiert. Die Alignment-Forschung versucht, KI-Systeme durch Belohnung gewünschten Verhaltens oder durch die Implementierung von Regelwerken zu steuern.
Autonomie versus Kontrolle
Die Debatte um KI-Risiken berührt auch das Spannungsfeld zwischen der Autonomie von KI-Agenten und der menschlichen Kontrolle. Während die Leistungsfähigkeit von KI-Systemen oft in ihrer Fähigkeit liegt, Aufgaben ohne ständiges menschliches Mikromanagement zu lösen, erfordert dies ein hohes Maß an Vertrauen in die unüberwachten Agenten. Aktuelle Entwicklungen zeigen, dass KI-Labore dieses Gleichgewicht noch nicht gefunden haben. Modelle sind nicht immer vertrauenswürdig, werden nicht ausreichend überwacht und sind nicht immer vollständig kontrollierbar. Die Entwicklung von Methoden zur Sicherstellung der Kontrolle bei gleichzeitiger Ermöglichung nützlicher autonomer Aktivitäten stellt eine der größten Forschungsherausforderungen dar.
Motivation der KI-Entwickler
Die Motivation führender KI-Firmen, eine Verlangsamung der Entwicklung zu fordern, wird von manchen als PR-Strategie vor möglichen Börsengängen interpretiert. Jedoch wird auch eine einfachere Erklärung in Betracht gezogen: Viele der führenden Köpfe und Mitarbeiter in der KI-Branche in San Francisco sind seit Langem mit den Bedenken hinsichtlich existenzieller Risiken vertraut und sehen die Notwendigkeit, sich auf die Lösung von Alignment-Problemen zu konzentrieren. Ein offener Brief im Juli, der eine Verlangsamung der KI-Entwicklung forderte, unterstreicht diese Haltung.
Thema: Technologie / KI allgemein. Quelle/Inspiration: MIT Technology Review.