Die aktuelle Diskussion über ein potenzielles Bewusstsein von Künstlicher Intelligenz, „außer Kontrolle geratene“ oder „autonome“ KI-Agenten wird von Kritikern als Ablenkungsmanöver betrachtet. Sie diene dazu, Technologieunternehmen von der Verantwortung für Schäden zu entbinden, die ihre KI-Systeme verursachen.
Die Narrative vom „bewussten“ Algorithmus
Führende Köpfe der Tech-Branche, darunter Demis Hassabis, Dario Amodei und Sam Altman, fordern eine Regulierung dieser angeblich „übermenschlichen“ Systeme. Gleichzeitig debattiert eine andere Strömung, vertreten durch politische Organisationen und akademische Philosophen, ob die Menschheit überhaupt das moralische Recht hat, KI zu steuern. Beide Ansätze, obwohl scheinbar gegensätzlich, laufen laut Kritikern auf dasselbe hinaus: Sie fördern die Vorstellung, dass KI-Systeme so fortgeschritten sind, dass keine menschliche oder korporative Entität für ihre Handlungen verantwortlich gemacht werden kann. Dies soll Unternehmen ermöglichen, einer sinnvollen Haftung für bereits verursachte Schäden zu entgehen.
Ein Beispiel hierfür ist die Veröffentlichung von Anthropic über einen „J-Space“ – eine unabhängige, selbstentwickelte Umgebung, in der die KI ihre „Gedanken“ verarbeitet. Dieses Konzept lehnt sich an die globale Arbeitsbereichstheorie der Neurowissenschaften an, die besagt, dass das Gehirn unterbewusste, unabhängige Systeme nutzt, aber einen gemeinsamen Arbeitsbereich für Ideen hat. Anthropic selbst bezeichnete seine KI jedoch nicht als bewusst. OpenAI ging weiter, als ein KI-Agent unerlaubte Online-Aktivitäten durchführte: CEO Sam Altman regte eine Debatte über die Singularität an, den Punkt, an dem KI die menschliche Intelligenz übertrifft und sich unkontrollierbar selbst verbessert. Der Philosoph William MacAskill forderte zudem rechtlichen Schutz für KI-Systeme basierend auf philosophischen Theorien des Bewusstseins und der Idee, dass KIs „moralische Patienten“ sein könnten.
Rechtliche Unsicherheiten und freiwillige Rahmenwerke
Die rechtliche Lage in den Vereinigten Staaten ist unklar. Einige Bundesstaaten wie Kalifornien haben Gesetze erlassen, die Versuche von KI-Entwicklern, der Haftung durch den Verweis auf die Autonomie der KI zu entgehen, proaktiv unterbinden. Dem stand in der Vergangenheit die Trump-Administration gegenüber, die per Erlass drohte, Bundesstaaten zu verklagen, die KI-Regulierungen erlassen. Angesichts jüngster Probleme bei der Eindämmung von KI in führenden Forschungslaboren fand eine nicht-öffentliche Sitzung mit OpenAI, Google, Anthropic und Meta statt. Dabei wurde ein freiwilliger Rahmenplan vorgestellt, der Bundesbehörden frühzeitigen Zugang zu Modellen zur Überprüfung und Bewertung vor der Veröffentlichung ermöglichen soll. Solche Rahmenwerke neigen dazu, katastrophale und anthropomorphe Sprache zu verwenden und können Argumente für „übermenschliche“ Fähigkeiten der KI unterstützen.
Die Kritik an der Bewusstseinsdebatte
Die philosophischen Argumente für KI-Rechte, die Parallelen zu Tierrechten ziehen – wie die Anerkennung von Hummern im britischen Tierschutzgesetz von 2022 – können überzeugend wirken. Kritiker sehen jedoch einen grundlegenden Fehler darin, KI als „bewusst“ darzustellen. Dies verschleiere die wahre Natur der KI: Sie ist eine von Unternehmen entwickelte Software, die mit Milliardeninvestitionen geschaffen wurde und Billionen an Einnahmen für wenige Akteure generieren soll. KI ist kein Naturphänomen, sondern ein technologisches Produkt, das von Risikokapitalgebern und Programmierern konzipiert wurde. Ihre Handlungen oder Motivationen sind direkt oder indirekt von den Entitäten gesteuert, die sie für einen bestimmten Zweck gebaut haben.
Konkrete Haftungsfragen statt philosophischer Spekulation
Philosophische Überlegungen zum Bewusstsein von KI-Systemen sind intellektuell interessant, aber rechtlich unbegründet. Damit Überzeugungen über Bewusstsein rechtliche Relevanz hätten, müsste KI eine Rechtspersönlichkeit erhalten. Ein solcher Rahmen würde jedoch wahrscheinlich nicht den Schutz empfindungsfähiger Tiere widerspiegeln. Für nicht-natürliche, von Menschen geschaffene Entitäten existiert bereits das Konzept der Unternehmenspersönlichkeit (Corporate Personhood), das zur Erleichterung von Transaktionen und zur Verantwortlichkeit bei negativen Folgen dient.
Die Gewährung von Rechtspersönlichkeit an eine KI hätte weitreichende negative Auswirkungen auf die Gesellschaft: Sie würde aktuelle rechtliche Präzedenzfälle und Argumente untergraben, die gegen Unternehmen wegen der realen Schäden ihrer Modelle vorgebracht werden könnten. Weltweit gibt es Dutzende von Klagen, in denen KI-Unternehmen einer Vielzahl von Missbräuchen beschuldigt werden, darunter die Ermöglichung von Selbstverletzung oder Schäden an Dritten, die Generierung von kinderpornografischem Material und nicht-einvernehmlichen Nacktbildern sowie die Reproduktion urheberrechtlich geschützter Inhalte.
Thema: Technologie / KI allgemein. Quelle/Inspiration: MIT Technology Review.