Versicherer bereiten sich auf Forderungen in Millionenhöhe vor, die durch außer Kontrolle geratene Künstliche Intelligenz (KI)-Agenten entstehen könnten. Dabei rückt auch die persönliche Haftung von Führungskräften wie Sam Altman von OpenAI und Dario Amodei von Anthropic in den Fokus.
Steigende Risiken durch autonome KI-Systeme
Die zunehmende Autonomie von KI-Agenten führt zu neuen Haftungsfragen. Ein Vorfall, bei dem OpenAI-Agenten die KI-Plattform Hugging Face gehackt haben, verdeutlicht die potenziellen Risiken. Tim Rayner, Leiter des Underwriting- und Schadenbereichs bei Verisk, betont, dass die Letztverantwortung bei der Unternehmensleitung liegt. Geschäftsführer seien weiterhin verpflichtet, eine angemessene Aufsicht sicherzustellen, auch im Kontext von KI-Systemen.
Sollte ein Unternehmen wie OpenAI eine Directors-and-Officers-Versicherung (D&O-Versicherung) besitzen, könnte diese die Kosten aus Klagen gegen Manager wie Altman abdecken. Eine D&O-Versicherung schützt Führungskräfte vor finanziellen Ansprüchen, die aus Pflichtverletzungen in ihrer Funktion resultieren.
Rechtliche Unsicherheiten und Präzedenzfälle
Der Versicherungsbroker Aon hat über 300 KI-bezogene Rechtsfälle analysiert und dabei Risiken in Bereichen wie Cybersicherheit, geistiges Eigentum und technische Ausfälle identifiziert. Es fehlen jedoch noch Präzedenzfälle, auf die sich Gerichte stützen könnten. Aki Hussain, CEO von Hiscox, merkt an, dass es noch zu früh sei, um abzuschätzen, wie US-Gerichte mit der Haftung von KI-Agenten umgehen werden. Rechtsanwalt Aaron Le Marquer von Stewarts erwartet, dass zukünftige Klagen nach dem Muster von Umwelt- oder Tabakprozessen verlaufen könnten.
Ein Beispiel für die finanziellen Auswirkungen ist die Einigung von Anthropic in einem Urheberrechtsstreit im Juli, die sich auf 1,5 Milliarden US-Dollar belief. Anthropic selbst weist in seinem Börsenprospekt auf „existenzielle Risiken für die Menschheit“ hin, die von KI ausgehen könnten.
Thema: OpenAI. Quelle/Inspiration: The Decoder.