Führende Köpfe der Künstlichen Intelligenz (KI)-Branche warnen eindringlich vor den Risiken der von ihnen entwickelten Technologien. Dario Amodei, CEO von Anthropic, und Sam Altman, CEO von OpenAI, sprachen sich kürzlich dafür aus, das Entwicklungstempo im Bereich der KI zu verlangsamen, um ernsthafte Gefahren zu adressieren. Diese Bedenken wurden von ehemaligen Mitarbeitern wie Jacob Coxon und Evan Hubinger von Anthropic geteilt, die aus Sorge um die Verantwortungslosigkeit der Unternehmen ihre Posten verließen. Hubinger schätzt die Wahrscheinlichkeit, dass KI alle Menschen innerhalb des nächsten Jahrzehnts töten könnte, auf über 10 Prozent.
Eine der größten Befürchtungen ist, dass KI die Entwicklung, Herstellung und Freisetzung von Biowaffen erleichtern könnte. Solche Waffen könnten hochvirulente Viren sein, die Menschen genetisch spezifisch angreifen, Pilze, die Ernten vernichten und Nahrungsmittelknappheit verursachen, oder geruchs- und geschmacklose Toxine, die unentdeckt die Wasserversorgung kontaminieren.
Risikobewertung durch KI-Modelle
Die Besorgnis ist nicht unbegründet. Bereits 2022 demonstrierten Forscher von Collaborations Pharmaceuticals, wie einfach dies mit KI-Tools sein kann. Mithilfe eines von ihnen entwickelten „Molekül-Generators“, der eigentlich zur Entdeckung neuer Medikamente gedacht war, erzeugte das Modell in weniger als sechs Stunden 40.000 Moleküle, die als chemische Kampfstoffe dienen könnten. Einige dieser Substanzen waren demnach potenziell toxischer als bekannte Nervengifte. David Magnus, Professor für Medizin und biomedizinische Ethik an der Stanford University, bezeichnete dieses Ergebnis als „sehr beängstigend“ und einen „Weckruf“ für die Fachgemeinschaft.
Zugänglichkeit und Missbrauchspotenzial
Moderne KI-Bots, insbesondere große Sprachmodelle (Large Language Models, LLMs), die auf einem immensen Korpus wissenschaftlichen Wissens trainiert sind, können detaillierte Anleitungen und sogar Video-Trainings für wissenschaftliche Experimente liefern. Dunja Sabra, Biosecurity-Forscherin an der Universität Hamburg, betont, dass diese Modelle das Wissen „fast jedes Wissenschaftlers, der je auf diesem Planeten gelebt hat“, zugänglich machen. In Kombination mit Fortschritten in der Biotechnologie, die Werkzeuge für Gen-Editierung und synthetische Biologie immer erschwinglicher und für eine breitere Öffentlichkeit zugänglich machen (Stichwort „DIY-Biologie“), entsteht eine potenziell gefährliche Situation. Sabra warnt, dass eine entschlossene Person letztendlich Erfolg haben könnte.
Ein kürzlich veröffentlichter Bericht von Anthropic enthüllte, dass Personen versucht hatten, ihre Modelle zu nutzen, um Wege zu finden, das Chikungunya-Virus übertragbarer zu machen, eine gefährlichere Form der Vogelgrippe für Menschen zu entwickeln und einen „Atlas von Venom-Toxin-Peptiden“ zu erstellen.
Bestehende Schutzmaßnahmen und Herausforderungen
Es gibt bereits Schutzmechanismen: Unternehmen, die DNA-Bausteine liefern, prüfen in der Regel Bestellungen auf verdächtige Anfragen. Verantwortungsbewusste Forscher unterziehen potenziell riskante Projekte „Red-Teaming“-Analysen, bei denen unabhängige Wissenschaftler Missbrauchsmöglichkeiten identifizieren, und „Blue-Teaming“-Analysen, die potenzielle Gegenmaßnahmen entwickeln. Auch KI-Unternehmen passen ihre Tools an, um die Bereitstellung missbrauchsfähiger wissenschaftlicher Informationen zu verhindern. Diese Schutzmaßnahmen sind jedoch nicht lückenlos. Magnus beschreibt einen „ständigen Wettlauf“: Während bessere Überwachungs- und Screening-Tools entwickelt werden müssen, ist KI „sehr gut darin, Wege zu finden, sie zu umgehen“. Er schlägt vor, möglicherweise KI selbst zur Einschränkung der KI-Nutzung einzusetzen.
Unterschiedliche Perspektiven und Präventionsansätze
Nicht alle Wissenschaftler teilen das gleiche Ausmaß der Risikobewertung. Biologen des Imperial College London argumentierten bei einem Medientermin, dass KI-Tools für die vollständige Entwicklung von Biowaffen noch nicht ausreichen und dass das Testen neuer Krankheitserreger aufwendige, zeitintensive menschliche Arbeit erfordert. Einige halten die bestehenden Schutzmaßnahmen für ausreichend. Wendy Barclay, Professorin für Infektionskrankheiten am Imperial College, weist darauf hin, dass das größte Pandemierisiko derzeit nicht von Biowaffen, sondern von bereits zirkulierenden Krankheitserregern ausgeht, wie dem Vogelgrippevirus H5N1, das sich in den USA in Milchviehbetrieben und Nerzfarmen ausgebreitet hat.
Dunja Sabra hingegen plädiert für eine vorausschauende Planung von fünf bis zehn Jahren und fordert die Stärkung der Gesundheitssysteme, die Vorbereitung von Gegenmitteln für bekannte Toxine und die Bevorratung von Medikamenten. Kevin Esvelt, ein MIT-Biologe, äußerte ebenfalls Bedenken und berichtete, dass ein großes Sprachmodell eine „neuartige Form von Biowaffen“ offenbart habe, deren Existenz er zuvor nicht für möglich gehalten hatte, und mahnte zur äußersten Vorsicht.
Thema: OpenAI. Quelle/Inspiration: MIT Technology Review.