Anthropic, ein Entwickler von Künstlicher Intelligenz, hat seine Nutzungsrichtlinien für das KI-Modell Claude erstmals seit über einem Jahr angepasst. Die Änderungen reagieren auf neue und risikoreiche Missbrauchsfälle, darunter Wahlbeeinflussung, Waffenentwicklung, Überwachung sowie Anwendungen im Gesundheits- und Finanzbereich. Eine der bedeutendsten Neuerungen betrifft das Verbot von „anhaltendem und unnötigem missbräuchlichem oder grausame Verhalten“ gegenüber Claude.
Verbot von Missbrauch und „Modell-Wohlbefinden“
Bereits im August letzten Jahres kündigte das Unternehmen an, Claude zu erlauben, Gespräche mit „anhaltend schädlichen oder missbräuchlichen“ Nutzern zu beenden. Dies war Teil der Forschung zum sogenannten „Modell-Wohlbefinden“ (model welfare), einem Forschungsbereich, der sich mit dem potenziellen Wohlergehen von KI-Modellen befasst. Die aktualisierte Richtlinie bestätigt, dass das Beenden von Konversationen weiterhin der „primäre Durchsetzungsmechanismus“ ist. Anthropic äußerte sich nicht dazu, ob weitere Durchsetzungsmechanismen, wie beispielsweise Nutzersperren, geplant sind. Das Unternehmen betonte, dass die neue Richtlinie nur in extremen Fällen Anwendung finde, in denen Nutzer wiederholt und ohne erkennbaren Zweck grausam gegenüber den Modellen agieren. Sie gelte nicht für übliche Frustrationen, Widersprüche, dunkle kreative Themen oder Tests und Forschung am Modell.
Regulierung von Propaganda und Wahlbeeinflussung
Über das Modell-Wohlbefinden hinaus hat Anthropic bestehende Beschränkungen zu einer neuen Regelung gegen irreführende kommerzielle oder politische Kampagnen zusammengefasst, um der wachsenden Verbreitung von KI-generierter Propaganda entgegenzuwirken. Diese verbietet „Bemühungen, die Urheberschaft einer Nachricht zu verschleiern oder Inhalte durch gefälschte Konten oder Beiträge zu verstärken“. Der Abschnitt zu Wahlen untersagt zudem die Täuschung von Wählern und die Störung von Wahlen, einschließlich der Verbreitung von Fehlinformationen über Kandidaten oder Wahlverfahren, der Nachahmung von Kandidaten oder Wahlbeamten sowie Versuche, die Wahlbeteiligung zu unterdrücken.
Verschärfte Regeln für Waffenentwicklung und Überwachung
Obwohl die Nutzungsrichtlinien von Anthropic die Entwicklung von Waffen mittels Claude schon immer untersagten, verzeichnete das Unternehmen mehrere Versuche, Claude zur Entwicklung von Anleitungen und Steuerungssoftware für Waffen zu nutzen. Die neue Richtlinie erweitert das Verbot daher auf „Software und Komponenten, die Waffen funktionsfähig machen, sowie auf Handlungen wie das Bewaffnen von Drohnen und anderen autonomen Fahrzeugen“.
Angesichts eines früheren Bedrohungsanalyseberichts, der eine zunehmende Nutzung von Claude-gestützter Überwachung zur Identifizierung und Verfolgung „politischer Dissidenten“ aufzeigte, wurden auch die Überwachungsverbote präzisiert. „Die Verfolgung von Personen ohne deren Zustimmung ist untersagt, sei es in Echtzeit oder durch Analyse zuvor gesammelter Daten“, so Anthropic. Claude darf nicht verwendet werden, um in Strafverfolgungs- oder Justizprozessen über Ermittlungen, Verhaftungen oder Anklagen zu entscheiden oder Empfehlungen dazu abzugeben. Auch der Einsatz von Claude zum Bau oder zur Verbesserung von Überwachungstools ist untersagt.
Sicherheitsvorkehrungen bei physischen Aktionen und Regierungskunden
Eine weitere neue Regel besagt, dass, wenn Anthropic’s KI-Modelle mit Hardware verbunden sind, die autonome physische Aktionen ausführt und potenziell Verletzungen verursachen könnte, ein „qualifizierter Bediener die Ausrüstung beobachten und bei Bedarf stoppen können muss“. Diese Regelung spiegelt den Trend wider, dass KI-Labore in Robotik und andere Hardware investieren, um KI-Systemen physische Manifestationen zu verleihen.
Anthropic merkte an, dass diese Regeln für „Verträge mit bestimmten Regierungskunden“ modifiziert werden können, „wenn nach Einschätzung von Anthropic die vertraglichen Nutzungsbeschränkungen und anwendbaren Schutzmaßnahmen ausreichen, um potenzielle Schäden zu mindern“. Das Unternehmen hatte zuvor Verträge mit dem US-Militär.
Diskussion um KI-Bewusstsein
Im vergangenen Jahr spielte Anthropic wiederholt mit dem Gedanken, dass seine KI-Modelle in irgendeiner Weise bewusst sein könnten. Kyle Fish, Leiter der Modell-Wohlbefindens-Forschung des Unternehmens, erklärte im Februar, dass „Fragen nach potenzieller innerer Erfahrung, Bewusstsein, moralischem Status und Wohlbefinden ernste Fragen sind, die wir untersuchen, während Modelle anspruchsvoller und leistungsfähiger werden“. Im selben Monat äußerte Anthropic-CEO Dario Amodei in einem Podcast: „Wir wissen nicht, ob die Modelle bewusst sind.“ Andere Teile der KI-Industrie lehnen solche Vorstellungen explizit ab, wie Microsoft AI, das in seinem Verhaltenskodex die Idee des Modell-Wohlbefindens zunächst als falsch bezeichnete, später aber eine gemessenere Haltung einnahm.
Thema: Anthropic. Quelle/Inspiration: The Verge.