Das KI-Unternehmen Anthropic entwickelt in Zusammenarbeit mit Anwaltskanzleien Richtlinien für Verhandlungen, die von Künstlicher Intelligenz (KI) durchgeführt werden sollen. Ziel ist es, faire Verhandlungsnormen für KI-Agenten zu etablieren, die in der Lage sein werden, im Namen von Nutzern Preise auszuhandeln, Beschwerden zu lösen oder Vertragsangebote zu verbessern.
Experimente des Unternehmens haben gezeigt, dass leistungsstärkere KI-Modelle bessere Verhandlungsergebnisse erzielen können, was potenziell gesellschaftliche Ungleichheiten verstärken könnte. Die Zusammenarbeit mit Juristen soll dem entgegenwirken und eine ethische Gestaltung sicherstellen. Laut der Financial Times berät sich Anthropic hierfür mit Kanzleien.
Experten für konzeptionelles Denken
Um die Fähigkeiten seines KI-Modells Claude in Bereichen mit knappen Trainingsdaten zu verbessern, stellt Anthropic sogenannte „Conceptual Reasoning Fellows“ ein. Diese Positionen werden von Juristen und Geisteswissenschaftlern besetzt. Ihre Aufgabe ist es, Claude über einen Zeitraum von vier Monaten mit komplexen Urteilsfragen aus den Bereichen Recht, Philosophie, Kognitionswissenschaft, Wirtschaft und Politikwissenschaft zu testen. Für diese viermonatige Tätigkeit erhalten die Fellows eine Vergütung zwischen 100.000 und 167.000 US-Dollar.
Herausforderung mangelnder Trainingsdaten
Der Bedarf an diesen spezialisierten Experten rührt von einem grundlegenden Datenproblem her. Während in Disziplinen wie Mathematik und Programmierung die Verbesserung von KI-Modellen durch eine Fülle verifizierbarer Daten relativ einfach ist, fehlt es in den Geisteswissenschaften an solchen klaren Datensätzen. Hier sind „richtige“ und „falsche“ Antworten selten eindeutig definiert. Anthropic benötigt daher Fachleute, die Testfälle und Bewertungsmechanismen entwickeln können, um Claude in diesen komplexen Gebieten leistungsfähiger zu machen. Justin Curl, ein technischer Mitarbeiter von Anthropic, der im Bereich Recht, Institutionen und KI forscht, betont, dass es im Rechtswesen „bekanntermaßen schwer ist, Qualität zu definieren“.
Thema: Anthropic. Quelle/Inspiration: The Decoder.