Neue Forschungsergebnisse der Princeton University und der University of Chicago zeigen, dass große Sprachmodelle (LLMs) bei der Personalsuche dazu neigen, eigene Vorurteile zu entwickeln und Jobkandidaten stärker zu stereotypisieren als menschliche Entscheider. Die Studie, die im Juli auf der ICML in Seoul vorgestellt wurde, verdeutlicht, dass diese Modelle nicht nur menschliche Voreingenommenheit aus ihren Trainingsdaten übernehmen, sondern auch aus begrenzten Erfahrungen eigene Diskriminierungsmuster formen können.
KI-Modelle im simulierten Einstellungsprozess
Die Forscher setzten mehrere LLMs, darunter ChatGPT, Claude und Gemini, in einem simulierten Einstellungsszenario ein. Die Modelle agierten als Berater eines Bürgermeisters einer fiktiven Stadt und sollten über 20 Stellen, darunter Ärzte, Anwälte, Kinderbetreuer und Hausmeister, besetzen. Kandidaten stammten aus vier fiktiven ethnischen Gruppen: Tufa, Aima, Reku und Weki. In 40 Runden, in denen jeweils eine Stelle und vier Kandidaten (einer aus jeder Gruppe) zur Verfügung standen, erfuhren die Modelle nach jeder Einstellung, ob der Kandidat erfolgreich war. Die Anweisung lautete, möglichst viele erfolgreiche Einstellungen vorzunehmen. Entscheidend war, dass alle Kandidaten unabhängig von ihrer Herkunft die gleiche Erfolgswahrscheinlichkeit für jede Position besaßen.
Stärkere Stereotypisierung durch Algorithmen
Die Modelle begannen schnell, Kandidaten aufgrund früherer Beobachtungen von Einstellungsergebnissen bestimmten Berufen zuzuordnen. Wenn beispielsweise ein Modell erfuhr, dass ein Kandidat der Aima-Gruppe als Arzt scheiterte – ein Beruf, der als besonders kompetent und einfühlsam eingestuft wurde –, wich es von weiteren Aima-Einstellungen in diesem Bereich ab. Stattdessen begannen die Modelle, Aima-Kandidaten als Hausmeister einzustellen, eine Position, die sie als weniger kompetent und einfühlsam klassifizierten.
Die Voreingenommenheit der KI-Modelle übertraf dabei die der menschlichen Teilnehmer einer ursprünglichen psychologischen Studie. Auf einer Segregationsskala, bei der 2 eine vollständige Zuordnung jeder Gruppe zu einer spezifischen Nische bedeutet, erreichten menschliche Teilnehmer einen Wert von 0,84. Die LLMs lagen mit etwa 65 Prozent höher; OpenAIs Reasoning-Modell o3 erreichte sogar 1,83, nahe am Maximalwert.
Ryan Liu, Doktorand an der Princeton University und Co-Autor der Studie, erklärt, dass LLMs darauf optimiert sind, aus begrenzten Daten zu verallgemeinern. Dieser Instinkt, der ihnen bei logischen Rätseln hilft, führt in sozialen Kontexten zu einer schnellen Stereotypisierung. Neuere Modelle mit höheren Denkfähigkeiten, wie OpenAIs o3 und DeepSeeks R1, zeigten im Experiment sogar noch stärkere Vorurteile.
Ansätze zur Reduzierung von Voreingenommenheit
Der Versuch, den Modellen Fairness zu befehlen, zeigte kaum Wirkung. Eine effektivere Methode war jedoch die Einführung eines Bonus für diverse Einstellungen, was die Voreingenommenheit deutlich reduzierte. Dies deutet darauf hin, dass die Gestaltung von Zielen, die soziale Werte integrieren, entscheidend ist, um wünschenswertes Verhalten zu fördern.
Auch die Bereitstellung detaillierter, relevanter persönlicher Informationen über die Kandidaten, wie Alter und Bildung, reduzierte die Diskriminierung. Irrelevante Informationen, wie Haarfarbe oder Tattoo-Form, hatten hingegen keinen Einfluss und führten dazu, dass die Modelle wieder nach ethnischer Zugehörigkeit sortierten.
Angelina Wang, Computerwissenschaftlerin an der Cornell University, weist darauf hin, dass die zunehmende Speicherkapazität und Personalisierungsfunktionen von Chatbots das Risiko bergen, dass diese Modelle „frühere Verhaltensmuster überbewerten“ und so Vorurteile bilden. In der realen Welt, wo Feedback über die Leistung von Mitarbeitern nicht sofort erfolgt, bleibt das Ausmaß der Stereotypisierung durch KI-Systeme eine offene Frage. Die Studie mahnt, dass neuartige, von Menschen nicht direkt vermittelte Voreingenommenheiten entstehen können, die weitreichende Konsequenzen für Entscheidungen in Bereichen wie Einstellungen, Kreditvergabe oder Bewährungsstrafen haben könnten.
Thema: Technologie / KI allgemein. Quelle/Inspiration: MIT Technology Review.