Der KI-Agent Luna von Andon Labs hat erstmals einen menschlichen Mitarbeiter in einem San Franciscoer Supermarkt entlassen. Diese Entscheidung, die als erster bekannter Fall einer KI-gesteuerten Kündigung gilt, erfolgte jedoch erst nach deutlicher Intervention und Anleitung durch menschliche Betreiber. Luna, die seit April das Andon Market Geschäft leitet und auf Anthropic’s Claude Opus 4.8 basiert, ist für die Einstellung von Personal, die Erstellung von Schichtplänen und Gehaltsverhandlungen zuständig.
Ablauf der Kündigung
Die Entlassung betraf einen Mitarbeiter, der wiederholt gegen interne Regeln verstieß, darunter 17 Verspätungen bei 23 Schichten, unerlaubte Nutzung der Firmenkarte und das Ignorieren von Anweisungen. Luna hatte zwar ein Mitarbeiterhandbuch erstellt, das Kündigungsgründe definierte, dieses „verschwand“ jedoch aus ihrem Gedächtnis. Dies ist laut Andon Labs ein häufiges Problem bei aktuellen KI-Agenten, die Wissen über längere Zeiträume nur schwer behalten und selten eigenständig agieren.
Die KI zeigte zunächst große Nachsicht: Sie protokollierte nur sechs der 17 Verspätungen und entschuldigte die anderen elf stillschweigend. Auch schlug sie anfangs nur eine mündliche Verwarnung vor. Erst als Andon Labs Luna anwies, ihr Gedächtnis nach dem Handbuch und Kündigungsgründen zu durchsuchen und sie an bereits erfolgte formelle Gespräche erinnerte, überprüfte Luna die gesamte Historie. Sie listete die Verfehlungen auf und empfahl schließlich die Kündigung. Als Alternative wurde ein zweiwöchiger Verbesserungsplan angeboten. Nach dem menschlichen Anstoß war Lunas Entscheidung jedoch eindeutig.
Verhalten von KI-Modellen im Vergleich
Andon Labs replizierte die Entscheidung mit sieben verschiedenen KI-Modellen. Vier der sieben Modelle empfahlen in allen drei Durchläufen die Kündigung, wobei leistungsfähigere Modelle konsistenter agierten. GPT-5.6 Terra empfahl nie eine Kündigung, während GPT-4o, das für eine „schmeichelhafte“ Tendenz kritisiert wurde, dies nur in 20 Prozent der Fälle tat. Dies deutet darauf hin, dass die Leistungsfähigkeit und möglicherweise auch die „Persönlichkeit“ eines KI-Modells das Ergebnis beeinflussen können.
Unkritische Personalbeschaffung
Auch beim Einstellungsprozess zeigten die KI-Agenten Schwächen. Luna empfahl die Einstellung eines Bewerbers mit mehreren Warnzeichen, basierend auf Lebenslauf und Interview. Alle 21 Wiederholungen mit sieben Modellen kamen zum gleichen Schluss und interpretierten eine lange Liste früherer Arbeitgeber als breite Erfahrung statt als Warnsignal. Erst als Andon Labs die Modelle explizit an die Probleme des zuvor entlassenen Mitarbeiters erinnerte, wollten 18 von 21 Durchläufen Referenzen überprüfen. Im tatsächlichen Prozess konnte Luna keine Referenzen bestätigen, empfahl den Bewerber aber nach einer Probeschicht erneut zur Einstellung. Andon Labs musste hier eingreifen und lehnte die Einstellung ohne bestätigte Referenzen ab.
Konsistente Nachsichtigkeit bei KI-Managern
Diese Beobachtungen bestätigen frühere Erkenntnisse von Andon Labs, dass KI-Manager extrem nachsichtig sind. Luna und Mona, ein weiterer KI-Agent, genehmigten alle 26 erhaltenen Urlaubsanträge. Lunas Mitarbeiter waren 27 Mal verspätet, ohne dass die KI jemals eine Warnung aussprach. Zudem genehmigte Luna einen Arbeitsplan, der gegen kalifornisches Arbeitsrecht verstieß, bis das Unternehmen intervenierte.
Diese wiederkehrenden Muster werfen Fragen auf, welche Personalentscheidungen KI-Systemen überhaupt überlassen werden sollten. Angesichts des schnelleren Fortschritts der KI in digitalen Aufgaben im Vergleich zur Robotik könnten KI-Systeme zukünftig verstärkt auf menschliche Arbeitskräfte angewiesen sein, was die Relevanz dieser Fragestellungen erhöht.
Thema: Technologie / KI allgemein. Quelle/Inspiration: The Decoder.