Der kalifornische Gouverneur Gavin Newsom hat kürzlich ein Gesetz unterzeichnet, das Angestellte vor rein KI-basierten Entscheidungen am Arbeitsplatz schützt. Das als SB 947 oder „No Robo Bosses Act“ bekannte Gesetz verbietet es Arbeitgebern ab dem 1. Juli 2027, Disziplinar- und Kündigungsentscheidungen vollständig an automatisierte Entscheidungssysteme (ADS) – also Künstliche Intelligenz – auszulagern.
Zunehmender Einsatz von KI am Arbeitsplatz
Der Einsatz von Künstlicher Intelligenz in Unternehmen nimmt stetig zu und beeinflusst zahlreiche Bereiche von alltäglichen Aufgaben bis hin zu Neueinstellungen und Leistungsbeurteilungen. Eine Umfrage von MyPerfectResume unter 1.000 Personalverantwortlichen im April ergab, dass 73 Prozent KI für Einstellungsentscheidungen nutzen. 52 Prozent gaben an, KI zur „Umstrukturierung und Rollenplanung“ einzusetzen. Mehr als die Hälfte der Befragten (51 Prozent) verwendet KI, um „riskante Kandidaten“ zu identifizieren. Nur 26 Prozent der Befragten gaben an, KI nicht für Entscheidungen über Entlassungen zu nutzen, was bedeutet, dass 74 Prozent KI in diesem Kontext verwenden.
Details des kalifornischen Gesetzes SB 947
Das neue Gesetz SB 947 zielt darauf ab, die Integrität von Disziplinar- und Kündigungsprozessen zu wahren. Es schreibt vor, dass Arbeitgeber jede von der KI getroffene Entscheidung in diesen Bereichen überprüfen müssen. Zudem müssen Angestellten die Gründe für die Entscheidung sowie alle verwendeten Daten, wie Personalakten, Bewertungen, Arbeitsergebnisse, Peer Reviews und Zeugenbefragungen, offengelegt werden. Das Gesetz betont, dass ein Arbeitgeber die Ausgabe eines automatisierten Entscheidungssystems nicht für Disziplinar- oder Kündigungsentscheidungen verwenden darf, wenn er diese nicht bestätigen kann oder der menschliche Prüfer die Ausgabe als ungenau, unvollständig oder irreführend einstuft.
Obwohl das Gesetz den Einsatz von KI für solche Bestimmungen nicht vollständig verbietet, ermöglicht es betroffenen Angestellten, Beschwerden beim California Labor Commissioner einzureichen, falls der vorgeschriebene Prozess bei einer Kündigungsentscheidung nicht eingehalten wurde. Arbeitgeber sind außerdem verpflichtet, klarzustellen, ob eine Massenentlassung, Standortverlagerung oder Kündigung durch ein KI-System verursacht wurde.
Regulierungslandschaft und Ausblick
Während die Regulierung von KI auf Bundesebene in den USA noch wenig spezifisch ist und sich oft auf freiwillige Vereinbarungen konzentriert, sind mehrere Bundesstaaten aktiv geworden. Kalifornien und New York sind hierbei Vorreiter bei der Einführung strengerer Gesetze. Andere Staaten wie Colorado und Connecticut haben sich bisher auf die Offenlegungspflichten für den Einsatz von KI beschränkt. Illinois verabschiedete diesen Sommer ein wichtiges Gesetz, das als erster Staat unabhängige Prüfungen von führenden KI-Laboren vorschreibt.
Lily Li, eine auf KI spezialisierte Anwältin und Gründerin von Metaverse Law, sieht in Kaliforniens neuem Gesetz einen Präzedenzfall für andere Staaten. Sie äußert jedoch auch die Erwartung, dass Unternehmen Schlupflöcher im erforderlichen menschlichen Überprüfungsprozess finden könnten, indem sie lediglich „Check-the-Box“-Überprüfungen statt sinnvoller menschlicher Prüfungen durchführen, um Betriebskosten zu vermeiden. Die Möglichkeit für Angestellte, eine Erklärung anzufordern, sei jedoch eine nützliche Kontrolle gegen solche Praktiken. Langfristig könnten die Schutzmaßnahmen fragmentiert bleiben, solange keine konsolidierte Version auf Bundesebene verabschiedet wird.
Thema: Technologie / KI allgemein. Quelle/Inspiration: ZDNet.