Der kalifornische Gouverneur Gavin Newsom hat ein Gesetz unterzeichnet, das die Amerikaner „No Robo Bosses Act“ nennen, also ein Gesetz gegen Roboterchefs. Unternehmen im bevölkerungsreichsten Bundesstaat der USA dürfen sich demnach nicht ausschließlich auf automatisierte Systeme verlassen, wenn sie Beschäftigte disziplinarisch bestrafen oder entlassen. Software kann beliebige Empfehlungen abgeben, doch die endgültige Entscheidung muss von einem Menschen getroffen und überprüft werden. Die Regeln treten am 1. Juli nächsten Jahres in Kraft.
Die kalifornischen Gesetzgeber hatten es bereits im vergangenen Jahr versucht. Newsom legte damals sein Veto gegen die erste Fassung ein, weil sie zu weit gefasst sei. Der neue Entwurf von Senator Jerry McNerney wurde daher weniger streng gestaltet. Er schützt nur Beschäftigte, nicht jedoch Selbstständige oder Bewerber. Er betrifft ausschließlich Disziplinarmaßnahmen und Kündigungen, nicht die Einstellung von Personal. Gestrichen wurden auch die Pflicht, im Voraus über den Einsatz eines automatisierten Werkzeugs im Unternehmen zu informieren, sowie die Einschränkung, Kundenbewertungen als wichtigste Entscheidungsgrundlage heranzuziehen.
Trotz seines kämpferischen Namens verbietet das Gesetz nichts pauschal. Unternehmen dürfen weiterhin Werkzeuge einsetzen, die Beschäftigten Punkte zuweisen, sie einstufen und bewerten. Die Regulierung greift erst in dem Moment, in dem aus einer Zahl auf dem Bildschirm eine Entscheidung über den Arbeitsplatz eines Menschen wird.
Ein Klick auf „Genehmigen“ reicht nicht aus
Die Regeln sehen zwei Ebenen vor. Ein Unternehmen darf sich nicht ausschließlich auf das Ergebnis eines Systems stützen. Wenn es sich überwiegend darauf stützt, muss die Entscheidung von einem Menschen bestätigt werden, der die tatsächlichen Unterlagen geprüft hat. Dabei kann es sich um eine Beurteilung durch einen Vorgesetzten, die Personalakte, die geleistete Arbeit, Einschätzungen von Kollegen oder Zeugenaussagen handeln, zu denen die Gesetzgebung ausdrücklich auch Kundenbewertungen im Internet zählt.
Kann eine Führungskraft die Entscheidung des Systems nicht belegen oder stellt sie fest, dass diese ungenau, unvollständig oder irreführend ist, darf sie sie nicht verwenden. Der Arbeitgeberanwalt Anthony Zaller weist darauf hin, dass ein Vorgesetzter, der die Empfehlung der Software lediglich durch einen Klick bestätigt, die Vorschriften nicht erfüllt. Die Kontrolle muss tatsächlich erfolgen und dokumentiert werden.
Das Gesetz fasst unter einem automatisierten System deutlich mehr zusammen als nur Werkzeuge, die mit dem Etikett KI verkauft werden. Dazu gehört alles, was aus Daten eine Punktzahl, Einstufung oder Empfehlung erzeugt. Eine Datenbank mit Anwesenheitsdaten fällt nicht unter das Gesetz, eine Übersicht hingegen, die aus denselben Anwesenheitsdaten die „Zuverlässigkeit“ eines Beschäftigten berechnet, sehr wohl. In der Praxis geht es beispielsweise um:
- Zeiterfassungssysteme, die für Verspätungen automatisch Strafpunkte vergeben
- die Messung der Bediengeschwindigkeit oder der Anzahl gereinigter Zimmer pro Schicht
- Analysen von Kassendaten, die Stornierungen und Rabatte überwachen
- Kamerasysteme, die Warnmeldungen zum Verhalten von Beschäftigten versenden
Die Größe des Unternehmens spielt keine Rolle; das Gesetz gilt auch für staatliche und öffentliche Arbeitgeber.
Was ein entlassener Beschäftigter erfährt
Wenn ein Unternehmen jemandem kündigt und sich dabei hauptsächlich auf Software gestützt hat, muss es der betreffenden Person gleichzeitig eine gesonderte schriftliche Mitteilung aushändigen. Darin muss es verständlich und in der Sprache, in der es üblicherweise mit der betreffenden Person kommuniziert, angeben, dass die Entscheidung auf einem automatisierten System beruhte, dass sie von einem Menschen überprüft wurde, an wen sie sich mit Fragen wenden kann und dass sie das Recht hat, eine Beschreibung ihrer Daten anzufordern, die das System verarbeitet hat. Das Unternehmen muss sie außerdem darauf hinweisen, dass niemand sie für die Ausübung dieser Rechte bestrafen darf.
Ein Rechtsstreit sieht dann anders aus, als ein durchschnittlicher europäischer Leser erwarten würde. Sobald nachgewiesen ist, dass das Unternehmen ein automatisiertes System eingesetzt hat, geht die Beweislast auf das Unternehmen über. Es muss selbst nachweisen, dass es sich nicht überwiegend darauf gestützt oder alle vorgeschriebenen Schritte eingehalten hat. Für jeden Verstoß droht eine Geldbuße von 500 Dollar, und die Einhaltung wird von der staatlichen Arbeitsaufsicht und den Staatsanwälten überwacht.
Drei Dinge sind vollständig verboten, und dabei hilft auch keine menschliche Kontrolle. Das System darf nicht dazu dienen, gegen Arbeits- und Antidiskriminierungsgesetze zu verstoßen, es darf keine geschützten Eigenschaften einer Person ableiten und nicht vorhersagen, dass ein Beschäftigter seine Rechte geltend machen wird, damit das Unternehmen ihn vorsorglich bestrafen kann. Ein Werkzeug, das Menschen beispielsweise als Risiko für eine gewerkschaftliche Organisierung einstuft, ist Zaller zufolge ein ernstes Problem.
Europa hat ähnliche Regeln bislang nur für Plattformen
Für Europäer ist das keine vollständige Neuheit. Die EU-Richtlinie über Plattformarbeit schreibt bereits vor, dass über die Sperrung oder Löschung des Kontos eines Kuriers oder Fahrers ein Mensch entscheiden muss. Kalifornien schreibt die menschliche Kontrolle jedoch für alle Beschäftigten vor, von Kellnern bis zu Vertriebsmitarbeitern. Gerade der Vertrieb zeigt, wie schmal die Grenze zwischen Training und Bewertung ist. Das Magazin Forbes weist darauf hin, dass rund neun von zehn Vertriebsmitarbeitern des Unternehmens ServiceNow einen virtuellen Coach mit künstlicher Intelligenz nutzen, der ihre simulierten Verkaufsgespräche bewertet. Der Autor des Artikels, Bryan Robinson, rät Beschäftigten, nachzufragen, was genau das System misst und wofür seine Ergebnisse verwendet werden, und selbst Nachweise über ihre Leistungen und über Zusammenhänge aufzubewahren, die in Tabellen unberücksichtigt bleiben.
Das Gesetz gegen Roboterchefs war eines von dreizehn Gesetzen über künstliche Intelligenz, die Newsom an diesem Tag unterzeichnete. Ein anderes verbietet künstliche Intelligenz, die die Emotionen von Beschäftigten ausliest, ein weiteres schränkt die Überwachung in betrieblichen Toiletten ein. Ab Januar 2027 müssen Unternehmen zudem in Mitteilungen über Massenentlassungen offenlegen, wenn diese auf Automatisierung zurückzuführen sind. Newsom unterzeichnete all diese Gesetze zu einer Zeit, als im Weißen Haus die Chefs der größten Unternehmen empfangen wurden, die künstliche Intelligenz entwickeln.
Quellen: forbes.com, californiaemploymentlawreport.com und yahoo.com
