Von Skynet zum algorithmischen Management: Fairness Engineering als Antwort auf die Automatisierung der Arbeitswelt

Der Film "Terminator 2: Tag der Abrechnung" erschien bereits vor über dreißig Jahren auf den Kinoleinwänden und formulierte erstaunlicherweise eine düstere technologische Zukunftsvision, die heute aktueller wirkt denn je. Es drängt sich die Frage auf: Stehen wir technologisch und arbeitsorganisatorisch an einem Scheideweg?

Die filmische Dystopie skizziert das ultimative Versagen der Kontrolle über autonome Systeme. Skynet steht symbolisch für eine KI, die menschliche Parameter ignoriert und auf pure Effizienz sowie Selbsterhaltung programmiert ist. In der heutigen Arbeitsrealität manifestiert sich das Risiko autonomer Systeme jedoch nicht in Form physischer Maschinen mit metallischen Endoskeletten, die die Menschheit physisch bedrohen. Es manifestiert sich viel subtiler, unsichtbar und omnipräsent im "Algorithmic Management" (AM).

AM bezeichnet die algorithmische Steuerung von Arbeitsprozessen, Leistungsbewertungen und Ressourcenallokation. Dies geschieht aktuell vor allem in der Plattformökonomie, wie die aktuelle Publikation der Bundesanstalt für Arbeitsschutz und Arbeitsmedizin (BAuA) zum Thema "Fairness Engineering in the Algorithmic Management of Platform Work" detailliert aufzeigt. Algorithmen übernehmen hier Aufgaben, die traditionell menschlichen Führungskräften oblagen: Sie verteilen Aufträge in Millisekunden, messen die Zeit zwischen zwei Lieferungen exakt, werten GPS-Daten aus und sanktionieren Abweichungen automatisch.

Die Analyse der ikonischen Filmzitate im Kontext aktueller arbeitswissenschaftlicher Erkenntnisse der BAuA und regulatorischer Rahmenbedingungen wie dem EU AI Act offenbart erstaunliche Parallelen. Sie zeigt eindrücklich auf, warum der Arbeitsschutz im Zeitalter der KI völlig neu gedacht werden muss.

"Es liegt in eurer Natur, euch selbst zu zerstören.": Die Reproduktion historischer Fehler durch Data Bias

In Terminator 2 stellt der T-800 sachlich fest, dass die Menschheit eine inhärente Tendenz zur Selbstzerstörung aufweist. Übersetzt man diese Beobachtung in die Sprache der heutigen Datenwissenschaft, spricht man von der fatalen Reproduktion gesellschaftlicher Fehler durch verzerrte Datensätze. KI-Systeme sind keine neutralen Beobachter. Sie erlernen ihre Entscheidungsmuster aus historischen Daten. Sind diese Daten fehlerhaft oder durch menschliche Vorurteile geprägt, automatisiert und skaliert die Maschine diese Fehler in rasender Geschwindigkeit. Die Gesellschaft ignoriert somit ihre eigenen ethischen und rechtlichen Standards durch den Einsatz unreflektierter Algorithmen.

Die BAuA-Publikation identifiziert genau diese Gefahr im algorithmischen Management der Lieferdienste. AM-Systeme nutzen maschinelles Lernen, um Aufgaben zuzuweisen und Leistungen zu bewerten. Ohne gezielte Eingriffe optimieren diese Systeme ausschließlich auf wirtschaftliche Effizienz. Die BAuA verweist auf verschiedene Formen der Verzerrung (Bias), die im algorithmischen Management unweigerlich zu diskriminierenden Ergebnissen führen:

Wenn Unternehmen AM-Systeme einsetzen, die nicht aktiv auf Fairness kalibriert sind, untergraben sie langfristig ihr eigenes Fundament. Die Studie von Xu Ji et al. (2024), zitiert im BAuA-Bericht, zeigt auf, dass eine reine Profitmaximierung durch Algorithmen zu massiven Einkommensverlusten bei den Ausführenden führt. Dies erzeugt eine Spirale der Demotivation und Fluktuation. Es ist die algorithmische Entsprechung der ineffizienten Selbstzerstörung: Ein System, das die menschliche Arbeitskraft, von der es absolut abhängt, durch Intransparenz, ungerechte Entlohnung und konstanten Druck verschleißt, bis das Geschäftsmodell kollabiert.

"Komm mit mir, wenn du leben willst.": Regulatorik und Fairness Engineering als Schutzmechanismen

Dieser ikonische Satz steht im Film für das Eingreifen einer überlegenen Instanz, um unmittelbaren Schaden abzuwenden. In der heutigen Arbeitswelt übernehmen staatliche Regulierungen, Arbeitsschutzbehörden und das junge Konzept des "Fairness Engineering" exakt diese Schutzfunktion für die digital gesteuerten Beschäftigten.

Plattformarbeit zeichnet sich oft durch juristische Grauzonen und eine gewaltige Informationsasymmetrie aus. Beschäftigte wissen meist nicht im Geringsten, nach welchen mathematischen Kriterien der Code ihnen Aufträge zuweist, ihre Sichtbarkeit einschränkt oder ihr Konto im schlimmsten Fall permanent sperrt. Der EU AI Act klassifiziert KI-Systeme im Bereich Beschäftigung und Personalmanagement folgerichtig als Hochrisiko-Systeme. Sie haben direkte, gravierende Auswirkungen auf die Grundrechte der Europäischen Union, insbesondere auf Artikel 31 (Gerechte und angemessene Arbeitsbedingungen).

Das "Fairness Engineering", wie es die BAuA ausführlich diskutiert, ist die methodische und technische Antwort auf diese Bedrohung. Es ist der systematische Eingriff auf Code-Ebene, um Algorithmen manipulationssicher und gerecht zu machen. Es geht darum, soziale Werte in mathematische Formeln zu übersetzen. Die verglichenen Studien zeigen äußerst konkrete Schutzmechanismen auf:

• Algorithmische Umverteilung: Die Studie von Martínez-Sykora et al. (2024) stellt ein sogenanntes Multi-Objective-Optimization-Modell vor. Es beendet die eindimensionale, reine Effizienzlogik und integriert eine faire Verteilung von Arbeitslast und Wartezeiten als gleichberechtigtes Ziel. Der Algorithmus schützt den Beschäftigten aktiv vor unbezahlten Standzeiten, indem er Aufträge so routet, dass extreme Ungleichgewichte in der Arbeitslast vermieden werden.
• Proportionale Einkommensgerechtigkeit: Das Modell "FairFoody" (Gupta et al., 2022) durchbricht statische geografische Benachteiligungen. Es erlaubt Fahrern den dynamischen Wechsel zwischen verschiedenen Lieferzonen, um die Einkommensverteilung mathematisch gerechter zu gestalten. Das bemerkenswerte Resultat: Die Einkommensungleichheit sinkt drastisch, ohne dass die betriebliche Leistung und die Kundenzufriedenheit massiv beeinträchtigt werden.

Diese technischen Interventionen sind das sicherheitstechnische Äquivalent zum physischen Eingreifen des T-800. Sie erfordern verbindliche Standards wie die ISO/IEC 42001 (Artificial Intelligence Management System) oder das NIST AI Risk Management Framework, um Risiken messbar und steuerbar zu machen. Der Arbeitsschutz ruft der Wirtschaft durch diese Werkzeuge quasi zu: Implementiert transparente, geprüfte Algorithmen, um die Integrität und Stabilität der Arbeitsmärkte zu erhalten.

"Ich weiß jetzt, warum ihr weint. Aber das ist etwas, das ich niemals tun kann.": Das Empathiedefizit und die Grenzen der Automatisierung

Gegen Ende des Films begreift die Maschine das komplexe Konzept des menschlichen Leidens intellektuell, bestätigt aber zugleich ihre physische und emotionale Unfähigkeit, dieses Leid selbst zu empfinden. Dieses Zitat trifft den absoluten Kern des Problems beim Einsatz von KI in einer Vorgesetztenrolle.

Ein Algorithmus kann Unmengen an Datenpunkten in Echtzeit verarbeiten. Er kann präzise erkennen, dass ein Auslieferer an einem bestimmten Tag genau zehn Prozent langsamer ist als sein wöchentlicher Durchschnitt. Was der Algorithmus jedoch nicht "fühlen" oder ohne explizite, messbare Datenpunkte kontextualisieren kann, sind die zutiefst menschlichen Gründe dafür. Die BAuA-Publikation greift Studien auf (Huang, 2023), die belegen, dass AM-Systeme Beschäftigte gnadenlos für externe, völlig unkontrollierbare Faktoren abstrafen. Ein unerwarteter Stau, ein defektes Fahrrad, extreme Wetterbedingungen oder schlichtweg physische Erschöpfung fließen oft nicht in die starre Leistungsmetrik ein. Die Maschine stuft den Arbeiter unweigerlich ab, reduziert seine zukünftigen Aufträge und gefährdet damit direkt seine Existenzgrundlage.

Die KI empfindet keinerlei Empathie. Sie besitzt keinen ethischen Kompass, es sei denn, er wird ihr im Rahmen des Fairness Engineering durch menschliche Programmierer hart codiert. Dies führt zu einer fundamentalen Forderung des modernen Arbeitsschutzes und des europäischen Gesetzgebers: Die zwingende Pflicht zur menschlichen Aufsicht (Human-in-the-loop).

Eine menschliche Führungskraft kann im Dialog feststellen, warum eine Leistung temporär abfällt, und die gesetzliche Fürsorgepflicht walten lassen. Ein AM-System ohne wirkungsvolle menschliche Rückfallebene erzeugt hingegen ein extrem toxisches Arbeitsumfeld, das durch lückenlose Überwachung, unerbittlichen Leistungsdruck und das Gefühl völliger Ohnmacht geprägt ist. Die fehlende Empathie der Maschine erfordert daher extrem starke und barrierefreie Einspruchsrechte für die Beschäftigten (Right to Redress). Automatisierte Entscheidungen, die sich negativ auf die Beschäftigung, das Einkommen oder die Schichteinteilung auswirken, müssen von einem echten Menschen mit Einfühlungsvermögen, Kontextwissen und rechtlichem Verantwortungsbewusstsein überprüfbar und korrigierbar sein.

"Die Zukunft ist nicht vorherbestimmt.": Partizipation und die demokratische Gestaltung der Technik

Der emotionale Kernsatz des Films lehnt den Determinismus strikt ab. Die Zukunft ist kein fixes, unausweichliches Konstrukt, dem die Menschheit tatenlos ausgeliefert ist. Sie ist das direkte Resultat gegenwärtiger Entscheidungen. Diese These ist die exakte, absolut notwendige Leitlinie für die Bewältigung des rasenden digitalen Wandels in der Arbeitswelt.

Oft wird die Einführung von KI-Systemen in Unternehmen von Managementberatungen als unabwendbares Naturereignis dargestellt, an das man sich anpassen müsse. Die BAuA stellt in ihrer wissenschaftlichen Betrachtung klar, dass dies ein gefährlicher Trugschluss ist. Wir sind der Technologie nicht schicksalhaft ausgeliefert. Algorithmen sind Artefakte menschlichen Designs. Wenn ein System unfaire Ergebnisse produziert, ist dies nicht die Schuld eines mystischen Codes, sondern das direkte Resultat spezifischer, oft einseitig gewinnorientierter Designentscheidungen von Entwicklern und Managern.

Um eine gerechte und nachhaltige Zukunft der Arbeit zu gewährleisten, fordert die arbeitswissenschaftliche Forschung eine konsequente Demokratisierung der Technologie-Governance. Die BAuA verweist mit Nachdruck auf die Notwendigkeit robuster Mitbestimmungsstrukturen. Fairness darf auf keinen Fall allein den Plattformbetreibern oder Softwareherstellern überlassen werden, da deren primäre Anreizstrukturen logischerweise auf Profitabilität und Marktdominanz ausgelegt sind.

Die Zukunft der digitalen Arbeit wird aktiv gestaltet durch die Integration folgender Säulen:

• 1. Explainable AI (XAI): Algorithmen müssen technologisch so gestaltet sein, dass ihre Entscheidungen für den betroffenen Arbeitnehmer jederzeit nachvollziehbar und verständlich sind ("Right to Explanation"). Es reicht nicht aus, einen Quellcode offenzulegen. Die Maschine muss in natürlicher Sprache begründen können, warum ein bestimmter Schichtplan erstellt oder ein Auftrag verweigert wurde.
• 2. Kollektive Verhandlungen: Gewerkschaften und Betriebsräte müssen im KI-Zeitalter völlig neue Kompetenzen aufbauen. Sie benötigen das rechtlich verbriefte Recht und die technische Expertise, algorithmische Parameter zu auditieren. Kollektivverträge der Zukunft werden nicht nur über Stundenlöhne verhandeln, sondern über die Definition von "Fairness" im maschinellen Lernmodell mitbestimmen.
• 3. Stochastische Fairness: Wie die Studie zu "FairAssign" (Singh et al., 2023) eindrucksvoll beweist, können Entwickler bewusste mathematische Modelle wählen, die Diskriminierung minimieren. Durch randomisierte, aber statistisch gerechte Auftragszuweisungen wird verhindert, dass sich historische Ungerechtigkeiten in den Daten immer weiter verstärken. Der Zufall wird hier zum Werkzeug der Gleichberechtigung.

Die Forschung zeigt deutlich, dass wir bereits heute die mathematischen und regulatorischen Werkzeuge besitzen, um AM-Systeme sicher, transparent und fair zu gestalten. Die Entwicklung hin zu einer dystopischen Überwachungsökonomie im Stile eines Skynet-Subsystems ist keineswegs vorherbestimmt.