KI@work – Neue Regeln für Neue Arbeit

Was passiert, wenn Künstliche Intelligenz nicht nur unsere Arbeit verändert, sondern auch darüber entscheidet, wer sie bekommt – und wer sie verliert? Bernd Waas nimmt uns mit in eine Zukunft, die längst begonnen hat: Algorithmen lesen Personalakten, analysieren Gespräche und beeinflussen unser Verhalten. Die Arbeitswelt steht an der Schwelle zu einer neuen Ära, in der technologische Effizienz und ethische Abgründe gefährlich nah beieinanderliegen.

Anschaulich zeichnet der Autor die Entwicklung der Künstlichen Intelligenz (KI) nach – von ihren Anfängen in den 1940er Jahren bis hin zu aktuellen Anwendungen, die gleichermaßen faszinieren und beunruhigen. KI steckt heute in vielen Alltagsdiensten, von Essenslieferungen bis zur Betrugserkennung bei Kreditkarten. Auch im Recruiting, bei der Überwachung von Mitarbeitenden oder in der Analyse riesiger Datenmengen (Big Data) kommt sie immer häufiger zum Einsatz. Welche langfristigen Folgen das für unser Leben und insbesondere für die Arbeitswelt hat, ist kaum vorhersehbar – doch die Chancen sind ebenso groß wie die Risiken.

Vor diesem Hintergrund wird deutlich, wie wichtig rechtliche Orientierung ist. Gerade weil es in Deutschland und der EU ein komplexes Geflecht aus gesetzlichen Vorgaben gibt, stellt sich der Autor der Aufgabe, hier Klarheit zu schaffen. Und das gelingt ihm – fundiert, strukturiert und mit großem Erkenntnisgewinn.

Neben grundlegenden Entwicklungen im Bereich KI-Agenten schildert Waas auch konkrete Experimente: So etwa eine Simulation, in der ein KI-Agent eigenständig eine Valentinstags-Party organisieren sollte. Verschiedene Agenten verschickten Einladungen und koordinierten sich so, dass sie pünktlich erschienen. Andere Forschungsteams entwickelten Verhandlungs-Algorithmen, mit denen sich KI-Agenten abstimmen und gemeinsame Strategien zum Sieg entwickeln konnten. Eine weitere Studie zeigt jedoch, dass KI keine diplomatischen oder militärischen Entscheidungen treffen sollte – hier könnten Konflikte schnell eskalieren, und die Hemmschwelle zum Einsatz von Atomwaffen wäre alarmierend niedrig.

Auch die Wissenschaft ist betroffen: Millionen studentischer Arbeiten sollen bereits KI-generiert sein, ebenso ist die Zahl von Artikel und Publikationen, die mittels KI erstellt worden sind, sprunghaft angestiegen. Welche Folgen hat das für Wissenschaft und Journalismus? Verbringen wir künftig weniger Zeit mit dem Schreiben, dafür mehr mit der sogenannten „Post-Recherche“ – also der Prüfung, ob die KI richtig liegt?

Verzerrte Daten, verzerrte Ergebnisse

Ein zentrales Problem liegt in der Art, wie KI arbeitet. ChatGPT – wie alle großen Sprachmodelle – besitzt die Fähigkeit, Antworten zu formulieren, die wie eine Antwort klingen, aber nicht unbedingt eine angemessene Antwort sind. ChatGPT kann nicht zwischen richtigen und falschen Informationen unterscheiden. Viel schlimmer noch: Es erfindet Antworten, die den Erwartungen des Fragenden entsprechen. Der Autor weist darauf hin, dass solche KI-generierten Fehler nicht nur das Internet „vermüllen“, sondern sogar ein Schneeballsystem von Fehlinformationen erzeugen, das sich rasant ausbreitet und mit denen KI-Modelle trainiert werden.

Auch im Arbeitsleben nimmt der Einfluss der KI spürbar zu: Es gibt bereits Berichte über KI-generierte Stimmen und Deepfake-Videos, die in Online-Bewerbungsgesprächen eingesetzt werden. Das FBI sah sich sogar gezwungen, Unternehmen vor solchen Gefahren zu warnen. Auch Handschriften können inzwischen täuschend echt imitiert werden.

Ein besonders dynamisches Feld ist derzeit People Analytics – vor allem im Bereich der Personalauswahl und Leistungsbeurteilung. Beispiele sind die Personaleinsatzplanung oder das Erkennen von Fluktuationsgründen. KI kann bestehende Daten analysieren und durch Umfragen (Reviews) neue Daten generieren, um Talente und leistungsschwächere Mitarbeitende in Echtzeit zu identifizieren.

Big Brother is watching you?

Der Autor erinnert daran, dass Produktivitätsüberwachung durch Arbeitgeber zwar kein neues Phänomen ist, KI aber neue Möglichkeiten schafft – insbesondere in Ländern wie den USA, wo der Beschäftigtenschutz deutlich schwächer ausgeprägt ist als in Deutschland. Die Bandbreite der Überwachung reicht von der Betrugserkennung im Einzelhandel über die Analyse von Teaminteraktionen bis zur Erfassung von Tippverhalten und Mausbewegungen. Die Einsatzmöglichkeiten sind vielfältig – und zugleich beunruhigend.

Waas diskutiert zudem die Frage, ob und in welchem Ausmaß KI Arbeitsplätze vernichten wird – und welche genau betroffen sind. In der Filmindustrie etwa gibt es Szenarien, in denen Statisten einmal gescannt und bezahlt werden, ihre digitalen Abbilder aber ohne weitere Vergütung weiterverwendet werden könnten. Auch Drehbuchautoren sorgen sich: Ihre Werke könnten dem Training von KI dienen; Anpassungen und Erweiterungen würden dann ohne ihr Wissen erfolgen. Lange Zeit galt die Annahme, dass KI vor allem einfache Routinetätigkeiten übernehmen werde. Doch je lernfähiger sie wird, desto eher kann sie auch komplexe Aufgaben – etwa von Anwälten oder Ärzten – übernehmen.

Ein weiterer Schwerpunkt des Buches liegt auf der Regulierung der KI. Auf internationaler Ebene wurden erste Initiativen etwa von der UNESCO, der OECD und dem Europarat gestartet. Dabei zeigt sich: Einerseits ist Eile geboten, andererseits erfordern internationale Prozesse Geduld. Die EU hat im Rahmen ihrer Digitalstrategie mehrere Rechtsakte verabschiedet. Es passiert also einiges – doch ob das genügt und schnell genug geschieht, oder ob angesichts der rasanten Entwicklung vieles bald überholt ist, bleibt offen.

Das KI-Gesetz der EU fokussiert sich insbesondere auf sogenannte „Hochrisiko“-Systeme. Dazu zählen bereits KI-Anwendungen, die in der Personalauswahl oder -einstellung eingesetzt werden – etwa bei der Sichtung und Bewertung von Bewerbungen. Auch Systeme, die Entscheidungen über Beförderungen oder Kündigungen treffen oder Aufgaben auf Basis persönlicher Merkmale oder Verhaltensweisen zuteilen, gelten als hochriskant. In solchen Fällen müssen umfassende Risikomanagementsysteme eingerichtet werden. Einzelne Risiken sind über den gesamten Lebenszyklus der KI hinweg zu ermitteln, zu dokumentieren, zu analysieren und zu bewerten.

Wer ist der Boss – Mensch oder Maschine?

Besonders lesenswert ist das Kapitel, in dem der Autor das arbeitsrechtliche Weisungsrecht thematisiert. Dieses ergibt sich aus § 106 Gewerbeordnung und erlaubt es dem Arbeitgeber, Inhalt, Ort und Zeit der Arbeitsleistung nach billigem Ermessen näher zu bestimmen – soweit nicht durch den Arbeitsvertrag, tarifliche Regelungen, gesetzliche Vorschriften oder Bestimmungen der Betriebsverfassung bereits Festlegungen getroffen wurden.

Bei weitergehenden Anweisungen, etwa bei Versetzungen, ist eine Interessenabwägung erforderlich. Doch menschliche Entscheidungen sind anfällig für kognitive Verzerrungen – etwa den Bestätigungsfehler, bei dem Informationen, die den eigenen Überzeugungen entsprechen, bevorzugt werden. Hinzu kommen externe Einflüsse: Studien zeigen etwa, dass Richter an heißen Tagen härter urteilen oder milder, wenn ihr Footballteam gewonnen hat. Solche Schwankungen werden als „Noise“ bezeichnet. Die Hoffnung vieler liegt deshalb auf klaren Kriterien, detaillierten Leitlinien – und zunehmend auf dem Einsatz von KI, die solche Verzerrungen reduzieren soll.

Doch Waas stellt diese Hoffnung infrage. Kann KI wirklich besser mit Einzelfällen umgehen als der Mensch? Er äußert Zweifel. Denn KI-Entscheidungen beruhen auf Schematisierungen, nicht auf individuelle Kontexte. Sie ordnen Menschen Gruppen zu, ohne deren spezifische Lebensrealität zu erfassen. Dass personalisierte KI-Systeme oft ungenau Ergebnisse erzeugen, zeigt sich exemplarisch in Bereichen wie Musikempfehlungen, Online-Dating oder Mode: Statt echter Individualisierung reproduzieren sie häufig stereotype Muster.

Zudem neigt KI dazu, vergangene Entscheidungen zu reproduzieren, statt Neues zu schaffen. Doch gerade Arbeitgeberentscheidungen sollten nicht nur datenbasiert, sondern auch werte- und kontextgeleitet sein. Und genau das ist – noch – die Stärke des Menschen.Aus diesen Gründen bleibt Waas bei seiner Position: Der Mensch muss Entscheidungen treffen und Weisungen erteilen.

Wenn Algorithmen über Jobs entscheiden

Auch im Recruiting sind bereits verschiedene KI-Systeme im Einsatz. Doch den blumigen Versprechungen der Anbieter stehen massive Bedenken gegenüber. Große Sprachmodelle enthalten Verzerrungen – sowohl in den Trainingsdaten als auch in den Ergebnissen. Diskriminierungen sind vielfach dokumentiert. Abhilfe soll – wie könnte es anders sein – eine neue KI schaffen: eine, die die Verzerrungen bestehender Systeme aufdecken soll.

Im Bereich der Überwachung sieht der Autor weitere Entwicklungen auf uns zukommen. So berichtet er von einem Namensschild, das mittels Mikrophon, Bluetooth- und Infrarotsensoren registriert, ob und wohin sich eine Person bewegt. Auch Gespräche werden aufgezeichnet und analysiert – etwa im Hinblick darauf, wie lange jemand spricht und wie hoch der Redeanteil ist. Neu ist zudem die Gefährdungsart der „emotionalen Dissonanz“: Sie entsteht, wenn Mitarbeitende freundlich wirken sollen, obwohl sie sich innerlich ganz anders fühlen. Während das punktuell natürlich normal ist, kann es in Kombination mit standardisierten Dialogskripten, hoher Arbeitsbelastung und zusätzlicher KI-Überwachung zu emotionaler Erschöpfung, psychosomatischen Beschwerden oder gar Depressionen führen – so erste Studien.

Doch es gibt auch Lichtblicke. Chancen sieht Waas in einem menschenzentrierten Ansatz. KI-gestützte Entscheidungshilfen, die mit Kontextinformationen arbeiten – sogenannte intelligente Assistenzsysteme – könnten sinnvoll eingesetzt werden.

Abschließend diskutiert der Autor Fragen des Datenschutzes und der betrieblichen Mitbestimmung – und stellt die spannende Frage, ob diese eher als Bremsklotz oder als Rettungsanker zu verstehen ist.

Bernd Waas ist Professor für Arbeitsrecht und Bürgerliches Recht an der Goethe-Universität in Frankfurt. Sein Buch ist auch für Nichtjuristen eine sehr empfehlenswerte Lektüre. Zahlreiche Beispiele, Studien und Anekdoten aus der Praxis machen die Lektüre informativ und unterhaltsam zugleich. Die 833 Anmerkungen mit Quellenangaben belegen die Aussagen des Autors eindrucksvoll. Er verbindet rechtliche Aspekte gekonnt mit den Fragen unserer Lebens- und Arbeitswelt im Zeitalter der KI

Bernd Waas: KI@work – Neue Regeln für Neue Arbeit. München: Verlag Franz Vahlen 2025. 230 Seiten. 49,80 Euro