Maschinelles Lernen am Arbeitsplatz verbessert die Genauigkeit, erhöht aber auch die Arbeitsbelastung des Menschen.
Der Einsatz von Maschinen erhöht die Arbeitsbelastung des Menschen am stärksten, wenn er kognitiv eingeschränkt ist, also zum Beispiel unter Zeitdruck steht oder Multitasking betreibt. Aber genau solche Situationen sind am verlockendsten, Künstliche Intelligenz (KI) einzusetzen. Doch ihr Einsatz kann nach hinten losgehen und den kognitiven Aufwand des Menschen eher erhöhen als verringern.
Das zeigt eine aktuelle Studie von Tamer Boyaci und Francis de Véricourt, beide Professoren für Management Science an der ESMT Berlin, sowie von Caner Canyakmaz, Assistent Professor of Operations Management an der Ozyegin-Universität. Die Forscher wollten untersuchen, wie maschinengestützte Vorhersagen den Entscheidungsprozess und die Ergebnisse eines menschlichen Entscheidungsträgers beeinflussen können.
Die Forscher fanden heraus, dass maschinelle Eingaben zwar immer die Gesamtgenauigkeit menschlicher Entscheidungen verbessern, aber auch die Wahrscheinlichkeit bestimmter Fehlertypen, wie z. B. falsch positiver Ergebnisse, erhöhen können. Für die Studie wurde ein Modell des maschinellen Lernens verwendet, um die Unterschiede in der Genauigkeit, der Neigung und dem Ausmaß der kognitiven Anstrengung von Menschen zu ermitteln. Dabei wurden ausschließlich von Menschen getroffene Entscheidungen mit maschinell unterstützten Entscheidungen verglichen.
„Die rasche Einführung von KI-Technologien in vielen Unternehmen hat in letzter Zeit die Befürchtung aufkommen lassen, dass KI den Menschen bei bestimmten Aufgaben irgendwann ersetzen könnte”, sagt Professor de Véricourt. „Wenn sie jedoch zusammen mit menschlichem Verstand eingesetzt werden, können Maschinen die Stärken des Menschen erheblich verbessern.”
Menschen sollten sich bewusst sein, dass Maschinen zwar unglaublich genaue Informationen liefern können, der Mensch aber oft noch eine kognitive Anstrengung unternehmen muss, um seine eigenen Informationen zu bewerten und das Rezept der Maschine mit seinen eigenen Schlussfolgerungen zu vergleichen, bevor er eine Entscheidung trifft. Dabei steigt der Grad der kognitiven Anstrengung, wenn sie unter Druck stehen.
Am Beispiel einer Ärztin und eines Patienten zeigen die Forscher, dass der Einsatz von Maschinen die Diagnosegenauigkeit insgesamt verbessert und die Zahl der falsch diagnostizierten Patientinnen und Patienten verringert. Wenn die Häufigkeit von Krankheiten jedoch gering und die Zeit knapp ist, würde die Einführung einer Maschine zur Unterstützung der Ärztinnen und Ärzte zu mehr Fehldiagnosen und einem höheren kognitiven Aufwand für die Diagnose führen – aufgrund des zusätzlichen kognitiven Aufwands, der aufgrund der Mehrdeutigkeit der Maschinen erforderlich ist.
Die Forscher erklären, dass ihre Ergebnisse sowohl Hoffnung als auch Vorsicht für diejenigen bieten, die Maschinen bei der Arbeit einsetzen wollen. Positiv ist, dass sich die durchschnittliche Genauigkeit verbessert, und wenn die maschinellen Eingaben eher das Erwartete bestätigen, sinken die Fehlerquoten und der Mensch ist „effizienter”, da er seine kognitiven Anstrengungen reduziert.
Die Einbeziehung maschineller Vorhersagen in menschliche Entscheidungen ist jedoch nicht immer von Vorteil. Sie kann sogar kontraproduktiv sein, da sie bestimmte Fehlertypen sowie die Zeit und den kognitiven Aufwand, die für eine Entscheidung erforderlich sind, erhöhen kann. Die Ergebnisse unterstreichen den kritischen Einfluss, den maschinengestützte Vorhersagen auf menschliche Urteile und Entscheidungen haben.
Tamer Boyacı, Caner Canyakmaz, Francis de Véricourt (2023): Human and Machine: The Impact of Machine Input on Decision Making Under Cognitive Limitations. Management Science, Published Online 31. March 2023 https://doi.org/10.1287/mnsc.2023.4744
Bärbel Schwertfeger ist Diplom-Psychologin, seit 1985 freie Journalistin und Chefredakteurin von WIRTSCHAFTSPSYCHOLOGIE HEUTE.