Der Algorithmus entscheidet – Geschichte auf Deutsch (B2)

Seit drei Monaten arbeitet Nadja an einem System, das die Beförderung von Mitarbeitenden objektiver gestalten soll, indem Leistungsdaten, Projektergebnisse und Feedback automatisch ausgewertet werden. Die Geschäftsführung nennt es einen Meilenstein, Nadja selbst nennt es, wenn sie ehrlich ist, ein Experiment mit ungewissem Ausgang.

Die Idee klang zunächst überzeugend: Menschliche Vorurteile, die bei Beförderungsentscheidungen oft eine Rolle spielen, sollten durch eine nachvollziehbare, datengestützte Bewertung ersetzt werden, bei der jede Zahl dokumentiert und jede Entscheidung begründet wird.

An diesem Montagmorgen wird der Algorithmus zum ersten Mal auf echte Personaldaten angewendet, und das Ergebnis, das auf Nadjas Bildschirm erscheint, überrascht selbst sie: Unter den drei Kandidaten für die Teamleitung wird ausgerechnet Markus vorgeschlagen, ein Mitarbeiter, dessen Zahlen zwar hervorragend sind, dessen zwischenmenschliches Verhalten aber wiederholt kritisiert wurde.

Die andere Kandidatin, Frau Ebert, deren Team seit Jahren als besonders motiviert gilt, wird vom System auf den zweiten Platz verwiesen, weil ihre quantitativen Kennzahlen, gemessen an reinen Umsatzzahlen, geringfügig unter denen von Markus liegen.

Nadja starrt lange auf die Bildschirmanzeige und fragt sich, ob ein System, das menschliche Zusammenarbeit nicht messen kann, wirklich in der Lage ist, über menschliche Führung zu urteilen, oder ob hier nur eine alte Ungerechtigkeit in neuem, technischem Gewand fortgesetzt wird.

Sie ruft ihren Vorgesetzten Herrn Brandt an, der die Einführung des Systems maßgeblich vorangetrieben hat, und schildert ihm ihre Zweifel, woraufhin er zunächst mit einer gewissen Ungeduld reagiert, als handle es sich um eine rein technische Frage, die keiner weiteren Diskussion bedürfe.

„Das System wurde genau deshalb eingeführt, damit solche Entscheidungen nicht mehr von persönlichen Sympathien abhängen“, erklärt er, „und jetzt, wo es zum ersten Mal ein unbequemes Ergebnis liefert, soll es plötzlich falsch liegen?“

Nadja widerspricht vorsichtig und weist darauf hin, dass der Algorithmus auf historischen Daten trainiert wurde, in denen Führungskräfte, deren Verhalten problematisch war, jahrelang trotzdem befördert wurden, sodass das System möglicherweise gelernt hat, genau dieses Muster zu wiederholen, anstatt es zu korrigieren.

Brandt schweigt einen Moment, bevor er zugibt, dass diese Möglichkeit bei der Entwicklung nicht ausreichend bedacht worden sei, und fragt sie, was sie vorschlage, jetzt, da der Bericht bereits an die Personalabteilung weitergeleitet wurde und in wenigen Tagen offiziell verkündet werden soll.

Nadja schlägt vor, die Kollegen zu befragen, die bereits unter Markus gearbeitet haben, um zu prüfen, ob die kritischen Rückmeldungen aus der Vergangenheit noch aktuell sind oder ob er sich, wie einige behaupten, in den letzten zwei Jahren tatsächlich verändert hat.

Am Nachmittag spricht sie mit drei ehemaligen Mitarbeitern von Markus, von denen zwei bestätigen, dass sein Führungsstil nach wie vor von häufigen abwertenden Bemerkungen geprägt sei, während der dritte, überraschenderweise, meint, dass Markus in letzter Zeit deutlich zugänglicher geworden sei.

Diese widersprüchlichen Aussagen bringen Nadja nicht wirklich weiter, verdeutlichen ihr aber, dass menschliches Verhalten sich kaum in einer einzigen Kennzahl abbilden lässt, so wie es das System versucht, sondern dass es vielmehr eine ständige, sich verändernde Größe ist, die kontinuierliche Beobachtung erfordert.

Am Abend trifft sie sich mit ihrer früheren Kommilitonin Julia, die inzwischen als Anwältin auf Arbeitsrecht spezialisiert ist, und erzählt ihr von dem Dilemma, woraufhin Julia sofort auf ein rechtliches Problem hinweist, an das Nadja bisher nicht gedacht hatte.

„Wenn eine automatisierte Entscheidung nachweislich diskriminierende Muster aus der Vergangenheit fortschreibt“, erklärt Julia, „könnte die betroffene Kandidatin theoretisch rechtlich dagegen vorgehen, insbesondere wenn sich zeigen ließe, dass strukturelle Nachteile für Frauen im Datensatz enthalten sind.“

Diese Erklärung verändert Nadjas Perspektive erheblich, denn plötzlich geht es nicht mehr nur um die Frage, wer die bessere Führungskraft wäre, sondern auch darum, welche Verantwortung ein Unternehmen trägt, wenn es Entscheidungen an ein System delegiert, dessen Grundlagen es selbst kaum durchschaut.

Am nächsten Morgen bittet Nadja um ein Treffen mit Brandt und der Personalleiterin, bei dem sie ihre Bedenken noch einmal ausführlich darlegt und deutlich macht, dass eine übereilte Veröffentlichung des Ergebnisses erhebliche Risiken bergen könnte, sowohl menschlicher als auch rechtlicher Natur.

Die Personalleiterin, die dem Projekt von Anfang an skeptisch gegenüberstand, nutzt die Gelegenheit, um grundsätzliche Fragen zu stellen: Ob eine Maschine überhaupt geeignet sei, über Karrieren zu entscheiden, die für die Betroffenen von existenzieller Bedeutung seien, oder ob am Ende immer ein Mensch die letzte Verantwortung tragen müsse.