Der Chef aus dem Code: Warum wir ein Recht auf algorithmische Transparenz brauchen
Künstliche Intelligenz (KI) entscheidet heute schon oft über unser Arbeitsleben – von der Personalplanung über die Leistungsbewertung bis hin zur Kündigung. Das Problem ist dabei selten die Technik an sich, sondern ihre Unsichtbarkeit: Diese Algorithmen arbeiten meist im Verborgenen. Sie sind eine Blackbox, die über Karrieren urteilt, ohne Rechenschaft abzulegen.
Doch diese Ära der digitalen Intransparenz endet gerade. Überall in Europa entstehen Initiativen für eine neue Form der Mitbestimmung. Unterstützt werden sie durch den neuen EU AI Act, der nicht weniger fordert als das Ende der algorithmischen Willkür am Arbeitsplatz.
Kapitel 1: Der EU AI Act als Hebel
Europas neues Gesetz zur Regulierung von KI definiert Anwendungen im Personalwesen und in der Bildung explizit als „Hochrisiko-Systeme“. Das ist mehr als nur Bürokratie; es gibt Arbeitnehmervertretungen und Betriebsräten einen mächtigen Hebel in die Hand.
Die neuen Pflichten für Unternehmen:
-
➤ Risikobewertung:
Firmen müssen proaktiv prüfen, ob ihr Algorithmus voreingenommen (biased) ist. Diskriminiert die Software Frauen bei der Bewerbung? Benachteiligt sie ältere Arbeitnehmer bei der Schichtplanung? -
➤ Transparenzpflicht:
Es muss offengelegt werden, wie und wozu die KI eingesetzt wird – und zwar bevor sie eingeschaltet wird. Das "Geheimrezept" des Managements wird offenlegungspflichtig. -
➤ Beweislastumkehr (faktisch):
Nicht mehr der Mitarbeiter muss mühsam beweisen, dass der Algorithmus unfair war. Das Unternehmen muss dokumentieren können, dass er fair ist.
Kapitel 2: Die Blackbox muss auf
Das zentrale Schlachtfeld der neuen digitalen Mitbestimmung ist die Forderung nach dem „Erklärbaren Algorithmus“ (Explainable AI). Betriebsräte müssen keine Programmierer sein, um die richtigen Fragen zu stellen. Sie müssen verstehen, nach welchen Kriterien Leistung gemessen wird.
Denn die Gefahr liegt in den Metriken: Bewertet die KI die Leistung eines Callcenter-Agenten anhand der gelösten Probleme oder nur anhand der Gesprächsdauer? Zählt die Qualität einer Programmierung oder nur die Anzahl der Tastenanschläge? Wenn wir diese Parameter nicht kennen, unterwerfen wir uns einem System, das wir nicht hinterfragen können.
Ein gesellschaftlicher Einwurf
Als Publizist, der den digitalen Wandel beobachtet, sehe ich hier eine fundamentale Frage der Menschenwürde. Arbeit ist mehr als die Summe unserer messbaren Datenpunkte. Ein guter Mitarbeiter ist oft derjenige, der das Team zusammenhält, der Empathie zeigt oder kreative Umwege geht – alles Dinge, die ein Algorithmus schwer erfassen kann.
Wenn wir zulassen, dass eine Blackbox über Karrieren entscheidet, degradieren wir den Menschen zum Objekt einer mathematischen Optimierung. Das Gefühl der Ohnmacht („Der Computer sagt Nein“) ist Gift für jede Unternehmenskultur. Transparenz ist daher keine technische Spielerei, sondern eine demokratische Notwendigkeit. Wir müssen das Recht haben, unseren digitalen Vorgesetzten in die Karten zu schauen.
Vertrauen entsteht dort, wo Entscheidungen nachvollziehbar sind. Ein Algorithmus kann rechnen, aber er kann keine Verantwortung übernehmen. Das können nur Menschen.
Kapitel 3: Der Mensch im Kreis (Human-in-the-Loop)
Die wichtigste Forderung der neuen „KI-Gewerkschafter“ lautet deshalb: Human-in-the-Loop. Bei kritischen Entscheidungen – Beförderung, Gehaltserhöhung oder Kündigung – muss immer ein Mensch das letzte Wort haben. Die KI darf assistieren, Daten liefern und Muster erkennen, aber sie darf nicht exekutieren.
Erste Betriebsvereinbarungen, etwa in der Logistik, legen bereits fest, welche Daten getrackt werden dürfen und welche tabu sind. Der Arbeitskampf findet im 21. Jahrhundert nicht mehr nur am Werkstor statt, sondern im Rechenzentrum.
Fazit: Transparenz als neue Währung
Die Intransparenz algorithmischer Entscheidungen wird nicht länger hingenommen. Der Schutz vor Diskriminierung muss digital neu definiert werden. Für Unternehmen heißt das: Wer KI nutzen will, muss die Hosen runterlassen. Transparenz ist keine "Nettigkeit" mehr, sondern die Lizenz zum Betrieb moderner Technik.
Diskussion: Würdet ihr euch von einer KI bewerten lassen, wenn die Kriterien vollkommen transparent wären? Oder vertraut ihr lieber dem (vielleicht auch subjektiven, aber menschlichen) Urteil eines Chefs? Schreibt es in die Kommentare!