Der Chef ist ein Algorithmus: Warum wir jetzt eine „KI-Gewerkschaft“ brauchen

Künstliche Intelligenz (KI) entscheidet heute schon oft über unser Arbeitsleben – von der Personalplanung über die Leistungsbewertung bis hin zur Kündigung. Das Problem: Diese Algorithmen arbeiten meist im Verborgenen. Sie sind eine Blackbox, die über Karrieren urteilt, ohne Rechenschaft abzulegen.

Doch diese Ära der Intransparenz endet gerade. Überall in Europa entstehen Initiativen für eine neue Form der Mitbestimmung: Die Forderung nach algorithmischer Transparenz. Unterstützt werden sie durch den neuen EU AI Act.

Kapitel 1: Der EU AI Act als Hebel

Europas neues Gesetz zur Regulierung von KI definiert Anwendungen im Personalwesen als „Hochrisiko-Systeme“. Das gibt Arbeitnehmervertretungen einen mächtigen Hebel in die Hand.

Die neuen Pflichten für Unternehmen:

• Risikobewertung: Firmen müssen prüfen, ob ihr Algorithmus voreingenommen (biased) ist und Frauen oder Minderheiten diskriminiert.

• Transparenz: Es muss offengelegt werden, wie und wozu die KI eingesetzt wird – bevor sie eingeschaltet wird.

• Beweislastumkehr: Nicht der Mitarbeiter muss beweisen, dass der Algorithmus unfair ist. Das Unternehmen muss beweisen, dass er fair ist.

Kapitel 2: Die Blackbox muss auf

Das zentrale Schlachtfeld der neuen digitalen Mitbestimmung ist die Forderung nach dem „Erklärbaren Algorithmus“. Betriebsräte müssen keine Programmierer sein, aber sie brauchen Antworten auf diese Fragen:

1. Welche Daten zählen? Bewertet die KI die Leistung anhand von E-Mails, Tastenanschlägen oder Toilettenpausen?

2. Wie wird gewichtet? Was zählt mehr für die „Produktivität“: Schnelligkeit oder Fehlerfreiheit?

3. Wer kontrolliert den Bias? Wie wird sichergestellt, dass der Algorithmus ältere Mitarbeiter nicht benachteiligt?

Kapitel 3: Der Mensch im Kreis (Human-in-the-Loop)

Die wichtigste Forderung der neuen „KI-Gewerkschafter“ lautet: Human-in-the-Loop. Bei kritischen Entscheidungen – Beförderung oder Kündigung – muss immer ein Mensch das letzte Wort haben. Die KI darf assistieren, aber nicht exekutieren. Erste Betriebsvereinbarungen, etwa in der Logistik, legen bereits fest, welche Daten getrackt werden dürfen. Der Arbeitskampf findet nicht mehr nur am Werkstor statt, sondern im Rechenzentrum.

Was bleibt: Der Arbeitskampf im Code

Die Intransparenz algorithmischer Entscheidungen wird nicht länger hingenommen. Der Schutz vor Diskriminierung muss digital neu definiert werden. Für Unternehmen heißt das: Wer KI nutzen will, muss die Hosen runterlassen. Transparenz ist keine Nettigkeit mehr, sondern die Voraussetzung für den Einsatz moderner Technik.

---

Diskussion: Würdet ihr euch von einer KI bewerten lassen, wenn die Kriterien transparent wären? Oder vertraut ihr lieber dem (vielleicht auch subjektiven) Urteil eines menschlichen Chefs? Schreibt es in die Kommentare!