KI bei Bewertung, Beförderung und Kündigung: Hochrisiko über die Einstellung hinaus

Kurze Antwort: Die Einstellung erhält die meiste Aufmerksamkeit, doch Anhang III der KI-Verordnung reicht weiter. Auch KI, die über Arbeitsbedingungen, Beförderung, Beendigung, Aufgabenzuweisung und Leistungsbewertung mitentscheidet, ist Hochrisiko. Damit fallen Performance-Dashboards, Produktivitäts-Scores und Workforce-Management-Systeme, die viele Arbeitgeber bereits betreiben, unter dasselbe schwere Regime — mit der DSGVO obendrauf.

Was unter Anhang III fällt

Die Verordnung nennt ausdrücklich KI-Systeme, die eingesetzt werden, um Entscheidungen zu treffen oder zu beeinflussen über:

• Arbeitsbedingungen, Beförderung und Beendigung eines Arbeitsverhältnisses;
• die Zuweisung von Aufgaben anhand von Verhalten oder persönlichen Merkmalen;
• die Überwachung und Bewertung von Leistung und Verhalten der Beschäftigten.

Es spielt keine Rolle, ob das System selbst entscheidet oder "nur" eine Empfehlung abgibt, die eine Führungskraft übernimmt: Auch Entscheidungsunterstützung fällt darunter.

Die Pflichten des Arbeitgebers

Als Betreiber (Art. 26) gelten dieselben Kernpflichten wie bei der Einstellung:

• Menschliche Aufsicht (Art. 14): Ein Mensch bewertet das Ergebnis und kann es beiseiteschieben — ein Algorithmus darf niemanden unkontrolliert degradieren oder kündigen.
• Information der betroffenen Beschäftigten (und gegebenenfalls ihrer Vertretung), dass ein Hochrisiko-System eingesetzt wird.
• Relevante, repräsentative Eingabedaten und Überwachung auf verzerrte Ergebnisse.
• Bestimmte Arbeitgeber müssen vorab eine Grundrechte-Folgenabschätzung (FRIA) durchführen.

Die DSGVO: Artikel 22 bei schwerwiegenden Entscheidungen

Eine Kündigung, eine abgelehnte Beförderung oder eine Sanktion sind Entscheidungen mit erheblichen Auswirkungen. Ergibt sich eine solche Entscheidung ausschließlich aus einem automatisierten Prozess, so gilt Artikel 22 DSGVO: eine gültige Rechtsgrundlage, Transparenz und ein Recht auf menschliches Eingreifen. In der Praxis bedeutet das, dass ein KI-Urteil nie das letzte Wort haben darf.

Die Falle: Monitoring, das unbemerkt entscheidet

Viele Überwachungstools sammeln nicht nur Daten, sondern wandeln sie in Scores um, die Beförderungen und Bewertungen steuern. In diesem Moment verschiebt sich "messen" zu "entscheiden" — und damit zu Hochrisiko. Die Grenze liegt nicht bei der Technik, sondern beim Einsatz.

Was zu tun ist

• Inventarisieren Sie Ihre Performance-, Planungs- und Workforce-Systeme, nicht nur Ihre Einstellungs-Tools.
• Bestimmen Sie je System, ob es Entscheidungen über Menschen trifft oder beeinflusst.
• Sichern Sie ein menschliches Endurteil bei jeder Konsequenz für eine Person.
• Dokumentieren Sie die Logik und bewahren Sie Protokolle auf — Sie brauchen sie bei einer Beschwerde oder Aufsichtsfrage.

Die KI-Verordnung schützt das gesamte Arbeitsverhältnis, nicht nur die Eingangstür. Wer nur die Einstellung im Griff hat, deckt das halbe Risiko ab.