KI-Assessments und Games in der Auswahl: Hochrisiko, Validität und Barrierefreiheit

Kurze Antwort: KI-Assessments — gamifizierte Tests, psychometrische Analysen, automatisierte Fallbeurteilungen — bewerten Kandidaten und fallen damit unter Anhang III Nr. 4 der KI-Verordnung als Hochrisiko. Drei Fragen bestimmen, ob ein solches Tool zulässig ist: Misst es wirklich etwas, das mit der Funktion zu tun hat (Validität), ist es frei von Bias, und schließt es Menschen mit einer Behinderung nicht aus? Und Achtung: Ein Assessment, das per Bild oder Stimme Emotionen ableitet, ist schlicht verboten.

Validität: misst es, was es verspricht?

Das große Versprechen von KI-Assessments ist Objektivität. Doch ein Modell, das mit "erfolgreichen Beschäftigten aus der Vergangenheit" korreliert, misst oft vor allem, wie die Vergangenheit aussah — nicht, was die Funktion heute verlangt. Ohne fundierte, funktionsrelevante Validierung ist ein hoher "Eignungsscore" eine Scheinsicherheit. Verlangen Sie vom Anbieter einen Validierungsnachweis und bewahren Sie ihn auf.

Bias: objektiv wirken heißt nicht objektiv sein

Wie beim Lebenslauf-Screening lernen Assessments aus Daten, die Muster der Vergangenheit enthalten. Ein Spiel, das Reaktionsgeschwindigkeit oder Sprachgebrauch belohnt, kann bestimmte Gruppen systematisch bevorzugen. Das Risiko einer Diskriminierung ist real und liegt beim Arbeitgeber.

Barrierefreiheit: der stille Ausschluss

Gamifizierte Assessments gehen von einem "Standardkandidaten" aus: gut sehend, schnell klickend, sicher in der Testsprache. Wer eine visuelle, motorische oder kognitive Behinderung hat oder die Sprache weniger beherrscht, schneidet aus Gründen schlechter ab, die nichts mit der Funktion zu tun haben. Ohne angemessene Vorkehrungen wird daraus mittelbare Diskriminierung.

Die Emotionsgrenze

Assessments mit Video- oder Stimmanalyse versprechen mitunter, "Soft Skills" oder "Engagement" zu messen. Soweit das auf das Ableiten von Emotionen hinausläuft, ist es nach Artikel 5 verboten — nicht "sofern sorgfältig", sondern gar nicht.

Was zu tun ist

• Behandeln Sie jedes Auswahl-Assessment als Hochrisiko: menschliche Aufsicht, Monitoring, Information des Kandidaten.
• Verlangen Sie einen Validierungsnachweis vom Anbieter: Misst es funktionsrelevante Eigenschaften?
• Testen Sie auf Bias und auf Ergebnisse je Gruppe.
• Bieten Sie angemessene Vorkehrungen und einen alternativen Weg für jene, die das Assessment nicht fair absolvieren können.
• Streichen Sie Emotions- und "Soft-Skill-aus-dem-Bild"-Funktionen.

Ein Assessment, das nicht misst, was die Funktion verlangt, nicht frei von Bias und nicht barrierefrei ist, ist kein objektiver Filter, sondern ein rechtliches Risiko mit wissenschaftlichem Anstrich.