Verbotene KI-Praktiken (Artikel 5): die harte Untergrenze, die bereits gilt

Artikel 5 ist die strengste Bestimmung der KI-Verordnung: keine Pflichten oder Bedingungen, sondern ein vollständiges Verbot. Er gilt seit dem 2. Februar 2025, für Anbieter und Betreiber, und das Digital-Omnibus-Abkommen vom Mai 2026 ändert daran nichts (siehe die Zeitleiste). Wer dagegen verstößt, riskiert die höchste Bußgeldkategorie der Verordnung: bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes (Artikel 99 Abs. 3).

Die acht verbotenen Kategorien

1. Manipulative oder täuschende Techniken, die das Verhalten von Personen wesentlich verzerren und (wahrscheinlich) erheblichen Schaden verursachen, ohne dass die Betroffenen sich dessen bewusst sind.
2. Ausnutzung von Schwächen aufgrund von Alter, Behinderung oder sozialer bzw. wirtschaftlicher Lage, mit demselben Schadenskriterium.
3. Social Scoring: die Bewertung von Personen anhand ihres Sozialverhaltens oder persönlicher Merkmale, wenn dies zu einer nachteiligen Behandlung in einem Kontext führt, der nichts mit den Daten zu tun hat oder unverhältnismäßig ist. Das Verbot trifft Behörden und private Parteien.
4. Risikovorhersage von Straftaten ausschließlich auf Grundlage von Profiling oder Persönlichkeitsmerkmalen.
5. Ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder von Kameraaufnahmen zum Aufbau von Gesichtserkennungsdatenbanken.
6. Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen.
7. Biometrische Kategorisierung zur Ableitung sensibler Merkmale (rassische oder ethnische Herkunft, politische Meinung, Gewerkschaftszugehörigkeit, Religion, sexuelle Orientierung).
8. Biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum zu Strafverfolgungszwecken, außer in abschließend definierten Ausnahmefällen mit vorheriger Genehmigung.

Ein neuntes Verbot über den Omnibus (ab dem 2. Dezember 2026)

Das Digital-Omnibus-Abkommen vom Mai 2026 fügt Artikel 5 eine neue verbotene Kategorie hinzu: KI-Systeme, die nicht einvernehmliches intimes Bildmaterial ("Nudifier") oder Material des sexuellen Kindesmissbrauchs (CSAM) erzeugen oder manipulieren. Dieses Verbot gilt ab dem 2. Dezember 2026. Es trifft nicht nur Systeme, die hierfür bestimmt sind, sondern jedes System, bei dem eine solche Ausgabe eine vernünftigerweise vorhersehbare Folge ohne hinreichende technische Schutzvorkehrungen ist.

Wo die Grenzen liegen

Die Kommission hat die offenen Begriffe am 4. Februar 2025 mit Leitlinien ausgefüllt. Drei Klarstellungen stechen heraus. Erstens: Das Manipulationsverbot setzt eine wesentliche Verhaltensverzerrung und einen (wahrscheinlichen) erheblichen Schaden voraus — gewöhnliche Personalisierung und Werbung fallen nicht darunter. Zweitens: Das Social-Scoring-Verbot stellt auf die Wirkung ab (unzusammenhängende oder unverhältnismäßige nachteilige Behandlung), nicht auf das Etikett eines Systems; auch ein "Betrugsscore" kann darunterfallen. Drittens: Bei Emotionserkennung am Arbeitsplatz ist die Ausnahme eng — Wohlbefindens-Monitoring, das faktisch die Leistung misst, fällt unter das Verbot.

Was das für die Praxis bedeutet

Die Verbote gelten für die gesamte Nutzung in der Union, unabhängig davon, wo der Anbieter sitzt. Für die meisten Organisationen ist die praktische Aufgabe eine Screening-Frage im KI-Register: Fällt eine bestehende oder geplante Anwendung in eine der acht Kategorien, oder kommt sie gefährlich nahe? In Zweifelsfällen — Gamification, die Verhalten steuert, Scoring bei der Kundenannahme, Monitoring-Tools für Personal — sind die Leitlinien vom 4. Februar 2025 der erste Prüfungsrahmen. Seit die Verbote in Kraft sind, ist dies die Bestimmung, bei der Aufsichtsbehörden am schnellsten durchsetzen können: Es muss keine Hochrisiko-Einstufung festgestellt werden, nur eine verbotene Praxis.