KI in Justiz und Rechtspflege: Hochrisiko nach Anhang III

Kurze Antwort: KI-Systeme, die dazu bestimmt sind, eine Justizbehörde bei der Ermittlung und Auslegung von Sachverhalten und des Rechts oder bei der Rechtsanwendung zu unterstützen, sind nach Anhang III der KI-Verordnung Hochrisiko. Rein unterstützende, administrative Aufgaben fallen nicht darunter. Der Kern bleibt: Der Richter entscheidet. KI darf vorbereiten und beraten, aber nicht urteilen.

Was die KI-Verordnung unter „Rechtspflege" versteht

Anhang III, Nummer 8 stuft als Hochrisiko ein: KI, die dazu bestimmt ist, eine Justizbehörde (oder in deren Namen) bei der Ermittlung und Auslegung von Sachverhalten und Recht oder bei deren Anwendung auf einen konkreten Sachverhalt zu unterstützen. Man denke an Fallanalysen, die Vorhersage von Ausgängen oder automatisierte Aktenzusammenfassungen, die die inhaltliche Beurteilung berühren. Der Hochrisiko-Stempel bringt die vollständige Reihe von Hochrisiko-Pflichten mit sich: Risikomanagement, Datenqualität, Protokollierung und menschliche Aufsicht.

Was nicht darunter fällt

Nicht jede KI in der Justizkette ist Hochrisiko. Rein administrative oder organisatorische Unterstützung — Terminplanung, Anonymisierung, Übersetzung, Dokumentenverwaltung ohne Einfluss auf die Rechtspflege — fällt außerhalb von Nummer 8. Die Grenze liegt bei der Frage, ob das System die inhaltliche Beurteilung berührt. Ein Hilfsmittel, das nur die Logistik beschleunigt, ist etwas anderes als ein Modell, das in das Urteil einfließt.

Die richterliche Unabhängigkeit als Grenze

Die richterliche Unabhängigkeit setzt der Automatisierung eine harte Grenze. Die menschliche Aufsicht (Art. 14 KI-Verordnung) ist hier keine Formalität: Der Richter muss die Funktionsweise des Systems durchdringen, das Ergebnis abwägen und ohne Hürde abweichen können. Der Automation Bias — die Neigung, einem Systemergebnis zu vertrauen — ist in der Rechtspflege besonders gefährlich, weil er die Begründungs- und Abwägungspflicht aushöhlt. Das Ergebnis darf niemals das Urteil ersetzen.

Transparenz und Verteidigung

Ein Angeklagter oder eine Prozesspartei muss verstehen können, ob und wie KI zu einer Entscheidung beigetragen hat, um diese anfechten zu können. Das berührt das faire Verfahren und die Waffengleichheit. Protokollierung und Erklärbarkeit sind daher nicht nur Compliance-Anforderungen, sondern prozessuale Garantien — siehe Erklärbarkeit von Behördenalgorithmen. Für den breiteren Verwaltungskontext siehe KI in der öffentlichen Verwaltung.

Was zu tun ist

• Klassifizieren Sie je Anwendung: Berührt das System die inhaltliche Rechtspflege (Hochrisiko) oder ist es rein administrativ (außerhalb)?
• Sichern Sie eine wirksame menschliche Aufsicht: Der Richter muss verstehen, abwägen und abweichen können — schützen Sie gegen Automation Bias.
• Halten Sie KI beratend: niemals der Entscheider, stets unterstützend für ein begründetes Urteil.
• Machen Sie es nachvollziehbar: Protokollierung und Erläuterung, damit die Parteien den Beitrag der KI anfechten können.
• Führen Sie eine Grundrechtsprüfung durch vor der Inbetriebnahme — siehe FRIA.

In der Rechtspflege ist KI höchstens ein Werkzeug. Das Urteil — und die Verantwortung dafür — bleibt beim Menschen in der Robe.