Fahrerüberwachung und Fahrassistenz: Welche Pflichten gelten nach der KI-Verordnung?

Kurze Antwort: KI-Funktionen zur Fahrerüberwachung und Fahrassistenz können unter die Hochrisiko-Regeln der KI-Verordnung fallen, aber nicht über die eigenständige Liste des Anhangs III. Sie laufen über den Weg des Anhangs I: KI als Sicherheitsbauteil eines Produkts, das bereits unter sektorale Produktvorschriften und eine Typgenehmigung fällt. Ob und wann die Hochrisiko-Pflichten gelten, wird damit auch von diesem Fahrzeugrecht mitbestimmt.

Zwei Wege zum "Hochrisiko"

Die KI-Verordnung (Verordnung (EU) 2024/1689) kennt zwei Wege, auf denen ein KI-System als Hochrisiko gilt. Der erste ist Anhang III mit einer eigenständigen Liste von Anwendungsbereichen. Der zweite, in Art. 6 Abs. 1 und Anhang I, gilt für KI-Systeme, die als Sicherheitsbauteil eines Produkts dienen, das unter die dort genannten Harmonisierungsrechtsvorschriften der Union fällt, oder die selbst ein solches Produkt sind — sofern dieses Produkt eine Konformitätsbewertung durch Dritte erfordert.

Für Fahrzeuge verweist Anhang I auf die sektorale Typgenehmigungsgesetzgebung. Fahrerüberwachung und Fahrassistenz, die als Sicherheitsbauteil in ein Fahrzeug eingebettet sind, können damit grundsätzlich unter den Hochrisiko-Weg des Anhangs I fallen. Der genaue Anwendungsbereich ergibt sich aus dem Zusammenspiel der KI-Verordnung mit dem betroffenen sektoralen Recht; ziehen Sie dafür die Hauptquellen heran.

Was das praktisch bedeutet

Fällt ein System unter den Hochrisiko-Weg, so gelten die Anforderungen aus Kapitel III der Verordnung: Risikomanagement, Daten-Governance, technische Dokumentation, Aufzeichnung von Ereignissen (Protokollierung), Transparenz gegenüber Nutzern, menschliche Aufsicht sowie angemessene Genauigkeit, Robustheit und Cybersicherheit. Für Produkte mit einer bestehenden Konformitätsbewertung will die Verordnung diese Anforderungen so weit wie möglich in die bereits bestehenden sektoralen Verfahren integrieren, um eine doppelte Bewertung zu vermeiden.

Zeitplan und Hinweise

Die Geltungsdaten unterscheiden sich je nach Weg. Die Verordnung nennt für Hochrisiko-Systeme, die unter die Produktvorschriften des Anhangs I fallen, ein späteres Geltungsdatum als für die Systeme des Anhangs III. Da diese Daten Gegenstand laufender Änderungen sind, ist es ratsam, den aktuellen Stand über die Hauptquelle und die Politikseite der Kommission zu prüfen, bevor Sie sich auf ein Datum festlegen.

Beachten Sie, dass nicht jede KI im Fahrzeug Hochrisiko ist: Funktionen, die kein Sicherheitsbauteil bilden, oder Produkte ohne verpflichtende Konformitätsbewertung durch Dritte können außerhalb der Hochrisiko-Kategorie liegen. Eine konkrete Einstufung erfordert stets eine Prüfung anhand des Verordnungstextes und des sektoralen Rechts.

Lesen Sie auch: KI-Verordnung: der Zeitplan der Pflichten. Machen Sie den Scan.