KI in der Industrie: Zusammentreffen mit der Maschinenverordnung

Kurze Antwort: Für KI in der Industrie ist die zentrale Frage, ob das KI-System ein Sicherheitsbauteil eines Produkts ist, das bereits unter europäische Produktsicherheitsvorschriften fällt. Ist dies der Fall, stuft Anhang I der KI-Verordnung das System als Hochrisiko ein, und zugleich gilt die neue Maschinenverordnung. Das ist keine Wahl zwischen zwei Regeln, sondern zwei Konformitätsstränge, die an einem Produkt zusammenlaufen.

Anhang I: die Verknüpfung mit der Produktsicherheit

Die KI-Verordnung kennt zwei Wege zum Hochrisiko. Anhang III führt eigenständige Anwendungen auf (etwa Personalbeschaffung oder kritische Infrastruktur). Anhang I tut etwas anderes: Er erklärt ein KI-System für Hochrisiko, wenn es ein Sicherheitsbauteil eines Produkts ist, das unter die genannten sektoralen Vorschriften fällt — und die Maschinenverordnung steht auf dieser Liste. Eine KI, die bestimmt, wann ein Roboterarm stoppt oder eine Presse blockiert, ist damit ein Hochrisiko-System.

Die Maschinenverordnung

Die Maschinenverordnung (Verordnung (EU) 2023/1230) ersetzt die alte Maschinenrichtlinie und ist ab Anfang 2027 anwendbar. Neu ist, dass sie KI-gesteuerte und selbstlernende Sicherheitsfunktionen ausdrücklich adressiert. Maschinen mit sich entwickelndem Verhalten, mit ganz oder teilweise selbstlernenden Systemen und mit Software-Updates, die das Sicherheitsverhalten verändern, erhalten spezifische Anforderungen. Die Verordnung verlangt, dass der Hersteller die Risiken dieses lernenden Verhaltens über die gesamte Lebensdauer beherrscht.

Ein Produkt, zwei Stränge

Schwierig ist die Abstimmung. Die KI-Verordnung verlangt für den KI-Teil ein Risikomanagementsystem, technische Dokumentation, Datenqualität, Protokollierung und menschliche Aufsicht. Die Maschinenverordnung verlangt eine eigene Risikobeurteilung und grundlegende Sicherheitsanforderungen für die Maschine als Ganzes. Die CE-Kennzeichnung muss beide abdecken. In der Praxis wird die Konformitätsbewertung daher integriert: ein technisches Dossier, das beiden Regimen genügt, sodass man nicht zweimal dasselbe mit unterschiedlichen Ergebnissen nachweist.

Vorausschauende Wartung und Qualitätskontrolle

Nicht jede Fabrik-KI ist Hochrisiko. Vorausschauende Wartung, Qualitätsprüfung auf Basis von Bilderkennung oder Prozessoptimierung sind oft kein Sicherheitsbauteil und fallen dann nicht unter Anhang I. Die Prüfung bleibt funktional: Bestimmt das System (mit) die Sicherheit von Personen, kippt es in Richtung Hochrisiko. Denselben Mechanismus sieht man in anderen Sektoren, etwa bei KI im Energiesektor.

Was zu tun ist

• Klassifizieren Sie je Funktion: Ist das KI-System ein Sicherheitsbauteil oder nicht?
• Stimmen Sie die beiden Dossiers ab: integrieren Sie die KI-Verordnungs-Dokumentation mit der Risikobeurteilung der Maschinenverordnung.
• Sichern Sie lernendes Verhalten: legen Sie fest, wie Sie Risiken selbstlernender oder aktualisierbarer Systeme beherrschen.
• Planen Sie nach Zeitschienen: Hochrisiko-Pflichten und Maschinenverordnung laufen nicht exakt gleich; prüfen Sie die Anwendungsdaten.
• Beziehen Sie Ihre benannte Stelle frühzeitig ein, wenn eine externe Konformitätsbewertung erforderlich ist.

Für industrielle KI ist der Kernfehler, KI-Verordnung und Maschinensicherheit als getrennte Vorhaben zu behandeln. Es ist ein Produkt mit zwei zusammentreffenden Anforderungssätzen.