Wann werde ich als Betreiber doch zum Anbieter eines KI-Systems (Art. 25)?
Sie werden Anbieter, sobald Sie Ihren Namen oder Ihre Marke auf ein Hochrisiko-System setzen, eine wesentliche Veränderung vornehmen oder die Zweckbestimmung so ändern, dass es hochriskant wird. Dann gelten die strengeren Anbieterpflichten.
Kurze Antwort: Sie sind normalerweise Betreiber (Deployer) zugekaufter KI, mit leichteren Pflichten als der Anbieter. Artikel 25 der KI-Verordnung bestimmt jedoch, dass Sie in drei Situationen selbst zum Anbieter eines Hochrisiko-Systems werden — und dann die vollständigen, strengeren Anbieterpflichten erben.
Die drei Situationen aus Artikel 25
Nach Artikel 25 Absatz 1 gelten Sie (als Betreiber, Händler oder Einführer) in drei Fällen als Anbieter eines Hochrisiko-Systems:
- Name oder Marke (Umfirmierung): Sie setzen Ihren eigenen Namen oder Ihre Handelsmarke auf ein Hochrisiko-System, das bereits in Verkehr ist. Das White-Labeln oder Anbieten fremder KI unter eigener Flagge macht Sie also zum Anbieter.
- Wesentliche Veränderung: Sie nehmen eine wesentliche Veränderung an einem Hochrisiko-System vor, durch die es Hochrisiko bleibt. Das System verändert sich grundlegend, und Sie übernehmen die Verantwortung.
- Änderung der Zweckbestimmung: Sie ändern die Zweckbestimmung eines Systems, das noch nicht als Hochrisiko eingestuft war, sodass es nunmehr hochriskant wird.
In jedem dieser Fälle tritt der ursprüngliche Anbieter in den Hintergrund: Er gilt für dieses konkrete System nicht länger als Anbieter, muss Sie aber mit Informationen und Zugang unterstützen (Artikel 25 Absatz 2).
Warum das praktisch wichtig ist
Viele Organisationen kaufen KI ein und meinen, sie seien "nur Nutzer". Doch sobald Sie anfangen zu feinjustieren, neu zu konfigurieren oder den Anwendungsbereich auszuweiten, können Sie unbemerkt die Grenze des Artikels 25 überschreiten. Beispiele:
- Sie kaufen ein Planungstool und setzen Ihren eigenen Markennamen darauf gegenüber Kunden.
- Sie trainieren ein zugekauftes Modell mit Ihren eigenen Daten nach, sodass es wesentlich anders arbeitet.
- Sie nutzen ein allgemeines Hilfsmittel für einen neuen Zweck, der unter eine Hochrisiko-Kategorie (Anhang III) fällt.
Was es bedeutet, wenn man ein GPAI-Modell anpasst
Passen Sie ein KI-Modell mit allgemeinem Verwendungszweck (GPAI) an und bauen darauf eine Hochrisiko-Anwendung auf, können Sie über Artikel 25 zum Anbieter dieses Hochrisiko-Systems werden. Sie erben dann Pflichten wie Risikomanagement, technische Dokumentation, Registrierung, Konformitätsbewertung und menschliche Aufsicht. Beurteilen Sie daher vor Beginn, ob Ihre Veränderung "wesentlich" ist oder den Zweck ändert — und legen Sie fest, wer welche Rolle hat.
Lesen Sie auch: Der Zeitplan der Pflichten der KI-Verordnung. Machen Sie den Scan.
Quellen
- https://eur-lex.europa.eu/eli/reg/2024/1689/oj
Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 25: Verantwortlichkeiten entlang der Wertschöpfungskette.
Lesen Sie auch
Registrierung von Hochrisiko-Systemen in der EU-Datenbank (Artikel 49)
Artikel 49 der KI-Verordnung verpflichtet Anbieter und bestimmte Betreiber, Hochrisiko-Systeme vor der Inbetriebnahme in einer öffentlichen EU-Datenbank zu registrieren. Die Registrierung macht sichtbar, welche Systeme am Markt sind, und ist Voraussetzung für die rechtmäßige Nutzung.
Anbieter oder Betreiber bei HR-KI: wer ist was?
Bei HR-KI ist der Hersteller der ATS-/HR-Tech meist Anbieter und der Arbeitgeber Betreiber. Doch ein Arbeitgeber kann selbst Anbieter werden — bei eigener Marke oder wesentlicher Änderung (Art. 25). Die Rolle bestimmt, welche Pflichten gelten.
KI-Matching bei Leiharbeit und Arbeitnehmerüberlassung: wer ist wofür verantwortlich?
Matching-KI bei Leiharbeit und Überlassung ist hochriskant (Einstellung). Der Tool-Anbieter ist meist Anbieter, die Agentur Betreiber; der Entleiher kann mitverantwortlich werden. Die DSGVO verlangt eine klare Rollenverteilung.