Tests unter Realbedingungen und Reallabore (Artikel 57-60)

Kurze Antwort: Die KI-Verordnung will Innovation Raum geben, ohne den Schutz aufzugeben. Dafür gibt es zwei Testwege: das Reallabor, eine kontrollierte Umgebung unter Aufsicht der zuständigen Behörde (Artikel 57-59), und den Test unter Realbedingungen außerhalb des Reallabors (Artikel 60). Beide erfordern einen Plan, Schutzmaßnahmen und — wo Menschen beteiligt sind — eine informierte Einwilligung.

Das Reallabor (Artikel 57-59)

Jeder Mitgliedstaat richtet spätestens zwei Jahre nach Inkrafttreten mindestens ein KI-Reallabor ein (selbst oder gemeinsam). Im Reallabor können Anbieter ein innovatives KI-System unter Begleitung entwickeln, trainieren, testen und validieren, bevor es in Verkehr gebracht wird, innerhalb eines vereinbarten Plans und eines begrenzten Zeitraums.

Die Aufsichtsbehörde gibt Beratung und Anleitung und kann die Einhaltung der Verordnung prüfen. Die Teilnahme befreit den Anbieter nicht von seinen Hochrisiko-Pflichten, schützt aber vor Geldbußen für Verstöße, die sich innerhalb des Reallabor-Plans und in gutem Glauben ereignen. Personenbezogene Daten dürfen unter Bedingungen für die Entwicklung von KI im öffentlichen Interesse verarbeitet werden.

Tests unter Realbedingungen (Artikel 60)

Manchmal muss ein System außerhalb des Labors erprobt werden. Artikel 60 erlaubt, ein Hochrisiko-System unter Realbedingungen außerhalb eines Reallabors zu testen, sofern ein genehmigter Testplan vorliegt und strikte Bedingungen erfüllt sind:

• der Test ist registriert und hat eine abgegrenzte, grundsätzlich begrenzte Dauer;
• es bestehen Schutzmaßnahmen gegen Risiken für Gesundheit, Sicherheit und Grundrechte;
• Entscheidungen mit Rechtswirkung können rückgängig gemacht oder ignoriert werden;
• der Anbieter kann den Test und die Daten unverzüglich beenden und löschen.

Dies ist ausdrücklich kein Inverkehrbringen: Das System ist noch nicht für konform erklärt.

Schutz der Testpersonen

Werden natürliche Personen in den Test einbezogen, gilt die informierte Einwilligung: Die Testperson weiß, dass sie teilnimmt, versteht, was der Test beinhaltet, und kann sich ohne Nachteil zurückziehen. Der Anbieter bewahrt die Einwilligung auf und hält die relevante Dokumentation für die Aufsichtsbehörde bereit.

Warum das in der Kette zählt

Reallabor und Realtest sind die Phase vor den Rollen von Einführer und Händler: Erst nach einer erfolgreichen Konformitätsbewertung kommt das System tatsächlich auf den Markt. Die Testwege senken die Schwelle, Innovation nachweisbar sicher zu machen.

Was zu tun ist

• Wählen Sie den richtigen Weg: Reallabor für Begleitung und Rechtssicherheit, Realtest für Praxisvalidierung.
• Schreiben Sie einen Testplan mit Dauer, Risiken, Schutzmaßnahmen und einem Beendigungs- und Löschverfahren.
• Regeln Sie die Einwilligung, wo Menschen beteiligt sind, und bewahren Sie den Nachweis auf.
• Melden und registrieren Sie den Test bei der zuständigen Behörde.
• Verankern Sie es in der Governance: Nehmen Sie die Testwege in Ihren KI-Governance-Rahmen auf.

Die Testregeln sind die Einladung der KI-Verordnung, im Blickfeld der Aufsichtsbehörde zu innovieren — nicht daran vorbei.