KI und Minderjährige: zusätzlicher Schutz nach KI-Verordnung, DSGVO und DSA

Kurze Antwort: Wer KI einsetzt, die Kinder erreichen kann, unterliegt strengeren Regeln aus drei Rahmenwerken zugleich. Die KI-Verordnung verbietet Systeme, die Kinder manipulieren oder ihre altersbedingte Schutzbedürftigkeit ausnutzen (Artikel 5). Die DSGVO verlangt besondere Sorgfalt bei Einwilligung und Profiling von Kindern. Der DSA verbietet Online-Plattformen, Werbung auf Basis von Profiling Minderjähriger anzuzeigen.

KI-Verordnung: verbotene Manipulation und Ausnutzung

Artikel 5 der KI-Verordnung nennt Minderjährige nicht namentlich, schützt sie aber auf zwei Weisen. Er verbietet KI, die mit subliminalen oder manipulativen Techniken das Verhalten wesentlich verzerrt, und er verbietet Systeme, die die Schutzbedürftigkeit einer Gruppe ausnutzen — ausdrücklich auch Schutzbedürftigkeit, die aus dem Alter entsteht.

Ein KI-Spielzeug, das ein Kind zu gefährlichem Verhalten verleitet, oder ein Empfehlungssystem, das gezielt die Unerfahrenheit von Kindern ausnutzt, fällt damit in die Zone der verbotenen Praktiken. Dieses Verbot gilt seit Februar 2025.

DSGVO: Kinder verdienen besonderen Schutz

Die DSGVO stuft Kinder als besonders schutzbedürftige betroffene Personen ein. Drei Punkte sind für KI entscheidend:

• Einwilligung. Für an Kinder gerichtete Dienste gilt oft die Einwilligung eines Elternteils; die Mitgliedstaaten setzen die Altersgrenze zwischen 13 und 16 Jahren.
• Profiling. Automatisierte Entscheidungsfindung und Profiling von Kindern erfordern zusätzliche Zurückhaltung und eine klare Erläuterung.
• Transparenz. Informationen müssen in verständlicher, auf das Kind abgestimmter Sprache gegeben werden.

Wer KI auf Daten von Kindern trainiert oder einsetzt, muss Rechtsgrundlage und Verhältnismäßigkeit also schärfer rechtfertigen können als bei Erwachsenen.

DSA: keine Profiling-Werbung

Der Digital Services Act fügt ein hartes Verbot hinzu: Online-Plattformen dürfen keine Werbung anzeigen, die auf Profiling beruht, wenn sie mit hinreichender Sicherheit wissen, dass der Nutzer minderjährig ist (Artikel 28). Empfehlungs- und Werbe-KI muss darauf ausgerichtet sein.

Zugleich darf dieses Verbot kein Anlass sein, mehr Daten von Kindern zur Altersverifikation zu erheben als unbedingt nötig — ein Spannungsfeld, das mit der DSGVO abzuwägen ist.

Zusammenwirken mit anderen Themen

Der Schutz von Kindern berührt umfassendere Fragen wie Barrierefreiheit und die allgemeinen Transparenzpflichten bei der Interaktion mit KI. Ein Chatbot für Jugendliche muss zum Beispiel deutlich machen, dass es sich um KI handelt.

Was zu tun ist

• Erfassen Sie die Altersreichweite: kann Ihre KI-Anwendung Kinder erreichen, auch unbeabsichtigt?
• Prüfen Sie gegen Artikel 5: vermeiden Sie jedes Design, das Kinder manipuliert oder ihre altersbedingte Schutzbedürftigkeit ausnutzt.
• Regeln Sie Einwilligung und Transparenz gemäß DSGVO, in kindgerechter Sprache.
• Schalten Sie Profiling-Werbung aus für (mutmaßlich) minderjährige Nutzer.
• Minimieren Sie die Altersverifikation: erheben Sie nicht mehr Daten als unbedingt nötig.

Bei Zweifeln an der genauen Einstufung hilft die Übersicht zum Stand der KI-Regulierung, um zu bestimmen, welches Rahmenwerk maßgeblich ist.