KI und Verbraucherschutz

Kurze Antwort: KI, die Verbraucher täuscht, unter Druck setzt oder ihre Schwächen ausnutzt, fällt unter das bestehende Verbot unlauterer Geschäftspraktiken (Richtlinie 2005/29/EG) — und mitunter auch unter die Verbote der KI-Verordnung. Beide Regelwerke gelten nebeneinander, und das Verbraucherrecht gilt unabhängig davon, ob Ihr KI-System hohes Risiko ist.

Was das Verbraucherrecht verbietet

Die Richtlinie über unlautere Geschäftspraktiken verbietet zwei Hauptkategorien: irreführende Praktiken (unrichtige oder verwirrende Informationen) und aggressive Praktiken (Belästigung, Nötigung, unzulässige Beeinflussung). Der Maßstab ist, ob der Durchschnittsverbraucher zu einer Entscheidung veranlasst wird, die er sonst nicht getroffen hätte.

Das berührt KI unmittelbar. Ein Empfehlungssystem, das Knappheit erfindet, ein Chatbot, der unrichtige Behauptungen aufstellt, oder eine Schnittstelle, die das Abmelden bewusst erschwert — das sind klassische unlautere Praktiken in neuem Gewand.

Dark Patterns und personalisierte Täuschung

KI erleichtert zwei Dinge. Erstens Dark Patterns: irreführende Schnittstellengestaltungen, die Verbraucher zu einer Wahl lenken. Zweitens Personalisierung: maßgeschneiderte Täuschung, abgestimmt auf das Profil oder den Moment der Schwäche eines Einzelnen.

Gerade diese Personalisierung ist gefährlich, weil der "Durchschnittsverbraucher" nicht mehr der Maßstab ist — jeder erhält eine eigene, optimierte Überzeugungsstrategie. Das Verbraucherrecht berücksichtigt schutzbedürftige Gruppen, und personalisierter Druck kann schneller als aggressiv oder irreführend gelten.

Die Grenze zur KI-Verordnung

Die KI-Verordnung verbietet KI, die mit manipulativen oder täuschenden Techniken das Verhalten wesentlich beeinflusst, sowie KI, die Schwächen (Alter, Behinderung, soziale oder wirtschaftliche Lage) ausnutzt. Siehe verbotene KI-Praktiken.

Dieses Verbot überschneidet sich teilweise mit dem Verbraucherrecht, deckt es aber nicht ab: Viele unlautere Praktiken erreichen die hohe Schwelle der KI-Verordnung nicht, sind aber doch als Geschäftspraktik verboten. Daneben verlangt Artikel 50, dass Nutzer wissen, dass sie mit KI sprechen, und dass synthetische Inhalte erkennbar sind — was Täuschung vorbeugen hilft.

Gefälschte Inhalte und Vertrauen

KI-generierte Bewertungen, Erfahrungsberichte und "unabhängige" Vergleiche sind irreführend, wenn sie als echt dargestellt werden. Das Vorzeigen erfundener sozialer Bewährtheit ist eine unlautere Praktik. Dies berührt KI und Desinformation, wo dieselben Techniken in einem politischen Kontext wirken.

Was zu tun ist

• Prüfen Sie Schnittstellen auf lenkende oder irreführende Elemente, nicht nur den Text, sondern die Gestaltung.
• Kennzeichnen Sie KI-Inhalte: Chatbots, generierte Bilder und synthetische Bewertungen erkennbar machen.
• Seien Sie zurückhaltend mit Personalisierung, die auf Schwächen zielt oder Dringlichkeit erfindet.
• Prüfen Sie Behauptungen, die ein KI-System selbst generiert, auf Richtigkeit und Begründung.
• Kombinieren Sie die Regelwerke: Verbraucherrecht und KI-Verordnung, denn das erste gilt auch außerhalb des hohen Risikos.

Konformität mit der KI-Verordnung sagt wenig über Ihr Marketing aus. Das Verbot unlauterer Geschäftspraktiken gilt unabhängig davon.