Foundation-Modelle und systemisches Risiko: die Schwelle von 10^25 FLOP

Kurze Antwort: Die KI-Verordnung kennt zwei Stufen für KI-Modelle mit allgemeinem Verwendungszweck (GPAI). Über das Basisregime hinaus gilt ein strengeres Paket für Modelle mit systemischem Risiko: die leistungsfähigsten "Foundation-Modelle". Ein Modell fällt vermutlich darunter, wenn die für das Training genutzte Rechenleistung mehr als 10^25 FLOP beträgt (Art. 51). Dann gelten die zusätzlichen Pflichten aus Art. 55: Modellbewertung, Risikominderung, Vorfallmeldung und Cybersicherheit.

Was ist ein Modell mit systemischem Risiko?

Ein GPAI-Modell hat systemisches Risiko, wenn es "Fähigkeiten mit großer Wirkung" besitzt, die das gesamte EU-Niveau betreffen können — man denke an die großflächige Verbreitung von Schäden über die gesamte Wertschöpfungskette. Die KI-Verordnung nutzt zwei Wege zur Feststellung: eine Rechenschwelle als gesetzliche Vermutung und eine Benennung durch die Kommission auf Basis inhaltlicher Kriterien (etwa Zahl der Nutzer, Modalitäten und Autonomie).

Die Schwelle von 10^25 FLOP

Das konkreteste Kriterium ist die Menge der für das Training genutzten Rechenleistung, gemessen in Gleitkommaoperationen (FLOP). Überschreitet das kumulierte Trainingsbudget 10^25 FLOP, wird ein systemisches Risiko vermutet. Die Schwelle ist bewusst eine Vermutung und keine harte Grenze: Die Kommission kann sie per delegiertem Rechtsakt an den technischen Fortschritt anpassen und auch Modelle darunter benennen, wenn die inhaltlichen Kriterien dies erfordern.

Praktisch betrifft diese Schwelle heute nur die größten Frontier-Modelle. Für die meisten Unternehmen, die GPAI nutzen oder feinabstimmen, ist sie nicht relevant — diese fallen unter das Basis-GPAI-Regime, nicht unter diesen schweren Strang.

Zusätzliche Pflichten bei systemischem Risiko (Art. 55)

Neben den Transparenz- und Urheberrechtspflichten, die für alle GPAI gelten, muss der Anbieter eines Modells mit systemischem Risiko:

• Modellbewertungen durchführen, einschließlich standardisierter adversarialer Tests (Red-Teaming), um systemische Risiken aufzuspüren und zu mindern;
• systemische Risiken bewerten und mindern auf EU-Ebene, einschließlich ihrer Quellen;
• schwerwiegende Vorfälle nachverfolgen, dokumentieren und unverzüglich melden an das KI-Büro und die betroffenen nationalen Behörden, mit Korrekturmaßnahmen;
• ein angemessenes Maß an Cybersicherheit für das Modell und die physische Infrastruktur gewährleisten.

Die Einhaltung kann über einen genehmigten Verhaltenskodex (Code of Practice) nachgewiesen werden, bis harmonisierte Normen verfügbar sind.

Verhältnis zum Basisregime

Ein Modell mit systemischem Risiko muss sowohl das Basisregime als auch Art. 55 einhalten. Der Strang des systemischen Risikos steht also nicht für sich: Er stapelt zusätzliche Anforderungen auf die Transparenz, technische Dokumentation und Urheberrechtspolitik, die für jeden GPAI-Anbieter gelten. Wer ein Open-Source-Modell mit systemischem Risiko herausgibt, verliert zudem die Open-Source-Ausnahmen, die andernorts durchaus gelten — siehe Open-Source-KI-Modelle.

Was zu tun ist

• Bestimmen Sie Ihre Position: bauen Sie ein Modell über 10^25 FLOP oder nutzen/feinabstimmen Sie eines? Nur das Erste fällt unter Art. 55.
• Verfolgen Sie Benennungen des KI-Büros: auch Modelle unter der Schwelle können benannt werden.
• Richten Sie einen Bewertungs- und Red-Teaming-Prozess ein, wenn Sie Anbieter eines Frontier-Modells sind.
• Legen Sie Vorfallerkennung und -meldung als Prozess fest, nicht als Ad-hoc-Aktion.
• Nutzen Sie ein Frontier-Modell als Abnehmer? Verlangen Sie vom Anbieter den Nachweis der Einhaltung von Art. 55 und verarbeiten Sie diesen in Ihrer eigenen KI-Governance.