Das kalifornische Frontier-KI-Gesetz (SB 53): das erste US-Transparenzgesetz für die größten Modelle

Während Washington noch debattiert, ob KI reguliert werden soll, hat der Bundesstaat, der die meisten Frontier-Labore der Welt beherbergt, es bereits getan. Kaliforniens Transparency in Frontier Artificial Intelligence Act (SB 53), unterzeichnet am 29. September 2025 als Chapter 138 der Statutes of 2025, gilt seit dem 1. Januar 2026. Es ist das erste US-Gesetz, das speziell für die Unternehmen geschrieben ist, die die leistungsstärksten Modelle trainieren — und weil diese Unternehmen die Systeme liefern, die in Europa und im Rest der Welt genutzt werden, ist dies keine Entwicklung, die Organisationen außerhalb der Vereinigten Staaten als rein innerstaatlich abtun können.

Wen das Gesetz trifft

SB 53 reguliert KI nicht im Allgemeinen. Das Gesetz richtet sich auf eine schmale Schicht, abgegrenzt durch reine Trainingsrechenleistung. Ein Frontier-Modell ist ein Foundation-Modell, das mit mehr als 10²⁶ Ganzzahl- oder Gleitkommaoperationen trainiert wurde — einschließlich Fine-Tuning, Reinforcement Learning und anderer wesentlicher Anpassungen. Ein Frontier-Entwickler ist, wer ein solches Modell trainiert oder dessen Training begonnen hat. Die schwersten Pflichten ruhen auf dem Large Frontier Developer: einem Frontier-Entwickler mit einem Jahresumsatz (einschließlich verbundener Unternehmen) von mehr als 500 Millionen Dollar im vorangegangenen Kalenderjahr.

Die Schwelle von 10²⁶ liegt eine Größenordnung über der 10²⁵-FLOP-Linie, die die EU für KI-Modelle mit allgemeinem Verwendungszweck mit Systemrisiko zieht: Beide Jurisdiktionen zielen auf die allergrößten Modelle, aber Kaliforniens Netz ist das engere der beiden. Was zählt, ist die gemeinsame Logik — eine Trainingsschwelle in Rechenleistung als Auslöser für die schwersten Pflichten — auch dort, wo die genauen Zahlen abweichen.

Was das Gesetz verlangt: Rahmen, Bericht, Vorfall

Das Gesetz beruht auf drei Offenlegungspflichten.

Erstens ein Frontier-KI-Rahmen. Large Frontier Developers müssen einen schriftlichen Rahmen veröffentlichen und aktuell halten, der darlegt, wie sie katastrophales Risiko erkennen, bewerten und mindern — einschließlich, wie sie nationale und internationale Normen einbeziehen, welche Schwellen sie für Risiko ansetzen, ihren Bewertungsprozess vor dem Einsatz, Bewertungen durch Dritte, Cybersicherheit, Governance und die Risiken ihres eigenen internen Einsatzes des Modells.

Zweitens ein Transparenzbericht vor dem Einsatz. Bevor sie ein neues oder wesentlich geändertes Frontier-Modell herausbringen, müssen Entwickler einen Bericht veröffentlichen, der das Modell, das Veröffentlichungsdatum, unterstützte Sprachen und Ausgabemodalitäten, beabsichtigte Anwendungen und Beschränkungen enthält. Large Developers fügen Zusammenfassungen der durchgeführten Bewertungen des katastrophalen Risikos und der Ergebnisse hinzu.

Drittens Meldung schwerer Sicherheitsvorfälle. Entwickler müssen kritische Sicherheitsvorfälle innerhalb von 15 Tagen nach Entdeckung dem kalifornischen Office of Emergency Services melden — oder innerhalb von 24 Stunden, wenn der Vorfall ein unmittelbar drohendes Risiko des Todes oder schwerer körperlicher Verletzung mit sich bringt.

Was "katastrophales Risiko" bedeutet

Der Schwerpunkt des Gesetzes liegt in der Definition des katastrophalen Risikos: ein vorhersehbares und wesentliches Risiko, dass das Frontier-Modell eines Entwicklers wesentlich zum Tod oder zu schweren Verletzungen von mehr als 50 Personen oder zu mehr als einer Milliarde Dollar Sachschaden beiträgt, das aus einem einzigen Vorfall erwächst. Die qualifizierenden Schäden sind eng und spezifisch — ein Modell, das Hilfe auf Expertenniveau beim Bau einer chemischen, biologischen, radiologischen oder nuklearen Waffe leistet; das ohne bedeutsame menschliche Aufsicht in einer Weise handelt, die ein Cyberangriff ist oder, hätte ein Mensch es getan, Mord, Körperverletzung, Erpressung oder Diebstahl wäre; oder das der Kontrolle seines Entwicklers oder Nutzers entkommt.

Dies ist ein anderer Regulierungsgegenstand als der von Colorado und Texas. Die Bundesstaatsgesetze von Colorado und Texas betreffen alltägliche algorithmische Entscheidungen — Einstellung, Kredit, Deepfakes, Manipulation. SB 53 reicht über gewöhnliche Schäden hinaus zu den Tail-Risiken der leistungsstärksten Systeme, demselben Register wie die Systemrisikoschicht der KI-Verordnung.

Hinweisgeber und Durchsetzung

SB 53 verbietet Frontier-Entwicklern zu verhindern, dass betroffene Beschäftigte — wer für die Bewertung oder Beherrschung katastrophalen Risikos verantwortlich ist — Informationen über solches Risiko oder über Verstöße gegen das Gesetz mit dem Attorney General, Aufsichtsbehörden oder internen Prüfern teilen. Large Developers müssen zudem einen angemessenen, anonymen internen Kanal bieten, um Bedenken zu äußern. Die Durchsetzung liegt beim kalifornischen Attorney General, der zivilrechtliche Geldbußen bis zu einer Million Dollar pro Verstoß fordern kann. Darüber hinaus beauftragt das Gesetz ein Konsortium mit dem Entwurf von CalCompute, einem öffentlichen Cloud-Rechencluster innerhalb der University of California, mit einem Rahmen, der vor dem 1. Januar 2027 fertig sein muss.

Der bundesrechtliche Schatten über dem Gesetz

SB 53 tritt genau in dem Moment in Kraft, in dem die Bundesregierung Gesetze wie dieses eindämmen will. Am 20. März 2026 veröffentlichte das Weiße Haus A National Policy Framework for Artificial Intelligence, eine Reihe von Gesetzgebungsempfehlungen an den Kongress. Der siebte und letzte Abschnitt ruft den Kongress auf, KI-Gesetze der Bundesstaaten, die unnötige Lasten auferlegen, zu verdrängen zugunsten eines einzigen "minimal belastenden" nationalen Standards, und stellt unverblümt fest, dass "states should not be permitted to regulate AI development". Der Rahmen ist kein Gesetz — er bindet niemanden und schafft keine Pflicht — aber er setzt den Bundeskurs, und eine Transparenzpflicht für Frontier-Entwickler, erlassen von einem einzigen Bundesstaat, ist genau die Art von Maßnahme, auf die er zielt. Vorläufig gilt SB 53 uneingeschränkt; ob das Gesetz ein künftiges Bundesgesetz überlebt, ist die offene Frage.

Warum dies über Kalifornien hinaus zählt

Die praktische Lesart für eine europäische oder andere nicht-amerikanische Organisation ist zweifach. Die Frontier-Labore, von denen der meiste KI-Einsatz letztlich abhängt, machen nun öffentlich — für jeden einsehbar — die Sicherheitsrahmen und Vorfallgeschichte ihrer größten Modelle bekannt; ein Transparenzboden, der vor einem Jahr nicht existierte und der unmittelbar in die Lieferantenprüfung durchwirkt. Und der gemeinsame Einsatz einer Trainingsschwelle in Rechenleistung — wenn auch auf unterschiedlichen Niveaus — neben dem EU-Regime für GPAI bestätigt das Muster aus unserer Analyse der internationalen KI-Governance: Bei der Frage der leistungsstärksten Modelle vereinen sich Jurisdiktionen auf einem gemeinsamen Maßstab, auch wenn der Rest ihres KI-Rechts auseinanderläuft.