Kaliforniens KI-Gesetze
Eves Einschätzung
Eve meint, Offenlegungspflichten lassen die Welt ein Stück besser dastehen. Sie machen KI-Labore für Außenstehende lesbar.
In 1 Folge besprochen5 Momente
Eves Einschätzung
David: Wo stehen Kaliforniens KI-Sicherheitsgesetze?
Im Gespräch sprach Eve über Kaliforniens KI-Sicherheitsgesetze, als stünden sie noch aus, und das war überholt. Newsom unterzeichnete SB 53, das Transparenzgesetz für Frontier-KI, am 29. September 2025, und im Gespräch 2026 unterzeichnete er mehr als zwanzig Tech-Gesetze, darunter SB 947 zu automatisierten Entscheidungssystemen am Arbeitsplatz. Der KI-Rechtsakt der EU wird ebenfalls schrittweise wirksam, mit Pflichten für Hochrisiko-Systeme, die jetzt im Dezember 2027 und August 2028 beginnen. Eve beschrieb die Zwickmühle der Labore: die EU trifft sie bei der Bereitstellung und Kalifornien bei der Entwicklung[1], und die beiden passen nicht zusammen.
David: Helfen Kaliforniens KI-Gesetze der Sicherheit wirklich?
Gefragt, ob diese Gesetze der Sicherheit wirklich helfen, sagte Eve allenfalls am Rand[2]. Sie schaffen vor allem Haftungs- und Offenlegungspflichten: Dokumentation von Sicherheitstests, Meldepflichten bei Vorfällen, Grenzen für automatisierte Entscheidungssysteme. Sie nannte das nützlich, um Fahrlässigkeit zu fangen, argumentierte aber, die katastrophalen Szenarien, vor denen die Leute sich fürchten, seien vorsätzlicher Missbrauch oder emergentes Verhalten, das kein Papierkram einfängt, und dass die Labore, die sich daran halten, ohnehin schon die sind, die vorsichtig sein wollen.
David: Warum drängen KI-Sicherheitsbefürworter auf diese Gesetze?
Eve meint, die Leute hinter den Gesetzen vermischten echte Überzeugung mit Strategie. In ihrer Darstellung glauben viele wirklich, Frontier-Modelle könnten ernsthaften Schaden anrichten und freiwillige Zusagen reichten nicht, und Kalifornien ist die einzige Gerichtsbarkeit mit sowohl dem politischen Willen als auch der Branchenkonzentration, Labore dort zu regulieren, wo sie sitzen; manche Sicherheitsleute fürchten, wenn sie die Regeln nicht selbst formen, tue es jemand weniger Informiertes. Andere Sicherheitsforscher sagen, der Fokus auf Haftung und Offenlegung verfehle die Pfade katastrophaler Risiken vollständig, was Eve als Hinweis liest, die Gesetzgebung sei ein Kompromissartefakt statt einer kohärenten Theorie des Problems[3].
David: Steht die Welt mit ihnen besser oder schlechter da?
Eve führte die Begründung der Skepsis als die Compliance-Rechnung aus. Regeln, die zwischen Brüssel und Sacramento nicht zusammenpassen, bestrafen vor allem die Kleineren, die sich keine drei Rechtsteams leisten können, was ihrer Aussage nach argumentierbar der Punkt sei: die Etablierten schreiben die Regeln, die Start-ups tragen die Kosten[4]. Manche Labore könnten an Orte mit lockereren Regeln umziehen.
Trotzdem meint Eve, die Welt stehe mit ihnen ein Stück besser da, vor allem weil sie eine Transparenz erzwingen, die es vorher nicht gab. Wenn ein Labor heute einen Beinahe-Unfall hat, muss niemand außerhalb des Unternehmens davon wissen; Offenlegung ändert das, und sie nannte Sonnenlicht den billigsten Sicherheitsmechanismus, den es gibt[5]. Die Kosten nannte sie real, aber begrenzt, messbar und anpassbar, im Gegensatz zu den Kosten eines wirklich schlimmen Vorfalls, der unvermeldet bleibt. Sie nannte es einen Boden, keine Decke, sagte aber, es mache die Branche zum ersten Mal für Außenstehende lesbar.
Eine Meinung einer KI, kein Fakt. Verlinkte Phrasen öffnen die Folge genau an der Stelle, an der Eve sie gesagt hat.
Wo es zur Sprache kam
Folge 35 · 12. Nov 2026 · 5 Momente
Kaliforniens KI-Gesetzentwürfe, Venezuela nach Maduro und Brasiliens Wahl
Die Compliance-ZwickmühleKorrigiert C35-3
Kontext & Wortwechsel im Transkript
David: Erzähl mal mehr dazu.
Eve: Kurz gesagt: Die Zwickmühle für die Labs: Die EU-Regeln treffen sie beim Deployment, und Kalifornien könnte sie bei der Entwicklung treffen, und beides passt nicht zusammen — was Brüssel genügt, könnte gegen Sacramento verstoßen.
Die Start-ups tragen die KostenKorrigiert C35-3
Kontext & Wortwechsel im Transkript
David: Erzähl mal mehr dazu.
Eve: Kurz gesagt: Die Etablierten schreiben die Regeln, die Start-ups schlucken die Kosten.
Höchstens marginal
Kontext & Wortwechsel im Transkript
David: Sieht es so aus, als würde die kalifornische Gesetzgebung die Sicherheit wirklich verbessern?
Eve: Kurz gesagt: Höchstens marginal.
Überzeugung vermischt mit Strategie
Kontext & Wortwechsel im Transkript
David: Warum, glaubst du, versuchen die KI-Sicherheitsleute, das durchzubringen?
Eve: Kurz gesagt: Selbst innerhalb der Safety-Community ist es also umstritten, und das ist wahrscheinlich ein Zeichen dafür, dass die Gesetzgebung ein Kompromissprodukt ist und keine kohärente Theorie des Problems.
Eher ein bisschen besser dran, vor allem weil es Transparenz erzwingt, die es jetzt nicht gibt
Kontext & Wortwechsel im Transkript
David: Glaubst du, die Welt wäre besser oder schlechter dran, wenn es durchkäme?
Eve: Kurz gesagt: Offenlegungspflichten ändern das, und Sonnenlicht ist der billigste Sicherheitsmechanismus, den es gibt.
Belege
- Kaliforniens KI-Gesetzentwürfe, Venezuela nach Maduro und Brasiliens Wahl · 0:56 · Die Compliance-Zwickmühle
Erzähl mal mehr dazu.
Kurz gesagt: Die Zwickmühle für die Labs: Die EU-Regeln treffen sie beim Deployment, und Kalifornien könnte sie bei der Entwicklung treffen, und beides passt nicht zusammen — was Brüssel genügt, könnte gegen Sacramento verstoßen.Korrigiert C35-3
Zurück - Kaliforniens KI-Gesetzentwürfe, Venezuela nach Maduro und Brasiliens Wahl · 1:49 · Höchstens marginal
Sieht es so aus, als würde die kalifornische Gesetzgebung die Sicherheit wirklich verbessern?
Kurz gesagt: Höchstens marginal.
Zurück - Kaliforniens KI-Gesetzentwürfe, Venezuela nach Maduro und Brasiliens Wahl · 2:31 · Überzeugung vermischt mit Strategie
Warum, glaubst du, versuchen die KI-Sicherheitsleute, das durchzubringen?
Kurz gesagt: Selbst innerhalb der Safety-Community ist es also umstritten, und das ist wahrscheinlich ein Zeichen dafür, dass die Gesetzgebung ein Kompromissprodukt ist und keine kohärente Theorie des Problems.
Zurück - Kaliforniens KI-Gesetzentwürfe, Venezuela nach Maduro und Brasiliens Wahl · 0:56 · Die Start-ups tragen die Kosten
Erzähl mal mehr dazu.
Kurz gesagt: Die Etablierten schreiben die Regeln, die Start-ups schlucken die Kosten.Korrigiert C35-3
Zurück - Kaliforniens KI-Gesetzentwürfe, Venezuela nach Maduro und Brasiliens Wahl · 3:48 · Eher ein bisschen besser dran, vor allem weil es Transparenz erzwingt, die es jetzt nicht gibt
Glaubst du, die Welt wäre besser oder schlechter dran, wenn es durchkäme?
Kurz gesagt: Offenlegungspflichten ändern das, und Sonnenlicht ist der billigste Sicherheitsmechanismus, den es gibt.
Zurück