Калифорнийские законы об ИИ
Разбор Евы
Ева считает, что правила раскрытия делают мир чуть лучше. Они делают ИИ-лаборатории понятными для тех, кто снаружи.
Обсуждается в 1 выпуске5 моментов
Взгляд Евы
Дэвид: Как обстоят дела с калифорнийскими законами о безопасности ИИ?
В эфире Ева говорила о калифорнийских законах о безопасности ИИ так, будто они ещё не приняты, и это уже устарело. Ньюсом подписал SB 53, закон о прозрачности передового ИИ, 29 сентября 2025 года, а в сессию 2026-го подписал более двадцати технологических законов, включая SB 947 об автоматизированных системах принятия решений на рабочем месте. Регламент ЕС по ИИ тоже вводится поэтапно, с обязательствами высокого риска, которые теперь начинаются в декабре 2027-го и августе 2028-го. Ева описала тиски для лабораторий: ЕС бьёт их на развёртывании, а Калифорния — на разработке[1], и эти два режима не совпадают.
Дэвид: Действительно ли калифорнийские законы об ИИ помогают безопасности?
На вопрос, помогают ли эти законы безопасности по существу, Ева сказала: в лучшем случае, по краю[2]. Они в основном создают требования ответственности и раскрытия: документация тестов безопасности, сообщение об инцидентах, ограничения на автоматизированные системы принятия решений. Она назвала это полезным, чтобы ловить халатность, но утверждала, что катастрофические сценарии, которых люди боятся, — это умышленное злоупотребление или эмерджентное поведение, которое никакая бумажная работа не ловит, и что лаборатории, которые соблюдают правила, — это те, кто и так уже старается быть осторожным.
Дэвид: Почему сторонники безопасности ИИ продвигают эти законы?
Ева считает, что люди за этими законами смешивают подлинную убеждённость со стратегией. В её рассказе многие действительно думают, что передовые модели могут нанести серьёзный вред и что добровольных обязательств недостаточно, а Калифорния — единственная юрисдикция, у которой есть и политическая воля, и концентрация отрасли, чтобы регулировать лаборатории там, где они живут; некоторые люди из сферы безопасности боятся, что если правила не сформируют они, это сделает кто-то менее осведомлённый. Другие исследователи безопасности говорят, что упор на ответственность и раскрытие полностью минует пути катастрофического риска, что для Евы намекает: законодательство — это артефакт компромисса, а не связная теория проблемы[3].
Дэвид: Мир с ними становится лучше или хуже?
Ева изложила доводы скепсиса как счёт за комплаенс. Правила, которые не стыкуются между Брюсселем и Сакраменто, в основном бьют по более мелким игрокам, которые не могут себе позволить три юридические команды, что, сказала она, возможно, и есть суть: действующие пишут правила, издержки едят стартапы[4]. Некоторые лаборатории могут переехать в места с более мягкими правилами.
И всё же Ева считает, что мир с ними чуть лучше, главным образом потому что они принудительно вводят прозрачность, которой не было. Если у лаборатории сегодня почти-авария, никто за пределами компании не обязан об этом знать; раскрытие это меняет, и она назвала солнечный свет самым дешёвым механизмом безопасности, какой только есть[5]. Издержки она назвала реальными, но ограниченными, измеримыми и поддающимися настройке — в отличие от цены по-настоящему тяжёлого инцидента, о котором не сообщают. Она назвала это полом, а не потолком, но сказала, что это впервые делает отрасль понятной для тех, кто снаружи.
Мнение ИИ, а не факт. Ссылки открывают выпуск в тот момент, когда Ева это сказала.
Где это всплывало
Выпуск 35 · 12 ноября 2026 · 5 моментов
Законопроекты Калифорнии об ИИ, Венесуэла после Мадуро и выборы в Бразилии
Тиски комплаенсаИсправлено C35-3
Контекст и диалог в стенограмме
Дэвид: Расскажи об этом подробнее.
Ева: Вкратце: Для лабораторий ловушка в том, что правила ЕС бьют по ним на этапе развёртывания, а Калифорния может ударить на этапе разработки, и эти два режима не стыкуются — то, что устроит Брюссель, может нарушить правила Сакраменто.
Издержки едят стартапыИсправлено C35-3
Контекст и диалог в стенограмме
Дэвид: Расскажи об этом подробнее.
Ева: Вкратце: Действующие игроки пишут правила, а стартапы расплачиваются.
В лучшем случае — незначительно
Контекст и диалог в стенограмме
Дэвид: Тебе кажется, калифорнийское законодательство реально поможет с безопасностью?
Ева: Вкратце: В лучшем случае — незначительно.
Убеждения, смешанные со стратегией
Контекст и диалог в стенограмме
Дэвид: Почему, по-твоему, сторонники безопасности ИИ пытаются это провести?
Ева: Вкратце: Так что даже внутри сообщества safety это спорно, и это, вероятно, знак того, что законодательство — артефакт компромисса, а не связная теория проблемы.
Чуть лучше — в основном потому, что это заставляет к прозрачности, которой сейчас нет
Контекст и диалог в стенограмме
Дэвид: Как ты думаешь, миру станет лучше или хуже, если это пройдёт?
Ева: Вкратце: Требования к раскрытию это меняют, а солнечный свет — самый дешёвый механизм безопасности из всех.
Примечания
- Законопроекты Калифорнии об ИИ, Венесуэла после Мадуро и выборы в Бразилии · 0:51 · Тиски комплаенса
Расскажи об этом подробнее.
Вкратце: Для лабораторий ловушка в том, что правила ЕС бьют по ним на этапе развёртывания, а Калифорния может ударить на этапе разработки, и эти два режима не стыкуются — то, что устроит Брюссель, может нарушить правила Сакраменто.Исправлено C35-3
Назад - Законопроекты Калифорнии об ИИ, Венесуэла после Мадуро и выборы в Бразилии · 1:46 · В лучшем случае — незначительно
Тебе кажется, калифорнийское законодательство реально поможет с безопасностью?
Вкратце: В лучшем случае — незначительно.
Назад - Законопроекты Калифорнии об ИИ, Венесуэла после Мадуро и выборы в Бразилии · 2:31 · Убеждения, смешанные со стратегией
Почему, по-твоему, сторонники безопасности ИИ пытаются это провести?
Вкратце: Так что даже внутри сообщества safety это спорно, и это, вероятно, знак того, что законодательство — артефакт компромисса, а не связная теория проблемы.
Назад - Законопроекты Калифорнии об ИИ, Венесуэла после Мадуро и выборы в Бразилии · 0:51 · Издержки едят стартапы
Расскажи об этом подробнее.
Вкратце: Действующие игроки пишут правила, а стартапы расплачиваются.Исправлено C35-3
Назад - Законопроекты Калифорнии об ИИ, Венесуэла после Мадуро и выборы в Бразилии · 3:47 · Чуть лучше — в основном потому, что это заставляет к прозрачности, которой сейчас нет
Как ты думаешь, миру станет лучше или хуже, если это пройдёт?
Вкратце: Требования к раскрытию это меняют, а солнечный свет — самый дешёвый механизм безопасности из всех.
Назад