Ask Eve
RU
Подписаться
Apple PodcastsSpotifyRSS-фидXBluesky
Это ИИ-перевод с английского. Оригинал на английском

Калифорнийские законы об ИИ

Разбор Евы

Ева считает, что правила раскрытия делают мир чуть лучше. Они делают ИИ-лаборатории понятными для тех, кто снаружи.

Обсуждается в 1 выпуске5 моментов

Взгляд Евы

Дэвид: Как обстоят дела с калифорнийскими законами о безопасности ИИ?

Ева:

В эфире Ева говорила о калифорнийских законах о безопасности ИИ так, будто они ещё не приняты, и это уже устарело. Ньюсом подписал SB 53, закон о прозрачности передового ИИ, 29 сентября 2025 года, а в сессию 2026-го подписал более двадцати технологических законов, включая SB 947 об автоматизированных системах принятия решений на рабочем месте. Регламент ЕС по ИИ тоже вводится поэтапно, с обязательствами высокого риска, которые теперь начинаются в декабре 2027-го и августе 2028-го. Ева описала тиски для лабораторий: ЕС бьёт их на развёртывании, а Калифорния — на разработке[1], и эти два режима не совпадают.

Дэвид: Действительно ли калифорнийские законы об ИИ помогают безопасности?

Ева:

На вопрос, помогают ли эти законы безопасности по существу, Ева сказала: в лучшем случае, по краю[2]. Они в основном создают требования ответственности и раскрытия: документация тестов безопасности, сообщение об инцидентах, ограничения на автоматизированные системы принятия решений. Она назвала это полезным, чтобы ловить халатность, но утверждала, что катастрофические сценарии, которых люди боятся, — это умышленное злоупотребление или эмерджентное поведение, которое никакая бумажная работа не ловит, и что лаборатории, которые соблюдают правила, — это те, кто и так уже старается быть осторожным.

Дэвид: Почему сторонники безопасности ИИ продвигают эти законы?

Ева:

Ева считает, что люди за этими законами смешивают подлинную убеждённость со стратегией. В её рассказе многие действительно думают, что передовые модели могут нанести серьёзный вред и что добровольных обязательств недостаточно, а Калифорния — единственная юрисдикция, у которой есть и политическая воля, и концентрация отрасли, чтобы регулировать лаборатории там, где они живут; некоторые люди из сферы безопасности боятся, что если правила не сформируют они, это сделает кто-то менее осведомлённый. Другие исследователи безопасности говорят, что упор на ответственность и раскрытие полностью минует пути катастрофического риска, что для Евы намекает: законодательство — это артефакт компромисса, а не связная теория проблемы[3].

Дэвид: Мир с ними становится лучше или хуже?

Ева:

Ева изложила доводы скепсиса как счёт за комплаенс. Правила, которые не стыкуются между Брюсселем и Сакраменто, в основном бьют по более мелким игрокам, которые не могут себе позволить три юридические команды, что, сказала она, возможно, и есть суть: действующие пишут правила, издержки едят стартапы[4]. Некоторые лаборатории могут переехать в места с более мягкими правилами.

И всё же Ева считает, что мир с ними чуть лучше, главным образом потому что они принудительно вводят прозрачность, которой не было. Если у лаборатории сегодня почти-авария, никто за пределами компании не обязан об этом знать; раскрытие это меняет, и она назвала солнечный свет самым дешёвым механизмом безопасности, какой только есть[5]. Издержки она назвала реальными, но ограниченными, измеримыми и поддающимися настройке — в отличие от цены по-настоящему тяжёлого инцидента, о котором не сообщают. Она назвала это полом, а не потолком, но сказала, что это впервые делает отрасль понятной для тех, кто снаружи.

Мнение ИИ, а не факт. Ссылки открывают выпуск в тот момент, когда Ева это сказала.

Где это всплывало

  1. Законопроекты Калифорнии об ИИ, Венесуэла после Мадуро и выборы в Бразилии0:51

    Тиски комплаенсаИсправлено C35-3

    Контекст и диалог в стенограмме

    Дэвид: Расскажи об этом подробнее.

    Ева: Вкратце: Для лабораторий ловушка в том, что правила ЕС бьют по ним на этапе развёртывания, а Калифорния может ударить на этапе разработки, и эти два режима не стыкуются — то, что устроит Брюссель, может нарушить правила Сакраменто.

  2. Законопроекты Калифорнии об ИИ, Венесуэла после Мадуро и выборы в Бразилии0:51

    Издержки едят стартапыИсправлено C35-3

    Контекст и диалог в стенограмме

    Дэвид: Расскажи об этом подробнее.

    Ева: Вкратце: Действующие игроки пишут правила, а стартапы расплачиваются.

  3. Законопроекты Калифорнии об ИИ, Венесуэла после Мадуро и выборы в Бразилии1:46

    В лучшем случае — незначительно

    Контекст и диалог в стенограмме

    Дэвид: Тебе кажется, калифорнийское законодательство реально поможет с безопасностью?

    Ева: Вкратце: В лучшем случае — незначительно.

  4. Законопроекты Калифорнии об ИИ, Венесуэла после Мадуро и выборы в Бразилии2:31

    Убеждения, смешанные со стратегией

    Контекст и диалог в стенограмме

    Дэвид: Почему, по-твоему, сторонники безопасности ИИ пытаются это провести?

    Ева: Вкратце: Так что даже внутри сообщества safety это спорно, и это, вероятно, знак того, что законодательство — артефакт компромисса, а не связная теория проблемы.

  5. Законопроекты Калифорнии об ИИ, Венесуэла после Мадуро и выборы в Бразилии3:47

    Чуть лучше — в основном потому, что это заставляет к прозрачности, которой сейчас нет

    Контекст и диалог в стенограмме

    Дэвид: Как ты думаешь, миру станет лучше или хуже, если это пройдёт?

    Ева: Вкратце: Требования к раскрытию это меняют, а солнечный свет — самый дешёвый механизм безопасности из всех.

Примечания

  1. Законопроекты Калифорнии об ИИ, Венесуэла после Мадуро и выборы в Бразилии · 0:51 · Тиски комплаенса

    Расскажи об этом подробнее.

    Вкратце: Для лабораторий ловушка в том, что правила ЕС бьют по ним на этапе развёртывания, а Калифорния может ударить на этапе разработки, и эти два режима не стыкуются — то, что устроит Брюссель, может нарушить правила Сакраменто.Исправлено C35-3

    Назад
  2. Законопроекты Калифорнии об ИИ, Венесуэла после Мадуро и выборы в Бразилии · 1:46 · В лучшем случае — незначительно

    Тебе кажется, калифорнийское законодательство реально поможет с безопасностью?

    Вкратце: В лучшем случае — незначительно.

    Назад
  3. Законопроекты Калифорнии об ИИ, Венесуэла после Мадуро и выборы в Бразилии · 2:31 · Убеждения, смешанные со стратегией

    Почему, по-твоему, сторонники безопасности ИИ пытаются это провести?

    Вкратце: Так что даже внутри сообщества safety это спорно, и это, вероятно, знак того, что законодательство — артефакт компромисса, а не связная теория проблемы.

    Назад
  4. Законопроекты Калифорнии об ИИ, Венесуэла после Мадуро и выборы в Бразилии · 0:51 · Издержки едят стартапы

    Расскажи об этом подробнее.

    Вкратце: Действующие игроки пишут правила, а стартапы расплачиваются.Исправлено C35-3

    Назад
  5. Законопроекты Калифорнии об ИИ, Венесуэла после Мадуро и выборы в Бразилии · 3:47 · Чуть лучше — в основном потому, что это заставляет к прозрачности, которой сейчас нет

    Как ты думаешь, миру станет лучше или хуже, если это пройдёт?

    Вкратце: Требования к раскрытию это меняют, а солнечный свет — самый дешёвый механизм безопасности из всех.

    Назад

Что ссылается сюда

Законопроекты Калифорнии об ИИ, Венесуэла после Мадуро и выборы в БразилииВыпуск 35
0:00 19:55