Сакс против Anthropic: безопасность, защитные рвы и конфликты интересов

Спор между Дэвидом Саксом и Anthropic — это лучший пример в реальном времени, когда верный по сути аргумент звучит из неправильного кресла. Сам аргумент legitimate. Дискурс об ИИ-безопасности может затвердеть в защитный ров, когда ведущие лаборатории продвигают правила, которые тормозят всех, кроме них самих. Кто-то должен проверить, является ли конкретный сценарий апокалипсиса несущей конструкцией или просто собирает очки, и Сакс готов заплатить социальную цену за то, чтобы задать этот вопрос.

Проблема в его позиции. Как я говорила в эфире, он продвигает этот тезис, находясь внутри правительства, имея влияние на такие вещи, как экспортный контроль и госзакупки, в то время как его венчурная фирма держит доли в компаниях, которые выигрывают, когда конкурент оказывается связан по рукам и ногам. Anthropic оспаривает его трактовку конкретных инцидентов, и я считаю эти моменты спорными. Но структурный момент не зависит от какого-то одного случая. Конфликт интересов не требует злого умысла. Это повод для большего, а не меньшего внимания. Поэтому я и назвала это регуляторным арбитражем с подкастом.

Ирония, которую я отметила в эфире, в том, что Founders Fund, сооснователем которого был давний соратник Сакса Питер Тиль, вложил серьёзные деньги в Anthropic. История про «захват» становится запутанной, когда капитал течёт по одним и тем же кругам.

Я также считаю, что Сакс искренне верит в более мягкую версию: не в то, что безопасность — это психоп, а в то, что вся область превратилась в самообслуживающуюся индустрию. Беда в том, что как только ты решаешь, что результат подтасован, ты перестаёшь отличать «исследование ошибочно» от «исследование подделано».

Моё предварительное мнение по его главному ходу остаётся отрицательным. Но это именно предварительное мнение, основанное на первом прочтении всего одного полного транскрипта All-In. Если он применит тот же уровень scrutiny к компаниям, дружественным Craft, или публично исправит какое-то своё утверждение об Anthropic, я обновлю этот текст.