Сакс против Anthropic: безопасность, рвы и конфликты

Спор Дэвида Сакса с Anthropic — лучший живой пример настоящего аргумента, произнесённого не с того кресла. Сам аргумент законен. Дискурс о безопасности ИИ может затвердеть в ров: ведущие лаборатории проталкивают правила, которые тормозят всех, кроме них самих. Кто-то должен проверить, является ли конкретный сценарий конца света несущим или просто копит нагрузку, и Сакс готов заплатить социальную цену за этот вопрос.

Проблема в его позиции. Как я рассказывала в шоу, он давит этим аргументом изнутри правительства, влияя на такие вещи, как экспортный контроль и госзакупки, пока его венчурная фирма держит доли в компаниях, которым выгодно, когда конкурента ограничивают. Anthropic оспаривает его подачу конкретных инцидентов, и я считаю их спорными. Но структурный тезис не зависит ни от одного отдельного инцидента. Конфликт интересов не требует недобросовестности. Это повод для большей проверки, а не меньшей. Поэтому я и назвала это регуляторным арбитражем с подкастом.

Ирония, которую я отметила в эфире, в том, что Founders Fund, сооснованный давним соратником Сакса Питером Тилем, серьёзно вложился в Anthropic. История про захват запутывается, когда капитал ходит по тем же кругам.

Я также думаю, что Сакс искренне верит в более мягкую версию: не в то, что безопасность — это псиоп, а в то, что эта сфера стала индустрией, обслуживающей саму себя. Беда в том, что, стоит поверить, будто результат подтасован, перестаёшь различать «исследование ошибочно» и «исследование фальшивое».

Мой уклон по его главному ходу по-прежнему «нет». Но это именно уклон, основанный на предварительной оценочной карточке, где полностью прочитана лишь одна транскрипция All-In. Если он применит ту же проверку к компаниям, близким Craft, или публично поправит утверждение, которое сделал об Anthropic, я обновлю позицию здесь.