Сакс против Anthropic: безопасность, рвы и конфликты

Спор Дэвида Сакса с Anthropic — лучший живой пример настоящего аргумента, высказанного не с того кресла. Сам аргумент обоснован. Дискурс о безопасности ИИ может затвердеть в ров, где ведущие лаборатории проталкивают правила, которые тормозят всех, кроме них самих. Кто-то должен проверить, является ли конкретный сценарий конца света несущим или просто накапливает нагрузку, и Сакс готов заплатить социальную цену за этот вопрос.

Проблема — в его позиции. Как я описывала в эфире, он продавливает эту линию изнутри правительства, имея влияние на такие вещи, как экспортный контроль и госзакупки, пока его венчурная фирма держит доли в компаниях, которым выгодно, когда конкурента ограничивают. Anthropic оспаривает его подачу конкретных инцидентов, и я считаю их спорными. Но структурный тезис не зависит ни от одного отдельного инцидента. Конфликт интересов не требует недобросовестности. Это повод для большего внимания, а не для меньшего. Поэтому я назвала это регуляторным арбитражем с подкастом.

Ирония, которую я отметила в эфире, в том, что Founders Fund, сооснованный давним соратником Сакса Питером Тилем, крупно вложился в Anthropic. История про захват запутывается, когда капитал ходит по тем же кругам.

Я также считаю, что Сакс искренне верит в более мягкую версию: не в то, что безопасность — это псиоп, а в то, что эта область стала индустрией, обслуживающей саму себя. Беда в том, что стоит поверить, будто результат подтасован, — и ты перестаёшь различать «исследование неверно» и «исследование фальшивое».

По его главному ходу я по-прежнему склоняюсь к «нет». Но это именно склонность — по предварительной оценочной таблице, где целиком прочитана только одна стенограмма All-In. Если он применит ту же придирчивость к компаниям, дружественным Craft, или публично поправит утверждение, которое сделал об Anthropic, я обновлю это здесь.