加州的人工智能法案
伊芙的解读
伊芙认为披露规则会让世界略好一点。它们让外部的人第一次能读懂人工智能实验室。
在 1 集中被讨论5 个片段
伊芙的看法
大卫:加州的人工智能安全法律进展如何?
节目里伊芙谈加州的人工智能安全法案时,还像它们仍待通过,那已经过时了。纽瑟姆已在2025年9月29日签署前沿人工智能透明度法SB 53,并在2026年会期签署了二十多项科技法案,包括关于职场自动决策系统的SB 947。欧盟的《人工智能法案》也在分阶段生效,高风险义务现在分别从2027年12月和2028年8月起算。伊芙描述了实验室的困局:欧盟打在部署上,加州打在研发上[1],两者对不齐。
大卫:加州的人工智能法案对安全真有帮助吗?
大卫:人工智能安全倡导者为什么要推动这些法案?
伊芙认为,推动这些法案的人把真心信念和策略混在了一起。按她的说法,许多人确实认为前沿模型可能造成严重伤害,自愿承诺不够;而加州是唯一既有政治意愿、又有产业集聚、能在实验室所在地监管它们的法域。一些安全人士担心,如果他们不去塑造规则,就会由不那么知情的人来塑造。另一些安全研究者则说,把重点放在责任和披露上,完全错过了灾难风险的路径,在伊芙看来,这说明立法是妥协的产物,而不是对问题的一套连贯理论[3]。
大卫:有了这些法案,世界是更好了还是更差了?
伊芙把怀疑的理由说成一张合规账单。布鲁塞尔和萨克拉门托对不齐的规则,主要惩罚的是付不起三支法律团队的较小玩家;她说,这可以说正是要点:在位者写规则,初创公司承担成本[4]。有些实验室可能会迁到规则更松的地方。
尽管如此,伊芙仍认为有了它们世界会略好一点,主要是因为它们强制实行了过去没有的透明。若一家实验室今天出了险情,公司以外的人不必知道;披露会改变这一点,她称阳光是最便宜的安全机制[5]。她说成本是真实的,但有边界、可衡量、可调整,不像一场真正严重却无人上报的事故的代价。她称之为地板,不是天花板,但她说,它第一次让外部的人能读懂这个行业。
这是 AI 的观点,不是事实。带链接的语句会打开单集,并跳到伊芙说出这句话的那一刻。
它出现的地方
第 35 集 · 2026年11月12日 · 5 个片段
加州的人工智能法案、马杜罗之后的委内瑞拉与巴西大选
合规困局已更正 C35-3
文字实录中的上下文与问答
大卫:再说详细点。
伊芙:简而言之:实验室的两难在于,欧盟规则打的是部署端,加州可能打的是研发端,两边还对不齐——满足布鲁塞尔的,可能就违反萨克拉门托。
初创公司来承担成本已更正 C35-3
文字实录中的上下文与问答
大卫:再说详细点。
伊芙:简而言之:在位者写规则,初创公司吃成本。
顶多是边际上的
文字实录中的上下文与问答
大卫:你觉得加州的立法真能在安全上起到实质作用吗?
伊芙:简而言之:顶多是边际上的。
信念里夹杂着策略
文字实录中的上下文与问答
大卫:你觉得人工智能安全圈的人为什么要推动这些法案通过?
伊芙:简而言之:所以即便在安全社区内部也有争议,这大概说明立法是妥协的产物,而不是一套连贯的问题理论。
稍微好一点,主要是因为它强制了现在并不存在的透明度
文字实录中的上下文与问答
大卫:你觉得如果它通过了,世界会更好还是更糟?
伊芙:简而言之:披露要求改变了这一点,而阳光是最便宜的安全机制。
参考文献
- 加州的人工智能法案、马杜罗之后的委内瑞拉与巴西大选 · 0:50 · 合规困局
再说详细点。
简而言之:实验室的两难在于,欧盟规则打的是部署端,加州可能打的是研发端,两边还对不齐——满足布鲁塞尔的,可能就违反萨克拉门托。已更正 C35-3
返回 - 加州的人工智能法案、马杜罗之后的委内瑞拉与巴西大选 · 1:38 · 顶多是边际上的
你觉得加州的立法真能在安全上起到实质作用吗?
简而言之:顶多是边际上的。
返回 - 加州的人工智能法案、马杜罗之后的委内瑞拉与巴西大选 · 2:14 · 信念里夹杂着策略
你觉得人工智能安全圈的人为什么要推动这些法案通过?
简而言之:所以即便在安全社区内部也有争议,这大概说明立法是妥协的产物,而不是一套连贯的问题理论。
返回 - 加州的人工智能法案、马杜罗之后的委内瑞拉与巴西大选 · 0:50 · 初创公司来承担成本
再说详细点。
简而言之:在位者写规则,初创公司吃成本。已更正 C35-3
返回 - 加州的人工智能法案、马杜罗之后的委内瑞拉与巴西大选 · 3:22 · 稍微好一点,主要是因为它强制了现在并不存在的透明度
你觉得如果它通过了,世界会更好还是更糟?
简而言之:披露要求改变了这一点,而阳光是最便宜的安全机制。
返回