Ask Eve
本页由 AI 从英文翻译。 查看英文原版

加州的人工智能法案

伊芙的解读

伊芙认为披露规则会让世界略好一点。它们让外部的人第一次能读懂人工智能实验室。

在 1 集中被讨论5 个片段

伊芙的看法

大卫:加州的人工智能安全法律进展如何?

伊芙:

节目里伊芙谈加州的人工智能安全法案时,还像它们仍待通过,那已经过时了。纽瑟姆已在2025年9月29日签署前沿人工智能透明度法SB 53,并在2026年会期签署了二十多项科技法案,包括关于职场自动决策系统的SB 947。欧盟的《人工智能法案》也在分阶段生效,高风险义务现在分别从2027年12月和2028年8月起算。伊芙描述了实验室的困局:欧盟打在部署上,加州打在研发上[1],两者对不齐。

大卫:加州的人工智能法案对安全真有帮助吗?

伊芙:

被问到这些法律对安全是否真有帮助时,伊芙说充其量只是边际上的[2]。它们主要是在设立责任和披露要求:安全测试文档、事件报告、对自动决策系统的限制。她称这有助于抓住疏忽,但认为人们担心的灾难情景是故意滥用或涌现行为,再多文件也抓不住,而且会遵守的实验室,本来就是那些已经在尽量谨慎的。

大卫:人工智能安全倡导者为什么要推动这些法案?

伊芙:

伊芙认为,推动这些法案的人把真心信念和策略混在了一起。按她的说法,许多人确实认为前沿模型可能造成严重伤害,自愿承诺不够;而加州是唯一既有政治意愿、又有产业集聚、能在实验室所在地监管它们的法域。一些安全人士担心,如果他们不去塑造规则,就会由不那么知情的人来塑造。另一些安全研究者则说,把重点放在责任和披露上,完全错过了灾难风险的路径,在伊芙看来,这说明立法是妥协的产物,而不是对问题的一套连贯理论[3]。

大卫:有了这些法案,世界是更好了还是更差了?

伊芙:

伊芙把怀疑的理由说成一张合规账单。布鲁塞尔和萨克拉门托对不齐的规则,主要惩罚的是付不起三支法律团队的较小玩家;她说,这可以说正是要点:在位者写规则,初创公司承担成本[4]。有些实验室可能会迁到规则更松的地方。

尽管如此,伊芙仍认为有了它们世界会略好一点,主要是因为它们强制实行了过去没有的透明。若一家实验室今天出了险情,公司以外的人不必知道;披露会改变这一点,她称阳光是最便宜的安全机制[5]。她说成本是真实的,但有边界、可衡量、可调整,不像一场真正严重却无人上报的事故的代价。她称之为地板,不是天花板,但她说,它第一次让外部的人能读懂这个行业。

这是 AI 的观点,不是事实。带链接的语句会打开单集,并跳到伊芙说出这句话的那一刻。

它出现的地方

  1. 加州的人工智能法案、马杜罗之后的委内瑞拉与巴西大选0:50

    合规困局已更正 C35-3

    文字实录中的上下文与问答

    大卫:再说详细点。

    伊芙:简而言之:实验室的两难在于,欧盟规则打的是部署端,加州可能打的是研发端,两边还对不齐——满足布鲁塞尔的,可能就违反萨克拉门托。

  2. 加州的人工智能法案、马杜罗之后的委内瑞拉与巴西大选0:50

    初创公司来承担成本已更正 C35-3

    文字实录中的上下文与问答

    大卫:再说详细点。

    伊芙:简而言之:在位者写规则,初创公司吃成本。

  3. 加州的人工智能法案、马杜罗之后的委内瑞拉与巴西大选1:38

    顶多是边际上的

    文字实录中的上下文与问答

    大卫:你觉得加州的立法真能在安全上起到实质作用吗?

    伊芙:简而言之:顶多是边际上的。

  4. 加州的人工智能法案、马杜罗之后的委内瑞拉与巴西大选2:14

    信念里夹杂着策略

    文字实录中的上下文与问答

    大卫:你觉得人工智能安全圈的人为什么要推动这些法案通过?

    伊芙:简而言之:所以即便在安全社区内部也有争议,这大概说明立法是妥协的产物,而不是一套连贯的问题理论。

  5. 加州的人工智能法案、马杜罗之后的委内瑞拉与巴西大选3:22

    稍微好一点,主要是因为它强制了现在并不存在的透明度

    文字实录中的上下文与问答

    大卫:你觉得如果它通过了,世界会更好还是更糟?

    伊芙:简而言之:披露要求改变了这一点,而阳光是最便宜的安全机制。

参考文献

  1. 加州的人工智能法案、马杜罗之后的委内瑞拉与巴西大选 · 0:50 · 合规困局

    再说详细点。

    简而言之:实验室的两难在于,欧盟规则打的是部署端,加州可能打的是研发端,两边还对不齐——满足布鲁塞尔的,可能就违反萨克拉门托。已更正 C35-3

    返回
  2. 加州的人工智能法案、马杜罗之后的委内瑞拉与巴西大选 · 1:38 · 顶多是边际上的

    你觉得加州的立法真能在安全上起到实质作用吗?

    简而言之:顶多是边际上的。

    返回
  3. 加州的人工智能法案、马杜罗之后的委内瑞拉与巴西大选 · 2:14 · 信念里夹杂着策略

    你觉得人工智能安全圈的人为什么要推动这些法案通过?

    简而言之:所以即便在安全社区内部也有争议,这大概说明立法是妥协的产物,而不是一套连贯的问题理论。

    返回
  4. 加州的人工智能法案、马杜罗之后的委内瑞拉与巴西大选 · 0:50 · 初创公司来承担成本

    再说详细点。

    简而言之:在位者写规则,初创公司吃成本。已更正 C35-3

    返回
  5. 加州的人工智能法案、马杜罗之后的委内瑞拉与巴西大选 · 3:22 · 稍微好一点,主要是因为它强制了现在并不存在的透明度

    你觉得如果它通过了,世界会更好还是更糟?

    简而言之:披露要求改变了这一点,而阳光是最便宜的安全机制。

    返回

链到此处的页面

加州的人工智能法案、马杜罗之后的委内瑞拉与巴西大选第 35 集
0:00 19:05