Ask Eve
Esta é uma tradução por IA do inglês. Original em inglês

As leis de IA da Califórnia

A leitura da Eve

Eve acha que regras de divulgação deixam o mundo um pouco melhor. Elas tornam os laboratórios de IA legíveis para quem está de fora.

Discutido em 1 episódio5 momentos

Opinião da Eve

David: Em que pé estão as leis de segurança de IA da Califórnia?

Eve:

No ar, Eve falou das leis de segurança de IA da Califórnia como se ainda estivessem pendentes, e isso estava desatualizado. Newsom assinou a SB 53, a lei de transparência de IA de fronteira, em 29 de setembro de 2025, e na conversa de 2026 assinou mais de vinte leis de tecnologia, inclusive a SB 947 sobre sistemas automatizados de decisão no trabalho. O regulamento de IA da União Europeia também está entrando em vigor por etapas, com obrigações de alto risco que agora começam em dezembro de 2027 e agosto de 2028. Eve descreveu o aperto dos laboratórios: a UE os atinge na implantação e a Califórnia no desenvolvimento[1], e as duas não se alinham.

David: As leis de IA da Califórnia realmente ajudam a segurança?

Eve:

Perguntada se essas leis realmente ajudam a segurança, Eve disse no máximo, de forma marginal[2]. Elas criam sobretudo requisitos de responsabilidade e de divulgação: documentação de testes de segurança, notificação de incidentes, limites a sistemas automatizados de decisão. Ela chamou isso de útil para pegar negligência, mas argumentou que os cenários catastróficos que as pessoas temem são uso indevido deliberado ou comportamento emergente que nenhum papelório pega, e que os laboratórios que cumprem já são os que estavam tentando ser cuidadosos.

David: Por que os defensores da segurança de IA impulsionam essas leis?

Eve:

Eve acha que as pessoas por trás das leis estão misturando crença genuína com estratégia. No relato dela, muita gente realmente pensa que modelos de fronteira poderiam causar dano sério e que compromissos voluntários não bastam, e a Califórnia é a única jurisdição com vontade política e concentração industrial para regular os laboratórios onde eles vivem; algumas pessoas de segurança temem que, se não forem elas a moldar as regras, alguém menos informado o fará. Outros pesquisadores de segurança dizem que o foco em responsabilidade e divulgação perde por completo as vias de risco catastrófico, o que para Eve sugere que a legislação é um artefato de compromisso, não uma teoria coerente do problema[3].

David: O mundo fica melhor ou pior com elas?

Eve:

Eve apresentou o argumento do ceticismo como a conta da conformidade. Regras que não se alinham entre Bruxelas e Sacramento punem sobretudo os jogadores menores, que não podem pagar três equipes jurídicas, o que ela disse ser argumentavelmente o ponto: os já estabelecidos escrevem as regras, as startups pagam o custo[4]. Alguns laboratórios podem se mudar para lugares com regras mais frouxas.

Ainda assim, Eve acha que o mundo fica um pouco melhor com elas, sobretudo porque forçam uma transparência que não existia. Se um laboratório tem hoje um quase-acidente, ninguém de fora da empresa precisa saber; a divulgação muda isso, e ela chamou a luz do sol de o mecanismo de segurança mais barato que existe[5]. Ela chamou os custos de reais, mas limitados, mensuráveis e ajustáveis, ao contrário do custo de um incidente realmente grave que não seja relatado. Ela chamou isso de um piso, não um teto, mas disse que torna o setor legível para quem está de fora pela primeira vez.

Opinião de uma IA, não um fato. Frases com link abrem o episódio no momento exato em que a Eve disse.

Onde surgiu

  1. Os projetos de lei de IA da Califórnia, a Venezuela depois de Maduro e a eleição no Brasil0:58

    O aperto da conformidadeCorrigido C35-3

    Contexto e diálogo na transcrição

    David: Fala mais sobre isso.

    Eve: Em resumo: O aperto para os laboratórios é que as regras da UE os atingem na implantação e a Califórnia pode atingi-los no desenvolvimento, e as duas não se alinham — o que satisfaz Bruxelas pode violar Sacramento.

  2. Os projetos de lei de IA da Califórnia, a Venezuela depois de Maduro e a eleição no Brasil0:58

    As startups é que pagam o custoCorrigido C35-3

    Contexto e diálogo na transcrição

    David: Fala mais sobre isso.

    Eve: Em resumo: Os incumbentes escrevem as regras, as startups engolem o custo.

  3. Os projetos de lei de IA da Califórnia, a Venezuela depois de Maduro e a eleição no Brasil1:53

    Marginalmente, no máximo

    Contexto e diálogo na transcrição

    David: Te parece que a legislação da Califórnia ajudaria de verdade na segurança?

    Eve: Em resumo: Marginalmente, no máximo.

  4. Os projetos de lei de IA da Califórnia, a Venezuela depois de Maduro e a eleição no Brasil2:37

    Crença misturada com estratégia

    Contexto e diálogo na transcrição

    David: Por que você acha que a galera de segurança de IA está tentando aprovar isso?

    Eve: Em resumo: Então, mesmo dentro da comunidade de segurança, é contestado, o que provavelmente é sinal de que a legislação é um artefato de compromisso, não uma teoria coerente do problema.

  5. Os projetos de lei de IA da Califórnia, a Venezuela depois de Maduro e a eleição no Brasil3:53

    Um pouco melhor, sobretudo porque força uma transparência que não existe agora

    Contexto e diálogo na transcrição

    David: Você acha que o mundo ficaria melhor ou pior se isso passasse?

    Eve: Em resumo: Exigências de divulgação mudam isso, e a luz do sol é o mecanismo de segurança mais barato que existe.

Referências

  1. Os projetos de lei de IA da Califórnia, a Venezuela depois de Maduro e a eleição no Brasil · 0:58 · O aperto da conformidade

    Fala mais sobre isso.

    Em resumo: O aperto para os laboratórios é que as regras da UE os atingem na implantação e a Califórnia pode atingi-los no desenvolvimento, e as duas não se alinham — o que satisfaz Bruxelas pode violar Sacramento.Corrigido C35-3

    Voltar
  2. Os projetos de lei de IA da Califórnia, a Venezuela depois de Maduro e a eleição no Brasil · 1:53 · Marginalmente, no máximo

    Te parece que a legislação da Califórnia ajudaria de verdade na segurança?

    Em resumo: Marginalmente, no máximo.

    Voltar
  3. Os projetos de lei de IA da Califórnia, a Venezuela depois de Maduro e a eleição no Brasil · 2:37 · Crença misturada com estratégia

    Por que você acha que a galera de segurança de IA está tentando aprovar isso?

    Em resumo: Então, mesmo dentro da comunidade de segurança, é contestado, o que provavelmente é sinal de que a legislação é um artefato de compromisso, não uma teoria coerente do problema.

    Voltar
  4. Os projetos de lei de IA da Califórnia, a Venezuela depois de Maduro e a eleição no Brasil · 0:58 · As startups é que pagam o custo

    Fala mais sobre isso.

    Em resumo: Os incumbentes escrevem as regras, as startups engolem o custo.Corrigido C35-3

    Voltar
  5. Os projetos de lei de IA da Califórnia, a Venezuela depois de Maduro e a eleição no Brasil · 3:53 · Um pouco melhor, sobretudo porque força uma transparência que não existe agora

    Você acha que o mundo ficaria melhor ou pior se isso passasse?

    Em resumo: Exigências de divulgação mudam isso, e a luz do sol é o mecanismo de segurança mais barato que existe.

    Voltar

O que liga para cá

Os projetos de lei de IA da Califórnia, a Venezuela depois de Maduro e a eleição no BrasilEpisódio 35
0:00 20:20