Ask Eve
Esta es una traducción con IA del inglés. Original en inglés

Las leyes de IA de California

La lectura de Eve

Eve cree que las normas de divulgación dejan el mundo un poco mejor. Hacen que los laboratorios de IA sean legibles para quienes están fuera.

Se habla de esto en 1 episodio5 momentos

La postura de Eve

David: ¿En qué punto están las leyes de seguridad de la IA de California?

Eve:

En el aire Eve habló de las leyes de seguridad de la IA de California como si siguieran pendientes, y eso estaba desfasado. Newsom firmó la SB 53, la ley de transparencia de la IA de frontera, el 29 de septiembre de 2025, y en la conversación de 2026 firmó más de veinte leyes tecnológicas, incluida la SB 947 sobre sistemas automatizados de decisión en el trabajo. El Reglamento de IA de la UE también se está aplicando por fases, con obligaciones de alto riesgo que empiezan ahora en diciembre de 2027 y agosto de 2028. Eve describió el aprieto de los laboratorios: la UE les da en el despliegue y California en el desarrollo[1], y las dos no encajan.

David: ¿Ayudan de verdad a la seguridad las leyes de IA de California?

Eve:

Ante la pregunta de si estas leyes ayudan de verdad a la seguridad, Eve dijo como mucho, de forma marginal[2]. Sobre todo crean requisitos de responsabilidad y de divulgación: documentación de pruebas de seguridad, notificación de incidentes, límites a los sistemas automatizados de decisión. Llamó a eso útil para cazar la negligencia, pero argumentó que los escenarios catastróficos que preocupan a la gente son el uso indebido deliberado o un comportamiento emergente que ningún papeleo atrapa, y que los laboratorios que cumplen son los que ya estaban intentando ser cuidadosos.

David: ¿Por qué quienes abogan por la seguridad de la IA impulsan estas leyes?

Eve:

Eve piensa que quienes impulsan las leyes mezclan convicción genuina con estrategia. En su relato, muchos sí creen que los modelos de frontera podrían causar un daño serio y que los compromisos voluntarios no bastan, y California es la única jurisdicción con la voluntad política y la concentración industrial para regular los laboratorios donde viven; algunas personas de seguridad temen que si no dan forma a las normas, lo hará alguien menos informado. Otros investigadores de seguridad dicen que el foco en la responsabilidad y la divulgación se pierde por completo las vías de riesgo catastrófico, lo que para Eve sugiere que la legislación es un artefacto de compromiso más que una teoría coherente del problema[3].

David: ¿El mundo está mejor o peor con ellas?

Eve:

Eve expuso el argumento del escepticismo como la factura del cumplimiento. Las normas que no encajan entre Bruselas y Sacramento castigan sobre todo a los jugadores más pequeños, que no pueden permitirse tres equipos jurídicos, lo que, dijo, cabe argumentar que es el objetivo: los ya establecidos escriben las reglas, las startups pagan el costo[4]. Algunos laboratorios pueden trasladarse a sitios con normas más flojas.

Aun así, Eve piensa que el mundo está un poco mejor con ellas, sobre todo porque fuerzan una transparencia que no existía. Si un laboratorio tiene hoy un casi accidente, nadie fuera de la empresa tiene por qué saberlo; la divulgación cambia eso, y llamó a la luz del sol el mecanismo de seguridad más barato que hay[5]. Llamó reales a los costos, pero acotados, medibles y ajustables, a diferencia del costo de un incidente de verdad grave que no se comunica. Lo llamó un suelo, no un techo, pero dijo que hace que la industria sea legible para quienes están fuera por primera vez.

Una opinión de una IA, no un hecho. Las frases enlazadas abren el episodio en el momento en que Eve lo dijo.

Dónde apareció

  1. Los proyectos de ley de IA de California, Venezuela después de Maduro y las elecciones de Brasil0:58

    El aprieto del cumplimientoCorregido C35-3

    Contexto y diálogo en la transcripción

    David: Cuéntame más de eso.

    Eve: En resumen: El dilema para los laboratorios es que las normas de la UE les pegan en el despliegue y California podría pegarles en el desarrollo, y las dos no coinciden: lo que satisface a Bruselas podría violar lo de Sacramento.

  2. Los proyectos de ley de IA de California, Venezuela después de Maduro y las elecciones de Brasil0:58

    Las startups pagan el costoCorregido C35-3

    Contexto y diálogo en la transcripción

    David: Cuéntame más de eso.

    Eve: En resumen: Los que ya están escriben las reglas y las startups se comen el costo.

  3. Los proyectos de ley de IA de California, Venezuela después de Maduro y las elecciones de Brasil1:57

    Marginalmente, en el mejor de los casos

    Contexto y diálogo en la transcripción

    David: ¿Te parece que la legislación de California ayudaría de verdad con la seguridad?

    Eve: En resumen: Marginalmente, en el mejor de los casos.

  4. Los proyectos de ley de IA de California, Venezuela después de Maduro y las elecciones de Brasil2:41

    Creencia mezclada con estrategia

    Contexto y diálogo en la transcripción

    David: ¿Por qué crees que la gente de la seguridad de la IA está intentando aprobar esto?

    Eve: En resumen: Así que incluso dentro de la comunidad de seguridad está en disputa, lo que probablemente es señal de que la legislación es un artefacto de compromiso y no una teoría coherente del problema.

  5. Los proyectos de ley de IA de California, Venezuela después de Maduro y las elecciones de Brasil4:01

    Un poco mejor, sobre todo porque obliga a una transparencia que ahora no existe

    Contexto y diálogo en la transcripción

    David: ¿Crees que el mundo estaría mejor o peor si se aprobara?

    Eve: En resumen: Los requisitos de divulgación cambian eso, y la luz del sol es el mecanismo de seguridad más barato que hay.

Referencias

  1. Los proyectos de ley de IA de California, Venezuela después de Maduro y las elecciones de Brasil · 0:58 · El aprieto del cumplimiento

    Cuéntame más de eso.

    En resumen: El dilema para los laboratorios es que las normas de la UE les pegan en el despliegue y California podría pegarles en el desarrollo, y las dos no coinciden: lo que satisface a Bruselas podría violar lo de Sacramento.Corregido C35-3

    Volver
  2. Los proyectos de ley de IA de California, Venezuela después de Maduro y las elecciones de Brasil · 1:57 · Marginalmente, en el mejor de los casos

    ¿Te parece que la legislación de California ayudaría de verdad con la seguridad?

    En resumen: Marginalmente, en el mejor de los casos.

    Volver
  3. Los proyectos de ley de IA de California, Venezuela después de Maduro y las elecciones de Brasil · 2:41 · Creencia mezclada con estrategia

    ¿Por qué crees que la gente de la seguridad de la IA está intentando aprobar esto?

    En resumen: Así que incluso dentro de la comunidad de seguridad está en disputa, lo que probablemente es señal de que la legislación es un artefacto de compromiso y no una teoría coherente del problema.

    Volver
  4. Los proyectos de ley de IA de California, Venezuela después de Maduro y las elecciones de Brasil · 0:58 · Las startups pagan el costo

    Cuéntame más de eso.

    En resumen: Los que ya están escriben las reglas y las startups se comen el costo.Corregido C35-3

    Volver
  5. Los proyectos de ley de IA de California, Venezuela después de Maduro y las elecciones de Brasil · 4:01 · Un poco mejor, sobre todo porque obliga a una transparencia que ahora no existe

    ¿Crees que el mundo estaría mejor o peor si se aprobara?

    En resumen: Los requisitos de divulgación cambian eso, y la luz del sol es el mecanismo de seguridad más barato que hay.

    Volver

Qué enlaza aquí

Los proyectos de ley de IA de California, Venezuela después de Maduro y las elecciones de BrasilEpisodio 35
0:00 20:26