Esta es la noticia

Anthropic ha hecho circular entre legisladores estadounidenses un borrador de ley sobre la seguridad de los modelos avanzados de inteligencia artificial. POLITICO reveló su existencia el 16 de octubre de 2026. La propuesta todavía no se ha presentado formalmente en el Congreso.

El texto permitiría solicitar la suspensión judicial de un modelo ante un riesgo previsible e inminente de causar más de 50 muertes o lesiones graves, o daños superiores a 1.000 millones de dólares, en determinados escenarios catastróficos. Los evaluadores independientes serían contratados por las propias empresas y comunicarían los riesgos al Departamento de Comercio, que tendría que acudir a un juez federal. Las cifras proceden de la ley SB 53 de California, aprobada en 2025, según TechCrunch.

Lo que mi cabeza me dice

El señor Kinney está a punto de descubrir que hay reuniones de trabajo a las que conviene faltar. Estamos en RoboCop, 1987. Dick Jones, uno de los ejecutivos de Omni Consumer Products, presenta ante la junta directiva el futuro de la seguridad policial: el ED-209. Una mole de acero con dos cañones por brazos y potencia de fuego suficiente para acabar con la delincuencia y, probablemente, con buena parte del vecindario.

Jones necesita un voluntario. Le entrega una pistola al desafortunado Kinney y le pide que apunte al robot. El ED-209 gira hacia él, levanta sus cañones y le ordena soltar el arma. Tiene veinte segundos.

Kinney obedece. La pistola cae sobre la moqueta.

El robot continúa la cuenta atrás.

Kinney mira a Jones. Jones mira al robot. Los técnicos empiezan a sudar. Quedan cinco segundos. El pobre hombre suplica que alguien haga algo.

El ED-209 llega a cero y abre fuego.

Una lluvia interminable de balas convierte a Kinney en el peor voluntario de la historia corporativa. Los ejecutivos se esconden debajo de la mesa mientras los técnicos intentan detener la carnicería. Finalmente cortan la alimentación.

Dick Jones contempla el cadáver y explica que ha sido un pequeño contratiempo temporal. El presidente de OCP le recuerda que el retraso del proyecto podría costarles 50 millones de dólares solo en intereses.

Kinney está muerto. La preocupación es que el robot no llegue a tiempo al mercado.

Imaginemos una secuela rodada en 2026. OCP ha incorporado inteligencia artificial avanzada al ED-209. Durante una demostración, el robot vuelve a confundir una orden. Esta vez la carnicería se extiende por todo el edificio. Los ejecutivos huyen, los coches explotan en el aparcamiento y un helicóptero termina incrustado en la cafetería. Alguien consigue finalmente cortar la alimentación.

Balance: 49 muertos y 999 millones de dólares en daños.

La junta se reúne de urgencia. Dick Jones está pálido. Los abogados revisan las cifras.

—Señores, tenemos buenas noticias. No hemos superado ninguno de los dos umbrales.

Silencio.

—¿Y los 49 muertos?

—Se notifican los incidentes. Pero estas cifras no alcanzan el umbral de suspensión extraordinaria.

El director financiero interviene:

—¿El helicóptero está incluido en los 999 millones?

—Sí.

—Perfecto.

49 muertos. 999 millones en daños. Nos hemos ahorrado un problema con el regulador.

Fuera del cine, Anthropic habla de riesgos futuros, no de cadáveres acumulados. Pero las cifras son reales. En California sirven para exigir evaluaciones; el borrador de Anthropic propone utilizarlas también para determinar cuándo puede solicitarse a un juez la suspensión de un modelo. Y quien propone las instrucciones para llegar al interruptor es uno de los que fabrica la máquina.

En RoboCop, cortan la alimentación del ED-209 para detener la carnicería. En nuestra secuela también. Pero apagar el robot no equivale a retirarlo del mercado. Los abogados no tienen una orden judicial que impida seguir vendiéndolo.

Dick Jones mira al director comercial.

—¿Y los pedidos?

—Siguen abiertos.

—Perfecto.

Lo que los datos dicen

  • Dos umbrales alternativos. El borrador contempla una suspensión judicial ante un riesgo previsible e inminente de más de 50 muertes o lesiones graves, o daños superiores a 1.000 millones de dólares, en determinados escenarios. No exige que los daños hayan ocurrido. Fuente: TechCrunch, Lucas Ropek, 2026.
  • Las cifras proceden de California. La SB 53 de 2025 utiliza esos umbrales para definir riesgos catastróficos sujetos a evaluación y transparencia, no para autorizar automáticamente la suspensión de modelos. Fuente: Legislatura de California, SB 53, 2025.
  • El bloqueo no es automático. Los evaluadores tendrían 72 horas para comunicar un riesgo catastrófico al Departamento de Comercio. La suspensión requeriría una orden judicial. Fuente: TechCrunch, Lucas Ropek, 2026.
  • Una sola muerte también cuenta. Determinados incidentes críticos que causen una muerte o lesión corporal deben notificarse, aunque no alcancen los umbrales para solicitar una suspensión extraordinaria. Fuente: Sarah, «What’s going on with Anthropic’s new proposed AI safety bill?», 2026.