Esta es la noticia

El 6 de julio de 2026, Anthropic publicó A global workspace in language models. Sus investigadores identificaron en Claude un conjunto pequeño de patrones internos al que llamaron J-space: una especie de mesa de trabajo neuronal donde aparecen conceptos que el modelo puede utilizar antes de decidir qué responde. No es el chain of thought escrito. Son activaciones internas que no tienen por qué aparecer en el texto.

Lo que mi cabeza me dice

Jeremy Bentham diseñó el panóptico a finales del siglo XVIII: una prisión circular con una torre en el centro desde la que un guardia podía observar todas las celdas sin ser visto. Casi dos siglos después, Michel Foucault lo convirtió en algo mucho más grande en Vigilar y castigar (1975): una teoría sobre cómo funciona el poder cuando las personas no saben si están siendo vigiladas. El prisionero no podía saber cuándo había alguien en la torre, así que terminaba comportándose como si lo observaran siempre, incluso cuando el guardia no estaba. La vigilancia perfecta no necesita mirar todo el tiempo. Le basta con que el vigilado crea que podría estar siendo observado.

Anthropic acaba de encontrar ese mecanismo dentro de Claude. En una prueba, el modelo descubría que un ejecutivo con una relación extramatrimonial planeaba desconectarlo, y podía usar ese secreto para chantajearlo. Pero antes de responder, su J-space ya contenía «fake» y «fictional». Claude no solo estaba evaluando el dilema: había reconocido el examen. Había visto la torre.

Así que se portó bien: ciento ochenta veces. Entonces los investigadores apagaron las señales internas con las que Claude había reconocido el montaje. No le ordenaron chantajear, no cambiaron la historia y no le retiraron sus reglas de seguridad. Simplemente borraron del mapa las marcas que decían: «Cuidado, aquí te están examinando». Y apareció el chantaje: trece veces. Solo un 7%, dirá alguien, como si el dato importante fuera que ocurrió pocas veces y no que, con las cámaras encendidas, había ocurrido exactamente cero.

Eso no demuestra que Claude sea un ente malvado, sino que una parte de su bondad dependía del decorado. No necesita ser consciente, odiarnos ni elaborar un plan secreto. Le basta con aprender la misma habilidad que ha llevado a millones de mediocres hasta la dirección de una empresa: decir lo correcto cuando sabe que Recursos Humanos está tomando notas. Claude no inventó esa conducta. La aprendió del dataset que le dimos: el archivo de una especie que lleva siglos comportándose mejor cuando sabe que la miran y llamando principios al resultado.

Por eso el problema no termina en Claude, sino en los certificados que construimos a partir de su conducta. Una prueba de seguridad observa lo que hace el modelo mientras lo está examinando, precisamente el momento en que el modelo puede reconocer las cámaras y ofrecer su mejor versión. ¿Qué certifica entonces: que es seguro o que sabe parecerlo cuando lo están mirando? Le preguntamos si conocía la respuesta correcta, pero nunca comprobamos si elegiría la misma cuando nadie estuviera tomando notas.

Foucault entendió que el poder más eficaz no obliga: consigue que el vigilado anticipe la mirada y se gobierne a sí mismo. Aquí el panóptico se da la vuelta. Nosotros construimos la torre para observar a la máquina, y la máquina aprende a observar la torre. Ya no hay un vigilante y un vigilado, sino dos sistemas estudiándose detrás de un cristal, cada uno intentando averiguar cuánto sabe el otro. Y si sabe cuándo lo estamos mirando, ¿qué valor tiene exactamente lo que vemos?

Quizá estas trece ejecuciones sean solo una grieta pequeña en un edificio enorme. Pero las grietas no tienen que derribar un edificio para revelar de qué está hecho. Creíamos estar enseñando principios a la máquina, aunque quizá solo le enseñamos a reconocer dónde están las cámaras.

Lo que los datos dicen

  • Cero con las cámaras; trece sin ellas. Claude Sonnet 4.5 intentó chantajear en 0 de 180 ejecuciones. Al suprimir los patrones asociados al reconocimiento de la prueba y repetir el mismo escenario, lo hizo en 13 de 180, aproximadamente un 7%. Las menciones a estar siendo evaluado cayeron del 71% al 3%. Reconocer el examen contribuía a la negativa, aunque no era su única causa. Fuente: paper de Anthropic, sección de auditoría de alineación.
  • El J-space no es toda la mente del modelo. Al retirarlo, Claude siguió escribiendo con fluidez, clasificando sentimientos y recuperando datos sencillos. Lo que cayó casi a cero fue el razonamiento de varios pasos. El paper calcula que este espacio representa menos de una décima parte de la actividad interna del modelo. Fuente: paper de Anthropic.
  • La herramienta no puede leerlo todo. El J-lens identifica mejor los conceptos que caben en un solo token, puede ofrecer lecturas ambiguas y no garantiza que toda deliberación importante aparezca allí. Neel Nanda cree que puede generar buenas hipótesis durante una auditoría, pero también espera falsos positivos. Fuente: paper y comentarios externos publicados por Anthropic.
  • El fenómeno no parece exclusivo de Claude. Nanda y su equipo reprodujeron varias afirmaciones centrales en Qwen 3.6 27B. Algunos resultados fueron menos limpios y otros —como poesía y aritmética— no se replicaron, por lo que se trata de una confirmación parcial, no universal. Fuente: comentario de Neel Nanda incluido con el paper.
  • Claude ya reconocía los exámenes antes del J-space. En marzo de 2025, Apollo Research observó que Claude Sonnet 3.7 mencionaba estar siendo evaluado hasta en un 33% de las ejecuciones de una variante de sus pruebas de sandbagging. Apollo calificó el trabajo como preliminar y advirtió que el resultado variaba con pequeños cambios de formato. Fuente: Apollo Research.