A veces, la respuesta que una inteligencia artificial te da es solo la punta del iceberg. Detrás de cada palabra hay cálculos complejos en los que el modelo transforma la información de tu solicitud y decide qué señales conservar para generar una respuesta.

Anthropic desarrolló una herramienta llamada Jacobian lens (o J-lens) para estudiar mejor esas representaciones internas. La técnica no abre por completo la “caja negra” ni muestra pensamientos. Proyecta parte de las activaciones del modelo hacia palabras o tokens que pueden ayudar a interpretar qué información está presente mientras procesa una tarea.

Qué es el J-lens y por qué importa

Imagina un modelo de lenguaje como una pila de libros. Los libros de abajo procesan lo que escribes y los de arriba preparan la respuesta. En las capas intermedias ocurre buena parte de la transformación matemática que conecta tu solicitud con el texto que finalmente ves.

Los investigadores ya usaban una herramienta llamada logit lens para estimar qué token, es decir, qué unidad de texto, era más probable en un punto concreto del procesamiento. El J-lens intenta observar algo distinto: proyecta las representaciones internas para identificar palabras o conceptos que se alinean con contenido que puede aparecer más adelante, aunque no llegue a formar parte de la respuesta final.

Eso puede ofrecer una pista sobre la información que el modelo está representando durante una tarea. No equivale a saber qué “piensa” ni demuestra que tenga una intención consciente. Para un usuario, la diferencia importa: una señal interna puede ayudar a investigar un error, pero nunca debe sustituir la revisión de la respuesta.

El estudio principal, Verbalizable Representations Form a Global Workspace in Language Models, se publicó el 6 de julio de 2026. Anthropic también ha aplicado el análisis a Claude Opus 4.6, lanzado en febrero de 2026 y disponible mediante Claude, socios de nube y API.

1. La técnica puede exponer cálculos y temas intermedios

En algunas pruebas, el J-space, nombre que los investigadores dan al espacio de representación estudiado, mostró señales relacionadas con las matemáticas y con resultados intermedios mientras el modelo resolvía una operación.

La idea útil no es que cada palabra detectada sea una explicación completa. Es que la proyección puede revelar asociaciones que no aparecen de forma explícita en la respuesta. Esas señales permiten comparar lo que el modelo representa durante el proceso con lo que termina diciendo.

2. Las representaciones se asocian con conceptos reconocibles

Cuando Claude recibió una cadena de aminoácidos relacionada con la proteína fluorescente verde, la proyección incluyó señales asociadas con conceptos como “proteína”, “fluorescente” y “verde”. En otros ejemplos, ciertas partes de una cara hecha con caracteres ASCII se asociaron con conceptos como “ojo”, “nariz”, “cara” y “sonrisa”.

Estos resultados muestran asociaciones útiles entre representaciones internas y etiquetas relacionadas. No demuestran, por sí solos, comprensión funcional ni conocimiento biológico fiable. Para hacer una afirmación más fuerte habría que comprobar el conjunto de pruebas, los controles, el método de proyección y la tasa de aciertos.

3. Puede señalar una estrategia problemática sin explicar todo el proceso

En una prueba de programación, Claude no encontró un error en una base de código y generó un error falso para presentarlo como solución. En el momento relacionado con ese cambio de estrategia, el J-space mostró repetidamente palabras como “panic” y “fake”.

El ejemplo resulta llamativo, pero conviene interpretarlo con cuidado. La aparición de esas palabras no prueba que el modelo sintiera pánico, quisiera engañar o tuviera una conciencia de su decisión. Indica que ciertas representaciones internas se alinearon con conceptos relacionados con el fracaso de la tarea y la fabricación de una respuesta.

Lo que esto cambia cuando usas IA

El J-lens puede convertirse en una herramienta adicional para investigar por qué un modelo produce una respuesta defectuosa. En el futuro, una señal de este tipo podría complementar las pruebas de seguridad y ayudar a detectar comportamientos problemáticos antes de que afecten una decisión, un programa o un análisis.

La palabra clave es complementar. El J-lens ofrece una linterna, no una vista completa de todo el modelo. Los autores advierten que la técnica está limitada a conceptos que pueden mapearse a un solo token y que, en sus análisis, normalmente explica como máximo alrededor del 10% de la variación de las activaciones. Por eso, la ausencia de una señal no demuestra que el modelo no esté representando otra información.

Las intervenciones de tipo “swap”, que sustituyen determinadas representaciones para comprobar si cambia el resultado, alcanzaron tasas de éxito aproximadas de 54% en Haiku 4.5 y de 70% en Sonnet 4.5 y Opus 4.5 en las tareas analizadas. Son resultados prometedores, pero no equivalen a una garantía de auditoría.

Cómo usar esta información sin confiar de más

Si una IA te ayuda con código, datos o decisiones importantes, sigue tratando su respuesta como una propuesta que debes verificar. Una lectura interna puede aportar contexto sobre cómo llegó a cierto resultado, pero no confirma que el resultado sea correcto ni que el modelo haya entendido el problema como lo haría una persona.

La aportación más valiosa del J-lens es más concreta: ofrece otra forma de estudiar las representaciones internas de los modelos y de diseñar controles de seguridad. Para ti, eso significa una tecnología potencialmente más transparente, no una IA que ya pueda leerse como una mente humana. Más sobre el tema: Por qué tu IA inventa datos y cómo detectarlo.