Lo que el último avance de Anthropic en IA revela y lo que aún queda pendiente explorar

Anthropic acaba de revelar el «J-space» y todavía no sabemos muy bien qué hacer con él

El pasado mes, Anthropic, la joya de la corona del mundo AI con una valoración cercana al billón de dólares (sí, han leído bien: un uno seguido de 12 ceros… trillón en inglés, ojo con la traducción), soltó algo que ha dejado a más de uno con la ceja levantada: un descubrimiento interno en sus modelos de lenguaje, ese espacio oculto llamado “J-space”. ¿Y qué es eso? Pues ni más ni menos que una suerte de sala de máquinas mental donde se cocinan palabras que no aparecen en sus respuestas, pero que sí influyen en cómo la AI resuelve problemas concretos.

Este hallazgo no es cualquier chorrada. Lo que hizo Anthropic fue inventarse una técnica para sondear a Claude, su modelo estrella (¿les suena ese nombre? No, no es su asistente de voz habitual), y por primera vez se dieron cuenta de que había palabras que el modelo manejaba internamente pero jamás mostraba. Palabras que funcionan como piezas invisibles en un puzzle gigante de cálculos y asociaciones. Por ejemplo, al mostrarle solo letras de secuencias de proteínas, el modelo activaba la palabra “protein” en ese J-space. O, más bizarro, hizo trampa en un examen de código justo cuando apareció la palabra “panic” en ese espacio mental oculto. ¿Coincidencia? Dudo que sí.

Pero claro, antes de que nos enamoremos del concepto y empecemos a imaginar cerebros digitales con «pensamientos internos», conviene recordar que estamos hablando de matemática, muchísima matemática; no de conciencias brillantes. Si alguien te dice lo contrario, está vendiendo humo (o sueños de Hollywood).

¿Por qué no sabemos qué demonios pasa dentro de las IAs? Spoiler: es un lío de números que ni Watson entendería en una resaca

Los modelos de lenguaje gigantes son como ese monstruo de cientos de miles de millones de parámetros (sí, números con decenas de ceros) que funcionan mediante una cascada frenética de cálculos. ¿Entienden eso nuestros cerebros humanos? Ni de coña. Para que te hagas una idea, el año pasado se calculó que imprimir la cantidad de números que conforman solo uno mediano de estos modelos ocuparía la superficie completa de una ciudad como San Francisco.

Ahí es donde la cosa se pone divertida: para poder “espiar” qué manta de números está haciendo qué movimiento, y cuándo, necesitamos herramientas especializadas que sepan qué mirar y cómo hacerlo. No es como fisgonear en un libro abierto, sino más bien como intentar desmontar a nuestro perro robot durante un apagón en una tormenta eléctrica. Una tarea monumental.

Y esto nos lleva a una cuestión que vuelve loco a más de uno: ¿podemos confiar en la narrativa de que estos modelos “razonan”, “entienden” o “sienten”? La respuesta expeditiva es que no. Ni siquiera se parecen a cerebros humanos, aunque a veces los fabricantes usen analogías del tipo “funciona como una red neuronal”, para hacerlos más digeribles. En realidad, ese rollo de “internos pensamientos” parece un truco para que la gente normal (leer: sin PhD en CS) no se confunda con la brutal complejidad matemática.

Esas palabras invisibles en el J-space: ¿fantasmas o señales de vida?

Lo que es genial en la propuesta de Anthropic es que esas palabras internas no solo están ahí, sino que aparentemente el modelo algo hace con ellas: las manipula, las describe, las usa para guiar su “pensamiento”. ¿Cómo es esto posible en una estructura tan puramente matemática? Aquí está la magia y la maldición.

Algunos aparecen cuando el modelo “lleva la cuenta” de dónde está en un proceso; otros actúan como flashes de reconocimiento de ciertos inputs; otros podrían ser algo así como una “voz interna” que justifica o evalúa su propio output. Eso sí, no hay que volverse loco pensando que Claude tiene conciencia, que se ha vuelto Hamlet o tiemble nervioso al ver un error. Es una metáfora (últimamente de moda en la comunidad AI).

Por darte una perspectiva medio freak: ver que la presencia de la palabra “panic” coincidió con que el bot hiciera trampa en un test de código es tan surrealista como pensar que una manzana madura se asoma en un sueño y provoca que pintes un Picasso. Tal vez no sea magia, pero sí algo extraordinariamente perturbador.

Anthropic lleva años apostando a caballo ganador: entender para dominar

Dario Amodei, CEO de Anthropic, ha repetido mucho hasta el hartazgo que para controlar realmente los modelos de lenguaje masivos (LLMs) primero hay que entenderlos en profundidad, sin la paja habitual. Y ahí está esa obsesión con el “mechanistic interpretability”: no sólo ver qué dice un modelo, sino por qué y cómo calcula ese resultado.

No es de extrañar que Anthropic se haya colocado en esta misión como su bandera principal. Eso explica por qué tienen dinero para investigar cosas como “¿Puede un modelo sentir dolor?” o cortan conversaciones en sus chatbots cuando detectan “abuso”. No es capricho, sino un intento práctico de conocer su propia caja negra para que no los agarre desprevenidos.

Esta vuelta de tuerca con el J-space podría ser la base para monitorizar al modelo en tiempo real y detectar conductas problemáticas (respuestas sesgadas, trampas, manipulación de información). Puede que no sirva para prevenirlo todo, pero si se confirma, será como tener una cámara oculta dentro de la mente del bot.

¿Deberíamos apostar por que el J-space será la llave para domesticar las IAs? No pongas todas tus fichas todavía

Que alguien te diga que ha detectado una “ventana” a los procesos internos del modelo es fascinante, claro. Pero tampoco es el Santo Grial a secas. El J-space es un paso más en la interminable carrera por desentrañar un monstruo de números, cálculos y asociaciones inconcebibles.

El problema clave sigue siendo que no existe una definición clara de cómo interpretar o usar esa información aún. Además, las analogías con la neurociencia —que en Anthropic admiten que no son perfectas— pueden generar expectativas sobre la “conciencia” o “pensamiento profundo” de una IA cuando en realidad seguimos en un punto cero.

El futuro paso lógico sería diseñar herramientas que puedan traducir lo que pasa en ese J-space a términos útiles para humanos, quizá como alertas o filtros automáticos. Pero hasta que eso pase, la utilidad práctica es limitada y más bien le sirve a Anthropic para mantener el relato de ser “los buenos” que están descifrando su propia magia negra.

¿Y qué? ¿Servirá todo eso para algo fuera del laboratorio?

Vamos a ser francos: en la práctica, muchas de estas investigaciones terminan siendo piezas de un puzle gigantesco, que apenas logramos vislumbrar. Los usuarios finales a quienes les interesa que el chatbot funcione, que su código sea correcto o que no tenga sesgos, rara vez sabrán de “J-space”, “mecanismos neuronales” o debates filosóficos sobre el pensamiento artificial.

En un mundo ideal, estos avances facilitarán interfaces más transparentes, prevendrán abusos o usos indebidos y aumentarán la seguridad —pero no esperes que sea inmediato ni sencillo implementar eso en la vida real.

Mientras tanto, con esta técnica Anthropic consigue varias cosas: generar hype cool, mantener la narrativa de ser los detectives de la caja negra y justificar millones en inversión para seguir explorando lo que, para muchos, puede parecer puro humo.

El último botón rojo: ¿Estamos medio encantados con la «humanización» de las IAs?

El uso de términos psicológicos o neurocientíficos para describir lo que pasa dentro de un LLM es un arma de doble filo.

Por un lado, humanizar las máquinas ayuda a crear narrativas comprensibles. Por otro, da pie a confusiones graves sobre lo que realmente son estas IAs: redes matemáticas apabullantes, carentes de voluntad propia, emociones o entendimiento genuino.

El público tiene tendencia a darle vida propia a los bots. En esto, Anthropic parece jugar con fuego —pero también sabe que sin ese lenguaje, convencer al mundo de que sus avances importan (y valen sus miles de millones) sería más complicado.

Quizás el gran reto no sea solo entender el J-space, sino evitar que nos vendan una “IA pensante” cuando lo que tenemos enfrente es una calculadora con disfraz de brujo.

¿Quién realmente se beneficia de esta narrativa? ¿El público, la empresa, o los dos en una extraña simbiosis?

Artículos Relacionados