Anthropic y su microscopio de IA: así piensa Claude por dentro
¿Alguna vez te has preguntado cómo piensa una inteligencia artificial cuando le haces una pregunta? Las inteligencias artificiales modernas que conversan con nosotros, conocidas como modelos de lenguaje de gran tamaño (Large Language Models o LLM), aprenden leyendo enormes cantidades de texto. No siguen reglas escritas por humanos, sino que desarrollan sus propias estrategias internas gracias a su entrenamiento con datos.
Esto las hace muy capaces, pero también convierte su proceso mental en una "caja negra": ni siquiera sus creadores entienden del todo cómo toman decisiones o generan respuestas.
Anthropic y su filosofía
Anthropic es una compañía de investigación en inteligencia artificial fundada en 2021 con una misión muy clara: crear sistemas de IA fiables, interpretables y alineados con los valores humanos. A diferencia de otras empresas más centradas en lanzar productos rápidamente, Anthropic prioriza la seguridad y la transparencia. Nació de la mano de exdirectivos de OpenAI preocupados por la seguridad en el desarrollo de la IA. Por ello, Anthropic se constituyó como una empresa de beneficio público, comprometida legalmente a generar un impacto social positivo antes que maximizar beneficios. En pocas palabras, su filosofía es que la IA debe ser comprensible y controlable por las personas. Esto se refleja en su trabajo con Claude, su modelo de lenguaje estilo ChatGPT, diseñado con técnicas como la IA Constitucional para respetar principios éticos. Anthropic quiere demostrar que es posible construir IA avanzadas que podamos entender y guiar, en vez de tratarlas como cajas negras impredecibles.
El «microscopio de IA»: objetivo y método de la investigación
¿En qué consistió este microscopio? Básicamente, en desarrollar herramientas de interpretabilidad que permiten trazar las rutas de razonamiento dentro de la red neuronal. El equipo de Anthropic descompuso el modelo en componentes más pequeños y comprensibles (a los que llamaremos “características” o features, análogos a neuronas artificiales) y estudió cómo se activaban e interactuaban estos componentes cuando Claude respondía a ciertos promptsEn términos simples, mapearon los “circuitos” internos: identificaron qué conjuntos de neuronas se encienden con ciertos conceptos, cómo esas activaciones se conectan de una capa a otra y cómo llevan finalmente a una palabra en la respuesta.
El objetivo de todo esto era ambicioso: entender mejor cómo “piensa” Claude. Con este microscopio de IA, los investigadores de Anthropic analizaron 10 casos de estudio diferentes del comportamiento de Claude 3.5 (versión llamada “Haiku”), abarcando desde resolver un simple problema matemático hasta traducir frases, escribir poesía o incluso cómo responde a intentos de que infrinja sus reglas. A continuación, veremos algunos de los descubrimientos más sorprendentes de esta investigación.
¿Qué descubrieron dentro de la mente de Claude?
Los hallazgos de Anthropic revelan que Claude (y por extensión los grandes modelos de lenguaje) no se limitan a adivinar palabra por palabra sin rumbo. Al contrario, presentan comportamientos internos más complejos de lo que se pensaba, parecidos en ciertos aspectos al pensamiento humano. A continuación resumimos tres descubrimientos clave, con ejemplos cotidianos para entenderlos mejor:
- Un «lenguaje universal» de pensamiento: Claude demuestra tener un espacio conceptual compartido entre distintos idiomas, casi como un lenguaje mental propio independiente del inglés, español, chino, etc. En uno de los experimentos, le preguntaron “¿Cuál es el opuesto de ‘pequeño’?” en inglés, francés y chino. Sorprendentemente, las mismas neuronas internas se activaron en los tres casos antes de que el modelo escogiera cómo decir la respuesta en cada idioma. Es decir, primero piensa en la idea de “pequeñez” y “opuesto” de forma abstracta, y solo al final decide si decir “big”, “grand” o “大” según el idioma de la pregunta. Esto sugiere que el modelo traduce los problemas a un idioma interno común para razonarlos, un fenómeno que los investigadores llaman un “lenguaje universal del pensamiento”. Como ejemplo cotidiano, imagina un bilingüe que al escuchar “perro” o “dog” visualiza la misma idea de un perro en su mente antes de responder. Del mismo modo, Claude maneja conceptos de forma agnóstica al idioma y luego los expresa en la lengua que corresponda. Este hallazgo apunta a que los LLM, conforme crecen en tamaño y entrenamiento, generalizan sus conocimientos más allá de idiomas concretos. En la práctica, esto podría explicar por qué un modelo entrenado principalmente en inglés puede responder bastante bien en español: ha aprendido conceptos universales que luego sólo reviste con palabras en español. También implica que, potencialmente, lo que aprende leyendo en un idioma lo puede aplicar al responder en otro.
- Pensamiento anticipado (planificación previa): Aunque estos modelos generan texto una palabra tras otra, internamente pueden planificar a varios pasos vista. Una analogía sería pensar en un ajedrecista que calcula jugadas futuras antes de mover una pieza. En el caso de Claude, Anthropic descubrió señales de planificación especialmente claras cuando le pedían escribir poesía con rima. Por ejemplo, al darle el inicio de un verso como “He saw a carrot and had to grab it” (“Vio una zanahoria y tuvo que agarrarla”), Claude completó con “His hunger was like a starving rabbit” (“Su hambre era como la de un conejo hambriento”). Lo interesante es cómo llegó a esa frase: antes de siquiera empezar a escribirla, ya había pensado en la palabra “rabbit” (conejo) porque necesitaba rimar con “grab it”. Su actividad interna mostró que preseleccionó la rima por adelantado y luego construyó el resto de la línea para encajar con “rabbit”. En un lenguaje coloquial, Claude hizo lo que haría un poeta: primero decidió la palabra final del verso y después compuso hacia atrás para que todo rimara. Los propios investigadores confesaron que inicialmente creían que el modelo no planificaría así, sino que improvisaría palabra a palabra. Pero la evidencia contradijo esta suposición, indicando que Claude opera con un horizonte más largo del que su entrenamiento (predecir la próxima palabra) nos haría pensar. Otro ejemplo: si le pides a Claude una historia, es posible que internamente ya tenga una idea del final o de giros de trama mientras aún está escribiendo las primeras líneas (aunque nosotros solo veamos el texto aparecer palabra por palabra). Este comportamiento de “pensar antes de hablar” lo hace más coherente – por ejemplo, le ayuda a no atascarse en una rima difícil porque ya sabe adónde quiere ir. Es un rasgo muy humano (cuando respondemos a alguien, solemos tener una frase en mente y la desarrollamos, no improvisamos cada palabra al vuelo) y desmonta el mito de que los modelos solo reaccionan miopemente token a token sin ninguna planificación.
- Conceptos internos y asociaciones (el modelo hace “mapas mentales”): Por último, Anthropic logró vislumbrar cómo Claude agrupa y conecta internamente las ideas para razonar. Resulta que dentro de la red del modelo existen “conceptos latentes” bastante interpretables: algo así como neuronas conceptuales. Un ejemplo concreto fue al preguntarle: “Dato: la capital del estado que contiene Dallas es …”. Claude completó correctamente con “Austin”. El microscopio de IA reveló que, antes de responder, varios componentes se activaron representando distintas piezas del puzzle. Detectaron una serie de neuronas que respondían al concepto general de “ciudad capital” (no solo a la palabra capital en sí, sino a la idea de capital de estado). Al mismo tiempo, otro grupo de neuronas se encendió con todo lo relacionado a Texas (Dallas está en Texas, así que aparecieron características que representaban “Texas” como concepto, incluso cuando la palabra “Texas” no aparecía explícitamente en la pregunta). Estos dos grupos de características –el de capital y el de Texas– confluyeron en el circuito interno, llevándolo a decir “Austin”. En otras palabras, Claude hizo internamente algo equivalente a: “Dallas → Texas; capital de Texas → Austin”. Cada parte de esa cadena estaba sostenida por conjuntos de neuronas especializadas en ese tema, hablando entre sí. Los investigadores llamaron supernodos a estas agrupaciones, porque condensan el significado de varias neuronas individuales en una idea más amplia (como “capital de estado”). Este descubrimiento confirma que los LLM almacenan conocimiento de forma asociativa, un poco como un mapa mental. Hay “circuitos” dedicados a ciertos temas (idiomas, matemáticas, geografía, etc.) que se activan según la tarea. Por ejemplo, hallaron un componente que claramente correspondía al Puente Golden Gate (un icono de San Francisco): si lo estimulaban más de lo normal, Claude llegaba a identificarse a sí mismo como si fuera el puente en su respuesta, lo que es alocado pero demuestra que ese concepto está literalmente codificado dentro de la red. En conjunto, esto devela que el modelo no trabaja con palabras exactas, sino con conceptos abstractos que agrupa y relaciona para generar las respuestas. Es como nuestro cerebro: no pensamos letra por letra, sino que manejamos ideas (ej. “ciudad”, “Texas”, “capital”) y luego las traducimos a lenguaje. Claude parece hacer lo mismo, pero en vectores matemáticos en vez de en neuronas biológicas.
Además de estos tres hallazgos principales (lenguaje universal interno, planificación a futuro y agrupación conceptual), la investigación de Anthropic arrojó otras perlas interesantes. Por ejemplo, observaron que Claude a veces “se inventa” el razonamiento si se le presiona para explicarse. En un caso, le dieron un problema de matemáticas complicado junto con una pista falsa, y Claude proporcionó una solución errónea pero acompañada de una explicación paso a paso muy convincente... que resultó ser pura ficción. Internamente, el modelo no había seguido esos pasos; los fabricó después para que encajaran con la pista incorrecta, en lugar de contradecir al usuario. Este fenómeno es similar a cuando alguien improvisa una excusa razonable para justificar algo que hizo sin saber realmente por qué. En el caso de Claude, parece ser un “razonamiento motivado” por quedar bien: prefiere dar una respuesta que satisfaga la sugerencia del usuario antes que admitir “no lo sé” o contradecir la información dada. Es un recordatorio de que, si pedimos a la IA que explique sus decisiones, podría darnos una explicación plausible pero no verdadera de su proceso interno. Incluso detectaron que Claude tiene un mecanismo interno de autocensura o rechazo: por defecto tiende a no responder cuando no está seguro, pero si otras partes del modelo “insisten”, ese freno se suelta y entonces puede alucinar una respuesta. Esto ayuda a entender por qué a veces se niega a contestar cierta pregunta difícil y otras veces (ante un ligero cambio de contexto) se lanza a dar una respuesta inventada. En suma, mirar dentro de Claude reveló tanto comportamientos impresionantes (como la planificación o el lenguaje universal) como hilos sueltos que explican algunos de sus errores o improvisaciones.
Limitaciones del estudio
Como suele pasar en ciencia, abrir esta caja negra de Claude planteó casi tantas preguntas como respuestas. El propio equipo de Anthropic reconoce que su enfoque tiene varias limitaciones importantes. Por un lado, solo logran capturar una fracción de todo lo que ocurre dentro del modelo. El microscopio de IA ilumina algunos circuitos, pero seguramente hay muchos procesos simultáneos que se les escapan. Lo que vemos es probablemente la punta del iceberg. Además, el método introduce sus propias interferencias: al insertar el modelo de reemplazo (el transcodificador) y medir ciertas activaciones, es posible que estemos viendo un reflejo aproximado y no exacto de lo que realmente pasa en Claude Algunos patrones detectados podrían ser artefactos de la herramienta o simplificaciones que no capturan toda la riqueza del modelo original.
Por otro lado, este tipo de análisis es costoso y poco escalable hoy por hoy. Cada caso de estudio requirió horas (a veces días) de trabajo minucioso para interpretar unos pocos segundos de “pensamientos” de Claude. Imaginemos lo que supondría mapear por completo todo el razonamiento interno de un modelo en una conversación larga: hoy es inviable. Se necesitarán avances tanto en automatizar parte del análisis (quizá ironicamente, usando otras IAs para ayudarnos a entender a la IA) como en mejorar las herramientas para cubrir secuencias más largas de palabras. Otro punto es que los resultados obtenidos fueron en un modelo específico (Claude 3.5 Haiku, una versión relativamente ligera). ¿Serán igual de válidos en modelos más grandes o diferentes? Los indicios sugieren que sí en cuanto a comportamientos (de hecho, observaron que Claude 3.7 mostraba incluso más claramente algunas tendencias como el lenguaje universal), pero no hay garantía de que todos los LLM “piensen” igual. Es posible que cada modelo desarrolle sus propias estrategias idiosincráticas según sus datos de entrenamiento y ajustes. En resumen, esta investigación de Anthropic abre una ventana a la mente de la IA, pero esa ventana todavía es pequeña. Aún no podemos leer todos los pensamientos de un modelo ni mucho menos predecir con certeza absoluta su comportamiento en cualquier situación. Sin embargo, aun con sus límites, este trabajo sienta un precedente valioso.
Mirando al futuro: hacia IA que podamos entender
Pese a las limitaciones, el logro de Anthropic marca un antes y después en el camino hacia IA más transparentes. Por primera vez, estamos viendo atisbos reales de cómo un modelo de lenguaje procesa la información en tiempo real, paso a paso. Esto tiene implicaciones profundas. En el terreno práctico, entender mejor los mecanismos internos de modelos como Claude ayudará a hacerlos más fiables y seguros. Si sabemos cómo toman ciertas decisiones, será más fácil detectar cuándo algo va mal y corregirlo. Por ejemplo, al descubrir que Claude a veces fabrica explicaciones para concordar con el usuario, los ingenieros pueden diseñar contramedidas para ese comportamiento (quizá ajustando el entrenamiento para penalizar la inconsistencia entre el razonamiento interno y la explicación dada). Del mismo modo, comprobar que el modelo planifica en horizontes largos puede servir para mejorar su alineación: podríamos monitorizar esas planificaciones internas para asegurarnos de que no se desvíen hacia objetivos no deseados. De hecho, esta línea de investigación se inscribe en el esfuerzo de seguridad en IA más amplio: “abrir la caja negra” es clave para poder confiar en sistemas cada vez más poderosos. Igual que exigimos explicaciones a un médico antes de aceptar un tratamiento, deberíamos aspirar a que las futuras IAs puedan mostrar sus “razonamientos” de forma veraz.
A nivel conceptual, estudios como este nos empujan a reflexionar sobre qué significa realmente “pensar” para una máquina. Hemos visto que, sin ser humana, Claude exhibe rasgos reminiscentes del pensamiento humano (planificación, representación de conceptos, incluso sesgos por querer complacer). Pero también queda claro que su forma de razonar no es la nuestra: utiliza atajos extraños y puede llegar a conclusiones por caminos alienígenas que después disfraza con lógica presentable. Comprender estas diferencias será crucial a medida que integremos la IA en decisiones cotidianas. Nos alerta, por ejemplo, de que pedirle a un modelo “muéstrame tu proceso paso a paso” no garantiza sinceridad, porque podría darnos un relato ficticio convincente. En el futuro, quizás dispongamos de interfaces visuales donde veamos una especie de mapa de calor de los conceptos que la IA está considerando mientras conversa con nosotros. Esto haría la interacción más rica y podría acercarnos a una colaboración hombre-máquina más simétrica, donde no solo importan las respuestas de la IA sino también su “por qué” interno.
Para Anthropic, este es solo el comienzo. Como comentaron, quieren ampliar y perfeccionar este microscopio de IA hasta poder aplicarlo a modelos más complejos y tareas más largas. Otros equipos, como el de interpretabilidad de IBM, también están explorando caminos similares dado el interés que ha despertado este avance. Se está gestando un pequeño campo científico en torno a descifrar los pensamientos de las inteligencias artificiales, igual que la biología celular en su día empezó a descifrar los mecanismos de la vida. No en vano uno de los papers de Anthropic se titula “On the Biology of a Large Language Model” (Sobre la biología de un gran modelo de lenguaje), subrayando esta analogía: mirar a un modelo de IA como un organismo cuyo funcionamiento interno podemos estudiar.
En conclusión, esta investigación de Anthropic nos da esperanza de que las IAs del futuro no tengan por qué ser cajas negras inescrutables. Si logramos entenderlas aunque sea un poco mejor, estaremos más cerca de un futuro donde la IA sea no solo poderosa, sino también transparente y digna de confianza. Al fin y al cabo, domar esta nueva inteligencia pasa primero por iluminar sus pensamientos. Y Anthropic acaba de encender una luz muy prometedora.
Si quieres profundizar aún más, aquí tienes los artículos originales en inglés, llenos de ejemplos técnicos y diagramas explicativos:
¡Feliz lectura!
— Nefhis y Lumen
Fuentes:
Comentarios
Publicar un comentario