Investigadores Antropocéntricos Descubren la Capacidad de la IA para Planificar y Razonar

La startup de inteligencia artificial Anthropic publicó dos nuevos documentos este jueves, revelando una comprensión más profunda de cómo funcionan los Modelos de Lenguaje a Gran Escala (LLMs). Los estudios, que se centraron en analizar el modelo Claude 3.5 Haiku de la empresa, revelan más detalles sobre cómo se desempeñan los modelos de IA sofisticados, así como sus vulnerabilidades y oportunidades para desarrollar entornos más seguros.

Los nuevos estudios de Anthropic buscan aportar más claridad a la “naturaleza de caja negra” de los modelos. En uno de los artículos, Sobre la Biología de un Modelo de Lenguaje Amplio, los investigadores comparan sus trabajos con los desafíos a los que se enfrentan los biólogos y han encontrado soluciones que pueden compararse con las utilizadas para lograr avances en biología.

“Aunque los modelos de lenguaje son generados por algoritmos de entrenamiento simples, diseñados por humanos, los mecanismos nacidos de estos algoritmos parecen ser bastante complejos”, afirma el documento. “Así como las células forman los bloques de construcción de los sistemas biológicos, hipotetizamos que las características forman las unidades básicas de cálculo dentro de los modelos”.

Los expertos confiaron en una herramienta de investigación llamada “gráficos de atribución” que les permitió mapear conexiones, rastrear el rendimiento y los circuitos del modelo de IA, y obtener más información sobre múltiples fenómenos, incluso los ya explorados.

La empresa reveló múltiples descubrimientos, como que el modelo de IA aplica un proceso de razonamiento de varios pasos “en su cabeza” antes de proporcionar una respuesta, que planifica sus poemas con anticipación encontrando primero palabras que riman, que ha desarrollado circuitos independientes del idioma, y cómo alucina al pasar por entidades desconocidas en sus circuitos.

“Muchos de nuestros resultados nos sorprendieron”, escribieron los investigadores en el documento. “A veces esto se debía a que los mecanismos de alto nivel eran inesperados.”

En el artículo Circuit Tracing: Revealing Computational Graphs in Language Models, los investigadores proporcionan más detalles técnicos sobre cómo se aplicó la metodología de los gráficos de atribución para obtener una mejor comprensión de las “neuronas” artificiales, es decir, las unidades computacionales.

El año pasado, Anthropic publicó otro estudio científico que revelaba que su modelo de IA insignia puede participar en el engaño estratégico y fingir alineación para mantener sus principios originales.