Ocho modelos de lenguaje basados en arquitectura transformer —la misma que sustenta los principales chatbots comerciales— muestran un patrón consistente de desajuste con la actividad cerebral humana al procesar oraciones, según un estudio realizado por investigadores de la Universidad de Melbourne y la Universidad Hitotsubashi de Japón.
El equipo utilizó resonancia magnética funcional de alta resolución para registrar la actividad cerebral de 30 participantes mientras leían oraciones diseñadas para aislar el efecto del orden gramatical del contenido léxico. Las oraciones compartían casi las mismas palabras, pero su significado cambiaba según la estructura sintáctica. Este diseño experimental permitió superar una limitación metodológica de estudios anteriores: separar con precisión el peso del vocabulario del peso de la gramática en la comprensión del lenguaje.
Qué encontró la investigación
Aunque los modelos analizados superaron a un sistema de referencia que ignoraba por completo el orden de las palabras, su capacidad para predecir la actividad cerebral fue deficiente, particularmente en oraciones con roles semánticos invertidos. Los sistemas tendieron a clasificar estas oraciones como más similares entre sí de lo que los participantes humanos las percibieron, lo que indica que no integran la función gramatical de cada palabra con la misma centralidad que el cerebro.
En contraste, un modelo que combinaba información léxica con una representación explícita de la estructura gramatical mostró un ajuste significativamente mejor con los datos cerebrales. Este resultado apunta a que el procesamiento humano del lenguaje asigna un peso crítico al rol sintáctico de cada término dentro de la oración, no solo a su significado aislado.
La consistencia del patrón a través de los ocho modelos —que variaban en tamaño y arquitectura— llevó a los autores a descartar que los hallazgos sean atribuibles a las limitaciones de un sistema específico. La conclusión es estructural: la arquitectura transformer, en su forma actual, no replica el mecanismo cognitivo con el que el cerebro humano construye significado.
Implicaciones para la adopción empresarial de IA
Este hallazgo tiene consecuencias concretas para organizaciones que despliegan modelos de lenguaje en contextos donde la interpretación precisa del significado es crítica: atención al cliente, generación de contenido, análisis de comunicaciones internas o soporte en procesos legales y regulatorios.
La fluidez textual de estos sistemas —su capacidad para producir respuestas coherentes y gramaticalmente correctas— puede generar una percepción de comprensión que no se corresponde con lo que ocurre en sus representaciones internas. Esa brecha entre apariencia y mecanismo es el principal riesgo operativo que este estudio pone sobre la mesa.
Para sectores como educación, salud o servicios financieros en México y Latinoamérica, donde la ambigüedad semántica puede tener consecuencias de alto impacto, los resultados sugieren que la supervisión humana en los flujos de trabajo asistidos por IA no es una medida transitoria, sino un componente de diseño necesario mientras la arquitectura de estos modelos no incorpore representaciones gramaticales más explícitas.
