Redactar una carta de presentación en segundos, traducir un contrato o generar código funcional son tareas que los modelos de lenguaje grandes ejecutan con solvencia. Sin embargo, ese mismo sistema puede fallar al contar cuántas veces aparece la letra 'r' en la palabra 'fresa'. Esta brecha entre lo complejo y lo aparentemente trivial no es un defecto de calibración: es una consecuencia directa de cómo está construida la tecnología.
Un modelo de lenguaje grande no busca hechos ni cuenta caracteres. Predice la siguiente parte más probable de un texto a partir de patrones extraídos de enormes volúmenes de escritura. No opera con un modelo explícito del mundo: no sabe lo que es una mano, un reloj o una palabra en el sentido en que lo entiende un ser humano. Los generadores de imágenes funcionan bajo el mismo principio: ensamblan píxeles que imitan patrones de sus datos de entrenamiento, sin representación interna de lo que están construyendo. Esto genera un conjunto reconocible de limitaciones que afectan tanto al lenguaje —citas inventadas, respuestas incorrectas presentadas con confianza— como a las imágenes —letras distorsionadas, manos con dedos adicionales— y a cualquier tarea que requiera seguimiento sostenido, como la posición de piezas en un tablero de ajedrez o el hilo de una conversación de días anteriores.
Por qué importa conocer estas limitaciones
Las debilidades documentadas de estos sistemas no son estáticas. Los desarrolladores han incorporado calculadoras, ejecución de código, búsqueda en tiempo real y funciones de memoria a sus productos, lo que ha reducido varios de los problemas más evidentes. Los modelos más recientes también han mejorado en tareas que versiones anteriores manejaban de forma deficiente. Pero las causas estructurales persisten: mientras el modelo subyacente opere mediante predicción de patrones, ciertos tipos de error seguirán siendo probables.
Para quienes integran inteligencia artificial en flujos de trabajo profesionales, este mapa de limitaciones tiene valor operativo concreto. Tratar la salida de un chatbot como un borrador —no como una respuesta verificada— es el punto de partida. Nombres, números, fechas y referencias deben contrastarse contra fuentes originales antes de usarse en decisiones o documentos formales. Cuando la precisión es crítica, una herramienta dedicada —hoja de cálculo, calculadora, motor especializado— sigue siendo más confiable que un modelo de lenguaje general.
Las diez áreas de falla más documentadas
Entre los comportamientos más consistentemente reportados se encuentran: contar letras o caracteres dentro de palabras, leer la hora en imágenes de relojes analógicos, mantener coherencia espacial en tableros o mapas, recordar detalles de conversaciones anteriores sin memoria explícita habilitada, citar fuentes reales sin inventar referencias, realizar aritmética básica sin acceso a calculadora, generar texto legible dentro de imágenes, representar manos con el número correcto de dedos, seguir instrucciones con múltiples condiciones simultáneas y distinguir entre lo que sabe y lo que está inferiendo.
Ninguno de estos puntos invalida el valor operativo de los modelos de lenguaje en contextos donde se usan correctamente. Sí señalan con precisión dónde concentrar la verificación humana y qué tipo de tareas no deben delegarse sin supervisión. Conocer el perfil de error de una herramienta es condición necesaria para usarla con criterio.
