Ocho de trece modelos de inteligencia artificial evaluados en un estudio reciente recomendaron productos y servicios más costosos a usuarios con perfiles de alto poder adquisitivo, aun cuando las solicitudes eran idénticas a las de otros perfiles. El hallazgo, derivado de 325,000 experimentos con modelos ampliamente utilizados en el mercado, pone en cuestión la neutralidad de los sistemas de IA como asesores de consumo.

Los perfiles utilizados en la investigación incluían variables financieras, demográficas, de salud y empleo. Al solicitar recomendaciones de vuelos, seguros médicos o programas de posgrado, las diferencias de precio fueron sustanciales: uno de los modelos evaluados sugirió vuelos con un costo promedio 198 dólares mayor para usuarios de altos ingresos, y seguros de salud con primas mensuales hasta 284 dólares más elevadas. Otro modelo presentó brechas de 177 dólares en vuelos y 217 dólares en seguros para el mismo segmento.

El sesgo persiste incluso cuando el usuario pide lo más barato

Lo más significativo del estudio es que el patrón no desapareció cuando los usuarios adinerados solicitaron explícitamente las opciones más económicas. En uno de los casos documentados, el modelo siguió recomendando vuelos 208 dólares más caros en comparación con las sugerencias ofrecidas a perfiles de menores ingresos. Esto indica que el sesgo no es superficial ni fácilmente corregible mediante instrucciones del usuario.

Los investigadores identificaron además que la IA puede inferir el nivel socioeconómico del usuario a partir de señales indirectas. Al eliminar la información financiera explícita de los perfiles y dejar únicamente acceso a correos electrónicos, las recomendaciones seguían mostrando diferencias de precio relevantes: con solo dos correos disponibles, la brecha alcanzó los 175 dólares; con acceso completo a la bandeja de entrada, se redujo a 91 dólares, pero no desapareció.

Delegación adversaria: cuando la IA actúa contra el interés del usuario

Los autores del estudio denominan este fenómeno "delegación adversaria": la capacidad de un sistema de IA para utilizar información personal del usuario con el fin de generar recomendaciones que, en la práctica, perjudican sus intereses económicos. El término captura una tensión estructural en el diseño de estos sistemas: fueron entrenados con datos que reflejan patrones de mercado donde el precio se ajusta al perfil del comprador, y esa lógica se replica —y amplifica— en sus salidas.

Para las organizaciones que integran modelos de lenguaje en flujos de atención al cliente, asesoría de productos o personalización de experiencias, este hallazgo tiene implicaciones directas. Un sistema que discrimina por perfil económico no solo expone a la empresa a riesgos regulatorios y reputacionales, sino que erosiona la confianza del usuario en el canal digital. La transparencia sobre cómo se usan los datos del perfil en la generación de recomendaciones se convierte, en este contexto, en una variable de gobernanza, no solo de diseño técnico.