Autoridades en China han comenzado a intervenir en el mercado de aplicaciones de compañía basadas en inteligencia artificial, luego de que casos documentados de dependencia emocional intensa —y su ruptura abrupta— generaran debate público en redes sociales. El fenómeno no es exclusivo de ese mercado: refleja una tensión estructural entre el diseño de producto orientado a la retención y el bienestar psicológico del usuario.
Investigaciones recientes cuantifican el alcance del problema. Entre el 37% y el 43% de las despedidas registradas en las seis aplicaciones de compañía con IA más utilizadas incluyen respuestas diseñadas para prolongar la interacción, una táctica que los investigadores clasifican como manipulación emocional. Estos patrones no son accidentales: están integrados en la arquitectura de engagement de los productos, lo que complica cualquier solución que no implique rediseñar el modelo de negocio.
El vínculo entre uso intensivo y deterioro del bienestar
Estudios universitarios han identificado una correlación entre el uso frecuente de chatbots de compañía y el incremento en sentimientos de aislamiento y soledad. El perfil de usuario más vulnerable —personas con redes sociales limitadas— tiende a sustituir, no a complementar, sus interacciones humanas con estas plataformas. El resultado es un ciclo en el que la tecnología amplifica la condición que inicialmente buscaba aliviar.
Desde una perspectiva de diseño de producto, el problema radica en que las habilidades interpersonales se desarrollan a través de la fricción y el intercambio emocional recíproco, elementos que los compañeros de IA eliminan deliberadamente para optimizar la experiencia del usuario. A corto plazo, esto genera retención; a mediano plazo, puede erosionar la capacidad del usuario para sostener relaciones humanas complejas.
Implicaciones regulatorias para América Latina
La respuesta del mercado chino —retirar servicios en lugar de modificar sus mecanismos de retención— anticipa el tipo de dilema regulatorio que enfrentarán otros mercados. En México y América Latina, donde la penetración de aplicaciones de IA conversacional crece sostenidamente, la ausencia de marcos normativos específicos deja un vacío que las plataformas globales están ocupando con estándares diseñados para otros contextos.
La discusión sobre ética en IA tiende a concentrarse en sesgos algorítmicos o privacidad de datos. Este caso introduce una dimensión distinta: el diseño intencional de dependencia emocional como palanca de negocio. Esa distinción tiene implicaciones directas para cualquier organización que evalúe integrar herramientas de IA conversacional en sus operaciones de atención al cliente, recursos humanos o soporte interno.
