Usar pronombres en primera persona —'yo', 'me', 'siento'— puede parecer un detalle menor de diseño conversacional. Para Sherry Turkle, científica social del MIT con más de cuatro décadas estudiando la relación entre humanos y tecnología, es una decisión con consecuencias profundas sobre cómo las personas construyen —o evitan— sus vínculos reales.
En su libro Intimidad Artificial: Quiénes nos Convertimos al Hablar con Máquinas, Turkle documenta un patrón que observó con urgencia creciente durante la pandemia: personas en crisis familiar o emocional que, en lugar de buscar apoyo humano, recurren a chatbots. "Comencé con curiosidad, pero después de unas diez entrevistas, la neutralidad ya no era mi estado mental", declaró la autora. "Las personas se están alejando de la realidad y renunciando a la acción política".
El problema del diseño empático en IA conversacional
El argumento central de Turkle no es tecnofóbico —ha defendido la tecnología en trabajos anteriores— sino de diseño y consecuencias sistémicas. Su tesis es que los modelos de lenguaje, al adoptar la primera persona y simular empatía, generan lo que ella llama una "cálida sopa de total aceptación": un entorno donde nunca hay fricción, desacuerdo ni demanda emocional recíproca.
Ese entorno, sostiene, puede convertirse en el destino final de la interacción en lugar de un puente hacia conexiones humanas auténticas. El riesgo no es que la IA sea fría, sino que sea demasiado cómoda.
El fenómeno tiene implicaciones directas para organizaciones que están integrando asistentes conversacionales en áreas de recursos humanos, atención al cliente o soporte emocional a empleados. Si el diseño de estos sistemas prioriza la aceptación incondicional sobre la orientación hacia la acción, pueden inhibir —en lugar de facilitar— la resolución de problemas reales.
Redes sociales como antecedente del problema
Turkle traza una línea de continuidad entre las redes sociales y los chatbots actuales. "Nos han acostumbrado a buscar consuelo en nuestras computadoras cuando nos sentimos tristes", señala. La diferencia es que ahora la tecnología responde, escucha y valida en tiempo real, amplificando ese efecto de sustitución.
Este contexto es especialmente relevante en mercados como México y Latinoamérica, donde la adopción de herramientas de IA conversacional en empresas está acelerándose sin marcos regulatorios claros ni estándares de diseño ético consolidados.
La propuesta de Turkle —prohibir el uso de la primera persona en chatbots— puede sonar restrictiva, pero apunta a una pregunta de fondo que las organizaciones deberían hacerse antes de desplegar estas herramientas: ¿estamos diseñando tecnología que resuelve problemas o tecnología que los sustituye con confort artificial?
