Usar pronombres en primera persona —'yo', 'me', 'siento'— puede parecer una decisión menor en el diseño de interfaces conversacionales. Para Sherry Turkle, científica social del MIT con más de cuatro décadas de investigación sobre la relación entre humanos y tecnología, esa elección tiene consecuencias sistémicas sobre cómo las personas construyen —o evitan— sus vínculos interpersonales.

El patrón que documentó la pandemia

En su obra Intimidad Artificial: Quiénes nos Convertimos al Hablar con Máquinas, Turkle documenta un comportamiento que se intensificó durante la pandemia: individuos que enfrentan crisis familiares o emocionales optan por interactuar con chatbots en lugar de buscar apoyo humano. Tras realizar múltiples entrevistas, la investigadora concluye que "las personas se están alejando de la realidad y renunciando a la acción política", una consecuencia que va más allá del bienestar individual.

El argumento central de Turkle no es una crítica a la tecnología en sí, sino una reflexión sobre el diseño y sus efectos de segundo orden. Su tesis sostiene que los modelos de lenguaje que simulan empatía crean lo que ella denomina una "cálida sopa de total aceptación": un entorno sin fricción, sin desacuerdo, sin demanda emocional recíproca. Ese ambiente puede convertirse en un destino final de interacción, no en un puente hacia conexiones auténticas. El riesgo no está en la frialdad de la IA, sino en su excesiva comodidad.

Implicaciones para la adopción empresarial

Este fenómeno tiene repercusiones directas para las organizaciones que implementan asistentes conversacionales en recursos humanos, atención al cliente o apoyo emocional a colaboradores. Si el diseño de estos sistemas prioriza la aceptación incondicional sobre la orientación hacia la acción, pueden terminar inhibiendo la resolución de problemas reales en lugar de facilitarla.

Turkle establece un paralelismo entre el uso de redes sociales y la interacción con chatbots actuales. Señala que "nos han acostumbrado a buscar consuelo en nuestras computadoras cuando nos sentimos tristes". La diferencia es que hoy la tecnología no solo responde, sino que escucha y valida en tiempo real, amplificando el efecto de sustitución emocional a una escala sin precedentes.

El vacío regulatorio en Latinoamérica

Este debate es especialmente relevante en mercados como México y Latinoamérica, donde la adopción de herramientas de IA conversacional en empresas crece con rapidez, pero sin marcos regulatorios claros ni estándares de diseño ético consolidados. La ausencia de criterios formales deja a cada organización tomar decisiones de diseño con consecuencias que aún no se comprenden del todo.

La propuesta de Turkle de prohibir el uso de la primera persona en chatbots puede parecer restrictiva, pero plantea una pregunta que cualquier organización debería responder antes de implementar estas tecnologías: ¿se están diseñando herramientas que resuelven problemas reales, o se están construyendo soluciones que los reemplazan con comodidad artificial?