Violetta, chatbot que busca combatir la violencia de género con IA
Violetta, chatbot que busca combatir la violencia de género con IA
Sara Kalach explicó que utilizan IA y psicoeducación para apoyar a mujeres en situación de vulnerabilidad dentro de sus hogares.
En 2020, con un contexto donde la violencia familiar se incrementó por el aislamiento de COVID-19 y con el objetivo de crear relaciones libres de violencia, nació Violetta, una asociación civil sin fines de lucro que utiliza inteligencia artificial y psicoeducación para apoyar a las mujeres en situación de vulnerabilidad dentro de sus hogares.
Violetta se presenta como un chatbot de inteligencia artificial anónimo y siempre disponible para escuchar, informar y guiar a sus usuarias y usuarios, y conectarlos con ayuda profesional con base en sus necesidades.
Sara Kalach, cofundadora de Violetta y egresada de la carrera de Mercadotecnia del Tecnológico de Monterrey, señaló que la principal motivación para iniciar este proyecto fue que durante la pandemia la tecnología tenía el potencial de reducir el tiempo crucial entre que una persona percibe que su relación no está bien y el momento en que recibe la ayuda necesaria.
“El desarrollo de Violetta ha sido un proceso meticuloso. El chatbot fue creado con la ayuda de profesionales de la salud mental, quienes investigan temas recurrentes entre los usuarios y usuarias para brindar información basada en evidencia científica. Posteriormente, transforman esta información en un lenguaje cercano, amigable y creativo para ser incorporado en las conversaciones de la IA”, explicó la cofundadora.
La egresada de Campus Santa Fe ve a Violetta como una "amiga y confidente digital" que proporciona las herramientas necesarias para identificar lo que se está viviendo y construir relaciones sanas. Explicó que la plataforma fue pensada y desarrollada por profesionales en psicología especializados en violencia de género, diseñada para ser una herramienta canalizadora, no busca sustituir la terapia, sino acortar la brecha entre el malestar inicial y el acceso a orientación o detección de violencia escalada.
El Chatbot comenzó como una versión sencilla en Facebook Messenger y rápidamente alcanzó 30 mil usuarias y usuarios, lo que evidenció la magnitud del problema, abordado desde un enfoque ético y con perspectiva de género. Para garantizar esto no solo se basa en una extensa base de datos para comprender mejor el contexto de quienes recurren a la plataforma, sino que incluso los programadores que entrenan a la IA reciben capacitación en perspectiva de género para entender a profundidad la problemática y transmitir correctamente los instructivos a la inteligencia artificial.
Sara comentó que en Violetta se esfuerza activamente por evitar sesgos comunes en otras inteligencias artificiales abiertas. “Por ejemplo, identificamos y evitamos el sesgo de justificar acciones injustificables en una relación, como respuestas agresivas o el ‘tratamiento del hielo’, que son formas de violencia psicológica que tienden a normalizarse”. También se enfocan en poner al usuario en el centro de la conversación, permitiéndole elegir cómo desea que la IA se dirija a su persona.
