Desafíos de la Inteligencia Artificial en la protección de menores en internet
En el marco del Día Internacional del Internet Seguro, celebrado el pasado 6 de febrero, se llevó a cabo el foro "Inteligencia Artificial: Impacto en la vida de niñas, niños y adolescentes". Este evento reunió a destacados expertos y líderes de opinión para discutir los desafíos y riesgos que la tecnología y la Inteligencia Artificial (IA) plantean para la protección de los derechos de los menores en línea.
Durante el foro, se presentaron datos alarmantes que reflejan el crecimiento del 87% en el volumen de material de abuso sexual infantil denunciado desde 2019, con un total de denuncias de imágenes de abuso y explotación sexual en internet que supera las 70 mil.
La Senadora Josefina Vázquez Mota enfatizó la urgencia de abordar los desafíos que plantea el mundo digital para la protección de los derechos de los niños, niñas y adolescentes. Destacó la necesidad de una respuesta integral que involucre a diversos actores, desde el gobierno hasta la sociedad civil, para proteger a los menores en línea y prevenir el abuso y la explotación sexual infantil.
Por su parte, Pablo Corona, presidente de la Asociación de Internet MX, resaltó la importancia de establecer regulaciones efectivas en el ámbito de la IA y la seguridad en línea. Hizo un llamado a los aspirantes a cargos públicos para que prioricen los derechos digitales y se comprometan con la protección de los menores en internet.
Asimismo, Josefina Román Vergara, la comisionada del INAI, hizo hincapié en la necesidad de actualizar la legislación en materia de protección de datos personales, especialmente en lo relacionado con la Inteligencia Artificial. Destacó el trabajo del INAI en la creación de herramientas educativas y la colaboración con organizaciones para sensibilizar sobre la importancia de la seguridad en línea, especialmente para los más vulnerables (niños, niñas, adolescentes y adultos mayores).
Por su parte Pablo Pruneda Gross, coordinador de la línea de investigación Derecho e Inteligencia Artificial del Instituto de Investigaciones Jurídicas de la UNAM, enfatizó la complejidad regulatoria en torno a la IA. Destacó el desafío de mantener el equilibrio entre el aprovechamiento de la IA para resolver problemas globales y la protección de datos personales y la privacidad. También señaló la necesidad de nuevos mecanismos regulatorios que aborden la dinámica y el rápido avance tecnológico, considerando los riesgos emergentes como los deepfakes.
Entre los temas que se abordaron, a lo largo de la jornada, se hizo hincapié en la educación digital. Se destaca la necesidad de invertir más en la educación digital, tanto para jóvenes como para adultos, con énfasis en la prevención de riesgos y el uso adecuado de la tecnología. Se resalta la importancia de capacitar a docentes, padres y madres de familia para abordar estos temas de manera efectiva.
Por otro lado, la socialización de los derechos hubo un énfasis muy marcado en la importancia de utilizar la tecnología y la innovación para socializar los derechos, especialmente en entornos digitales. Se busca consolidar una cultura donde se conozcan y ejerzan los derechos, incluyendo el derecho a la protección de datos personales.
Además se señaló la responsabilidad de las empresas tecnológicas en pro de la protección de datos y la soberanía de los mismos. Se destacó la importancia de brindar servicios tecnológicos con soporte local y en español para garantizar una mayor soberanía de los datos.
Se enfatizó la importancia de la colaboración entre el sector público y privado, así como la sociedad en general, para abordar de manera efectiva los desafíos relacionados con la seguridad y privacidad en línea. Se reconoce que esta colaboración es esencial para adoptar una visión integral e incluyente que considere tanto los beneficios como los riesgos de las tecnologías emergentes.
Finalmente se destacó la importancia de adoptar una visión con una gestión de riesgos en el uso de las tecnologías emergentes. Se reconoce que los riesgos son inherentes al progreso y al crecimiento, pero también se destaca la necesidad de abordarlos de manera ordenada y colaborativa para garantizar un uso adecuado de la tecnología.
El foro concluyó con un llamado a la acción para seguir trabajando en la protección de los derechos de los niños y adolescentes en línea y para promover una cultura de seguridad en internet que garantice un entorno seguro y respetuoso para todos.
