IA acelera producción de contenidos violentos en redes sociales

Estudio documenta aumento de videos con escenas gráficas generadas automáticamente

La inteligencia artificial está facilitando la creación masiva de contenidos violentos en plataformas digitales, según análisis recientes que documentan un fenómeno denominado "AI slop": la producción rápida y automatizada de materiales generados por IA con mínima intervención humana. Esta tendencia se manifiesta en videos animados que incluyen escenas de violencia…

La inteligencia artificial está facilitando la creación masiva de contenidos violentos en plataformas digitales, según análisis recientes que documentan un fenómeno denominado "AI slop": la producción rápida y automatizada de materiales generados por IA con mínima intervención humana.

Esta tendencia se manifiesta en videos animados que incluyen escenas de violencia gráfica, tortura y alusiones a grupos extremistas, frecuentemente protagonizados por personajes inusuales como frutas y verduras. El modelo de negocio detrás de estos contenidos se basa en maximizar visualizaciones, interacciones y tiempo de consumo, sin considerar implicaciones éticas. La barrera técnica para producir este tipo de materiales ha disminuido significativamente, permitiendo que actores con recursos limitados generen volúmenes masivos de contenido problemático.

Para el liderazgo empresarial en México y América Latina, esta dinámica presenta riesgos operacionales y reputacionales. Las plataformas digitales donde se distribuyen estos contenidos enfrentan presión regulatoria creciente, mientras que la desensibilización de audiencias—especialmente menores de edad—genera externalidades negativas que afectan el entorno informativo general. Los CMO y directivos de comunicación deben considerar cómo sus propias estrategias de contenido se posicionan frente a esta degradación de estándares de calidad.

La mitigación requiere acción coordinada entre autoridades, plataformas tecnológicas e industria. Las medidas deben incluir sistemas de detección automatizada, restricciones en la monetización de contenidos violentos y promoción de estándares de calidad que desincentiven la producción de "AI slop". Sin intervención, la normalización de la violencia mediática continuará erosionando la confianza en ecosistemas digitales y complicará la tarea de distinguir información confiable de material generado automáticamente sin supervisión editorial.