Plataformas sociales usan IA para detectar y eliminar contenido automatizado en tiempo real
Sistemas de moderación con modelos de lenguaje reducen exposición al spam 20% en un trimestre y actúan en menos de cinco segundos ante contenido perjudicial
Reddit implementó herramientas propias de inteligencia artificial para contener el crecimiento del contenido generado por bots y agentes automatizados en su plataforma. Según datos publicados por la empresa, sus sistemas bloquean hasta 23 millones de vistas de spam diariamente, detectan alrededor de 25,000 publicaciones y comentarios que incumplen normas de…
Reddit implementó herramientas propias de inteligencia artificial para contener el crecimiento del contenido generado por bots y agentes automatizados en su plataforma. Según datos publicados por la empresa, sus sistemas bloquean hasta 23 millones de vistas de spam diariamente, detectan alrededor de 25,000 publicaciones y comentarios que incumplen normas de calidad, y revocan cerca de dos millones de votos no auténticos cada día. Entre enero y marzo de 2026, la exposición al spam disminuyó 20% respecto al trimestre anterior, una métrica que sitúa a esta iniciativa entre las más agresivas del sector en materia de moderación automatizada. El sistema opera mediante modelos de lenguaje de última generación que analizan el comportamiento de las cuentas desde el momento de su creación, identificando lo que la compañía describe como 'patrones altamente sutiles y coordinados de comportamiento falso y entusiasmo artificial'. Como capa adicional, las cuentas sospechosas de operar de forma automatizada deben superar verificaciones de identidad humana antes de interactuar en la plataforma. En paralelo, Reddit redujo el tiempo entre la detección de contenido dañino —incluyendo discurso de odio y violencia— y la acción de moderación a menos de cinco segundos, lo que se tradujo en una caída superior al 40% en la exposición de usuarios a ese tipo de material. La empresa planea extender estas capacidades a idiomas distintos del inglés en fases posteriores. Este giro estratégico ocurre en un contexto donde Reddit ha tenido una relación ambivalente con la inteligencia artificial. La plataforma enfrentó controversias cuando investigadores de la Universidad de Zúrich utilizaron comentarios generados por IA en experimentos dentro de comunidades activas, sin consentimiento de los usuarios. Para gestionar el acceso masivo de herramientas de scraping, la compañía adoptó un protocolo de licencias que permite compensar a terceros que deseen rastrear su contenido de forma estructurada. Al mismo tiempo, integró IA de forma nativa con el lanzamiento de Reddit Answers, su función de búsqueda conversacional. El patrón que emerge —usar IA para contener IA, mientras se monetiza el acceso a los datos— anticipa un modelo de gobernanza de plataforma que otras redes sociales y foros de comunidad probablemente replicarán en los próximos trimestres.
