Plataformas de redes sociales abren código de algoritmos de recomendación a usuarios

Transparencia algorítmica permite a usuarios verificar impacto de sistemas de clasificación en sus cuentas

Una plataforma de redes sociales está expandiendo significativamente su base de código abierto, incluyendo su algoritmo de recomendación principal y motor de clasificación central. Esta iniciativa permite a los usuarios comprobar si su cuenta o publicaciones han sido afectadas por los sistemas de clasificación de la plataforma. El código fuente…

Una plataforma de redes sociales está expandiendo significativamente su base de código abierto, incluyendo su algoritmo de recomendación principal y motor de clasificación central. Esta iniciativa permite a los usuarios comprobar si su cuenta o publicaciones han sido afectadas por los sistemas de clasificación de la plataforma.

El código fuente del feed de recomendación predeterminado está disponible en GitHub bajo licencia Apache v2, junto con detalles sobre configuración de modelos, filtros y sistemas de clasificación central. Esto incluye los parámetros utilizados para ponderar diferentes señales que determinan qué contenido se visualiza. La base de código resultante es aproximadamente 10 a 15 veces más grande que la versión anterior. Según ejecutivos de la empresa, los usuarios pueden acceder al código de clasificación que extrae publicaciones y las ordena para cada usuario, ensamblando así su feed personalizado. "Puedes ver los sistemas que filtran contenido potencialmente problemático o que viola reglas... Y algunos de esos sistemas, como el clasificador y la puntuación, incluso puedes ejecutarlos tú mismo fuera de la empresa", explicó un vicepresidente de producto.

La plataforma está implementando herramientas que permitirán a los usuarios verificar cómo los sistemas de clasificación han impactado sus cuentas o publicaciones. Una nueva herramienta de transparencia estará disponible en la configuración de la aplicación, permitiendo a usuarios que hayan publicado diez o más veces en el último mes descargar sus estadísticas agregadas en formato JSON. Este archivo mostrará si se han aplicado etiquetas a su cuenta o publicaciones. Los usuarios sin conocimientos técnicos podrán integrar esta información en modelos de lenguaje de su elección para obtener interpretaciones. La herramienta estará inicialmente disponible para cuentas de prueba con al menos un año de antigüedad antes de una implementación más amplia.

Antes del lanzamiento, la empresa presentó su base de código a investigadores externos especializados en sistemas de recomendación, quienes lograron activar el "puntaje" (el valor numérico calculado para cada publicación) fuera de la plataforma. Los desarrolladores podrán enviar actualizaciones a través del repositorio de GitHub, que los ingenieros considerarán para incorporación en el algoritmo. Aunque no todas las adiciones serán aceptadas, la empresa expresó entusiasmo por la posibilidad de que el público contribuya a mejorar el algoritmo.

Algunos sistemas permanecen excluidos de esta versión, como aquellos que utilizan inteligencia artificial avanzada para predecir violaciones de normas. Esta medida busca proteger la plataforma de actores malintencionados que podrían utilizar esta información para eludir normas y generar spam. Estos cambios responden a preocupaciones persistentes sobre cómo los algoritmos de recomendación influyen en política, elecciones y propagación de desinformación. La iniciativa busca aumentar la transparencia y la confianza de los usuarios en cómo funcionan estos sistemas de clasificación que determinan el contenido que ven en sus feeds.