¿Por qué la monitorización de las redes sociales es crucial en la era de los deepfakes y la desinformación?

Los primeros deepfakes aparecieron hace algunos años y causaron estupor al presentar con enorme realismo a personas famosas en contextos donde nunca estuvieron realmente. Se hicieron virales numerosos videos de Barack Obama afirmando cosas que nunca había dicho, y las webs para adultos se inundaron con videos falsos de actrices populares de Hollywood. 

El realismo de estos videos falsos era algo sin precedentes, pero está quedando en nada ante el auge de la IA generativa al que estamos asistiendo en 2023. El enorme potencial de ChatGPT para generar textos de todo tipo tiene su contraparte en IAs como MidJourney para crear fotografías, o Synthesia para crear videos con un realismo nunca antes visto. 

Lo peor de todo es que esta carrera no ha hecho más que empezar, y, pese a encontrarse en sus inicios, la IA generativa está inundando las redes sociales con publicaciones falsas de todo tipo. Los falsos contenidos se extienden incluso a las fotos de perfil de usuarios fraudulentos, generando una auténtica avalancha de desinformación a un ritmo sin precedentes. 

Las cuentas falsas se multiplican como nunca antes 

Siempre ha habido cuentas falsas en Facebook, Instagram o Twitter, pero ahora el ritmo de creación de estas cuentas es mayor que nunca, y, sobre todo, su influencia es cada vez más preocupante. La IA se lo pone realmente fácil a los hackers para generar contenidos falsos en cuestión de minutos o segundos, lo que se traduce en un problema de enormes proporciones. 

Aquí es donde entran en juego los sistemas de verificación de cuentas online. Tanto Google como Meta, X e incluso TikTok están aumentando los requerimientos para verificar una cuenta online, de modo que los usuarios necesitan proporcionar más información que nunca para poder demostrar que son quienes dicen ser. 

Ante estas medidas para limitar la creación de cuentas falsas, los ciberdelincuentes pasan a tener un interés cada vez mayor por hackear cuentas reales. Proteger nuestras propias redes sociales con medidas como conectarse a una VPN o activar la verificación en dos pasos se hace entonces más necesario que nunca ante el incremento de los hackeos. 

La transparencia como respuesta al auge de la IA 

La apuesta por la verificación de las cuentas en las principales redes sociales generó muchas críticas cuando fue iniciada por Twitter, pero, poco después, otras plataformas como Instagram adoptaron las mismas medidas. No está exenta de polémica, pero estas medidas contribuyen a crear redes sociales con un menor porcentaje de cuentas falsas. 

Además, la verificación de los usuarios también se está empleando para atajar el discurso del odio y las conductas ilegítimas en las redes sociales. El objetivo pasa por reducir de forma considerable la cantidad de cuentas que promocionan estafas online, o que divulgan de manera insistente todo tipo de propaganda política. 

Desde el punto de vista de las redes sociales, contar con una mayor seguridad relativa a la identidad de sus usuarios tiene mucho sentido. Para los usuarios, en cambio, el mayor número de datos personales que deben proporcionar –incluyendo imágenes de sus documentos de identidad– puede suponer una seria amenaza en términos de privacidad.

¿Cómo se traduce esto a la hora de diseñar una campaña publicitaria? En medio de esta transición, las campañas de marketing en redes sociales pueden verse seriamente afectadas si no se ejecutan adecuadamente. El mayor control en la creación de cuentas por parte de plataformas como Meta, Alphabet o X supone, en realidad, un beneficio para las campañas de marketing, gracias a la reducción de cuentas falsas en sus redes. 

Un menor porcentaje de cuentas ‘bot’ en las plataformas donde desarrollamos nuestras campañas equivale a un público objetivo mucho más extenso. Además, contar con más información personal sobre cada usuario también permite a las redes determinar con mayor precisión cuáles son los más adecuados para recibir nuestros anuncios. 

El tráfico orgánico, por su parte, también se verá reforzado. Si gestionamos redes sociales y publicamos contenido relevante, atraeremos a una mayor cantidad de usuarios que tienen un interés genuino en la información que compartimos. Esto puede reforzar considerablemente el ‘engagement’ de todas y cada una de nuestras publicaciones online. 

El aspecto negativo es que deberemos tener mucho cuidado con la automatización de procesos. Es cierto que publicar frecuentemente nos ayuda a generar un mayor ‘engagement’, pero la lucha contra los bots puede mermar el alcance de nuestras cuentas si hacemos que se comporten como tales. Menos contenido, y más genuino, parece ser el camino a seguir.