A partir de agosto, la Unión Europea activó nuevas normas de transparencia para sistemas de inteligencia artificial que obligan a empresas a informar a usuarios cuando interactúan con máquinas o consumen contenido manipulado. La Oficina de Inteligencia Artificial de la Comisión Europea recibió nuevos poderes para supervisar modelos de IA generativa e imponer sanciones por incumplimiento, aunque existen excepciones que podrían retrasar la aplicación en ciertos casos.

La obligación inmediata de transparencia afecta a desarrolladores de sistemas de IA utilizados en servicios públicos, interacción empresarial con clientes y gestión de denuncias de fraude. Quienes implementen tecnologías de reconocimiento de emociones o categorización biométrica deben informar a ciudadanos cuando se les analice mediante estas herramientas, excepto en situaciones permitidas por ley para prevención o persecución de delitos. Esta exigencia se extiende a plataformas que ofrecen servicios de IA generativa, estableciendo un estándar de consentimiento informado en toda la cadena de uso.

A partir de diciembre, todos los sistemas de IA deberán incorporar marcas de agua en textos, imágenes, videos y audios manipulados para que ciudadanos identifiquen contenido generado por máquinas. Sin embargo, plataformas y redes sociales no serán responsables legalmente por contenido creado por usuarios, quienes deberán señalar manipulaciones. Se eximen contenidos de ficción, artísticos o satíricos, pero será necesario advertir sobre todo contenido generado por IA que ofrezca información de interés general, como procesos electorales, judiciales, salud pública o temas de debate público, a menos que haya sido supervisado previamente por una persona.

La regulación también prohíbe desde diciembre la creación de imágenes sexualizadas generadas por IA sin consentimiento de las personas afectadas, medida acordada tras escándalos provocados por herramientas específicas. La Oficina de Inteligencia Artificial podrá exigir a empresas acceso a modelos de alto riesgo para evaluar riesgos asociados, aunque persisten dudas sobre la capacidad técnica de la Comisión para analizar sistemas complejos, especialmente si gobiernos externos restringen el acceso a ciudadanos europeos. Esta tensión entre supervisión regulatoria y limitaciones de acceso técnico representa un desafío operativo para la implementación efectiva de estas normas.