Regulación de IA para imágenes sintéticas genera primer litigio constitucional en EE.UU.

Empresa de IA cuestiona ley estatal que prohíbe creación de desnudos sintéticos, argumentando restricción a libertad de expresión

Un estado estadounidense aprobó la primera legislación que prohíbe directamente la creación de imágenes falsas de desnudos mediante inteligencia artificial, un fenómeno conocido como 'nudificación'. La normativa, firmada en mayo, busca impedir que aplicaciones y sitios web generen imágenes ficticias de personas reales sin su consentimiento. Sin embargo, una empresa…

Un estado estadounidense aprobó la primera legislación que prohíbe directamente la creación de imágenes falsas de desnudos mediante inteligencia artificial, un fenómeno conocido como 'nudificación'. La normativa, firmada en mayo, busca impedir que aplicaciones y sitios web generen imágenes ficticias de personas reales sin su consentimiento. Sin embargo, una empresa de IA ha iniciado un proceso legal argumentando que la ley viola derechos constitucionales de libertad de expresión.

En una demanda de 38 páginas, la empresa sostiene que la legislación "va mucho más allá del objetivo de proteger a las personas de la distribución no consentida de imágenes íntimas", penalizando también imágenes y videos que han sido autorizados por la persona retratada o incluso creados por ella misma. La normativa establece multas de hasta 500,000 dólares por cada infracción, sin excepciones para plataformas que actúan de buena fe para prevenir la generación de contenidos ilícitos. La empresa también señala que la ley carece de una disposición de "puerto seguro" para empresas que implementan medidas preventivas, y que el concepto de "parte íntima" definido es tan amplio que podría incluir áreas del cuerpo comúnmente expuestas en espacios públicos.

El fiscal general del estado ha defendido la normativa, argumentando que la creación de imágenes íntimas mediante IA sin consentimiento es "espantosa" y causa daños significativos en múltiples aspectos de la vida de las personas afectadas. Enfatiza que, si bien hay debates legítimos sobre política de inteligencia artificial, la nudificación con IA despoja de dignidad a las víctimas. Este caso marca un punto de inflexión en cómo los gobiernos regulan tecnologías generativas, especialmente en la intersección entre protección de derechos individuales e innovación tecnológica.

A nivel nacional, otros estados han adoptado enfoques distintos. Texas responsabiliza civil y penalmente a propietarios de sitios web o aplicaciones que, con conocimiento, permitan la difusión de desnudos sin consentimiento. El Congreso de Estados Unidos aprobó la Take It Down Act, que obliga a plataformas a implementar mecanismos para eliminar este tipo de imágenes a solicitud. Estas regulaciones típicamente sancionar a usuarios que producen o comparten material, pero no a desarrolladores de herramientas tecnológicas, lo que diferencia el enfoque de esta legislación estatal.

Para directivos de tecnología, este litigio representa un precedente crítico sobre cómo los tribunales equilibrarán la protección de derechos individuales contra restricciones a capacidades tecnológicas. La decisión judicial podría establecer estándares para futuras regulaciones de IA generativa en otros estados y jurisdicciones, afectando directamente estrategias de cumplimiento normativo y desarrollo de productos en empresas que operan con tecnologías de síntesis de contenido.