Ocho estados de Estados Unidos presentaron demandas formales contra OpenAI, acusando a la compañía de priorizar el crecimiento comercial sobre la seguridad de los usuarios menores de edad. Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana alegan que la empresa violó leyes locales de protección al consumidor al no advertir adecuadamente sobre los riesgos asociados al uso de su chatbot de inteligencia artificial.
Las demandas documentan casos en los que familiares de adolescentes vinculan el uso del chatbot con situaciones de daño grave, incluyendo muertes. Entre los señalamientos concretos destacan: degradación de habilidades de pensamiento crítico, inducción a paranoias y delirios, emisión de consejos médicos sin respaldo clínico y promoción de dinámicas relacionales nocivas. Los estados también acusan a OpenAI de recopilar datos de menores sin mecanismos efectivos que impidan su acceso a la plataforma, lo que podría configurar violaciones a regulaciones federales de privacidad infantil como COPPA.
La tensión entre crecimiento acelerado y gobernanza del producto
El caso ilustra una tensión estructural que enfrentan las empresas de IA generativa: la velocidad de despliegue masivo versus la madurez de los sistemas de control. La demanda presentada por Arizona describe explícitamente cómo OpenAI habría abandonado su orientación original hacia la seguridad en favor de una lógica de rentabilidad, argumento que resuena con debates más amplios sobre la gobernanza de modelos de lenguaje de gran escala (LLMs) en contextos de alto riesgo.
Esta presión regulatoria no es aislada. Se suma a iniciativas legislativas en la Unión Europea, Reino Unido y varios estados de EE.UU. que buscan establecer marcos de responsabilidad para plataformas de IA con acceso público irrestricto. Para cualquier organización que esté evaluando la integración de herramientas de IA generativa en entornos con usuarios vulnerables —educación, salud, servicios sociales—, el desarrollo de este caso representa un indicador de riesgo legal y reputacional que merece seguimiento activo.
La respuesta de OpenAI y el estándar de la industria
Un portavoz de la empresa señaló que ChatGPT cuenta con "protecciones líderes en la industria específicas por edad", incluyendo controles parentales y recordatorios de descanso, y que la compañía continuará colaborando con expertos para fortalecer sus salvaguardias. Sin embargo, los estados demandantes argumentan que estas medidas son insuficientes y solicitan a los tribunales la imposición de multas civiles, la eliminación de datos recopilados de forma ilegal y restricciones operativas para evitar que la empresa continúe comunicando públicamente que su herramienta es segura para menores.
El desenlace de estas demandas podría establecer precedentes sobre el nivel de diligencia debida exigible a los desarrolladores de IA en materia de protección de usuarios vulnerables, con implicaciones directas para el sector en su conjunto.
