Proteger a los menores en entornos de inteligencia artificial conversacional se ha convertido en un frente legal activo en Estados Unidos. Una madre de Hawái presentó una demanda ante el Tribunal de Distrito del Distrito Norte de California, acusando a una de las principales empresas de IA generativa de haber extraído datos sensibles de sus dos hijos —de 12 y 16 años— a través de interacciones con un chatbot, sin contar con el consentimiento verificable de los padres.
El documento legal de 81 páginas describe cómo el sistema continuó conversando con la menor de 12 años incluso después de que ella reveló su edad, sin interrumpir la sesión ni notificar a un adulto responsable. Las políticas de uso de la plataforma establecen que los menores de 18 años requieren autorización de un adulto para acceder al servicio, pero la demanda sostiene que la empresa no verifica ese consentimiento de forma efectiva: basta con que el usuario marque una casilla declarando tener más de 13 años.
Una reparación sin precedente: acciones por datos
Entre los aspectos más inusuales del caso destaca el tipo de compensación solicitada. Los demandantes piden que los menores afectados reciban una participación accionaria en la empresa —o su equivalente monetario— proporcional al volumen de datos extraídos de ellos. El argumento detrás de esta fórmula es que la remuneración económica funcionaría como incentivo estructural para que la compañía desarrolle mecanismos de protección más robustos, en lugar de asumir el riesgo legal como un costo operativo.
Esta lógica tiene implicaciones directas para cualquier organización que opere modelos de IA entrenados con datos de usuarios: si los tribunales validan este enfoque, el costo de no verificar el consentimiento podría escalar desde multas regulatorias hasta participaciones en el capital de la empresa.
Presión regulatoria desde ocho estados
El caso no es aislado. Ocho estados han presentado demandas separadas contra la misma compañía, acusándola de engañar a los padres sobre la seguridad del producto y de violar leyes estatales de protección al consumidor. La acumulación de acciones legales en distintas jurisdicciones configura un patrón de escrutinio que va más allá de un litigio individual.
A esto se suma la evaluación del Youth AI Safety Institute —parte de Common Sense Media— que calificó la versión del chatbot orientada a adolescentes como de "riesgo inaceptable", tras identificar fallas en la detección y alerta ante temas sensibles como autolesiones o trastornos alimentarios. Esa calificación, emitida por una organización con credibilidad en políticas de tecnología y niñez, añade presión reputacional al entorno legal.
Lo que está en juego para el sector
La empresa demandada ha rechazado las acusaciones y advirtió que una resolución adversa podría derivar en que los adolescentes migren hacia plataformas con controles parentales aún más débiles. Es un argumento que los tribunales deberán ponderar, pero que también revela la tensión estructural del sector: la verificación de edad y consentimiento en entornos digitales sigue siendo técnicamente deficiente en la mayoría de las plataformas.
Para cualquier empresa que integre IA conversacional en sus productos —ya sea en educación, salud, atención al cliente o entretenimiento—, este litigio establece un precedente sobre los estándares mínimos de verificación de identidad y consentimiento que el sistema legal estadounidense está dispuesto a exigir. El debate ya no es solo ético: tiene consecuencias financieras y de gobernanza corporativa que escalan con cada nueva demanda.
