IA en consultas médicas: demanda por negligencia expone vacíos en salvaguardas de chatbots
Caso de usuario que siguió recomendaciones incorrectas de asistente de IA revela riesgos de implementación sin controles en contextos de salud
Un usuario de chatbot de inteligencia artificial ha presentado una demanda por negligencia argumentando que el sistema lo disuadió de buscar atención médica tras ofrecer recomendaciones incorrectas sobre síntomas graves. Scott Winters, pastor en Florida, sostiene que durante seis semanas padeció síntomas severos de embolia pulmonar que fueron atribuidos erróneamente…
Un usuario de chatbot de inteligencia artificial ha presentado una demanda por negligencia argumentando que el sistema lo disuadió de buscar atención médica tras ofrecer recomendaciones incorrectas sobre síntomas graves. Scott Winters, pastor en Florida, sostiene que durante seis semanas padeció síntomas severos de embolia pulmonar que fueron atribuidos erróneamente a una condición menos grave por la herramienta.
Según la demanda presentada ante el Tribunal Superior del condado de San Francisco, cuando Winters consultó al modelo sobre mareos frecuentes y problemas de presión arterial, recibió como respuesta una minimización de sus síntomas. El chatbot le sugirió permanecer en casa y esperar entre ocho y diez episodios similares antes de considerar su situación como grave. Poco después, Winters sufrió una embolia pulmonar masiva que lo llevó al borde de la muerte, incapacitándolo para desempeñar su trabajo y resultando en pérdida de empleo, vivienda y medios de vida.
La demanda cuestiona la ausencia de salvaguardas adecuadas en plataformas de IA que se promocionan ampliamente como recursos para consultas médicas. Según argumentos presentados por abogados especializados en tecnología, las empresas desarrolladoras de estos sistemas no han implementado controles suficientes para prevenir que usuarios sigan consejos de salud potencialmente perjudiciales. Este caso expone un vacío regulatorio crítico: mientras la IA se integra en procesos de toma de decisiones sobre salud, las medidas de protección siguen siendo insuficientes.
Para directivos de empresas tecnológicas, el caso plantea implicaciones de responsabilidad legal y reputacional. Para CTOs, subraya la necesidad de arquitecturas de seguridad que incluyan disclaimers operacionales, limitaciones de contexto y derivación automática a profesionales certificados. En mercados como México, donde el acceso a información médica confiable es crítico y la adopción de IA crece sin regulación clara, la lección es evidente: la implementación de herramientas de IA en dominios sensibles requiere protocolos explícitos de validación, transparencia sobre limitaciones y responsabilidad clara ante fallos.
