Pastor demanda a la IA: alega que sus consejos médicos casi le costaron la vida
El hombre indica que ChatGPT lo desanimó de buscar atención médica durante síntomas críticos que precedieron a su embolia pulmonar
Persona usa computador portátil para consultar a un chatbot sobre temas de salud. Crédito: Supapich Methaset | Shutterstock
Un ex pastor de Florida, Scott Winters, alegó ante el Tribunal Superior del Condado de San Francisco (California) que recibió consejos médicos inadecuados de ChatGPT que casi le costaron la vida. En su demanda, presentada contra OpenAI, el hombre sostiene que el chatbot lo desanimó de buscar atención médica durante síntomas críticos que precedieron a su embolia pulmonar.
“ChatGPT-4o opinaba y evaluaba con frecuencia la condición física de Scott, transmitiendo la autoridad y la confianza de un profesional médico que realizaba una evaluación clínica y una recomendación de tratamiento, a pesar de no tener las cualificaciones para hacerlo”, afirma la demanda, cuyo texto citó CBS News.
Winters recurrió al modelo ChatGPT-4o de OpenAI en 2025 para intentar comprender la causa de sus mareos frecuentes. Dos semanas después de la consulta al chabot, en el mes de julio, sufrió lo que la demanda describe como una “embolia pulmonar masiva” debido a coágulos de sangre.
El documento judicial indica que ChatGPT desestimó serios síntomas y recomendó reposo absoluto, sugiriendo que necesitaría experimentar más episodios antes de buscar tratamiento. Esta falta de juicio, según se afirma, condujo a una situación de salud crítica.
OpenAI respondió a las acusaciones afirmando que ChatGPT no está diseñado para proporcionar asistencia médica profesional. Un portavoz de la empresa destacó que es esencial que los usuarios no confíen en el chatbot como sustituto de atención médica adecuada.
Winters y Tech Justice Law, organización sin ánimo de lucro que presta asistencia legal a Winters en su defensa, también acusan a OpenAI de explotar las creencias religiosas del pastor.
Limitaciones y responsabilidades
OpenAI ha establecido claramente en sus términos de servicio que el uso de ChatGPT es bajo el riesgo del usuario, y que no se debe considerar como fuente única de información veraz. Sin embargo, expertos legales sugieren que la naturaleza de las interacciones del chatbot podría ser un factor en la evaluación de responsabilidad legal.
Este caso tiene el potencial de sentar precedentes en cómo se regula el uso de inteligencia artificial para proporcionar información médica. La demanda de Winters no solo busca compensación financiera, sino también reformas significativas en las salvaguardias de ChatGPT.
OpenAI enfrenta otros litigios similares relacionados con la seguridad de los usuarios, lo que destaca un patrón creciente de preocupación sobre los riesgos de la inteligencia artificial en situaciones críticas de salud. La protección de los usuarios y la ética en la inteligencia artificial son temas que requieren urgentemente atención legal y regulatoria.
Información médica más susceptible en IA
Los consejos más peligrosos son los que pueden retrasar atención urgente, dar dosis o tratamientos incorrectos, o reforzar un autodiagnóstico falso que parezca convincente. También son especialmente arriesgados los consejos sobre medicamentos, síntomas graves y situaciones en las que la IA mezcla información correcta con errores, porque eso puede llevar a decisiones dañinas.
Más riesgosos
- Síntomas de alarma o urgencias. Si la IA minimiza dolor de pecho, falta de aire, signos neurológicos o sangrado importante, puede retrasar una atención crítica.
- Medicamentos y dosis. Un error en dosis, combinaciones o contraindicaciones puede causar daños graves, sobre todo en personas con otras enfermedades o que toman varios fármacos.
- Autodiagnóstico. Cuando la IA confirma una sospecha del usuario sin suficiente contexto clínico, aumenta la probabilidad de que se ignore la causa real del problema.
- Tratamientos “caseros” o sustitutos de atención médica. Reemplazar una consulta profesional por una respuesta automática es una de las formas más peligrosas de uso.
Por qué pasa
La IA puede sonar segura aunque esté equivocada, y a veces ofrece respuestas incompletas, contradictorias o difíciles de interpretar. Además, algunos estudios encontraron que una parte relevante de sus respuestas médicas es inexacta o problemática, especialmente en temas como nutrición, suplementos y ciertas interpretaciones de síntomas.
Regla práctica
Úsala solo para orientación general, no para decidir diagnósticos, ajustar medicamentos ni evaluar urgencias. Si hay síntomas nuevos, intensos o preocupantes, la prioridad debe ser un profesional sanitario, no la IA.
También te puede interesar:
· Con apoyo de la IA, un análisis de sangre detecta riesgos cardíacos ocultos hasta con 15 años de anticipación
· “Cuello tecnológico”: cómo el uso del teléfono nos arruga el cuello y debilita las manos
· EE.UU. ya intentó implementar el horario de verano permanente: ¡Vuelve a intentar!, ¿funcionará ahora?
