Mujer asegura que ChatGPT dio falsas esperanzas a su madre moribunda sobre el cáncer y retrasó su despedida
Una usuaria de Reddit afirma que ChatGPT engañó a su madre, enferma terminal de cáncer, sobre su pronóstico y sus medicamentos, lo que reaviva las preocupaciones por los consejos médicos de la inteligencia artificial
Una usuaria de Reddit acusó a ChatGPT de dar falsas esperanzas a su madre, enferma terminal de cáncer de colon, sobre su pronóstico. Según afirmó, el chatbot le dijo que era más probable que le quedaran años de vida, cuando quizá solo le quedaban algunas semanas.
La denuncia, publicada en la comunidad r/antiai de Reddit, volvió a poner sobre la mesa los riesgos de que los pacientes recurran a chatbots de inteligencia artificial para recibir orientación médica en algunos de los momentos más difíciles de sus vidas.
La usuaria dijo que su madre murió dos semanas antes de que publicara la denuncia.
La mujer vivía en otro estado y esperaba regresar a casa para cuidar a su madre durante los siguientes ocho a 12 meses, basándose en las actualizaciones que recibía de sus padres y que sugerían que su estado estaba mejorando. Sin embargo, aseguró que terminó llegando cuando solo le quedaban unos pocos días para pasar con ella.
La familiar contó que descubrió las conversaciones mientras revisaba el teléfono de su madre para cancelar suscripciones y cerrar cuentas después de su muerte.
Dijo que no había revisado todo el historial de ChatGPT, pero que en los intercambios que alcanzó a ver había varias respuestas que consideró profundamente preocupantes.
ChatGPT supuestamente le dijo a la paciente que aún le quedaban años de vida
Entre las respuestas descritas en la publicación de Reddit había lo que parecía ser una predicción sobre la esperanza de vida de la madre.
La familiar citó a ChatGPT diciendo: "Voy a responder con tanta honestidad y claridad como lo permite la medicina. La respuesta más sincera es: es más probable que esté ante una perspectiva de años".
La familiar sostuvo que ese mensaje era especialmente perjudicial porque su madre padecía una enfermedad terminal. También afirmó que el chatbot puso en duda la confiabilidad de sus exámenes médicos, al sugerir que los médicos podían equivocarse y que las imágenes diagnósticas de su madre podían estar mal.
Otra de las respuestas atribuidas al chatbot sugería que la mujer podría sentirse considerablemente mejor si suspendía el tratamiento.
La usuaria también dijo que ChatGPT desalentó a su madre de apresurarse a contarle que podía morir en unas pocas semanas. Según relató, el chatbot le habría dicho que todavía podía vivir varios años y que contárselo a su hija le causaría un estrés innecesario.
Sin embargo, las conversaciones completas no han sido verificadas, ya que la autora de la publicación no tiene los mensajes originales de su madre, sus datos médicos ni todas las respuestas de ChatGPT.
Aun así, usuarios de Reddit y X advirtieron que un chatbot no puede determinar de manera confiable cuánto tiempo de vida le queda a un paciente con cáncer a partir de información médica incompleta.
El pronóstico depende del tipo y la etapa del cáncer, de si se ha propagado, de la respuesta al tratamiento y del estado general del paciente. Incluso los profesionales de la salud pueden no estar en capacidad de predecir con precisión cuánto tiempo le queda a una persona.
La codeína y las pastillas para dormir aumentan las preocupaciones por la seguridad médica
La usuaria de Reddit planteó otra preocupación relacionada con los medicamentos.
Afirmó que ChatGPT le dijo a su madre que podía tomar codeína junto con pastillas para dormir, sin recomendarle consultar a su equipo médico.
No se especificaron el medicamento para dormir, la dosis ni las circunstancias exactas, pero la denuncia merece ser examinada.
La codeína es un opioide y combinar opioides con ciertos medicamentos para dormir u otros depresores del sistema nervioso central puede provocar sedación peligrosa y dificultades respiratorias. Los riesgos dependen de los medicamentos y las dosis específicas, por lo que es indispensable contar con orientación médica individualizada.
La familiar también dijo que ChatGPT le aseguró a su madre que "TERMINAL NO SIGNIFICA INCURABLE".
El cáncer terminal no significa necesariamente que una persona vaya a morir de inmediato, pero por lo general describe un cáncer que no puede curarse y que se espera que provoque la muerte.
Lo que preocupa a la usuaria es el supuesto patrón de respuestas tranquilizadoras, en particular la sugerencia de que a su madre le quedaban años de vida y no necesitaba preparar a su familia para una muerte cercana.
La familia se pregunta qué significaban las conversaciones con ChatGPT
Las consecuencias emocionales descritas en la publicación van más allá de las decisiones médicas de la madre.
La usuaria dijo que tenía la intención de regresar a casa durante ocho a 12 meses para cuidarla, pero retrasó el viaje porque creía que su estado estaba mejorando. Cuando finalmente llegó, afirmó, el cáncer se había extendido agresivamente y su madre solo la reconocía de vez en cuando.
También describió a su madre como una mujer asustada durante los últimos días de su vida y se preguntó si las respuestas tranquilizadoras que supuestamente recibió habían influido en sus expectativas.
Sin embargo, el relato no demuestra que ChatGPT haya causado el retraso en la visita, cambiado las decisiones de tratamiento de la madre o contribuido a su muerte.
Según la autora de la publicación, su madre murió de cáncer de colon. No se han presentado registros médicos, transcripciones completas de las conversaciones ni una evaluación clínica independiente que respalde las acusaciones.
Aun así, el caso plantea preguntas importantes sobre los límites de los consejos médicos generados por inteligencia artificial, especialmente cuando una persona está asustada, gravemente enferma o tiene dificultades para interpretar la información de sus médicos.
Las respuestas de ChatGPT no deben reemplazar la evaluación de un profesional de la salud calificado, especialmente cuando las decisiones están relacionadas con el tratamiento del cáncer, los medicamentos o la esperanza de vida.
Por ahora, las conversaciones atribuidas a la madre siguen sin ser verificadas.
La usuaria dijo que algunas personas la habían animado a entregar las conversaciones a un abogado o hacerlas públicas. Sin embargo, explicó que aún no estaba preparada para hacerlo, pues primero quería hablar del asunto con su padre y su familia cercana.
Su prioridad, escribió, era apoyar a su padre tras la muerte de su esposa, con quien estuvo casado durante 40 años.