Ya puedes pasar a ver al chatbot
Susan Sheridan había oído hablar de ChatGPT pero nunca lo había utilizado, así que la primera pregunta que le hizo al chatbot de inteligencia artificial fue un poco incoherente: “Entumecimiento facial, dolor facial y trabajo dental”.
Había recurrido a ChatGPT en un momento de desesperación. Sentía caído el lado derecho de su rostro, no podía hablar bien y le dolía tanto la cabeza que no podía apoyarla en la almohada.
Un día antes, cuando su esposo notó por primera vez el entumecimiento, la pareja condujo tres horas hasta la sala de urgencias de un hospital, donde el doctor la envió de regreso a casa después de determinar que sus síntomas eran benignos.
ChatGPT no estaba de acuerdo. Según le dijo el chatbot, una explicación posible de sus síntomas era la parálisis de Bell, que requería tratamiento urgente para evitar daños perdurables.
Así que Sheridan hizo otro viaje a la sala de urgencias, donde un médico confirmó las sospechas del chatbot y le administró esteroides y antivirales. Después de eso, prácticamente quedó curada.
“No quiero remplazar a los médicos. Creo en la relación médico-paciente, creo en el sistema de atención médica”, aseguró Sheridan, de 64 años, cofundadora de una organización de defensa de la seguridad de los pacientes.
“Pero lo cierto es que a veces falla. Cuando la medicina nos falló, recurrimos a ChatGPT”.
Cada vez más, gente como Sheridan recurre a chatbots de IA para explicar síntomas nuevos, analizar opciones de tratamiento y verificar las conclusiones de su médico.
Alrededor de uno de cada seis adultos (y una cuarta parte de los adultos menores de 30 años) usan chatbots para obtener información y recomendaciones médicas por lo menos una vez al mes, según una encuesta reciente de KFF, organización sin fines de lucro dedicada a la investigación de políticas de salud.
Los partidarios de la IA esperan que esta herramienta empodere a los pacientes, pues proporciona explicaciones médicas más amplias que las obtenidas con una búsqueda sencilla en Google. “Google te da acceso a información. La IA te da acceso al pensamiento clínico”, explicó Dave deBronkart, defensor de los pacientes y bloguero.
Los investigadores tienen muy pocos datos sobre la forma en que los pacientes están utilizando la IA generativa para responder sus preguntas médicas. Los estudios del tema se han concentrado, en general, en casos médicos hipotéticos.
Ateev Mehrotra, investigador de salud pública y profesor en la Universidad Brown que estudia la forma en que los pacientes utilizan los chatbots de IA, indicó que no cree que los expertos tengan idea del número de personas que ya utilizan la tecnología para responder dudas de salud.
“Siempre hemos pensado que es algo que va a pasar en el futuro, pero que no la utilizan tantas personas en este momento”, afirmó. “Me sorprendió que el porcentaje fuera tan alto” en la encuesta de KFF.
Benjamin Tolchin, bioético y neurólogo de la Escuela de Medicina de la Universidad de Yale, comentó que desde que ChatGPT empezó a estar disponible para el público en 2022, cada mes algunos pacientes le dicen que han utilizado el chatbot para investigar más sobre su padecimiento.
En general, le parece que la herramienta ha ayudado a darles información a los pacientes sobre su enfermedad y las opciones de tratamiento disponibles. Pero también ha constatado las desventajas del chatbot.
El problema no se limita a que la IA llegue a ofrecer información médica incorrecta o incompleta (mucha gente que consulta Google ya tiene ese problema), sino que los chatbots responden las preguntas con tanta autoridad que les pueden dar a los pacientes una confianza falsa en sus recomendaciones, aseveró Tolchin.
“Puede ser mucho más persuasiva y parecerles mucho más completa a los pacientes que los distintos fragmentos que pueden encontrar cuando buscan en Google”, señaló.
Por ejemplo, uno de sus pacientes utilizó un chatbot para encontrar opciones de tratamiento para convulsiones que ya no respondían a los medicamentos. Uno de los tratamientos propuestos fue el trasplante de células madre, opción que el paciente todavía no consideraba.
Tolchin tuvo que explicarle a una familia esperanzada que el trasplante de células madre era un tratamiento totalmente experimental y no era una opción que pudiera recomendar ningún neurólogo, distinción que no mencionó el chatbot.
“Tenían la impresión de haber adquirido una perspectiva muy completa de las distintas opciones de tratamiento”, afirmó. “Pero creo que quizá les dio un panorama un tanto engañoso”.
En el estudio de KFF, menos del 10 por ciento de los encuestados respondieron que se sentían “muy seguros” de que podían identificar la diferencia entre información verdadera e información falsa generada por chatbots de IA.
DeBronkart subrayó que, como con cualquier herramienta, hay maneras apropiadas de utilizar ChatGPT para obtener información de salud. Su opinión es que es necesario redactar cuidadosamente las preguntas y analizar las respuestas con escepticismo.
“Se trata de herramientas poderosas que ayudan a potenciar nuestro pensamiento”, reconoció. “Pero no queremos que las personas piensen que se trata de respuestas instantáneas que las libran de pensar y analizar más”.
c.2024 The New York Times Company