Opinión: Los chatbots se están convirtiendo en los médicos de atención primaria de la gente: impresionante, pero arriesgado.

Estamos saltando de Dr. Google a Dr. Chatbot bastante rápido. En agosto, OpenAI informó más de 200 millones de usuarios activos semanales, y aunque las consultas más populares de los usuarios son sobre escritura y codificación, algunos las utilizan para asuntos más personales, desde consejos de citas hasta rutinas de cuidado de la piel y diagnósticos de enfermedades.

Un reciente estudio reveló que los chatbots de IA superaron a los médicos en precisión diagnóstica. Pero, ¿realmente podemos confiar en la IA como nuestros médicos?

Así como se ha ampliado la variedad de temas sobre los que la gente consulta, las preocupaciones acerca de los riesgos y peligros de depender de la IA en el campo de la medicina también han encendido alarmas, incluyendo aquellas que involucran asuntos de vida o muerte.

El Dr. Chatbot se hace viral por sus “milagros”

Hace unos días, una mujer se volvió viral en Reddit porque compartió cómo ChatGPT la ayudó a mejorar su piel mejor que un dermatólogo, con impresionantes imágenes del antes y después.

Una mujer caucásica de 37 años utilizó ChatGPT para crear una rutina de cuidado de la piel a medida para tratar sus comedones cerrados, ¡y realmente le ayudó! pic.twitter.com/vwkm13G2Hs

— AshutoshShrivastava (@ai_for_success) 11 de noviembre de 2024

“Luego le di a chatGPT una indicación para que actuara como un dermatólogo profesional y me ayudara a crear una rutina para la piel que contribuiría a eliminar mis comedones cerrados, acné, minimizar poros y reafirmar la piel, y reducir las líneas finas. También le proporcioné fotos de mi piel en ese momento”, escribió y luego explicó que le indicó al chatbot que considerara todos los productos que ya poseía y sugerir nuevos con una rutina de cuidado de la piel.

Después de dos meses, la Redditor quedó asombrada por las mejoras en su piel.

No es un caso aislado. Muchos usuarios han revelado cómo los chatbots han podido entender y explicar radiografías y análisis de sangre mejor que sus propios médicos. Incluso los médicos han quedado asombrados por la imagen y los análisis de datos interpretados por la inteligencia artificial.

¿Por qué la gente usa chatbots como médicos?

La IA puede transformarse en el profesional que necesitas, ya sea un médico general, un terapeuta, un dermatólogo, un nutricionista, un radiólogo, cuando lo necesites, y hay muchas razones por las que las personas están eligiendo la IA en lugar de los humanos.

Los especialistas pueden ser costosos

La mujer con el caso de piel reveló que gastó alrededor de 400 dólares en la compra de los productos que el chatbot sugirió.

“Fue bastante una inversión, pero cuando pienso en lo que hubiera sido una consulta con un dermatólogo, esto ni siquiera es malo”, escribió.

Según BetterCare, en 2024 un paciente sin seguro de salud en los Estados Unidos debe pagar alrededor de $150 por una visita al dermatólogo y hasta $1000 por tratamiento. Y el costo promedio de una sesión de psicoterapia —otro uso popular para las herramientas de IA— varía de $100 a $200 por sesión, según Forbes Health.

Los chatbots de IA son alternativas más económicas y podrían verse como la única opción, especialmente para personas en rangos de ingresos más bajos.

Por supuesto, surge otra pregunta: Si algo sale mal, ¿realmente es una medida de ahorro de costos?

Más Rápido y Más Práctico

Recientemente me salió un sarpullido en el brazo. A pesar de haber visto esa publicación milagrosa sobre la piel de esa mujer, preferí consultar a un dermatólogo en España. La cita más próxima disponible era en tres meses, incluso con seguro de salud privado. Tengo suerte de que parece ser solo sequedad, que no me molesta y que, con suerte, desaparecerá para cuando el médico pueda verme.

Los plazos de atención médica dependen de la ciudad y el plan de seguro del paciente. Sin embargo, ver a especialistas e incluso a médicos de cabecera se ha convertido en una prueba de paciencia en muchas partes del mundo.

Los chatbots no solo están literalmente al alcance de nuestras manos, sino que también pueden analizar nuestras consultas y responder en cuestión de segundos.

Menos Incómodo

Tengo una amiga doctora a la que puedo acudir siempre que tengo una consulta médica, pero el hecho de que sea mi amiga también lo hace incómodo a veces. Antes de enviarle un mensaje, siempre me pregunto: ¿He hablado con ella recientemente? Es una gran persona y una profesional maravillosa, y estoy segura de que nunca dejará de responder a mis dudas médicas. Sin embargo, de humano a humano, no puedo evitar preocuparme por sus sentimientos también.

Una de las ventajas de la inteligencia artificial es su propia condición artificial. No tiene sentimientos ni malos días, no te juzgará ni te dirá “Deja de ser tan hipocondríaca” (no es que mi amiga alguna vez me haya dicho esto) porque están entrenadas para ser educadas y responder a todas nuestras inquietudes con toda la información que deseamos. Es parte de lo que hace que la tecnología sea adictiva, y probablemente por qué muchos prefieren hacer preguntas incómodas en la “privacidad” de sus smartphones.

Los Riesgos y Peligros de Confiar en los Chatbots

Todo parece genial y divertido hasta que nos tomamos el tiempo para pensar en los riesgos y desafíos a los que se enfrentan la IA y la humanidad.

Error en el Estímulo, Error en la Respuesta

En ese estudio donde la IA superó a los médicos, se llegó a una conclusión importante: el grupo de médicos a los que se les permitió utilizar la IA como aliada para los diagnósticos no rindió considerablemente mejor que aquellos a los que no se les permitió usarla. ¿Por qué? Bueno, parte del problema fue que no sabían cómo formular las indicaciones correctas para sacar el máximo provecho de la IA.

“La estaban tratando como un motor de búsqueda para preguntas dirigidas: ‘¿Es la cirrosis un factor de riesgo para el cáncer? ¿Cuáles son los posibles diagnósticos para el dolor de ojos?'”, dijo el Dr. Jonathan H. Chen, uno de los autores del estudio, a The New York Times.

Este es uno de los problemas que muchos usuarios y tecnologías de IA también enfrentan. Los chatbots son buenos para el diagnóstico, pero muchos síntomas necesitan ser analizados individualmente de manera personalizada. ¿Qué pasa si una persona no proporciona el contexto correcto al chatbot? ¿O si olvida incluir detalles importantes o condiciones que un verdadero doctor frente a un paciente no pasaría por alto?

Inexactitud y Alucinaciones

Los chatbots son expertos profesionales que lo saben todo, y a veces dicen cosas incorrectas con mucha confianza. Y nosotros lo aceptamos. Y los usuarios que dependen de la tecnología diariamente confían cada vez más en ella.

Es difícil olvidar aquella vez, en mayo, cuando Google Gemini sugirió que los usuarios añadieran “aproximadamente ⅛ de taza de pegamento no tóxico a la salsa para darle más pegajosidad” a una pizza.

Fue gracioso porque pudimos detectar inmediatamente la alucinación, ese elegante nombre para cuando la IA proporciona respuestas absurdas. ¿Pero qué pasa si se trata de un tema más complejo, qué pasa si la persona que lee la respuesta de la IA está asustada, sola y preocupada por su salud?

Aunque la IA mejora mes tras mes, la posibilidad de un error todavía está presente.

¿A quién se le puede culpar si algo sale mal?

El debate ético es un tema candente en este momento. Si el chatbot proporciona un diagnóstico erróneo o un consejo terrible, ¿a quién se le puede culpar? ¿A los desarrolladores, al modelo, a la empresa de IA, a las fuentes que entrenaron ese modelo?

Un caso trágico despertó preocupaciones hace unas semanas después de que una madre estadounidense culpó a la IA por la muerte de su hijo de 14 años e interpuso una demanda contra la startup Character.ai, una plataforma para crear personajes de IA. El adolescente padecía de depresión y se obsesionó con la tecnología. Su avatar, Daenerys Targaryen, discutió con él un plan para suicidarse e incluso lo alentó a hacerlo.

Si bien la IA ha sido considerada por el Foro Económico Mundial como una herramienta poderosa para aliviar las crisis de salud mental en todo el mundo y reducir el creciente porcentaje de casos de ansiedad y depresión, también puede ser peligrosa, especialmente para los niños.

Hazlo “Bajo Tu Propio Riesgo”

Aunque todavía necesita mejorarse, me gusta pensar que la IA tiene un gran potencial para reducir los tiempos de espera en la atención médica, tanto para las citas con especialistas como para la atención en las salas de emergencia, para acelerar los avances científicos y para apoyar a los médicos, especialmente aquellos abrumados por cargas de trabajo excesivas y salarios bajos, como suele ser el caso en los países latinoamericanos, asistiendo a los pacientes con preguntas básicas desde casa.

También podría ayudar a cerrar brechas en el acceso a la atención médica entre diferentes clases sociales, allanando el camino para una democratización de la medicina como nunca antes. Todo esto ahora está a nuestro alcance, a solo una consulta de distancia para cualquiera que tenga acceso a un teléfono inteligente.

Sin embargo, es crucial entender que todavía estamos en las primeras etapas y debemos proteger a la población más vulnerable. Cualquiera que elija usar Dr. Chatbot para mejorar su salud hoy debe hacerlo con una comprensión de la letra pequeña en los términos y condiciones, con pensamiento crítico y con la conciencia de que, por ahora, están asumiendo la responsabilidad de los riesgos involucrados.