Los peligros del 'doctor IA': 4 de cada 10 adultos hispanos en EEUU consultan sus problemas médicos a la Inteligencia Artificial

Puede que usted en algún momento haya abierto su celular, buscado una aplicación de Inteligencia Artificial (IA) y le haya hecho una pregunta relacionada con su salud.

Detrás, no hay un médico profesional, pero algunos afirman que no tienen otra opción. Y los expertos alertan de los riesgos que puede conllevar no recibir una correcta atención o incluso una pauta que pueda ser contraproducente.

Un estudio del Pew Research Center publicado en agosto de este año indica que el 39% de los hispanos están acudiendo a la IA para consultar cuestiones de salud. Hay varios motivos detrás de esta práctica, algunos apuntan a la falta de recursos para pagar por una asistencia médica profesional y al temor de ser arrestados por ICE.

"Vi que se llevaban a la gente arrestada a los hospitales", afirma mexicano

Hace un año que Aglaeh tuvo un accidente y se golpeó la cabeza. Desde entonces, los dolores han sido constantes.

"No tenía seguro médico y vi que se llevaban a la gente arrestada a los hospitales, sentí mucho miedo y decidí no ir a un centro hospitalario a tratarme", reconoce. Nos pide que usemos un nombre ficticio, porque siente miedo de hacer público su caso.

"En todo este tiempo he pasado mucho dolor, muy fuerte y mareos constantes. Me preocupa las secuelas que pueda tener porque no tengo dinero para hacer los estudios, serían como unos $1,800 dólares que no tengo en este momento", cuenta Aglaeh.

Aglaeh tiene 55 años y lleva 27 años en EEUU. Es de nacionalidad mexicana y relata que cruzó la frontera en 1999. Años después, consiguió tener un permiso de trabajo y un número social. Empezó a tramitar su VisaT hace tres años.

Asegura que el contexto actual de constantes redadas en su colonia ha afectado a su día a día. Se mensajea con los vecinos antes de salir a la calle para asegurarse de que no hay agentes cerca que puedan arrestarla.

"Salgo al trabajo solamente y rezando y encomendándome a Dios. Voy viendo si hay redadas y me espero para salir. Es algo horrible, hay veces que no puedo llegar a mi casa porque los agentes están aquí en la colonia. Nos daña psicológicamente a todos", cuenta muy afectada Aglaeh.

Relata que su situación le preocupa cada vez más porque describe fuertes mareos y dolor desde que tuvo lacaída y se golpeó.

"No puedo buscar un sistema público de ayuda médica porque sería como entregarme a ICE. Es muy peligroso, tengo miedo de que me arresten", confiesa.

"Lo que estoy haciendo para intentar cuidar mi salud es consultar a ChatGPT. Le pregunto por los síntomas y me estoy tomando antiinflamatorios para aliviar el dolor. También me ayudó aconsejándome a que me pusiera una toalla mojada, voy probando remedios. Es todo lo que puedo hacer", cuenta emocionada.

¿Cuáles son los riesgos de consultar con un chatbot problemas de salud?

El equipo de N+ Univisión hizo esta pregunta al equipo médico que lleva años investigando sobre Salud Digital en la Universidad Nacional Autónoma de México (UNAM).

El Dr. Alejandro Alayola Sansores es el Jefe de Departamento de Salud Digital, la Dra. Mahuina Campos Castolo es profesora del Departamento de Salud Digital y el Dr. Jorge Martínez López es Coordinador de Investigación, Desarrollo e Innovación. Los tres llevan años alertando de la irrupción de la Inteligencia Artificial en las cuestiones que atañen a la salud.

"Una Inteligencia Artificial no puede sustituir a un médico ni a un psicólogo. La IA carece de juicio clínico y responsabilidad profesional, la clínica requiere competencias exclusivamente humanas", asegura el equipo médico.

Señalan que un chatbot puede interpretar de manera incompleta los síntomas o generar respuestas incorrectas, también llamadas alucinaciones, lo que puede llevar a minimizar enfermedades graves o, por el contrario, generar alarmas innecesarias.

"Los modelos de lenguaje generan respuestas basadas en probabilidades estadísticas del lenguaje y no realizan un proceso clínico equivalente al de un médico. No exploran físicamente al paciente, no interpretan directamente estudios complementarios ni integran todas las variables clínicas", advierten los médicos expertos en salud digital.

Además, ponen varios ejemplos de cómo el algoritmo puede atribuir diagnósticos erróneos frente a un síntoma.

"Un mismo síntoma puede corresponder a enfermedades completamente distintas. Por ejemplo, un dolor torácico puede atribuirse a: ansiedad, reflujo gastroesofágico o infarto agudo de miocardio; o una cefalea: puede ser síntoma de migraña, meningitis, hemorragia cerebral o hipertensión. Si una persona confía plenamente en la respuesta del chatbot, puede retrasar una consulta médica o un tratamiento oportuno", denuncia el equipo médico.

Además, advierten de riesgos relacionados con la privacidad al introducir datos personales e incluso fotografías a empresas privadas y señalan que los algoritmos no tienen en cuenta las características particulares de cada caso sino que tienden a generalizar y homogeneizar.

"Los chatbots pueden estar entrenados con datos que no representan adecuadamente a toda la población, lo que puede generar respuestas menos precisas para determinados grupos de pacientes o contextos clínicos. Estos riesgos de sesgo algorítmico (que los datos sean correctos para «otro tipo de paciente», es decir, diferencias en sexo, género, edad, orígen étnico, gravedad, cultura y muchas otras diferencias que el médico humano «ajusta o corrige» durante la consulta), error clínico, violación de la privacidad e inequidad deben gestionarse de manera sistemática", alerta el equipo médico experto en salud digital.

Un efecto preocupante que destacan es que investigaciones recientes han encontrado asociaciones entre el uso intensivo de IA generativa y mayores niveles de síntomas depresivos, especialmente en usuarios jóvenes. Los autores del estudio enfatizan que aún no puede establecerse causalidad, pero consideran necesario estudiar este fenómeno con mayor profundidad y señalan esta peligrosa tendencia de acudir a la IA en busca de terapia psicológica.

"La salud mental requiere competencias exclusivamente humanas", advierten. "Un médico o psicólogo no sólo interpreta síntomas; también establece una relación terapéutica, identifica emociones, contexto familiar, factores culturales, lenguaje no verbal, riesgo suicida, capacidad de juicio y toma decisiones éticas individualizadas. Los modelos actuales pueden ayudar a detectar señales de depresión o facilitar explicaciones, pero los propios desarrolladores señalan que estas herramientas deben utilizarse bajo la supervisión de profesionales de la salud mental".