¿Qué desventajas tiene la IA en la medicina?

La IA en los últimos años está demostrando ser una herramienta muy importante para el sector de salud, tanto como para mejorar el diagnostico como para el tratamiento de enfermedades. Pero hay que tener cuidado ya que puede conllevar a riesgos y desafíos muy importantes, ya que al implementarse en el sector de salud se debe de utilizar con precaución. El algoritmo de la IA ha ido mejorando en la precisión de los diagnóstico pero pueden cometer errores. El sistema de la IA depende de la calidad de los datos en el que ha sido entrenado y si los datos no están completos, son incorrectos o tiene un sesgo, puede llevar a errores en los diagnósticos o tratamientos inadecuados. Como estos fallos pueden conllevar consecuencias muy graves para la salud de los pacientes, sobre todo en los médicos que confina muchos en la IA y no corroboran los resultados. Este riesgo recalca la importancia de que hay que combinar la experiencia humana con la tecnológica. La introducción de la IA en los hospitales plantea preocupaciones sobre la desigualdad en la acceso a la atención médica, ya que no todos los centro de salud tiene acceso a las tecnologías avanzadas basadas en IA, sobre todo en zonas más rurales o de bajos recursos. Varios hospitales privados están empezando a utilizar IA para poder mejorar sus servicios mientras que muchas instituciones públicas no tiene estos recursos, esto puedo crear una brecha entre quienes pueden beneficiarse de diagnóstico, tratamiento más rápido y precisos y quienes no tienen acceso a ellos. Como se utilizan muchos datos personales para poder entrenar algoritmos de la IA, puede ser un riesgo sobre la privacidad y seguridad de los pacientes, ya que estos datos médicos sensibles se recopilan y se almacenan, esto aumenta el riesgo de ciberataques y filtración de información. La instituciones sanitaras que utilizan IA tienen que garantizar que los datos de los pacientes están protegidos por un sistemas de seguridad avanzado. Existe un sesgo en el algoritmo, que puede provocar que algunos grupos de personas reciban diagnósticos incorrectos o algunos tratamientos menos efectivos, esto pasa si el algoritmo tienen datos que no representa la diversidad de la población. Un proyecto piloto sobre el uso de la IA para detectar enfermedades cardiovasculares, el algoritmo funcionó mejor en hombres que en mujeres ya que los datos de entrenamiento tenían mas registros de pacientes masculinos. El gran uso de la IA para automatizar procesos en hospitales puede reducir el contacto humano en la atención médica, y esto es muy importante para una atención centrada en el paciente. En algunos hospitales están probando asistentes de IA para realizar evaluaciones preliminares antes de que los pacientes vean a un médico. Esto puede reducir el tiempo de espera, pero a la vez puede llevar a una deshumanización de la atención médica, ya que los pacientes se sienten menos escuchados o menos comprendidos.

La adopción precipitada de sistemas no probados de inteligencia artificial en el campo de la salud puede dar lugar a errores por parte de los trabajadores sanitarios y causar daños a los pacientes. Los datos utilizados para las bases que nutren la inteligencia artificial pueden estar sesgados y generar información engañosa o inexacta que podría significar algún peligro para la salud, la equidad y la inclusión. Los modelos de lenguaje generados por inteligencia artificial producen respuestas que pueden parecer autorizadas y plausibles para un usuario final, pero éstas pueden ser incorrectas o contener errores graves, sobre todo en temas relacionados con la salud. Los modelos de lenguaje generados por inteligencia artificial pueden recibir información sobre datos cuyo uso no haya sido consentido previamente y, cuando generan respuestas pueden no proteger datos confidenciales como los que proporciona un usuario a una aplicación informática. Los modelos de lenguaje generados por inteligencia artificial se pueden utilizar indebidamente para generar y difundir desinformación sobre la salud en forma de contenido de texto, audio o video difícil de diferenciar del contenido confiable. Las consecuencias negativas erosionarán la confianza en la inteligencia artificial y socavarán los posibles beneficios y usos a largo plazo de esas tecnologías.

La inclusión de la IA en la práctica clínica plantea retos que requieren una especial consideración para lograr un equilibrio entre la tecnología y la humanización en el campo de la salud, poniendo el foco de atención en el sensible tema del uso de datos. De ahí, la brecha actual entre las potenciales aportaciones de esta sofisticada herramienta y su integración efectiva en el entorno médico.

Una adopción precipitada de sistemas poco probados puede llevar a errores por parte de los profesionales sanitarios, causar daño a los pacientes si se usan de forma directa a modo de sustitución de una atención reglada y terminar por echar a perder los beneficios de usar estas tecnologías para la salud de las personas. Los datos que se emplean para entrenar a la inteligencia artificial pueden estar viciados, dando lugar a informaciones engañosas o inexactas que representen un riesgo para la salud, la igualdad y la inclusividad de los pacientes. Aunque la IA es capaz de generar respuestas que tienen apariencia plausible y legítima a ojos de un usuario final, pueden ser completamente incorrectas o contener errores serios, especialmente, en el ámbito de la salud. También los modelos de lenguaje avanzados pueden usarse para generar información falsa altamente convincente que posteriormente puede distribuirse de forma masiva, ya sea en formato escrito o audiovisual, haciendo que sea difícilmente distinguible para el público de información fiable. Cuando salió Chat GPT se empezó a desarrollar el Chat GPT médico, me parece peligroso por muchos factores. En primer lugar, si está dando una recomendación nociva, ¿quién es responsable? Se han reportado casos de chatbots recomendando a los usuarios suicidarse. En este caso, la responsabilidad debería de ser de aquellos que prestan el servicio al usuario. Puede ser que se le de acceso a una población que normalmente no tiene acceso a un servicio médico, pero si no interviene un médico en ningún momento, puede estar contribuyendo a una mayor marginalización de esas personas sin asistencia médica.

La Inteligencia Artificial necesita ser programada extensivamente a través de plataformas de datos para que pueda funcionar como se espera. Los profesionales de la salud necesitan conocer las nuevas herramientas tecnológicas y desarrollar las habilidades necesarias para su manejo. Por lo tanto, el reto se encuentra en hacer las plataformas más amigables para el usuario de manera que la adquisición de dichas habilidades sea un proceso más sencillo. Preocupación de Privacidad Al ser información delicada es difícil que los pacientes concedan el acceso a sus expedientes médicos para el reconocimiento de patrones en la salud. Se requiere de un sistema de intercompatibilidad entre los diferentes sistemas de salud tanto nacionales como internacionales de modo que cuenten con información suficiente para generar data relevante. La dificultad del cambio Como en cualquier industria, el cambio puede ser bastante retador. Ya que la industria de la salud es fundamental para el cuidado de los pacientes la comunidad médica necesita pruebas de que la implementación de la Inteligencia Artificial seré efectiva así como un plan que muestre a los inversores que merece el gasto. Todos los que trabajan con IA tendrán que entender el funcionamiento de ésta tecnología y como les puede ayudar a llevar a cabo tareas del día a día.