¿Qué desventajas tiene la IA en la medicina?

Una adopción precipitada de sistemas poco probados puede llevar a errores por parte de los profesionales sanitarios, causar daño a los pacientes si se usan de forma directa a modo de sustitución de una atención reglada y terminar por echar a perder los beneficios de usar estas tecnologías para la salud de las personas. Los datos que se emplean para entrenar a la inteligencia artificial pueden estar viciados, dando lugar a informaciones engañosas o inexactas que representen un riesgo para la salud, la igualdad y la inclusividad de los pacientes. Aunque la IA es capaz de generar respuestas que tienen apariencia plausible y legítima a ojos de un usuario final, pueden ser completamente incorrectas o contener errores serios, especialmente, en el ámbito de la salud. También los modelos de lenguaje avanzados pueden usarse para generar información falsa altamente convincente que posteriormente puede distribuirse de forma masiva, ya sea en formato escrito o audiovisual, haciendo que sea difícilmente distinguible para el público de información fiable. Cuando salió Chat GPT se empezó a desarrollar el Chat GPT médico, me parece peligroso por muchos factores. En primer lugar, si está dando una recomendación nociva, ¿quién es responsable? Se han reportado casos de chatbots recomendando a los usuarios suicidarse. En este caso, la responsabilidad debería de ser de aquellos que prestan el servicio al usuario. Puede ser que se le de acceso a una población que normalmente no tiene acceso a un servicio médico, pero si no interviene un médico en ningún momento, puede estar contribuyendo a una mayor marginalización de esas personas sin asistencia médica.

La Inteligencia Artificial necesita ser programada extensivamente a través de plataformas de datos para que pueda funcionar como se espera. Los profesionales de la salud necesitan conocer las nuevas herramientas tecnológicas y desarrollar las habilidades necesarias para su manejo. Por lo tanto, el reto se encuentra en hacer las plataformas más amigables para el usuario de manera que la adquisición de dichas habilidades sea un proceso más sencillo. Preocupación de Privacidad Al ser información delicada es difícil que los pacientes concedan el acceso a sus expedientes médicos para el reconocimiento de patrones en la salud. Se requiere de un sistema de intercompatibilidad entre los diferentes sistemas de salud tanto nacionales como internacionales de modo que cuenten con información suficiente para generar data relevante. La dificultad del cambio Como en cualquier industria, el cambio puede ser bastante retador. Ya que la industria de la salud es fundamental para el cuidado de los pacientes la comunidad médica necesita pruebas de que la implementación de la Inteligencia Artificial seré efectiva así como un plan que muestre a los inversores que merece el gasto. Todos los que trabajan con IA tendrán que entender el funcionamiento de ésta tecnología y como les puede ayudar a llevar a cabo tareas del día a día.