El mundo de la asistencia sanitaria está altamente especializado, los profesionales médicos deben adquirir conocimientos y experiencia específicos en un área de la medicina para sobresalir en su especialidad. Por el contrario, el mundo del desarrollo de la inteligencia artificial (IA) suele adoptar un enfoque más unificado, de conjunto. Si bien la IA puede centrarse en un área, también es capaz de encontrar patrones y anormalidades a partir de un gran conjunto de datos tomados de una variedad de usuarios y dispositivos.
Cuando estos dos campos coinciden se producen soluciones beneficiosas e innovadoras. En un post anterior, tratamos cómo la IA supone una gran ayuda en la atención médica, no solo en atender las necesidades de los pacientes, sino que también facilita la identificación de enfermedades de un modo más rápido e incluso ayuda a los cirujanos en la sala de operaciones.
Pero con estas nuevas soluciones vienen nuevos desafíos. Muchas dificultades no se previeron, mientras que otras se han intensificado a través de la integración de estos dos campos. En este post cubriremos los desafíos, los prejuicios y las preocupaciones de ciberseguridad de la integración de la IA en la asistencia sanitaria.
Hay que ser precavidos en la innovación de la IA
El Dr. Bob Kocher, de la Escuela de Medicina de la Universidad de Stanford, advierte que «si no tenemos cuidado, la IA podría… exacerbar involuntariamente muchos de los peores aspectos de nuestro actual sistema de salud».
Esto no es una advertencia para dejar de integrar la IA en las aplicaciones de salud, sino una precaución para andar despacio y con cuidado. Unir los dos campos requiere delicadeza y una mentalidad crítica.
A menudo, cuando se integra la IA a cualquier industria, muchos desarrolladores solo ven las oportunidades y los beneficios sin prestar suficiente atención a los riesgos, la seguridad y los efectos que cambian la vida de los usuarios. Pero para que la innovación de la IA marque el comienzo de una era más inteligente para la atención sanitaria, hay que tener muy en cuenta estos posibles escollos.
Diagnósticos inexactos
Debido a que la IA utiliza datos de todas las poblaciones de pacientes para sacar conclusiones, encontrar patrones y alertarnos de cualquier anormalidad, tenemos que confiar bastante en ella. Un humano nunca podría agregar mentalmente esa cantidad de datos por su cuenta.
Pero la calidad de un algoritmo de IA depende en gran medida de la calidad de sus datos de entrenamiento. Si los datos están desactualizados, provienen de un pequeño grupo de pacientes, o no son suficientes para un buen entrenamiento, pueden causar problemas y no alertar de los fallos.
Si alguna de estas posibilidades ocurre, la IA podría diagnosticar incorrectamente a los pacientes, por lo que el papel de los médicos sigue siendo fundamental.
Prejuicios
Los algoritmos de IA pueden ser racistas, sexistas, clasistas e incluso anticuados. Carecen de una comprensión humana, de pensamientos y emociones. La IA no manifiesta sentimientos como compasión, empatía y simpatía. No tiene crítica. Ahí es donde se debe complementar con el profesional médico.
En un estudio de MIT News, tres algoritmos de IA tuvieron una tasa de error del 34% debido a los sesgos del color de la piel. Estos algoritmos de análisis facial cometieron los mayores errores en poblaciones de mujeres de piel oscura, creando un riesgo considerable de perder el diagnóstico y el tratamiento del cáncer de piel.
La Dra. Rebecca Pearson, directora de tecnología de ThoughtWorks en Chicago, enfatiza que los sesgos en los algoritmos de IA son casi siempre involuntarios. Muchos de estos, son el resultado de los sesgos reales que tenemos en nuestro actual sistema de salud. Por lo tanto, sesgos en aspectos económicos y sociales en los algoritmos son preocupantes, porque ayudan a perpetuar los prejuicios a través de la tecnología futura y los datos recogidos.
Para abordar adecuadamente estos sesgos en los algoritmos y el sistema de salud, los expertos recomiendan que tanto los médicos como los desarrolladores de IA se interesen en la sociología, la economía, la dinámica familiar y otros campos basados en las personas. Potenciar una mayor comprensión y empatía por los diferentes grupos de pacientes puede mejorar enormemente estos aspectos.
Riesgos de la ciberseguridad
Al igual que cualquier dispositivo como ordenadores o teléfonos móviles requieren actualizaciones de seguridad de forma regular, también lo necesitan todas las aplicaciones de IA. Debido a que estas aplicaciones a menudo contienen cantidades masivas de datos sensibles de los pacientes, las preocupaciones sobre la ciberseguridad son una faceta significativa de la tecnología de la IA. Es más fácil para un médico no hablar de las condiciones de sus pacientes que para una aplicación de IA mantener esa información almacenada de forma perfectamente segura.
Por ello, las aplicaciones de la IA necesitan un mantenimiento regular; su código debe ser regulado según las normas de seguridad y sus aplicaciones actualizadas con frecuencia. Según un estudio de ScienceDaily, la innovación de la IA crea una amenaza para los datos personales y de salud de los pacientes.
La IA es una herramienta, no un sustituto
Una cosa es segura: la IA nunca debe hacerse cargo de todos los aspectos de la atención médica. Puede ser un gran suplemento de conocimiento y análisis para los médicos, pero éstos deben tener la última palabra en el tratamiento, la cirugía o el diagnóstico.
La integración de la IA en la atención sanitaria no será rápida ni fácil. Precisaremos tener múltiples partes reguladoras que revisen las aplicaciones sanitarias de la IA regularmente para asegurarnos de que los riesgos disminuyen. También necesitaremos sin duda, más investigación y estudios de casos sobre la IA en la atención sanitaria. Es una necesidad conseguir una mayor formación para todos, ya sean pacientes, médicos o desarrolladores. Y no debemos permitir que la IA tenga el control absoluto sobre cualquier aspecto del sector sanitario hasta que su estudio sea 100% seguro.
Ahora que hemos visto los beneficios y los retos que la IA aporta a la sanidad, ¿qué piensas del futuro de esta tecnología en este campo?