OMS, inteligencia artificial y ética

El 18 de enero de 2024 la Organización Mundial de la Salud ha dado cuenta de la publicación de las “nuevas orientaciones sobre la ética y la gobernanza de los grandes modelos multimodales”,  con aplicaciones en salud. Los grandes modelos multimodales son modelos lingüísticos que integran y procesan múltiples formas de información como el texto, las imágenes, los audios y los videos.  Según la OMS, “son un tipo de tecnología de inteligencia artificial generativa en plena expansión y con varias aplicaciones en la atención de salud”. Es decir, son construidas mediante técnicas de aprendizaje automático para comprender y para tener la capacidad de crear contenidos con diversos tipos de datos.

Para tal fin, analizan enormes cantidades de datos e “imitan de manera excepcional la comunicación humana y tienen capacidad para desempeñar tareas para las que no se les ha programado de manera específica (ChatGPT y otras)”. En ese sentido, según la OMS, las tecnologías de inteligencia artificial generativa tienen el potencial de mejorar la atención de salud, pero esto es posible, sólo si quienes las desarrollan, regulan y utilizan, identifican los riesgos asociados y los tienen en cuenta”.

La OMS ha señalado cinco aplicaciones generales para la salud: la primera está en relación con el diagnóstico y la atención clínica, para dar respuesta escrita a las preguntas o inquietudes de los pacientes.  La segunda, está en relación con el “uso guiado por el paciente”, como la investigación de los síntomas y el tratamiento. Es decir, ayudaría a recibir la información personalizada de sus síntomas y las variedades de tratamiento y su eficacia. 

La tercera se refiere a las tareas administrativas y de oficina, así como para documentar y resumir las historias clínicas electrónicas u otros registros. Hasta ahora estas tareas consumen una enorme cantidad de recursos humanos con altas calificaciones profesionales. Las ventajas son obvias.

La cuarta aplicación es en la formación del personal médico y de otros profesionales, incluso técnico y auxiliar asistencial, mediante la simulación de actividades con pacientes.  La quinta aplicación está relacionada con la investigación científica y el desarrollo de medicamentos.

Estas cinco aplicaciones, que la OMS ha resaltado, no han cubierto las enormes posibilidades que brinda esta nueva tecnología.  Sin embargo, son útiles para comprender los “riesgos asociados” que trae consigo, y para involucrar en la creación de modelos de inteligencia artificial generativa seguros y eficaces, a las partes involucradas, como los gobiernos, las empresas tecnológicas, los proveedores de salud, los pacientes y la sociedad civil, “en todas las etapas del desarrollo y el despliegue de estas tecnologías, incluidas su supervisión y su regulación”.  

Los riesgos, que alerta la OMS, están relacionados, en primer lugar, con la toma de decisiones clínicas con información inexacta, falsa, sesgada o incompleta, sobre todo con aspectos vinculados a la etnia, raza, ascendencia familiar, sexo, entre otros, con grave perjuicio para los pacientes. En segundo lugar, están los riesgos a la accesibilidad y asequibilidad de los “grandes modelos multimodales” con mejor desempeño.

En tercer lugar, está el “sesgo de automatización” de los médicos y profesionales de la salud, así como, de los pacientes, porque se delegan las decisiones difíciles a este “gran modelo multimodal". En cuarto y último lugar, la OMS señala a los riesgos de ciberseguridad, porque podría poner en “peligro la información de los pacientes o la fiabilidad de los algoritmos o la atención de salud en general".

En ese contexto, la OMS, ha realizado una serie de recomendaciones, cuya aplicación e impacto serían dudosas. En esa línea señala que los gobiernos deberían financiar o “poner en marcha” a los desarrolladores públicos, privados y los no lucrativos, siempre y cuando adhieran a los principios y valores éticos.  Una especie, de apoyo o subsidio a la inversión condicionado al cumplimiento de la ética. Es obvio, que si hay de por medio financiamiento público ya no se trataría de una respuesta ética por parte de los desarrolladores, sino una obligación legal y contractual.

De igual manera, señala que “mediante leyes, políticas y reglamentaciones” se garantice que los “grandes modelos multimodales” se rijan por las obligaciones éticas y el respeto a los derechos humanos, con relación a la dignidad, autonomía o privacidad de las personas.  Por otro lado, plantea la creación de “un organismo regulador” para evaluar y aprobar “los grandes modelos multimodales”. Sin embargo,  la ciencia y la tecnología avanzan más rápido que la capacidad regulatoria de los Estados, y, por tanto, existirá siempre un escape reiterado a estas regulaciones.

Por último, la OMS plantea la “introducción de auditorías y evaluaciones del impacto, con carácter obligatorio, que serían realizadas por “terceros independientes”, en las que se incluyan la protección de datos y los derechos humanos. El gran volumen de auditorías necesarias para analizar y enfrentar las enormes cantidades de datos de esta inteligencia artificial generativa, es decir, la que se autogenera y multiplica al infinito, se torna costoso e innecesario, si es que existe libertad y competencia entre los grandes proveedores de esta nueva tecnología.

Al contrario, el rol del Estado y sus regulaciones se tornan peligrosas, porque podría dar pie a las empresas ligadas a las más altas autoridades de los gobiernos que se conduzca bajo la modalidad del monopolio o cuasi monopolio, con claro favorecimiento de las naciones más desarrolladas y con capacidad de negociación con “las grandes empresas” en detrimento de la mayoría de los países del mundo. 

El desarrollo de las tecnologías de inteligencia artificial generativa y los grandes modelos multimodales han generado enorme incertidumbre y temor en los ciudadanos. También es cierto, que el avance es rápido y genera cambios irremediables en las formas en que se relacionan las personas, las profesiones, las empresas e incluso el Estado y su burocracia. La humanidad asiste a un cambio cada día más veloz, sin aún poder asimilar el cambio ni la dirección de este. 

Aún el sistema político a nivel mundial no está preparado para enfrentar el cambio que esta nueva tecnología trae consigo. El 2023 ha sido el año del despegue y los cambios geopolíticos y estructurales ya se esbozan en el mundo. Aparejado a los cambios políticos, están los económicos, los sociales y los culturales. Las aplicaciones a la salud no son aisladas, son parte integrante de un proceso global sin precedentes en la historia. ¡Cuidado con las recetas defensivas producidas por la incomprensión, la falta de adaptación y el miedo!