A

21/06/23.- La adopción precipitada de sistemas no probados de inteligencia artificial en el campo de la salud puede dar lugar a errores por parte de los trabajadores sanitarios y causar daños a los pacientes, alertó la Organización Mundial de la Salud (OMS) en un reciente informe, publicado en mayo del 2023.

Considerando que la inteligencia artificial (IA) ofrece grandes expectativas para mejorar la prestación de atención de salud y la medicina en todo el mundo, a finales de junio del 2021, la OMS publicó el primer informe mundial sobre la IA aplicada a la salud y seis principios rectores relativos a su concepción y utilización.

El informe, titulado Ethics and governance of artificial intelligence for health (Ética y gobernanza de la inteligencia artificial en el ámbito de la salud), es un documento de orientación, elaborado conjuntamente por la Unidad de Ética y Gobernanza en el Ámbito de la Salud, dependiente de los departamentos de Investigación para la Salud y Salud Digital e Innovación; se basa en las opiniones colectivas de un grupo de expertos de la OMS sobre Ética y Gobernanza de la Inteligencia Artificial en el Ámbito de la Salud, integrado por 20 especialistas en salud pública, medicina, derecho, derechos humanos, tecnología y ética.

El grupo analizó numerosas oportunidades y desafíos en relación con la IA y recomendó políticas, principios y prácticas para su uso ético en el ámbito de la salud, así como los medios para evitar su uso indebido, con el fin de socavar los derechos humanos y las obligaciones legales.

En este sentido, el informe respalda un conjunto de principios éticos fundamentales, los cuales se espera sean utilizados como base para que los gobiernos, los desarrolladores de tecnologías, las empresas, la sociedad civil y las organizaciones intergubernamentales adopten enfoques éticos para el uso adecuado de la IA en el ámbito de la salud.

Principios rectores para  su utilización

A fin de limitar los riesgos y aumentar al máximo las oportunidades que conlleva la utilización de la IA en el ámbito de la salud, la OMS propone que la reglamentación y gobernanza se basen en los principios siguientes: (1) Preservar la autonomía del ser humano; (2) promover el bienestar y la seguridad de las personas y el interés público; (3) garantizar la transparencia, la claridad y la inteligibilidad; (4) promover la responsabilidad y la rendición de cuentas; (5) garantizar la inclusividad y la equidad y (6) promover una IA con capacidad de respuesta y sostenible.

Estos principios orientarán la labor futura de la OMS para respaldar los esfuerzos encaminados a garantizar que todas las posibilidades que ofrece la IA para la atención de salud y la salud pública se utilicen en beneficio de todos.

Riesgos de la adopción de sistemas de IA en la salud

Dos años después, en mayo del 2023, la OMS pide precaución en el uso de herramientas que se sirven de grandes modelos lingüísticos generados por inteligencia artificial (IA). Entre estas herramientas se cuentan algunas de las plataformas más pujantes, como ChatGPT, Bard, Bert y muchas otras que imitan el razonamiento, los procesos y la producción de la comunicación humana.

La agencia sanitaria mundial advierte de los riesgos de esas herramientas si no han sido lo suficientemente probadas, llama a examinarlas y supervisarlas con rigor cuando se utilicen, para que su uso sea seguro, eficaz y ético.

Aunque la OMS reconoce las ventajas que puede suponer el uso adecuado de la inteligencia artificial para apoyar a los profesionales de la salud, los pacientes, los investigadores y científicos, plantea con preocupación la falta de cautela que caracteriza su uso y que no es comparable a la que se ejerce con otras nuevas tecnologías.

En el nuevo informe de la OMS se advierte del peligro de sobreestimar las ventajas de la IA en el ámbito de la salud, sobre todo cuando esto se hace en detrimento de inversiones y estrategias básicas que son necesarias para lograr la cobertura sanitaria universal.

Además, se señala que las oportunidades conllevan desafíos y riesgos, como la recopilación y utilización poco éticas de los datos sobre salud; los sesgos codificados en los algoritmos y los riesgos que presenta la IA para la seguridad del paciente, la ciberseguridad y el medio ambiente.     

Al referirse a los principales riesgos del uso de esas herramientas, la organización enumeró los siguientes:

• Los datos utilizados para las bases que nutren la inteligencia artificial pueden estar sesgados y generar información engañosa o inexacta, que podría significar algún peligro para la salud, la equidad y la inclusión
• Los modelos de lenguaje generados por inteligencia artificial producen respuestas que pueden parecer autorizadas y plausibles para un usuario final, pero éstas pueden ser incorrectas o contener errores graves, sobre todo en temas relacionados con la salud
• Los modelos de lenguaje generados por inteligencia artificial pueden recibir información sobre datos cuyo uso no haya sido consentido previamente y cuando generan respuestas pueden no proteger datos confidenciales como los que proporciona un usuario a una aplicación informática
• Los modelos de lenguaje generados por inteligencia artificial se pueden utilizar indebidamente para generar y difundir desinformación sobre la salud en forma de contenido de texto, audio o video difícil de diferenciar del contenido confiable.

La adopción precipitada de sistemas no comprobados podría inducir a errores por el personal de salud, causar daños a los pacientes, erosionar la confianza en la IA y, por tanto, socavar (o retrasar) los posibles beneficios y usos a largo plazo de tales tecnologías en todo el mundo.

En conclusión, como lo describe en su guía sobre ética y gobernanza de la inteligencia artificial en el campo de la salud, la OMS reiteró que se debe proteger la autonomía; promover el bienestar y la seguridad humana, así como el interés público; garantizar la transparencia y la inteligibilidad; fomentar la responsabilidad y la rendición de cuentas; garantizar la inclusión y la equidad; y proteger la autonomía al diseñar, desarrollar y aplicar la inteligencia artificial con el fin de que su uso sea confiable y sostenible.

LUCILA CONTRERAS / CIUDAD CCS