29 de febrero de 2024, 16:55:03
Actualidad


La OMS pide regular la Inteligencia Artificial en cuestiones de salud

Por Redacción

En una nueva publicación, la Organización Mundial de la Salud (OMS) presenta una serie de cuestiones que cabe tener en cuenta a fin de regular la inteligencia artificial para la salud.


La publicación recalca la importancia de establecer la efectividad y seguridad de los sistemas de inteligencia artificial, de poner con prontitud estos sistemas a la disposición de quienes los necesiten y de favorecer el diálogo entre las partes interesadas, incluidos los desarrolladores, reguladores, fabricantes, trabajadores de la salud y pacientes.

Con la creciente disponibilidad de la información sobre la atención a la salud y los rápidos avances en técnicas analíticas (ya sean de aprendizaje automático o modelos lógicos o estadísticos), las herramientas de inteligencia artificial podrían transformar el sector de la salud. La OMS reconoce el potencial de la inteligencia artificial para mejorar los efectos en la salud mediante el fortalecimiento de los ensayos clínicos, el diagnóstico médico, el tratamiento, el cuidado personal y la atención centrada en la persona, así como el apoyo a los conocimientos, capacidades y competencias de los profesionales de la atención en salud. Por ejemplo, podría resultar beneficiosa en entornos con falta de médicos especialistas, ya sea para interpretar escáneres retinales e imágenes radiológicas, o con otros fines.

No obstante, las tecnologías de inteligencia artificial, incluidos los grandes modelos lingüísticos, se están desplegando rápidamente, a veces sin total comprensión de su posible funcionamiento, que podría beneficiar o perjudicar a los usuarios finales, incluidos los profesionales de la salud y los pacientes. Al utilizar datos de salud, estos sistemas podrían tener acceso a información personal sensible, por lo que requieren de marcos jurídicos y regulatorios sólidos para salvaguardar la privacidad, la seguridad y la integridad. Esto es lo que la presente publicación pretende ayudar a plantear y mantener.

«La inteligencia artificial resulta muy prometedora para la salud, pero también presenta retos importantes, lo que incluye la recopilación de datos no ética, las amenazas a la ciberseguridad y el aumento de los sesgos y la desinformación», dijo el Dr. Tedros Adhanom Ghebreyesus, Director General de la OMS. «Estas nuevas pautas ayudarán a los países a regular la inteligencia artificial de manera efectiva, aprovechar su potencial para tratar el cáncer o detectar la tuberculosis, y minimizar los riesgos».

En respuesta a las crecientes necesidades de los países de regular responsablemente el rápido surgimiento de las tecnologías de la salud basadas en la inteligencia artificial, la publicación destaca seis áreas:

  • Con el fin de fomentar la confianza, subraya la importancia de la transparencia y la documentación, lo que se traduce en documentar el ciclo completo de vida del producto y registrar los procesos de su desarrollo.
  • En cuanto a la gestión de los riesgos, hay cuestiones como el «uso previsto», el «aprendizaje continuo», las intervenciones humanas, los modelos de entrenamiento y las amenazas a la ciberseguridad que deben mejorarse de manera exhaustiva y simplificarse lo máximo posible.
  • La validación externa de los datos y la claridad sobre el uso previsto de la inteligencia artificial ayudan a salvaguardar la seguridad y facilitan la regulación.
  • El compromiso con la calidad de los datos, que puede demostrarse mediante la evaluación rigurosa de los sistemas previa a sus lanzamientos, es vital para asegurarse de que los sistemas no extiendan los sesgos y la desinformación.
  • Los retos que plantean las regulaciones complejas e importantes, como el Reglamento General de Protección de Datos en Europa y la Ley de Portabilidad y Responsabilidad del Seguro Médico en los Estados Unidos de América, se abordan con un énfasis en la comprensión del alcance de la jurisdicción y los requisitos para el consentimiento, al servicio de la privacidad y la protección de datos.
  • Promover la colaboración entre los organismos reguladores, pacientes, profesionales de la salud, representantes de las industrias y los asociados gubernamentales puede ayudar a asegurarse de que los productos y servicios cumplan con las regulaciones a lo largo de sus ciclos de vida.

Los sistemas de inteligencia artificial son complejos y no solo dependen del código con el que se fabriquen; también influyen los datos con los que son entrenados, que provienen de entornos clínicos e interacciones entre usuarios, entre otros. La mejora de la regulación puede ayudar a controlar los riesgos de que la inteligencia artificial extienda sesgos existentes en los datos de entrenamiento.

Por ejemplo, los modelos de inteligencia artificial pueden tener dificultades para representar con precisión la diversidad de las poblaciones, lo que provoca sesgos, inexactitudes o incluso errores. A fin de ayudar a mitigar los riesgos, se puede emplear la reglamentación para que consten las características como el género, la raza y la etnia de las personas que aparecen en los datos de entrenamiento, y para que los conjuntos de datos se estructuren deliberadamente de manera representativa.

La nueva publicación de la OMS pretende exponer principios clave que los gobiernos y las autoridades reguladoras pueden seguir para desarrollar nuevas pautas sobre la inteligencia artificial o adaptar las ya existentes, a nivel nacional o regional.

Secretos de Salud.  Todos los derechos reservados.  ®2024   |  www.secretosdesalud.es