La Organización Mundial de la Salud ha dado a conocer un nuevo informe que presenta varias regulaciones que se deben tener en cuenta para controlar el uso de inteligencia artificial para la salud.
*En primer lugar, la OMS resalta la importancia de la transparencia y la documentación de las IA. Esto hace referencia a la documentación del ciclo completo de vida del producto que se vaya a adquirir y el registro de los procesos de su desarrollo, con el fin de conocer a fondo su composición tecnológica y alcances. Para este punto, la colaboración entre reguladores, desarrolladores y fabricantes es clave para desarrollar una comprensión compartida de los procedimientos necesarios para la documentación transparente y para garantizar que las decisiones sean científicamente sólidas.
*Para la gestión de riesgos, el documento señala que hay cuestiones como el ‘uso previsto’, ‘aprendizaje continuo’, intervenciones humanas, modelos de entrenamiento y las amenazas de seguridad que se deben mejorar de forma exhaustiva, así como simplificarse como sea posible. Además, se destaca la importancia de un enfoque holístico de gestión de riesgos que aborde las amenazas de ciberseguridad y vulnerabilidades del sistema a lo largo del ciclo de vida completo del producto.
Este punto tiene como objetivo presentar un enfoque integral basado en riesgos para los sistemas de IA en general, y en particular para aquellos utilizados como dispositivos médicos, durante todo su ciclo de vida, incluyendo las fases de pre y post-implementación en el mercado.
*Es fundamental evaluar si el uso del sistema de IA es seguro, es decir que no causará daño al usuario, al paciente u otras personas y en lo posible verificar las afirmaciones hechas sobre su rendimiento. Según la OMS, la evaluación de estas afirmaciones para los sistemas de IA requiere una descripción clara del caso de uso, la demostración de validación analítica y clínica, y la evaluación del potencial de sesgo o discriminación en el sistema de IA.
*Frente a la calidad de los datos que arroja la IA, es claro mencionar que estos son el ingrediente más importante para entrenar algoritmos de IA/aprendizaje automático (ML) y pueden clasificarse según su formato, estructura, volumen y muchos otros factores. De esta manera, la información se puede adoptar en diversas formas, como caracteres, texto, palabras, números, imágenes, sonido o video, y también pueden ser estructurados, semiestructurados o no estructurados. Para evaluarlos, se fundamental hace una revisión rigurosa con antelación, para asegurarse de que los sistemas no extiendan los sesgos y la promuevan la desinformación.
*La Estrategia Mundial de la OMS sobre Salud Digital 2020-2025 clasifica los datos de salud como datos personales sensibles o información personal identificable que requiere un alto estándar de seguridad. De este modo, se destaca la necesidad de un sólido marco legal y regulatorio para proteger la privacidad, confidencialidad, integridad, disponibilidad y procesamiento de los datos personales de salud.
*La OMS promueve la colaboración entre los organismos reguladores, pacientes, profesionales de la salud, representantes de las industrias y asociados para ayudar asegurarse de que los productos y servicios cumplan las regulaciones.
