El desarrollo de herramientas de IA en salud avanza, pero su implementación aún enfrenta grandes desafíos. ¿Qué frameworks y guías existen hoy para guiar este proceso? ¿Qué aspectos de la práctica clínica abordan, y cuáles siguen sin respuesta?

 

Introducción
La llegada de la Inteligencia Artificial al campo de la salud constituye una potencial transformación de la práctica médica, particularmente a través de su integración en sistemas de apoyo a la toma de decisiones clínicas (CDSS). Estas herramientas prometen mejorar la precisión diagnóstica, personalizar tratamientos y optimizar flujos de trabajo. 

La investigación y el desarrollo de este tipo de herramientas ha aumentado exponencialmente en los últimos años pero su implementación en la práctica clínica (escenarios reales) no ha sido proporcional. Esta brecha entre desarrollo e implementación probablemente responda a desafíos técnicos, éticos, culturales y organizacionales que se plantean durante este proceso. Existe una falta de enfoques sistemáticos que exploren exhaustivamente los múltiples y complejos pasos involucrados para garantizar una implementación óptima. Dicho en otras palabras, son bien conocidas las dificultades para implementar la IA en entornos clínicos, con escasa orientación sobre qué debe hacerse para sortearlas y cómo llevarla a cabo en la práctica. 

En este contexto, en el siguiente ateneo bibliográfico se aborda la implementación de IA desde la perspectiva de los frameworks, y guías actuales a través del análisis de dos artículos sobre el tema.

 

Conceptos y definiciones

Ciclo de vida de los sistemas basados en IA

Las etapas involucradas durante estos procesos tienen puntos en común con los ciclos de vida de los sistemas de software (especialmente durante el desarrollo) y otros dispositivos médicos. La naturaleza más compleja de la IA en salud respecto a otros dominios responde a la necesidad de que los sistemas no solo sean técnicamente robustos y clínicamente seguros, sino también éticamente sólidos y transparentes.

Podríamos resumir el ciclo de vida de los sistemas de salud basados en IA en tres procesos fundamentales: desarrollo, evaluación e implementación. Es importante destacar que no son etapas estrictamente lineales, sino que muchas veces se retrocede a fases anteriores si se identifican fallas o se requieren mejoras.

Figura 1. Ciclo de vida de sistemas basados en IA en salud y principales actores intervinientes

El proceso de desarrollo es la fase en la que se diseña, entrena y valida técnicamente el modelo, antes de ser evaluado (la IA aún no interactúa con el entorno clínico real). Durante la evaluación se busca determinar si la herramienta es segura, útil y aplicable en condiciones reales o cuasi reales.

La implementación por su parte es un proceso “multifase” que incluye, en rasgos generales, las siguientes etapas:

1. Adquisición: exploración previa a la integración de una herramienta de IA, incluyendo la decisión de comprarla/ contratarla
2. Integración:  incorporación a los flujos de trabajo clínicos existentes y a los sistemas de información existentes 
3. Monitorización: seguimiento de las métricas de rendimiento de la herramienta
4. Evaluación: determinación del impacto de la integración y modificaciones necesarias para garantizar que siga funcionando a su nivel de rendimiento previsto.

 

¿Qué es un framework en este contexto?

Se entiende como framework o marco a un conjunto estructurado de principios, directrices y estándares que guían las diferentes decisiones técnicas, clínicas y organizativas durante los procesos de desarrollo, evaluación e implementación de los sistemas de IA, asegurando que estas herramientas se utilicen de manera segura, ética y efectiva. 

Estos pueden tener diferentes enfoques o responder a diferentes preguntas, dando lugar a frameworks de tipo ético, técnico, regulatorio y operacional. A modo de ejemplo, un framework de tipo técnico ofrece una estructura de estándares para la validación científica de las herramientas de IA, pudiendo utilizarse tanto durante el desarrollo como para la evaluación de las mismas, y respondiendo a preguntas como ¿qué se debería tener en cuenta al diseñar una herramienta? o ¿es determinada herramienta válida o eficaz?

Diferencias entre frameworks y guías metodológicas (Guidelines)

Mientras que los frameworks son estructuras amplias, las guías son recomendaciones específicas y detalladas (paso por paso) sobre cómo implementar ciertas prácticas; un framework orienta hacia qué debería hacerse (ej. asegurar transparencia o reproducibilidad) y una guía hacia cómo hacerlo en la práctica (ej. cómo documentar la trazabilidad de un modelo, cómo diseñar un estudio clínico o reportar resultados). Así, un framework puede contener o basarse en guías pero una guía no necesariamente constituye un framework completo. A pesar de estas diferencias, debe destacarse que muchas veces frameworks y guidelines son utilizados como conceptos equivalentes en las diferentes publicaciones.

Según una revisión sistemática publicada este año por Shiferaw et al., diseñada para evaluar la calidad de las guías para la integración de la IA en entornos clínicos, existe una variabilidad significativa en la aplicabilidad y el rigor en su desarrollo. Además, las guías que demostraron la mayor calidad (TRIPODþAI, DECIDE-AI, SPIRIT-AI y CONSORT-AI) fueron desarrolladas para utilizarse en los procesos de desarrollo y evaluación, profundizando el déficit en lineamientos claros para la implementación de las herramientas en la práctica clínica.

Entonces, cuando pensamos en la implementación de herramientas de IA en salud, ¿por donde se empieza? Si hay un framework y una guía para implementarlas, ¿cual uso? ¿en qué orden o con qué fin? ¿Uso primero un framework, para tener un marco general del proceso, y después una guía para ir al “cómo hacerlo”?

 

Reflexiones finales 

Aunque el desarrollo de herramientas de IA en salud avanza rápidamente, la implementación práctica aún enfrenta múltiples desafíos. Las directrices deben enfocarse no solo en la adquisición tecnológica y los aspectos técnicos de las herramientas, sino también su adaptación a los flujos de trabajo existentes y el monitoreo continuo para poder establecer su impacto real en la práctica clínica y así fortalecer la credibilidad y la confianza en estas tecnologías. 

Los frameworks existentes ofrecen una estructura inicial para guiar el proceso de implementación, pero su enfoque suele ser parcial y con limitaciones, especialmente en las etapas de integración y evaluación. Esto genera incertidumbre sobre qué aspectos de la práctica clínica se ven realmente contemplados y cuáles permanecen sin una guía clara. 

Además, la mayoría de las guías reconocidas suelen centrarse en los procesos de desarrollo y evaluación de las herramientas, profundizando las dificultades para encarar el proceso de implementación en forma práctica.

Por todo esto, resulta imprescindible continuar investigando y perfeccionando estos marcos y guías a través de una colaboración activa entre los distintos actores involucrados para garantizar una implementación más integral que responda a las necesidades reales del entorno clínico. 

También es necesario elaborar marcos y guías para países de bajos y medianos ingresos que se adapten a contextos con recursos limitados y diferentes realidades culturales, socioeconómicas y regulatorias.

Para ver la presentación completa, hacé clic en este enlace.