>

"Expectativas sobre la aplicación de Inteligencia Artificial Generativa en la Historia Clínica Electrónica."

Andrea Manjón y Cristian Ruiz

Muchos creen que tendrá un gran impacto en la salud, especialmente en los sistemas que ayudan a los médicos a tomar decisiones. ¿ChatGPT puede ser más empático y dar mejores recomendaciones que los médicos?, ¿Mejorará la comunicación?, ¿Logrará reducir el estrés de los profesionales de salud al escribir notas y brindar mejores sugerencias?

Si bien es cierto que la inteligencia artificial generativa es una herramienta de la que se viene hablando hace algunos meses, el anuncio de OpenAI sobre el lanzamiento de ChatGPT 4 reposicionó el tema y toda la comunidad científica, tanto de manera optimista como pesimista, está expresando sus puntos de vista. Uno de los campos más sindicados como los que recibirán el mayor impacto es el de la salud, particularmente en lo referido a los Sistemas de Soporte para la Toma de Decisiones (CDSS). 

Para conocer un poco más al respecto, Innova Salud Digital convocó a dos expertos en la materia, al Dr. Damián Borbolla, miembro académico en el Departamento de Informática Biomédica de la Universidad de Utah y a la Dra. Luciana Rubin, especialista en Informática en Salud del Hospital Italiano de Buenos Aires, encargada de manejar el portfolio de CDSS.

¿Cómo cambian ChatGPT y la IA en general el paradigma de los proveedores de productos de soporte?

Damián Borbolla: Creo que es muy temprano para decir hoy en día cuál va a ser el impacto que puede tener ChatGPT en salud en general y especialmente en su integración con sistemas que ayuden a los médicos a tomar mejores decisiones. Actualmente, estamos en el pico de las expectativas sobredimensionadas del modelo que define Gartner, pero como ya pasó con otras tecnologías, sabemos que luego de todas las expectativas que tenemos va a venir la desilusión, hasta que ChatGPT se consolide como solución.  

Si revisamos la evidencia vemos que todavía no se publicaron muchos estudios que nos puedan traer un poco de claridad sobre toda esta expectativa generada. Uno de los artículos más interesantes es el que se realizó en la Universidad de San Diego, allí los investigadores encontraron que ChatGPT puede ser más empático y brindar información más precisa que los médicos, pero claro, la investigación la realizaron con preguntas y respuestas tomadas de un foro de consultas de pacientes y los que pusieron el puntaje sobre cuán empáticas eran las respuestas fueron profesionales de la salud. Así que, no se cuanto de esos resultados pueden ser trasladados a la realidad de los pacientes, pero que una herramienta de inteligencia artificial sea más empática que un humano en sus respuestas llama la atención. 

Más en relación con la pregunta, hay otro estudio interesante que se realizó en la Universidad de Vanderbilt. Allí los investigadores estudiaron si ChatGPT podía generar respuestas a recomendaciones de sistemas expertos, y si bien las respuestas generadas por los profesionales de la salud en general fueron mejor puntuadas, las recomendaciones generadas por ChatGPT recibieron puntajes altos, sobre todo en áreas como el entendimiento de lo que se estaba recomendado, así que el potencial existe con este tipo de herramientas. 

¿Cómo ves el panorama a futuro?

Creo que podemos decir que el futuro de ChatGPT es alentador, sobre todo si lo pensamos como una herramienta que ayude a los profesionales de la salud a comunicarse sin malentendidos o ser más empáticos en los mensajes que envían a los pacientes. Y con un poco más de tiempo y entrenamiento, ChatGPT también puede ayudar en la generación de las notas clínicas o evoluciones que como sabemos es una de las actividades que los médicos señalan como de las principales fuentes de estrés en el trabajo diario

¿Cómo impactan los nuevos modelos de IA en los servicios de soporte integrados a las HCE?

Luciana Rubin: Los sistemas de soporte a la toma de decisiones (CDSS) son herramientas informáticas diseñadas para impactar sobre las decisiones clínicas sobre pacientes individuales en el punto en el tiempo que estas decisiones se toman.

El objetivo último de los CDSS es colaborar con la reducción de errores médicos, un problema grave del que no está exento ningún sistema de salud. Dentro de los CDSS, hay dos categorías amplias: sistemas expertos basados en reglas o en información y sistemas de aprendizaje automático o basados en datos.

Los CDSS basados en reglas están diseñados para replicar la interpretación y la toma de decisiones de un experto en la materia. Encuentran su aplicación en alertas farmacológicas, asistentes de diagnóstico, recordatorios de prácticas preventivas o de seguimiento de enfermedades crónicas entre otros, y están ampliamente instalados en las HCE, con distintos grados de evidencia de mejora de la práctica clínica, pero también con una alta tasa de anulación u override, debido a la presencia de múltiples alertas, muchas veces poco específicas, o basadas en datos de la HCE desactualizados o ambiguos.  

En los CDSS basados en aprendizaje automático, un algoritmo está capacitado para reconocer o inferir patrones deseados, o experimentación de prueba y error para obtener o alcanzar los resultados definidos. Se aplican en detección de patrones o patologías en imágenes (radiografías, tomografías, etc), en determinación de riesgos en pacientes (por ejemplo sepsis), análisis de bioseñales entre otros. La mayoría de estos modelos son de IA débil, ya que se enfocan en una sola tarea. Su aparición es más nueva que los anteriores y poco a poco se están implementando en los distintos sistemas de información, aunque con una gran cantidad de desafíos y barreras, incluyendo la poca “explicabilidad” o fenómeno de caja negra que tienen los mismos, generando desconfianza en los profesionales de salud, por no saber cómo los algoritmos sacan sus conclusiones.

Es evidente entonces que los CDSS basados en IA tienen el potencial de utilizar la enorme cantidad de datos de salud existentes para facilitar las decisiones clínicas y aumentar la atención basada en la evidencia, mejorando y homogeneizando así la atención médica y disminuyendo a su vez la carga financiera en profesionales de la salud y sus instituciones, no solo realizando tareas específicas y ya conocidas (detectar patrones malignos en una mamografía, o alertar ante una interacción droga-droga), sino en un amplio espectro de funciones relacionadas con la optimización de procesos.

Podemos encontrar un ejemplo en un algoritmo basado en aprendizaje automático que logró su objetivo de filtrar alertas medicamentosas de bajo impacto, mejorando potencialmente la fatiga de alertas.

Entonces, ¿qué sería lo novedoso respecto de la aplicación de ChatGPT? 

Creo que su potencial para realizar tareas de forma semi-autónoma y para resolver un gran rango de tareas humanas, como redacción de textos, incluso códigos de programación, dar respuesta a preguntas, etc. Por ejemplo, fue capaz de aprobar el Exámen de Licencia Médica de Estados Unidos (en un modelo de prueba) sin formación especializada.

Distintos estudios señalan que este tipo de modelos podrían seguir optimizando los CDSS, por ejemplo aportando datos de las HCE relacionados con los pacientes más precisos y “curados” para alimentar los motores de reglas, o información obtenida de diferentes fuentes confiables complementarias a los CDSS basados en conocimientos; incluso utilizarse para analizar automáticamente la lógica de las alertas y generar sugerencias útiles (que luego serán supervisadas por humanos) que contribuyan a la optimización de la práctica médica.

Es importante como siempre, dirigir nuestra atención a la validación y el mantenimiento de estos modelos, evitando sesgos e información desactualizada, que pueden generar daños, yendo en contra del primer principio hipocrático “primum non nocere” (primero no dañar).

Considero que los nuevos modelos de IA tienen un enorme potencial para abordar distintos puntos débiles de los CDSS integrados a HCE, como ser la curaduría de las grandes cantidades datos del paciente para alimentar a estos sistemas, mejorar y complementar los productos de salida ya existentes, filtrar información o alertas no tan relevantes, entre otras; siempre con la atención puesta en el beneficio del paciente, del profesional de la salud; aprovechando los sistemas de información como parte fundamental de mejorar el sistema de salud.