El lanzamiento de ChatGPT a finales de 2022 marcó un hito en la historia de las aplicaciones tecnológicas al convertirse en la de más rápido crecimiento jamás registrada. Esta herramienta, es la primera en ofrecer inteligencia artificial generativa (IAGen) de uso sencillo y amplia disponibilidad para el público, revolucionó el panorama y desencadenó una competencia entre las principales empresas tecnológicas para dominar el desarrollo de modelos de IAGen.

La IAGen es una tecnología avanzada que genera contenido de forma automática en respuesta a instrucciones escritas a través de interfaces conversacionales en lenguaje natural. A diferencia de los sistemas tradicionales que solo replican información existente en la web, esta herramienta tiene la capacidad de crear contenido nuevo. Esta información puede manifestarse en diversos formatos, como textos en lenguaje natural, imágenes (incluyendo fotografías, arte digital y caricaturas), videos, música y código de software.

La IA generativa de textos se basa en redes neuronales artificiales conocidas como transformadores de propósito general. Los modelos de lenguaje de gran tamaño, o LLM por sus siglas en inglés, son una clase particular de estos transformadores. En el caso de ChatGPT, el modelo de lenguaje utilizado es el transformador generativo preentrenado, conocido como GPT (Generative Pre-trained Transformer en inglés), de ahí el nombre "ChatGPT".

LLMs en la atención Médica

Los grandes modelos de lenguaje (LLM) tienen el potencial de revolucionar la industria de la salud, transformando tanto los resultados de los pacientes como las prácticas de atención médica. Estos LLM, basados en inteligencia artificial (IA) como GPT-4 de OpenAI y Gemini de Google, son tecnologías avanzadas capaces de leer, resumir y generar texto en lenguaje natural. Sus aplicaciones incluyen actuar como chatbots para responder preguntas de los pacientes, generar ensayos, traducir entre idiomas, escribir código y asistir en el diagnóstico de enfermedades.

Además, los LLM se emplean en el análisis de textos clínicos no estructurados, como registros médicos electrónicos, resúmenes de altas y notas clínicas, utilizando técnicas de procesamiento del lenguaje natural (NLP). Esta capacidad permite diversas aplicaciones, como la extracción de información clave de informes de radiología para facilitar diagnósticos precisos y oportunos. También son útiles para la farmacovigilancia, identificando menciones de medicamentos y reacciones adversas en textos, lo que contribuye a la seguridad del paciente. Además, al combinarse con tecnologías de imágenes médicas, los LLM pueden mejorar la detección de anomalías y proporcionar contexto adicional en los diagnósticos.

Para que los médicos confíen en la IA, es esencial desarrollar una IA explicable (XAI), que proporcione transparencia desde el inicio. Los sistemas basados en XAI no solo se benefician de la cantidad de datos que utilizan, sino también de su capacidad para comprender y aplicar el contenido de estos datos en tiempo real de manera inteligente.

XAI puede beneficiar a los médicos de varias maneras:

Mayor confianza: Al ofrecer información completa y basada en fuentes confiables, puede aumentar la confianza de los médicos en estas herramientas, promoviendo su uso efectivo.

Menos sesgos y atención estandarizada: Abordando los sesgos individuales de los médicos al consultar toda la literatura médica relevante, garantizando una atención más uniforme para todos los pacientes.

Eficiencia mejorada: Con una comprensión clara de cómo se generan los resultados,  puede agilizar las visitas de los pacientes, permitiendo más tiempo para planificar tratamientos y reducir cuellos de botella en la atención médica.

Consideraciones Éticas y legales

La integración de los modelos de lenguaje (LLM) en el diagnóstico médico plantea importantes consideraciones éticas que deben ser cuidadosamente gestionadas. Es fundamental priorizar la privacidad y la seguridad de los datos de los pacientes para proteger la información médica confidencial. Deben establecerse mecanismos adecuados de consentimiento para asegurar que los pacientes sean plenamente conscientes de que sus datos están siendo utilizados por los modelos.

Además, es crucial abordar las preocupaciones éticas relacionadas con la responsabilidad y rendición de cuentas de los sistemas de inteligencia artificial (IA) en la atención sanitaria. Se deben implementar medidas para evitar posibles daños a los pacientes y para manejar las implicaciones legales que puedan surgir. La garantía de un consentimiento informado, la protección de la información del paciente y la mitigación de sesgos en los modelos son aspectos críticos que requieren atención.

Además, dado que las herramientas de IA no se entrenan con un conjunto ilimitado de datos de salud, es importante reconocer que no todos los pacientes o afecciones estarán adecuadamente representados. La posibilidad de que los datos utilizados sean inexactos subraya la necesidad de un enfoque crítico y vigilante en la aplicación de estas tecnologías en la práctica clínica.

Guía sobre ética y gobernanza de la IA para grandes modelos multimodales

La Organización Mundial de la Salud (OMS) ha publicado una guía con nuevas directrices sobre la ética y la gobernanza de los grandes modelos multimodales (LMM), un tipo de tecnología de inteligencia artificial (IA) generativa. Estos modelos tienen la capacidad de procesar uno o más tipos de entradas de datos, como textos, videos o imágenes, y generar diversos resultados que imitan la comunicación humana, sin limitarse al tipo de datos introducidos. Los LMM están experimentando un rápido crecimiento y tienen aplicaciones emergentes en toda la atención sanitaria.

La guía de la OMS subraya la importancia de identificar y gestionar los riesgos asociados a estos modelos, tales como sesgos y ciberseguridad, y ofrece más de 40 recomendaciones para gobiernos, empresas tecnológicas y proveedores de atención médica. El objetivo es garantizar el uso adecuado de los LMM para promover y proteger la salud de las poblaciones.

En conclusión, la integración de los LMM en la atención sanitaria ofrece una valiosa oportunidad para mejorar la precisión de los diagnósticos, la gestión de datos clínicos y la seguridad de los pacientes. Sin embargo, es esencial que estos avances se implementen de manera ética y equitativa para evitar profundizar las disparidades existentes en la atención médica. Los reguladores desempeñan un papel crucial en este proceso, al abordar posibles sesgos en los algoritmos de IA y garantizar una gobernanza sólida. Esto permitirá un uso ético y efectivo de los modelos, protegiendo la privacidad de los pacientes y cumpliendo con las normativas vigentes.

Podes encontrar más información acerca de este tema en el ateneo 642 de Cyntia Castro: clic acá.