>
"Lo que nadie cuenta de la implementación de IA en el ámbito clínico"
Farm. Pierina Torrens
Una demo de inteligencia artificial puede terminar cuando el modelo responde correctamente. Una implementación en salud recién empieza ahí.
En los últimos años vimos una explosión de soluciones de IA generativa. Nuevos modelos, herramientas cada vez más sofisticadas y demostraciones capaces de generar entusiasmo en pocos minutos se han multiplicado. Pero hay una distancia enorme entre mostrar lo que una tecnología puede hacer y lograr que funcione de manera segura, útil y sostenible dentro de una organización de salud.
En una demo, la información suele estar disponible y el escenario está controlado. En la práctica aparecen historias clínicas incompletas, sistemas que no interoperan, usuarios que encuentran usos que nadie había previsto, modelos que cambian y preguntas que no tienen una respuesta exclusivamente tecnológica.
La propia evidencia científica muestra cuánto falta por recorrer. Una revisión sistemática publicada en JAMA analizó 519 estudios sobre evaluación de modelos de lenguaje en salud y encontró que solo el 5% utilizó datos reales de atención de pacientes. El 95,4% tuvo la exactitud como principal dimensión de evaluación, mientras que los aspectos de implementación fueron mucho menos frecuentes. Demostrar que un modelo responde bien a una pregunta médica no es lo mismo que demostrar que una herramienta funciona en la práctica clínica real.
Ese es el camino que estamos recorriendo con TANA, el ecosistema institucional de IA generativa del Hospital Italiano. De eso hablamos en Usuaria este año, de lo que sucede cuando la inteligencia artificial se encuentra con la realidad. Es el resultado de más de un año y medio de trabajo de un equipo que tuvo que aprender, probar, corregir y volver a probar para llevar estas tecnologías desde la experimentación hacia el uso real.
Primero el problema, después la tecnología
TANA nació de problemas concretos en los que era necesaria la implementación de inteligencia artificial. El portfolio fue creciendo a partir de necesidades diferentes: un copiloto asistencial integrado en la historia clínica electrónica, generación asistida de epicrisis, herramientas para auditoría médica, reportes clínicos, identificación de pacientes candidatos para investigación, y asistentes para colaboradores y pacientes. Algunas iniciativas todavía están en exploración o validación, mientras que otras ya forman parte del uso cotidiano.
Ese recorrido mostró algo que a veces se pierde de vista. Cuando aparece una tecnología nueva y genera entusiasmo, primero hay que preguntarse qué problema viene a resolver. El copiloto asistencial es un buen ejemplo. Los profesionales necesitaban consultar información que estaba distribuida en distintos lugares de la historia clínica: consultas, laboratorios, estudios y evoluciones. Esa búsqueda ya formaba parte de la práctica cotidiana antes de la IA generativa y demandaba tiempo. La tecnología aportó valor porque respondió a una necesidad que ya existía.
El lanzamiento no es el final: es el comienzo del aprendizaje
Una de las primeras cosas que aprendimos fue que el comportamiento real de una herramienta es imposible de anticipar completamente durante el desarrollo. Profesionales de auditoría médica comenzaron a usar el copiloto, que no había sido pensado para ellos, para agilizar la revisión de historias clínicas. Otros repetían prompts específicos para obtener información de manera estructurada, construyendo pequeños flujos de trabajo propios. Y aparecieron usos no contemplados en los términos vigentes en ese momento, como la generación de resúmenes de pacientes o consultas de investigación clínica.
Esos descubrimientos son incómodos y valiosos a la vez. Son incómodos porque muestran usos no previstos, pero valiosos porque revelan dónde hay valor sin aprovechar y dónde hace falta poner límites. Implementar IA no puede ser un proyecto con principio y final definidos. Requiere monitorear qué sucede después de la implementación, aprender del uso real y volver a ajustar.
Evaluar en la práctica es diferente a demostrar que funciona
Esta necesidad de evaluar de manera continua también aparece en la evidencia disponible. Como muestra la revisión de JAMA, buena parte de los estudios todavía se realizan en escenarios controlados. Una herramienta puede obtener buenos resultados en un benchmark y no necesariamente resolver el problema para el que fue diseñada cuando se incorpora a un entorno real, donde la información puede estar incompleta y los usuarios presentan distintas formas de trabajar.
Por eso, para nosotros, la evaluación de TANA no podía terminar con la implementación. Tenía que acompañar todo el ciclo de vida, desde el análisis de factibilidad hasta el monitoreo posterior. La pregunta ya no era solamente "¿funciona?", sino también "¿funciona para este usuario y en este contexto?" y "¿cómo vamos a saber si sigue funcionando?".
Los modelos cambian mientras nosotros aprendemos
A diferencia de muchos sistemas tradicionales, con los modelos de lenguaje se suma una variable: el componente central de la solución puede cambiar. Nos pasó con el copiloto. Funcionaba con un modelo conocido, con prompts ajustados y un comportamiento que el equipo había aprendido a caracterizar. Cuando el proveedor anunció que ese modelo dejaría de estar disponible, tuvimos que migrar.
En teoría estábamos preparados. Había un benchmark armado y una arquitectura agnóstica pensada para cambiar de modelo sin reconstruir la solución. En la práctica, ese benchmark no era suficiente y eso costó varias semanas de ajustes continuos y monitoreo intensivo. La herramienta nunca dejó de funcionar, pero exigió mucha cintura del equipo.
De ahí sacamos aprendizajes clave. Un benchmark sólido no prueba solo que algo funciona en condiciones normales, sino que resiste cuando se lo fuerza. Y migrar modelos no es solamente una decisión de arquitectura, sino una capacidad organizacional que requiere procesos y criterios claros.
Innovar también es decidir qué no hacer
A medida que una organización incorpora IA, las oportunidades se multiplican más rápido que los recursos disponibles. En TANA evaluamos cada iniciativa considerando el valor que puede generar, cuántas personas pueden beneficiarse y la viabilidad real de implementarla. Aunque puede haber ideas muy novedosas o técnicamente más complejas, muchas veces ganan las que vienen a resolver un problema frecuente para muchas personas.
Priorizar tampoco significa descartar todo lo que existía antes. El Hospital tiene más de veinte años de experiencia desarrollando sistemas de información en salud, con reglas y modelos que ya cuentan con algo muy difícil de construir desde cero: confianza clínica. La pregunta no es si reemplazarlos por IA generativa, sino cómo potenciarlos. Eso implica recuperar la lógica validada de los sistemas de soporte a la decisión clínica, o incorporar contexto a modelos de visión computacional que ya demostraron utilidad. Innovar no siempre significa empezar de cero, sino saber qué conservar, qué potenciar y qué reemplazar.
La confianza también se diseña
Al comienzo podíamos pensar que, si una herramienta funcionaba técnicamente bien, la adopción llegaría como consecuencia. La experiencia nos mostró que la confianza es un problema mucho más amplio. En salud, una buena respuesta no alcanza. Importa cómo se obtuvo, con qué información y qué sucede cuando se equivoca.
La confianza tiene también una dimensión institucional. Esto se volvió especialmente evidente con TANA Pacientes, una herramienta que interactúa directamente con personas. No solo necesita responder correctamente, sino representar a la institución, comunicarse con su mismo tono y reconocer cuándo una situación excede lo que puede resolver. Definir qué puede responder fue solo una parte del trabajo. También hubo que definir qué no debe responder, y qué hacer ante una situación de riesgo, como derivar a la guardia o al médico tratante, en lugar de intentar resolverla. Esos guardarraíles no son una configuración técnica, sino decisiones institucionales y éticas que requieren involucrar a distintos actores desde el inicio.
En el camino aparecieron errores, de implementación, de uso, de abordaje, y probablemente sigan apareciendo. El objetivo no puede ser construir sistemas que nunca fallen, sino organizaciones capaces de detectar esos fallos, entenderlos y corregirlos a tiempo.
El objetivo no es reemplazar personas
Durante años, buena parte de la conversación sobre IA en salud estuvo centrada en una pregunta: ¿va a reemplazar a los profesionales? Nuestra experiencia nos llevó hacia otra, más concreta: ¿qué capacidad podemos devolverles? Los mayores beneficios aparecen en tareas que consumen tiempo desproporcionado para el valor que aportan, como buscar información dispersa, sintetizar documentos o generar borradores. No ocurre cuando se empuja la IA hacia terrenos donde el juicio clínico y la responsabilidad profesional siguen siendo insustituibles. Si un profesional encuentra en segundos información que antes debía buscar durante varios minutos, esos minutos son capacidad que vuelve al trabajo clínico.
Lo que realmente aprendimos
Llegar a Usuaria y contar esta experiencia fue también una oportunidad para mirar hacia atrás y reconocer que muchas de las cosas que hoy consideramos parte natural del desarrollo no estaban resueltas cuando empezamos: entender el problema antes de elegir un modelo, evaluar más allá de la exactitud, estar preparados para migrar, decidir qué construir y qué no, y sobre todo construir confianza.
La inteligencia artificial va a seguir evolucionando. Los modelos van a cambiar y muchas de las capacidades que hoy nos sorprenden probablemente se vuelvan habituales. Pero la capacidad de una institución para incorporarla de manera responsable no va a depender solamente de qué modelo tenga disponible, sino de algo bastante más difícil de construir: equipos capaces de entender problemas reales, evaluar tecnología en contexto y adaptar las soluciones a medida que cambia la realidad.
Esta experiencia nos mostró que implementar IA en salud no es simplemente incorporar una nueva tecnología, sino construir una nueva capacidad institucional. Y quizás esa sea la pregunta que más nos interesa seguir explorando: no cuánto puede hacer la inteligencia artificial por nosotros, sino cuánto tiempo y capacidad podemos devolverles a las personas para que hagan aquello que realmente requiere de ellas.