Este ateneo explora el uso de IA y LLM en la síntesis de historias clínicas, evaluando su impacto en la carga cognitiva, la calidad documental y el rol del médico como editor crítico, junto con sus riesgos y desafíos en la práctica clínica.

La práctica clínica contemporánea se enfrenta a una crisis de saturación de datos en las historias clínicas electrónicas (HCE). Los médicos dedican una proporción desmedida de tiempo a tareas administrativas en lugar de a la atención directa. Actualmente, hasta un 70% del tiempo de una consulta estándar se invierte en la interacción con la interfaz digital, limitando el contacto directo con el paciente a un promedio de 7 minutos. Esta carga cognitiva no solo está directamente correlacionada con el síndrome de desgaste profesional, sino que representa un factor de riesgo para la seguridad del paciente, al incrementar la probabilidad de errores por omisión o por fatiga de alarmas.

En este contexto, la gestión y síntesis de la información se vuelve un punto crítico, y es donde surgen oportunidades para el uso de nuevas herramientas tecnológicas. Al hablar de nuevas herramientas, no podemos dejar de mencionar a la inteligencia artificial (IA), que se puede definir como un campo de la informática en salud o un conjunto de tecnologías que desarrollan sistemas capaces de realizar tareas que imitan expresiones o funciones de la inteligencia humana, como la cognición, el aprendizaje, la adaptabilidad y la lógica.

A su vez, un subcampo de esta son los modelos de lenguaje de gran tamaño (LLM), que son modelos de aprendizaje profundo capaces de modelar patrones lingüísticos complejos mediante la predicción probabilística de texto. A diferencia de los sistemas tradicionales, los LLM ofrecen una capacidad para la síntesis de datos no estructurados (texto libre), que constituye la mayor parte de la información en las HCE. En el campo de la informática en salud, se busca pasar de la simple digitalización de datos a su procesamiento inteligente, evaluando si estos modelos pueden generar borradores de alta calidad que reduzcan la carga cognitiva y el burnout sin comprometer la seguridad de los pacientes y los estándares de calidad.

En este contexto, resulta relevante explorar no solo si la Inteligencia Artificial puede alcanzar niveles comparables a los de un profesional humano, sino también cómo se integra en la práctica clínica cotidiana. En particular, cobra interés el modelo de “humano en el circuito” (human-in-the-loop), donde el profesional interactúa con sistemas de IA como parte del proceso de generación y validación de información. En este sentido, distintos enfoques proponen evaluar estas herramientas mediante métricas objetivas de esfuerzo de edición, así como analizar potenciales riesgos asociados, incluyendo confabulaciones (alucinaciones) y sesgos algorítmicos. A lo largo de este ateneo, se presentarán y discutirán estos aspectos con el objetivo de analizar el potencial, las limitaciones y los desafíos del uso de modelos de lenguaje en la síntesis de información clínica.

Para evaluar el escenario de atención primaria, se analizó una investigación publicada en JAMIA Open por Shemtob y colaboradores titulada: Comparando resúmenes de historias clínicas electrónicas simuladas de atención primaria generadas por inteligencia artificial versus elaborados por médicos. El diseño experimental utilizó historias clínicas simuladas de alta complejidad, comparando la calidad de los resúmenes redactados por médicos generales frente a los generados por IA.

Este estudio demuestra que el uso de LLM para resumir historias clínicas en atención primaria es no sólo factible, sino también útil y aceptable para los profesionales. Aunque la tecnología no sustituye el juicio clínico, actúa como un facilitador crítico de la productividad. El camino a seguir requiere validar estos hallazgos con datos de pacientes reales en entornos seguros y evaluar el impacto de estas herramientas en puntos finales clínicos objetivos, como la reducción de errores médicos y la mejora de los resultados en salud.

Trasladando el análisis al entorno de internación, caracterizado por una alta densidad de datos episódicos analizaremos una investigación publicada en JAMIA Open por Small y colaboradores titulada: Estudio: Evaluación de la síntesis del resumen la internación mediante un LLM integrado a la historia clínica electrónica.

La transición de cuidados al alta hospitalaria es un proceso crítico para la seguridad del paciente, y dentro de este, el resumen del curso hospitalario es un componente esencial para garantizar la continuidad informativa. Sin embargo, en la práctica contemporánea, estos resúmenes se han vuelto cada vez más extensos, redundantes e inexactos, lo que supone una carga cognitiva y administrativa tediosa para el médico. Factores como el aumento en la complejidad de los pacientes, el volumen de documentación y los múltiples pases de guardia han degradado la calidad de las notas y han contribuido significativamente al agotamiento profesional o burnout. 

El objetivo principal de este estudio fue comparar el esfuerzo de edición requerido por médicos residentes, bajo restricciones de tiempo, para mejorar borradores de cursos hospitalarios generados por una IA frente a borradores redactados originalmente por médicos.

Bajo una simulación de presión asistencial, los residentes tuvieron 10 minutos para revisar la historia clínica y solo 3 minutos para editar cada borrador, sin saber si el texto había sido generado por un colega o por la IA. Los resultados revelaron diferencias estadísticamente significativas a favor del uso de la inteligencia artificial. Los residentes editaron un porcentaje significativamente menor de los borradores generados por la IA en comparación con los generados por médicos, con un promedio del 31.5% frente al 44.8% respectivamente. Asimismo, los borradores de la IA requirieron menos cambios semánticos para alcanzar el estándar de calidad, lo que sugiere que la base inicial proporcionada por el modelo era más sólida. En cuanto a la evaluación cualitativa realizada por los médicos hospitalistas, los resúmenes de la IA fueron calificados como significativamente más completos, logrando capturar mejor la presentación inicial, el tratamiento y la resolución al alta. No se encontraron diferencias significativas en cuanto a la concisión o la cohesión narrativa entre ambos grupos.

Sin embargo, es fundamental señalar que los resúmenes de la IA presentaron una mayor incidencia de confabulaciones o alucinaciones, aunque la mayoría de estas fueron calificadas como menores o derivadas de errores en la secuenciación de eventos. A pesar de esto, las puntuaciones compuestas de calidad final fueron similares. 

Como conclusión, este estudio demuestra que la asociación entre médicos y LLM integrados en la historia clínica electrónica es una estrategia viable para mejorar la calidad de la documentación clínica y reducir el esfuerzo administrativo. Si bien la IA ofrece borradores más completos y listos para su uso, el riesgo persistente de confabulaciones exige que las instituciones implementen estas herramientas con marcos de gobernanza, educación para el usuario y salvaguardas de seguridad robustas. La informática en salud debe liderar este camino, pasando de la simple automatización a la creación de asociaciones humano–IA que prioricen la precisión clínica y la seguridad del paciente. Este concepto se retomará más adelante. 

Ya no discutimos únicamente si la tecnología tiene la capacidad de sintetizar grandes volúmenes de información, sino bajo qué marco funcional el profesional debe interactuar con ella para que esta eficiencia no comprometa la integridad del acto médico. La transición del médico hacia un rol de 'editor clínico', que hemos mencionado en las secciones anteriores, requiere un análisis profundo de los riesgos inherentes a esta asociación.

Es por esto que analizaremos brevemente algunos riesgos, críticas y estrategias planteadas en este punto de vista titulado: Estrategias de reducción de daños para el uso reflexivo de los LLM en el ámbito médico: perspectivas para pacientes y clínicos.

Ahora bien, ¿cuáles son esos riesgos?

• En primer lugar, las limitaciones técnicas propias de los modelos.
• Las denominadas alucinaciones, donde el sistema genera información clínicamente plausible pero incorrecta.
• El sesgo algorítmico, que puede amplificar inequidades preexistentes.
• Y la opacidad del modelo, que dificulta comprender cómo se generan sus respuestas.

Pero más allá de lo técnico, lo más relevante son los riesgos en la práctica clínica. Todo esto genera lo que los autores denominan una exposición profesional asimétrica: el algoritmo redacta las sugerencias, pero el médico y la institución asumen la carga desproporcionada de la responsabilidad legal y ética. A esto se suman los problemas de privacidad, especialmente cuando se utilizan herramientas no integradas en entornos seguros.

Frente a esto, emerge un concepto central para este ateneo, que es el de humano en el circuito. Esto implica que la inteligencia artificial no reemplaza el juicio clínico, sino que produce borradores que deben ser necesariamente revisados, validados y contextualizados por el profesional. En este modelo, el médico deja de ser únicamente un generador de contenido para convertirse en un evaluador crítico y editor de la información.

En síntesis, el valor del binomio humano–IA no reside únicamente en la eficiencia que aporta la tecnología, sino en la capacidad del profesional para supervisarla críticamente. Porque, en última instancia, la responsabilidad sobre la decisión clínica sigue siendo indelegable. A modo de integración con nuestro contexto, voy a presentar brevemente una experiencia local vinculada al uso de inteligencia artificial en la práctica. En este sentido, el Tana constituye una iniciativa desarrollada por el Departamento de Informática en Salud del Hospital Italiano de Buenos Aires. Se trata de un asistente virtual orientado a distintos actores del sistema de salud (profesionales, pacientes, docentes, investigadores y gestores) con el objetivo de mejorar  y contribuir a una atención más segura y personalizada.

Inicialmente, Tana se implementó como un copiloto clínico, sin embargo, su desarrollo evolucionó hacia un ecosistema más amplio, que incluye distintos módulos orientados a funciones específicas, como soporte al paciente, auditoría, generación de reportes, educación, investigación y gestión.

Esto refleja un enfoque más integral del uso de modelos de lenguaje, no limitado a un único caso de uso, sino extendido a múltiples procesos dentro del sistema de salud. Dentro de este ecosistema, me voy a centrar brevemente en el denominado copiloto asistencial, que es la herramienta integrada directamente en la historia clínica. Su objetivo principal es facilitar el acceso a la información clínica mediante consultas en lenguaje natural, funcionando como una herramienta de recuperación y síntesis de datos.

En línea con lo discutido previamente respecto al uso seguro de estos sistemas, su implementación estuvo acompañada por instancias de capacitación orientadas al uso correcto y responsable por parte de los profesionales. Es importante destacar que se trata de una herramienta asistencial: las respuestas incluyen referencias temporales específicas (como fecha y ubicación de los datos) y requieren siempre validación por parte del clínico. De esta manera, el diseño del sistema incorpora explícitamente el principio de humano en el circuito, posicionando al profesional como responsable final de la interpretación y utilización de la información.

Como reflexión, debemos plantearnos el balance crítico que presenta esta herramienta. Por un lado, existen ganancias de eficiencia innegables. Como se observó en los estudios, la IA permite procesar grandes volúmenes de texto no estructurado, generar resúmenes más exhaustivos y reducir en aproximadamente un 15% el esfuerzo de edición requerido por el médico. Esto resulta especialmente relevante si se busca abordar el burnout desde su raíz.

Sin embargo, en contraposición, persisten riesgos latentes. La IA no es perfecta: presenta alucinaciones, muchas veces sutiles, y, de forma más preocupante, puede inducir el denominado sesgo de automatización. Es decir, que el médico, frente a un texto bien redactado, puede disminuir su nivel de escrutinio y validar información sin una revisión crítica adecuada.

Por lo tanto, si pensamos en escalar estas herramientas a nivel institucional, emergen tres desafíos principales.

En primer lugar, el impacto cognitivo. Existe la preocupación por el deskilling: si los residentes dejan de sintetizar historias clínicas de forma manual, ¿podrían perder con el tiempo esta habilidad crítica para el razonamiento clínico?.

En segundo lugar, la responsabilidad legal. La herramienta puede redactar, pero la firma y la responsabilidad profesional siguen siendo del médico. Esto plantea interrogantes sobre quién responde ante errores sistemáticos del algoritmo.

Por último, la privacidad. Es fundamental garantizar que la infraestructura de IA funcione en entornos cerrados y bajo gobernanza institucional, asegurando la protección de los datos sensibles de los pacientes de extremo a extremo.

Estamos frente a un verdadero cambio de paradigma. El rol del médico está evolucionando: dejamos de ser redactores de texto en blanco para convertirnos en editores y validadores críticos de la información. En este contexto, el modelo human-in-the-loop no es negociable: la IA funciona como un copiloto, pero el control del proceso sigue siendo del profesional.

Por último, la adopción de estas tecnologías es inevitable. Por ello, nuestra postura debe apoyarse en un marco ético de reducción de daños, centrado en educar a los profesionales sobre los límites de la IA y en promover un uso seguro y reflexivo.

 

Referencias bibliográficas 

1. Small, W. R., Austrian, J., O’Donnell, L., Burk-Rafel, J., Hochman, K. A., Goodman, A., Zaretsky, J., Martin, J., Johnson, S., Major, V. J., Jones, S., Henke, C., Verplanke, B., Osso, J., Larson, I., Saxena, A., Mednick, A., Simonis, C., Han, J., … Feldman, J. (2025). Evaluating hospital course summarization by an electronic health record-based large language model. JAMA Network Open, 8(8), e2526339. https://doi.org/10.1001/jamanetworkopen.2025.26339
2. Shemtob, L., Nouri, A., Harvey-Sullivan, A., Qiu, C. S., Martin, J., Martin, M., Noden, S., Rob, T., Neves, A. L., Majeed, A., Clarke, J., & Beaney, T. (2025). Comparing artificial intelligence- vs clinician-authored summaries of simulated primary care electronic health records. JAMIA Open, 8(4), ooaf082. https://doi.org/10.1093/jamiaopen/ooaf082
3. Moëll, B., & Sand Aronsson, F. (2025). Harm reduction strategies for thoughtful use of large language models in the medical domain: Perspectives for patients and clinicians. Journal of Medical Internet Research, 27, e75849. https://doi.org/10.2196/75849

 

Accedé al video completo a través de este enlace.