>
"Inteligencia artificial en publicaciones médicas"
Lic. Sofía Rui
Una referencia inexacta o un sesgo algorítmico en un artículo médico pueden representar un riesgo para la salud pública. Este artículo analiza el rol de la IA en la publicación médica y propone estándares concretos para preservar la integridad editorial.
La inteligencia artificial (IA) generativa entró al mundo académico con una velocidad inusitada. En medicina y ciencias de la salud, su adopción plantea una paradoja: las mismas herramientas que agilizan la escritura, el análisis de datos o la revisión bibliográfica también introducen riesgos nuevos para la integridad del conocimiento científico. Este artículo analiza ese impacto desde la perspectiva de la integridad editorial, tomando como punto de partida el Decálogo para el Uso Ético de la Inteligencia Artificial en Revistas Científicas y Académicas (CAICYT-CONICET, 2025) y ampliándolo con evidencia empírica reciente. El objetivo es contribuir a una reflexión informada sobre el uso responsable de estas tecnologías en el campo de la salud.
Expansión, alucinaciones y autoría. Los tres nudos de la IA en la literatura médica
El uso de herramientas basadas en grandes modelos de lenguaje (LLM, por sus siglas en inglés) en la investigación biomédica creció de forma sostenida desde 2022. Según un análisis publicado en Medicina (Buenos Aires) en 2024, la incorporación de estas herramientas en el proceso editorial plantea desafíos que van desde la definición de autoría hasta la verificación de la precisión de los contenidos generados.
En el campo de la salud, estos desafíos adquieren una dimensión particular: los errores en la literatura médica no son solo problemas académicos. Una referencia bibliográfica falsa, un dato clínico incorrecto o una interpretación sesgada puede traducirse, en última instancia, en decisiones terapéuticas erróneas. Por eso, los principios de integridad científica que rigen la publicación médica no son formalidades: son condiciones de seguridad del paciente.
Uno de los riesgos más documentados del uso de IA generativa en publicaciones científicas es la generación de referencias bibliográficas inexistentes, conocida coloquialmente como "alucinación". La evidencia empírica disponible es consistente y preocupante. Un estudio publicado en JMIR Medical Informatics en 2024 evaluó seis chatbots con prompts médicos y encontró que ChatGPT y Bing presentaron los niveles más altos de error, con hasta un 61,6% de fallas en la relevancia temática de las referencias generadas.
Este fenómeno no es menor en medicina. La validez de una revisión sistemática, una guía de práctica clínica o un artículo de investigación depende directamente de la veracidad de sus fuentes. El punto 9 del Decálogo del CAICYT es explícito al mencionar que los modelos de lenguaje no producen evidencia original ni pueden ser verificados como fuentes primarias.
Otro de los temas es el principio de autoría, central en la ética de la publicación científica. El Comité Internacional de Editores de Revistas Médicas (ICMJE) establece que dicha autoría requiere contribución sustancial al diseño o análisis de datos, participación en la redacción o revisión crítica, y responsabilidad sobre el trabajo publicado. Una herramienta de IA no puede cumplir ninguno de estos criterios porque carece de responsabilidad legal y de capacidad para responder por el contenido.
El punto 1 del Decálogo del CAICYT aclara que la autoría debe atribuirse exclusivamente a personas que hayan realizado contribuciones sustanciales al trabajo científico. En el punto 2 refuerza la idea de que la IA puede asistir en tareas específicas, pero no reemplaza el juicio crítico ni la toma de decisiones. En investigación en salud, donde las conclusiones pueden orientar protocolos clínicos o políticas sanitarias, esta distinción no es semántica: es ética.
La clave no es prohibir el uso, sino delimitar con claridad su rol. Un investigador en salud puede usar un asistente de IA para revisar la gramática de un manuscrito, generar borradores de tablas de resultados o análisis estadístico. El límite está en las secciones que requieren juicio profesional debido, a que un modelo de lenguaje no puede asumir la responsabilidad intelectual de interpretar hallazgos clínicos ni de elaborar conclusiones con implicancias para la práctica médica.
En ese marco, la adopción del Decálogo y recomendaciones de organismos como el ICMJE sobre tecnologías asistidas por IA, por parte de las revistas biomédicas argentinas, representaría un avance concreto hacia la armonización de los estándares editoriales nacionales, con el aval de uno de los principales organismos científicos del país.
Sesgos algorítmicos y equidad en la investigación en salud
Un aspecto menos discutido, pero de alto impacto en salud pública, es el riesgo de que los modelos de IA reproduzcan sesgos presentes en sus datos de entrenamiento. Si los corpus utilizados para entrenar un LLM contienen una representación desproporcionada de estudios realizados en poblaciones de altos ingresos o en países del norte global, el texto generado puede reproducir esos sesgos sin que el autor lo detecte.
En el punto 5 del Decálogo advierte que las herramientas de IA pueden replicar sesgos sociales, culturales o disciplinares. En investigación en salud pública, donde la evidencia debe reflejar las necesidades de poblaciones diversas, este principio es crítico. Una guía clínica construida sobre evidencia sesgada puede traducirse en intervenciones inadecuadas para contextos con perfiles epidemiológicos distintos al de las poblaciones de referencia.
Está claro que la inteligencia artificial generativa llegó para quedarse en el ámbito de la publicación médica. Sus potencialidades son reales para acelerar ciertos procesos, facilitar el acceso a información y apoyar tareas auxiliares del trabajo científico. En este punto, los diez principios que propone el Decálogo del CAICYT-CONICET vienen a ofrecer un marco de referencia valioso para las revistas de salud de la región. El desafío planteado para los equipos editoriales, investigadores y profesionales de la salud es incorporar estas tecnologías con criterio, capacitación y supervisión humana permanente. En un campo donde la evidencia orienta decisiones clínicas y políticas sanitarias, la calidad de lo que se publica no es un detalle menor, sino que es un asunto de salud pública.
Sofia Rui
Es licenciada en Nutrición (UNLP), especialista en Epidemiología. Docente titular de la Licenciatura en Nutrición en la Universidad Católica de La Plata (UCALP). Actualmente cursando la Maestría en Informática en Salud (EMIS) en la UNLP y residente postbásica en Investigación en Salud Pública y Epidemiología en el Instituto de Desarrollo e Investigaciones Pediátricas (IDIP), Hospital de Niños "Sor María Ludovica", La Plata, Buenos Aires. Sus líneas de investigación son nutrición materno-infantil y salud digital.