Archivo - Telemedicina - PEOPLEIMAGES/ISTOCK - Archivo
MADRID, 9 Dic. (EUROPA PRESS) -
La llegada masiva de la inteligencia artificial a la medicina promete facilitar la vida de los profesionales, pero también plantea un riesgo silencioso: ¿podría estar afectando la forma en que los médicos piensan y toman decisiones? La dependencia de estas herramientas podría estar moldeando de manera sutil, pero profunda, a quienes están en formación.
EL RIESGO OCULTO DE LA IA EN LA FORMACIÓN MÉDICA
La dependencia excesiva de la IA generativa corre el riesgo de erosionar las capacidades de pensamiento crítico de los médicos nuevos y futuros, al tiempo que potencialmente refuerza el sesgo y la inequidad de los datos existentes, advierte un editorial de expertos de la Universidad de Missouri (Estados Unidos), publicado en la revista 'BMJ Evidence Based Medicine'.
Las herramientas GenAI ya se están utilizando ampliamente en medio de pocas políticas institucionales y orientación regulatoria, señalan los autores, quienes instan a los educadores médicos a ejercer vigilancia y ajustar los planes de estudio y la capacitación para mitigar los peligros de la tecnología.
El uso de IA se utiliza ahora en una amplia gama de tareas diferentes, pero junto con su creciente potencial viene un riesgo cada vez mayor de dependencia excesiva de ella y una serie de problemas potenciales para los estudiantes de medicina y los médicos en formación, señalan los autores de la Universidad de Missouri.
SESGOS, ERRORES Y DEPENDENCIA: LOS PELIGROS DE LA AUTOMATIZACIÓN
Estos incluyen, entre otros, un sesgo de automatización, es decir, la confianza acrítica en la información automatizada después de un uso prolongado. También descarga cognitiva y externalización del razonamiento al trasladar la recuperación, evaluación y síntesis de información a la IA, lo que socava el pensamiento crítico y la retención de la memoria
Asimismo, preocupa la descualificación o el debilitamiento de las habilidades, lo cual es especialmente importante para los estudiantes de medicina y los médicos recién calificados que están aprendiendo la habilidad en primer lugar y que carecen de la experiencia para investigar los consejos de la IA.
Otras cuestiones es que se refuerzan los sesgos y la inequidad de los datos existentes; se producen alucinaciones en forma de información fluida y plausible, pero inexacta; o violaciones de la privacidad, la seguridad y la gobernanza de datos. Los autores sugieren varios cambios para ayudar a minimizar estos riesgos, incluida la calificación del proceso, en lugar de solo el producto final en las evaluaciones educativas, asumiendo que los estudiantes habrán utilizado IA.
Por todo ello, consideran necesario diseñar evaluaciones de habilidades críticas que excluyan la IA, utilizando estaciones supervisadas o exámenes en persona (especialmente importantes para la comunicación junto a la cama del paciente, el examen físico, el trabajo en equipo y el juicio profesional), sugieren los autores.
Y puede ser prudente evaluar la IA en sí misma como una competencia, porque "la alfabetización de datos y la enseñanza del diseño, desarrollo y evaluación de la IA son más importantes ahora que nunca, y este conocimiento ya no es un lujo para los estudiantes y médicos en formación", añaden.
Los médicos en formación deben comprender los principios y conceptos que sustentan las fortalezas y debilidades de la IA, así como dónde y cómo se pueden incorporar de forma útil las herramientas de IA en los flujos de trabajo clínicos y las vías de atención. Además, enfatizan que deben saber cómo evaluar el rendimiento previsto y los posibles sesgos a lo largo del tiempo.
"Es especialmente necesaria una enseñanza mejorada del pensamiento crítico, lo cual puede lograrse mediante la creación de casos donde los resultados de la IA sean una combinación de respuestas correctas e intencionalmente erróneas.
PREPARAR A LOS MÉDICOS PARA UN USO RESPONSABLE DE LA IA
Los estudiantes entonces aceptarían, modificarían o rechazarían, y justificarían su decisión con fuentes primarias basadas en evidencia", sugieren los autores. Los reguladores, las sociedades profesionales y las asociaciones educativas de todo el mundo también deben desempeñar su papel, produciendo y actualizando periódicamente orientaciones sobre el impacto de la IA en la educación médica, instan los autores.
Concluyen: "La IA generativa tiene beneficios documentados y bien investigados, pero no está exenta de inconvenientes, especialmente para la educación médica y los estudiantes noveles. Estas herramientas pueden falsificar fuentes, codificar sesgos, generar una dependencia excesiva y tener efectos negativos en la trayectoria educativa. Los programas médicos deben estar atentos a estos riesgos y adaptar sus planes de estudio y programas de capacitación para anticiparse a ellos y mitigar su probabilidad".
