Archivo - Doctor examina rayos X - IGOR STEVANOVIC - Archivo
VALÈNCIA 6 Oct. (EUROPA PRESS) -
Un estudio de INGENIO, centro del Consejo Superior de Investigaciones Científicas (CSIC), y la Universitat Politècnica de València (UPV), propone un marco ético para incorporar la inteligencia artificial (IA) a los sistemas de apoyo a las decisiones clínicas sin desplazar el juicio y la responsabilidad de las personas.
El trabajo, publicado en la revista Science and Engineering Ethics, sostiene que estos sistemas basados en IA deberían diseñarse como herramientas de apoyo al juicio humano. Para ello, propone aplicar un marco basado en la ética discursiva que permita incorporar la reflexión ética al proceso de toma de decisiones.
Estas herramientas informáticas, conocidas como CDSS por sus siglas en inglés, analizan información clínica y ofrecen a los profesionales sanitarios datos, predicciones o recomendaciones que pueden ayudarles a tomar decisiones sobre el diagnóstico o tratamiento de un paciente.
Su incorporación a la práctica médica plantea nuevos interrogantes éticos: hasta qué punto debe seguirse una recomendación automatizada en una decisión clínica; cómo puede justificarse el resultado ofrecido por un algoritmo; o quién asume la responsabilidad sobre la decisión final. El respeto a la autonomía, así como evitar la deshumanización y la dilución de responsabilidad son los grandes retos para la integración de la IA en las tomas de decisiones clínicas.
Según el estudio, la ética discursiva parte de la idea de que las normas que afectan a las personas deben poder justificarse racionalmente mediante el diálogo y la participación de quienes se ven afectados por ellas. Así lo ha explicado Félix Lozano, investigador de INGENIO y autor del trabajo: "Aplicado al ámbito clínico, este enfoque busca que las recomendaciones generadas por la IA puedan ser comprendidas, cuestionadas y valoradas dentro de un proceso de deliberación humana".
El trabajo plantea que la reflexión ética debe estar presente desde el diseño y desarrollo de estos sistemas y mantenerse durante su aplicación. En este proceso deberían participar no solo los desarrolladores de software, sino también profesionales sanitarios, expertos en ética y las personas afectadas por las decisiones del sistema, incluidos los pacientes.
"La IA en las decisiones clínicas no debería valorarse únicamente por su precisión o capacidad para realizar predicciones", ha afirmado Lozano. Su diseño, ha añadido el investigador, debe garantizar que estas herramientas preserven la autonomía de pacientes y profesionales y permitan comprender y cuestionar las recomendaciones que generan.
Para que los sistemas de apoyo a las decisiones clínicas tomen decisiones éticas, deberían funcionar como herramientas que faciliten la deliberación y aporten información relevante para tomar una decisión, sin sustituir el juicio de las personas implicadas.
Sus recomendaciones deberían ser comprensibles y trazables, de forma que puedan ser evaluadas por los profesionales sanitarios. La responsabilidad sobre las decisiones, de esta manera, seguiría recayendo en los profesionales sanitarios, al tiempo que se preserva la autonomía informada de los pacientes.
Para avanzar hacia este modelo, el trabajo señala la necesidad de incorporar la reflexión ética durante todo el desarrollo y aplicación de estas tecnologías. Esto requiere, según el autor, un trabajo interdisciplinar que conecte ámbitos como la filosofía moral, la ingeniería de datos y las políticas públicas. Esta investigación contó con el apoyo de la Conselleria de Cultura, Educación y Ciencia de la Generalitat Valenciana (CIBEST/2024/270).
