Archivo - IA, inteligencia artificial - ISTOCK - Archivo
MADRID, 14 Sep. (EUROPA PRESS) -
En un reciente ensayo analítico, el doctor Terry Adirim, del Departamento de Pediatría y del Departamento de Medicina Preventiva y Bioestadística de la Uniformed Services University of the Health Sciences (Bethesda, Maryland), y la doctora Amy Molten, del Departamento de Pediatría de la Facultad de Medicina de la Universidad de Tufts (Boston, Massachusetts), ambos de Estados Unidos, examinan los desafíos éticos del uso de la IA en la salud pública, destacando el potencial de estos sistemas para reforzar las desigualdades sanitarias existentes.
Los autores sostienen que una implementación responsable de la IA requiere una gobernanza que atienda las necesidades de las poblaciones históricamente marginadas. El estudio se publica en línea en 'American Journal of Public Health'.
"El problema fundamental de la IA en el ámbito de la salud pública es estructural, más que técnico", apunta el doctor Adirim. Así, el análisis identifica riesgos éticos críticos, como la discriminación, la vigilancia y las violaciones de la privacidad, que afectan a poblaciones históricamente marginadas, incluidos niños, comunidades minoritarias, pueblos indígenas y personas con discapacidad.
Al analizar diversos conjuntos de datos, la IA puede generar resultados sesgados. Además, el uso de datos comerciales, como el rastreo de ubicación, difumina la línea entre la vigilancia de la salud pública y la privacidad del consumidor, mientras que las herramientas de IA conductual conllevan el riesgo de manipulación, desinformación y vulneración de la autonomía.
Para mitigar estas amenazas, el análisis recomienda evaluaciones del impacto en la equidad, monitoreo continuo de sesgos, protección de la soberanía de los datos y validación por parte de la comunidad local. También sugiere supervisión humana en las decisiones importantes y estándares nacionales para la transparencia y las pruebas de equidad de la IA.
Al explicar el valor de este enfoque, el doctor Adirim recalca: "Las amenazas a la privacidad del desarrollo infantil difieren de las preocupaciones sobre la soberanía de los datos de las comunidades indígenas; los riesgos de clasificación errónea para los adultos mayores difieren de los temores relacionados con la vigilancia de las familias indocumentadas o las personas encarceladas; las barreras de la brecha digital que enfrentan las poblaciones rurales y globales difieren de los riesgos de manipulación basados en la interacción que enfrentan las personas con problemas de salud mental. Por lo tanto, el uso responsable de la IA en la práctica de la salud pública debe ajustarse a esta diversidad y combinar una gobernanza transversal con la validación específica de la población, la participación comunitaria y las salvaguardias adaptadas a cada grupo".
Los autores concluyen que una IA responsable en salud pública requiere gobernanza y rendición de cuentas para salvaguardar la diversidad de la población. Este enfoque fortalece la salud pública al tiempo que protege la equidad, la transparencia y la confianza de la comunidad.
