Evaluación del sesgo y la ecuanimidad de algoritmos de imagen médica

Los algoritmos predictivos corren el riesgo de comportarse de manera sesgada ante determinados patrones de entrada, lo que puede provocar que las decisiones basadas en ellos no sean ecuánimes. Para evitar estos comportamientos indeseados, es necesario prestar especial atención durante el diseño y la estimación de los modelos con el fin de identificar posibles riesgos de sesgo. En contextos de salud, la presencia de estos sesgos puede provocar una atención desigual a poblaciones ya de por sí vulnerables, aumentando aún más la brecha existente.
El proyecto AZEIA propone realizar un estudio de las metodologías existentes para la identificación y corrección de sesgos en sistemas inteligentes, con el objetivo de aplicarlas en el ámbito de la imagen médica. Para ello, se desarrollará una plataforma que permita analizar los riesgos de sesgo presentes en la creación de modelos predictivos. Esta plataforma facilitará también el entrenamiento de modelos corrigiendo los riesgos detectados y permitirá evaluar la equidad de los mismos una vez desplegados.
La validación del sistema se llevará a cabo mediante su demostración en dos escenarios: el cribado de cáncer de mama mediante mamografía y el diagnóstico de lesiones mamarias en muestras de anatomía patológica.