Fomentar la confianza en la atención médica impulsada por IA: Inteligencia Artificial generativa segura, imparcial y guiada por el conocimiento.

El aprendizaje automático (Machine Learning, ML) ofrece oportunidades transformadoras para la atención médica, con aplicaciones que abarcan desde la medicina de precisión hasta la optimización operativa. Sin embargo, su progreso se ve limitado por el acceso restringido a conjuntos de datos diversos y de alta calidad, agravado por la fragmentación, la escasez de datos y las estrictas regulaciones de privacidad.
Los métodos tradicionales de aumento de datos no logran capturar completamente la complejidad y heterogeneidad de los datos sanitarios. La inteligencia artificial generativa (IA generativa), especialmente los modelos de lenguaje de gran tamaño (LLMs), ofrece una alternativa prometedora al generar conjuntos de datos realistas y abordar la falta de datos.
No obstante, su adopción en el ámbito sanitario se ve obstaculizada por preocupaciones sobre su confiabilidad, entre ellas la validez semántica, la equidad, la mitigación de sesgos, la fidelidad, la preservación de la privacidad y la utilidad en el mundo real.
Esta investigación identifica brechas clave en el desarrollo de modelos generativos y métodos de ML confiables para la salud, como la ausencia de marcos estandarizados para evaluar datos sintéticos, la falta de confianza en los modelos generativos sanitarios, el alto consumo de recursos y la opacidad en su diseño.
El objetivo general del proyecto THUNDER es crear un marco integral para una IA generativa confiable y responsable en el ámbito sanitario. Esto se logrará mediante: (i) la definición de métricas de evaluación estandarizadas, (ii) el desarrollo de modelos generativos avanzados guiados por conocimiento, y (iii) la creación de modelos de aprendizaje diseñados para ser eficientes y transparentes desde su concepción.
Estos esfuerzos, impulsados por la movilidad y el intercambio de conocimiento interdisciplinar e intersectorial, establecerán un nuevo paradigma para la atención médica impulsada por IA. El proyecto se centrará en la sepsis, una prioridad mundial de salud identificada por la Organización Mundial de la Salud (OMS).