TrustwortHy basado en IA, escena explicable y predicción de movimientos y acciones

Las soluciones de movilidad automovilística conectada y cooperativa (CCAM) han surgido gracias a la novedosa inteligencia artificial (IA), que puede entrenarse con enormes cantidades de datos para producir funciones de conducción con un rendimiento superior al humano en determinadas condiciones. La carrera por la IA sigue creando marcos de hardware y software para gestionar y procesar conjuntos de datos reales y sintéticos aún más grandes con el fin de entrenar modelos de IA cada vez más precisos.
Sin embargo, la IA sigue siendo en gran medida inexplorada en lo que respecta a la explicabilidad (interpretabilidad del funcionamiento del modelo), la preservación de la privacidad (exposición de datos sensibles), la ética (sesgos y comportamientos deseados/no deseados) y la responsabilidad (responsabilidades de los resultados de la IA). Estas características sentarán las bases de una IA fiable, como un nuevo paradigma para comprender y confiar plenamente en el funcionamiento de la IA, al tiempo que se aprovechan todas sus capacidades en beneficio de la sociedad.
AITHENA contribuirá a establecer una IA explicable (XAI) en los marcos de desarrollo y prueba de CCAM, investigando los tres pilares principales de la IA: datos (gestión de datos reales/sintéticos), modelos (fusión de datos, enfoques híbridos de IA) y pruebas (configuraciones XiL físicas/virtuales con MLOps escalables).
Se creará una metodología centrada en el ser humano para derivar dimensiones de IA fiables a partir de las necesidades identificadas por los usuarios en las aplicaciones CCAM. AITHENA innovará proponiendo un conjunto de indicadores clave de rendimiento (KPI) sobre XAI y un análisis para explorar las compensaciones entre estas dimensiones.

Los demostradores mostrarán la metodología AITHENA en cuatro casos de uso críticos: percepción (qué percibe la IA y por qué), conciencia situacional (qué entiende la IA sobre el entorno de conducción actual, incluido el estado del conductor), decisión (por qué se toma una determinada decisión) y gestión del tráfico (cómo interactúan las aplicaciones a nivel de transporte con los sistemas habilitados para la IA que operan a nivel de vehículo).
Los datos y las herramientas creados se pondrán a disposición a través de iniciativas europeas de intercambio de datos (OpenData y OpenTools) para fomentar la investigación sobre IA fiable para CCAM.