Vicomtech acoge en sus instalaciones la primera reunión del proyecto AutoTrust, basado en el desarrollo de IA confiable aplicado al sector CCAM
Ayer se realizó la primera reunión técnica del proyecto en la que los 8 socios acudieron a las instalaciones de Vicomtech para dar comienzo al mismo
10.10.2023
Es una realidad que, en los últimos diez años, el sector CCAM (Connected, Cooperative and Automated Mobility) ha experimentado un crecimiento exponencial gracias a los grandes avances en Inteligencia Artificial, sensores, comunicaciones, infraestructuras y plataformas de datos.
Sin embargo, según el Acta de Inteligencia Artificial de la Unión Europea, las aplicaciones CCAM se consideran de riesgo medio y alto cuando la seguridad de los ciudadanos está en manos de sistemas de conducción autónoma controlados por componentes de inteligencia artificial. En la actualidad, los sistemas de inteligencia artificial se desarrollan a través de la experiencia adquirida mediante el extenso entrenamiento con grandes conjuntos de datos, permitiendo que los modelos de IA aprendan a generalizar y sean capaces de percibir, tomar decisiones y actuar. No obstante, este método de funcionamiento convierte a la IA en una "caja negra" en el sentido de que su comportamiento en el mundo real sigue siendo altamente impredecible. Así, se está empezando a percibir la IA como careciente de transparencia y confiabilidad, y potencialmente propensa a sesgos y vulnerabilidades a ataques, además de incertidumbres en relación con los aspectos éticos y de privacidad asociados con su desarrollo.
Así, Europa obliga y apuesta por la IA confiable, buscando adoptar metodologías que aseguren la transparencia de la IA, abordando aspectos como la robustez, privacidad, explicabilidad, responsabilidad y ética.
En este contexto nace AutoTrust, que, respondiendo a la necesidad europea regulatoria de una IA Confiable, consiste en plantear dos aproximaciones tecnológicas que evolucionen el concepto de base de Inteligencia Artificial hacia una IA Explicable y hacia procesos de Evaluación de la Inteligencia Artificial. El objetivo general es investigar y proponer metodologías prácticas de desarrollo de IA Confiable que proporcionen transparencia a los sistemas de IA aplicados a aplicaciones de CCAM.
La reunión del kick off celebrada en las instalaciones de Vicomtech supuso el primer encuentro del consorcio para arrancar el proyecto, liderado por el mismo centro, y financiado por el programa Elkartek.
