Pruebas de falsificaciones profundas y tecnología para la supervisión e investigación forense de contenidos

La IA está transformando la labor policial, ofreciendo nuevas herramientas para las fuerzas del orden, pero también permitiendo tácticas delictivas avanzadas que desafían los métodos tradicionales. La naturaleza global del crimen —incluyendo amenazas cibernéticas, trata de personas y terrorismo— exige soluciones innovadoras, ya que las agencias policiales (LEAs) enfrentan volúmenes masivos de datos y actividades delictivas cada vez más sofisticadas.

Uno de los mayores desafíos que ha traído la IA son los deepfakes: audio, video o texto falsos pero altamente realistas, que pueden mostrar a personas diciendo o haciendo cosas que nunca hicieron. Los deepfakes representan graves riesgos, afectando la política, la economía y la confianza social. Ejemplos incluyen videos manipulados de figuras políticas y audios clonados por voz para cometer fraudes financieros, muchas veces difundidos por redes sociales para engañar y estafar a gran escala.

Los insititutos forenses y los tribunales tienen dificultades para diferenciar las pruebas auténticas de las fabricaciones generadas por IA, especialmente en casos relacionados con la seguridad nacional. A pesar de los avances en la investigación para detectar estos fraudes, los métodos actuales son insuficientes, ya que se basan en conjuntos de datos limitados y poco diversos, y sus resultados tienen escasa validez legal.

La iniciativa DETECTOR busca dar respuesta a estos desafíos, brindando apoyo a las fuerzas del orden y a los expertos forenses en el análisis de medios alterados. Ofrece una solución integrada gracias a la colaboración transfronteriza entre investigadores en IA, cuerpos policiales, científicos forenses, expertos legales y especialistas en ética.

Los objetivos de DETECTOR incluyen:

• Desarrollar herramientas especializadas para detectar la manipulación de medios,

• Crear conjuntos de datos amplios y representativos,

• Investigar sobre el intercambio de pruebas digitales entre países,

• Involucrar a las partes interesadas, informar a los responsables políticos,

• Y formar a expertos forenses en medios digitales e inteligencia artificial.

A través de estas acciones, DETECTOR busca proteger la autenticidad de la evidencia digital y mejorar las capacidades forenses para hacer frente a la manipulación mediática impulsada por IA en toda Europa.