Texto: Jaime Fernández, Fotografía: Jesús de Miguel – 28 nov 2024 10:58 CET
El proyecto internacional HEROES, liderado desde la Universidad Complutense, tiene como objetivo principal utilizar la tecnología para mejorar la forma en que se puede proporcionar ayuda y apoyo a las víctimas de trata de seres humanos y de abuso y explotación sexual infantil. La Facultad de Informática de la UCM ha acogido el congreso final de este proyecto, donde se han presentado los principales resultados, así como los siguientes pasos en una iniciativa que busca prevenir, investigar y asistir a las víctimas. El profesor de Informática, Luis Javier García Villalba, investigador principal de HEROES y director del Grupo de Análisis, Seguridad y Sistemas (GASS) de la UCM, y Ana Lucila Sandoval Orozco, miembro de GASS e investigadora de la Facultad de Informática en el Departamento de Ingeniería del Software e Inteligencia Artificial, explican los objetivos logrados y los retos por venir.
Desde su nacimiento en diciembre de 2021, el proyecto, financiado por la convocatoria europea Horizonte 2020, se planteó abordar las problemáticas de abuso y protección sexual infantil, así como la de tráfico de personas desde una perspectiva global. Incluyendo desde el primer momento el elemento de la prevención y la asistencia a víctimas, porque ellas son las que “tienen que identificar a los perpetradores y sus testimonios son los que ayudan a que el crimen se condene. Si se las ayuda, al tiempo que se reduce la revictimización, se puede conseguir que las condenas sean más efectivas”.
A esos dos elementos, el de la prevención y la asistencia, HEROES unió el de la investigación, para lo que se buscaron expertos de diferentes áreas que permitiesen combinar los perfiles tecnológicos con los más sociales, lo que ha resultado “muy enriquecedor y ha ayudado a que se fueran desarrollando tecnologías en línea con la parte de ciencias sociales y humanas”.
Los diferentes perfiles se encontraron en socios de diecisiete países: España, Reino Unido, Bélgica, Francia, Grecia, Austria, Suiza, Irlanda, Bangladesh, Lituania, Portugal, Colombia, Brasil, Letonia, Bulgaria, Uruguay y Perú. Incluidos un buen número de investigadores de la Universidad Complutense, provenientes de las facultades de Filología, Ciencias Económicas y Empresariales, Derecho, Ciencias Matemáticas, Ciencias Políticas y Sociología, Estudios Estadísticos, Trabajo Social e Informática.
En vista de la imposibilidad de abarcarlo todo, se creó un proyecto en paralelo a HEROES, denominado ALUNA, financiado por la Comisión Europea y coordinado también desde la UCM. ALUNA comenzó en junio de 2023 y se centra fundamentalmente en actividades adicionales que no se han podido cubrir con el proyecto principal como el análisis multimedia de imágenes y vídeos, incluyendo el análisis de audio. Y, por supuesto, ya se está pensando en otro ambicioso proyecto que continué los pasos de estos dos, porque, “por desgracia el problema del abuso sexual infantil no es un asunto zanjado, ni mucho menos”.
Herramientas desarrolladas
Ana Lucila Sandoval Orozco, que ha estado desde el principio en el desarrollo de HEROES, explica que en la UCM se han creado una serie de herramientas como una anti-grooming. El grooming se define como la forma de abuso que ocurre cuando un adulto se gana la confianza de un menor de edad con el propósito de manipularlo y explotarlo sexualmente. La herramienta anti-grooming desarrollada por la Complutense permite analizar, mediante IA, las imágenes que llegan a aplicaciones de mensajería instantánea, de dispositivos de niños y adolescentes, para conocer si son material sensible. En caso afirmativo, se envía una notificación a su tutor para que este valore si realmente la imagen o el vídeo que se ha recibido es sensible, y para que este reporte a la policía.
Por supuesto, la tecnología no comparte ningún tipo de información del menor, garantizando la protección de sus datos, porque “no tiene la intención de controlar al menor, sino de protegerlo frente a un material que sea nocivo para él”. Además, en el desarrollo de la herramienta se tiene en cuenta que hay diferentes tipos de edades, y no es lo mismo un niño, donde es un padre quien decide las aplicaciones que instala, que un adolescente con capacidad propia de decisión.
Más allá de la herramienta en sí, se busca empoderar a “los adolescentes y a los niños para que entiendan que la mejor arma para protegerse es conocer el riesgo que están corriendo y que ese tipo de contenido no lo deben compartir. Y ahí el diálogo con los padres, o tutores, es la mejor solución”. En esa tarea educativa y de empoderamiento juegan un gran papel las ONG que están en el consorcio y que conocen bien cómo fortalecer la comunicación entre los hijos y los tutores.
Otra de las herramientas diseñadas por la Universidad Complutense permite extraer textos que acompañan a las imágenes, filtrarlos y analizar si tienen contenidos sensibles; otra más permite a la policía identificar automáticamente material en el que haya menores involucrados en abusos sexuales; una cuarta aplicación permite automatizar algunos procesos en investigaciones que realiza la policía, y todavía quedaría una quinta aplicación de la que los responsables no pueden dar detalles, aunque sí informan de que diferentes cuerpos policiales ya han probado las herramientas en una fase piloto, con resultados muy satisfactorios.
Con el proyecto ALUNA, que termina a mediados de 2025, “se van a perfeccionar algunas de las herramientas desarrolladas”, aprovechando todo el bagaje de aprendizaje que ha implicado el proyecto HEROES, “liderando y coordinando a este consorcio multidisciplinar, y con gente tan brillante”, asegura Luis Javier García Villalba.
Los 24 socios del consorcio HEROES, ubicados en 17 países diferentes son: tres universidades (UCM, UNIKENT, VUB), dos pequeñas y medianas empresas (IDENER RD, TRI), tres organizaciones de investigación y tecnología (INRIA, KEMEA, ARC), seis agencias de aplicación de la ley (ESMIR, ELAS, SPL, GDCOC, BFPD, PRF), una organización internacional (ICMPD), ocho ONG (CWCS, KOPZI, APAV, RENACER, GCR, GI-TOC, ASBRAD, ICMEC CH) y una organización gubernamental (GOSIEE). Gran parte de ellas repiten en ALUNA.