La UJA combate el antigitanismo y el discurso de odio mediante IA a través del proyecto europeo RomaNET
El grupo de investigación Sinai participa en una iniciativa que aborda la detección, la notificación y la mitigación del odio y la desinformación dirigidos contra la comunidad romaní
La Universidad de Jaén, a través del grupo de investigación Sinai (Sistemas Inteligentes de Acceso a la Información), participa en el proyecto europeo RomaNET, una iniciativa transnacional que ya está en marcha y que tendrá una duración de dos años. Este proyecto aborda de forma conjunta la detección, la notificación y la mitigación del odio y la desinformación dirigidos contra la comunidad romaní, combinando formación, trabajo con organizaciones de la sociedad civil y autoridades, y soluciones tecnológicas basadas en Inteligencia Artificial (IA).
En este sentido, el proyecto RomaNET se propone fortalecer la cooperación entre organizaciones roma y autoridades públicas, mejorar los mecanismos de reporte y asistencia a víctimas y desarrollar herramientas tecnológicas que permitan detectar contenidos de odio en redes y generar contra-narrativas culturalmente sensibles para bloquear la normalización del antigitanismo. El proyecto incluye además formación para mediadores, periodistas y personal de ONGs, adaptación de modelos del lenguaje y protocolos de trabajo conjunto entre organizaciones de la sociedad civil y autoridades.
En concreto, el grupo Sinai aporta al consorcio su experiencia en tecnologías de lenguaje, puesto que lleva años desarrollando proyectos de PLN y moderación automática de contenidos, con trabajos en iniciativas como Consenso, Moderates o SocialTox, entre otros. Esa trayectoria posiciona al grupo como partner tecnológico clave para la detección y la generación automática de discurso alternativo (counter-speech) dirigido a proteger a colectivos vulnerables.
La investigadora principal de la UJA en el proyecto RomaNET es la catedrática Maite Martín Valdivia, especialista en detección y mitigación del discurso de odio y en generación automática de contra-narrativas. Con más de dos décadas de experiencia investigadora, Maite Martín cuenta con una trayectoria que incluye publicaciones de referencia, el desarrollo de corpus específicos en español y una activa participación en proyectos de transferencia de conocimiento en este ámbito.
Asimismo, la doctora Martín colabora habitualmente con entidades y grupos de trabajo que abordan el fenómeno del odio y la desinformación desde una perspectiva integral (jurídica, social y tecnológica). Entre otras instituciones, ha trabajado con el Observatorio Español del Racismo y la Xenofobia (Oberaxe) o la Oficina Nacional de Lucha contra los Delitos de Odio (Ondod), y forma parte del Grupo de Trabajo de Desinformación y Discurso de Odio creado por el Departamento de Seguridad Nacional, dependiente del Ministerio de la Presidencia.
“RomaNET combina tecnología, conocimiento legal y trabajo comunitario para ofrecer respuestas reales al antigitanismo en Internet. Desde la Universidad de Jaén queremos aportar modelos y soluciones que sirvan para proteger a las comunidades afectadas y para transformar el discurso público hacia la inclusión”, subraya Maite Martín. RomaNET trabajará de forma directa en España, Italia y Grecia, con acciones de formación, protocolos de reporte y despliegue de pilotos tecnológicos en esos países. Entre los impactos esperados destacan: mayor capacidad de denuncia y atención a víctimas roma, una red estable entre organizaciones de la sociedad civil y autoridades, reducción del alcance de contenido de odio en los entornos monitorizados y la creación de recursos públicos (informes, herramientas y materiales de formación) que podrán servir como buenas prácticas a nivel europeo.
El proyecto RomaNET (“Combating antigypsyism and online hate speech through cooperation, capacity building and AI-driven counter-narratives), está financiado por el Programa europeo de financiación CERV —Citizens, Equality, Rights and Values programme 2024— (convocatoria CERV-2024-CHAR-LITI-SPEECH), cuenta con una financiación global de 360 699 euros y en el mismo participan como socios: Federation Kamira (España) —entidad coordinadora—, Romni Onlus (Italia), Association of Greek Roma Mediators (AGRM) (Grecia) y la Universidad de Jaén, a través del grupo Sinai (España).