La UJA aplica inteligencia artificial para combatir el discurso de odio en redes sociales

El proyecto ‘Moderates’ propone desarrollar herramientas y técnicas de inteligencia artificial basadas en el procesamiento del lenguaje natural (PLN), que se trata de un campo de la inteligencia artificial y de la lingüística que analiza la interacción entre los ordenadores y el lenguaje humano. El objetivo es combatir el discurso de odio en redes sociales y promover la comunicación constructiva. La idea es poder detectar deforma preventiva el discurso de odio y ofrecer soluciones que promuevan un diálogo constructivo, mediante la generación automática de contranarrativas que enriquezcan el entorno digital con mensajes positivos. Este proyecto ha sido liderado por el Grupo de Investigación de Sistemas Inteligentes de Acceso a la Información (Sinai), de la Universidad de Jaén, concedido por el Ministerio de Ciencia e Innovación. Los investigadores principales del proyecto son L. Alfonso Ureña y María Teresa Martín, catedráticos de la Universidad de Jaén, quienes han subrayado la importancia de esta iniciativa. “La moderación de contenidos en redes sociales es un desafío actual que requiere la colaboración de la academia, la industria y la sociedad en general”, han señalado, al tiempo que han apuntado que el objetivo de su trabajo es “desarrollar sistemas automatizados que identifiquen y combatan el discurso de odio, fomentando así un entorno virtual más seguro y enriquecedor para todos los usuarios”.

El Grupo Sinai tiene una amplia experiencia en el desarrollo de sistemas basados en inteligencia artificial para la detección del discurso de odio. En este innovador proyecto trabaja también más de una decena de investigadores seniors expertos en PLN. El proyecto cuenta con una financiación de casi 300.000 euros correspondiente a la convocatoria de Transición Ecológica y Digital del Ministerio de Ciencia e Innovación. Representa un avance significativo en la aplicación de tecnologías de inteligencia artificial basadas en el lenguaje para abordar este problema y avanzar en su mitigación, se espera que tenga un impacto significativo tanto en el punto de vista científico como social para la promoción de una comunicación online más respetuosa y constructiva.