En un intento por combatir el discurso de odio online, la Universidad de Jaén ha desarrollado un innovador sistema generativo del lenguaje, similar al ChatGPT, que se presentará ante la Comisión Europea como parte del proyecto Real-Up, liderado por el Gobierno español.
El propósito principal de Real-Up es mejorar la capacidad de las autoridades para identificar y contrarrestar discursos de odio en internet. Este proyecto, impulsado por el Observatorio Español del Racismo y la Xenofobia (Oberaxe) en colaboración con universidades como las de Barcelona y Valencia, tiene como objetivo reforzar las contranarrativas frente al racismo, la xenofobia, la islamofobia, el antisemitismo y el antigitanismo.
María Teresa Martín, catedrática en Informática y una de las impulsoras de este sistema, en una entrevista con la Agencia EFE, se mostró confiada en la eficacia de la herramienta, afirmando que «ningún humano sería capaz de hacerlo mejor».
El Grupo de Investigación Sistemas Inteligentes de Acceso a la Información (SINAI) de la Universidad de Jaén es responsable del desarrollo de esta herramienta de inteligencia artificial, que se basa en sistemas de procesamiento del lenguaje natural.
Según Martín, esta herramienta ofrece respuestas de mejor calidad que la simple censura, ya que proporciona mensajes positivos, informativos y veraces que contrarrestan el discurso de odio. Asegura que, en comparación con las respuestas humanas, el sistema generativo de lenguaje desarrollado por la IA tiene una calidad superior en un 80% de los casos.
Además, las contranarrativas generadas son más informativas, descriptivas y específicas, lo que puede ser de gran utilidad para las propias redes sociales o para las autoridades y entidades sociales que buscan combatir el odio en línea de manera más efectiva.
La inteligencia artificial contra el odio se presenta como una herramienta innovadora y necesaria en la era digital actual. Como señala Martín, esta herramienta podría aliviar la carga de los voluntarios que actualmente enfrentan problemas de salud mental debido a la exposición continua a discursos de odio en las redes sociales.
La automatización de las respuestas permitiría resolver parte del problema y reducir la fatiga emocional de quienes trabajan para contrarrestar el odio en línea. De este modo, la tecnología se convierte en una valiosa aliada en la lucha contra el discurso de odio, proporcionando una solución más efectiva y menos perjudicial para la salud mental de aquellos que se dedican a combatir este tipo de discursos.
En resumen, esta nueva herramienta de inteligencia artificial desarrollada por la Universidad de Jaén representa un paso adelante en la lucha contra el discurso de odio en línea. A través de su capacidad para generar contranarrativas informativas y veraces, ofrece una solución más eficaz y menos dañina para aquellos que trabajan incansablemente para combatir el odio en internet.
Este proyecto, que se presentará a la Comisión Europea, es un ejemplo del compromiso de las instituciones y las autoridades españolas en la lucha contra el odio en línea, y destaca el papel crucial que la tecnología y la inteligencia artificial pueden desempeñar en este ámbito.
