Inteligencia artificial en la lucha contra el discurso de odio en redes sociales

Tecnología de vanguardia se pone en marcha para erradicar la propagación de contenido ofensivo en plataformas digitales

El proyecto ‘Moderates’ del Grupo de Investigación Sinai de la Universidad de Jaén ha recibido el apoyo del Ministerio de Ciencia e Innovación para crear herramientas y tecnologías de inteligencia artificial basadas en procesamiento del lenguaje natural (PLN).

Con esta iniciativa, buscan enfrentar la expresión de odio en plataformas digitales y fomentar el diálogo constructivo.

Es por ello, pretenden identificar anticipadamente el lenguaje ofensivo y brindar soluciones que fomenten una comunicación constructiva, generando narrativas contrarias positivas.

En este sentido, los líderes de la investigación, los profesores de la Universidad de Jaén L. Alfonso Ureña y María Teresa Martín, enfatizan la relevancia de este proyecto.

“La gestión de contenidos en redes sociales es un reto actual que demanda la colaboración de la academia, industria y sociedad. Su trabajo busca crear sistemas automatizados que detecten y contrarresten el discurso de odio, promoviendo un entorno virtual seguro y enriquecedor para los usuarios.”

El proyecto ha sido financiado con 300.000 euros en la convocatoria de Transición Ecológica y Digital del Ministerio de Ciencia e Innovación.

Supone un avance relevante en el empleo de tecnologías de inteligencia artificial fundamentadas en el lenguaje para impulsar una comunicación en línea más constructiva.

Un equipo de más de diez investigadores con experiencia en PLN está trabajando en este nuevo proyecto. Se busca contribuir al progreso de la sociedad en la era digital y se espera que tenga un impacto importante tanto a nivel científico como social al fomentar una comunicación en línea más respetuosa y constructiva.

La inteligencia artificial sigue evolucionando para enfrentar los desafíos digitales actuales. La lucha contra el discurso de odio es un paso importante en la búsqueda de un internet inclusivo y libre de discriminación.