Investigadores del grupo de investigación INTELIA participaron en la Jornada sobre los Discursos de Odio en los Medios de Comunicación y en las Redes Sociales, celebrada el pasado miércoles 9 de julio de 2025 en las instalaciones de RTVE, en Prado del Rey.

La jornada contó con varias mesas de debate en las que se pusieron de manifiesto diferentes aspectos sobre uno de los retos a los que se enfrenta actualmente nuestra sociedad: la proliferación de los discursos de odio, y cómo los diferentes agentes sociales, públicos y privados están haciendo frente ante este reto.

La jornada estuvo enmarcada dentro de la VII Convocatoria Impulsa Visión Ayudas a la Investigación, organizada por Impulsa Visión de la Corporación RTVE.

Por parte de la Universidad de Alcalá, se contó con la asistencia a la jornada de la Vicerrectora de Posgrado y Estudios Propios, Margarita Vallejo Girvés, y los investigadores y miembros del grupo INTELIA, Antonio Moreno Cediel y Antonio García Cabot. Antonio Moreno realizó una presentación relacionada con su Trabajo Fin de Máster, «La Inteligencia Artificial frente a los discursos de odio: Análisis de publicaciones en Redes Sociales para ayudar a la detección y concienciación de mensajes ofensivos«.

El objetivo de dicho trabajo fue construir un modelo de Inteligencia Artificial capaz de identificar no solo la presencia de discursos de odio en textos, sino
también su tipología. Para ello, se selecciona inicialmente el conjunto de datos Spanish Hate Speech Superset, complementándolo con los datos del conjunto Measuring Hate Speech traducidos al español. Se implementó una estrategia de anotación sintética utilizando grandes modelos del lenguaje (LLMs) para categorizar los discursos de odio en ocho tipos específicos.

Durante el proceso de construcción del clasificador se exploraron dos enfoques: uno basado en modelos de embeddings y redes neuronales, y otro empleando directamente modelos Transformer con una arquitectura de cabeza de clasificación específica. Se implementaron distintas tipologías de redes neuronales, con capas ocultas densas y dispersas, y se utilizaron funciones de pérdida como la entropía cruzada y la divergencia Kullback-Leibler para la red dispersa.

Además, se desarrolló una aplicación web interactiva utilizando Streamlit para facilitar el acceso al sistema, permitiendo el análisis de texto ingresado por el usuario y publicaciones de usuarios de Reddit.

Los resultados obtenidos demostraron un destacable progreso para la clasificación multiclase de discursos de odio en español. Este trabajo supone una importante contribución al campo de la clasificación de discursos de odio en español con una herramienta práctica para su detección, con potencial para ayudar a evitar la proliferación de esta modalidad de discurso y fomentar la conciencia social.

Este Trabajo Fin de Máster fue uno de los tres finalistas y fue premiado en la VII Convocatoria Impulsa Visión Ayudas a la Investigación de RTVE.