El anuncio de Pedro Sánchez, sobre la creación de la herramienta HODIO (Huella del Odio y la Polarización) ha puesto sobre la mesa preguntas sobre su funcionamiento técnico, su base legal y su verdadera capacidad para medir el discurso de odio en internet. Según explicó el Ejecutivo, el sistema combinará herramientas de inteligencia artificial con revisión humana realizando así un ranking público semestral que compare el nivel de toxicidad entre redes sociales como como Instagram, TikTok, X, YouTube y Facebook.

PUBLICIDAD

La iniciativa presentada durante el I Foro contra el Odio celebrado en Madrid busca aumentar la presión pública sobre las grandes plataformas y abrir el debate sobre posibles responsabilidades derivadas del funcionamiento de sus algoritmos. Durante la intervención en el foro Sánchez defendió que "cuando algo se mide, deja de ser invisible" haciendo referencia a los análisis que el jefe del Ejecutivo pretende hacer visibles para que "todo el mundo sepa quién frena el odio, quien mira hacia otro lado y quién hace negocio con el odio".

PUBLICIDAD

Mismo proyecto, diferentes siglas

Sin embargo, más allá del impacto político del anuncio, la arquitectura institucional sobre la que se apoya el proyecto dista de ser nueva. El sistema se desarrolla en el ámbito del Observatorio Español del Racismo y la Xenofobia (OBERAXE), organismo dependiente del Ministerio de Inclusión, Seguridad Social y Migraciones y vinculado jurídicamente a la Ley Orgánica 4/2000 sobre derechos y libertades de los extranjeros en España. Desde hace años, este observatorio tiene entre sus funciones el análisis del racismo y la xenofobia y la elaboración de propuestas de política pública para combatirlos.

La monitorización del discurso de odio en internet tampoco aparece por primera vez en la agenda institucional. El propio Marco Estratégico de Ciudadanía e Inclusión contra el Racismo y la Xenofobia 2023-2027, aprobado por el Gobierno, contempla el desarrollo de mecanismos de seguimiento en el entorno digital. Entre sus líneas de actuación, el documento plantea expresamente “potenciar mecanismos de prevención, monitorización, notificación y denuncia de incidentes racistas y xenófobos en medios de comunicación, internet y redes sociales”.

El mismo plan recuerda además que el OBERAXE fue concebido como un instrumento permanente del Estado para el estudio de estas dinámicas y la formulación de respuestas institucionales frente al racismo y la xenofobia. En ese contexto, HODIO aparece como un nuevo desarrollo dentro de una estrategia pública ya existente más que como una estructura completamente inédita.

Del fútbol al análisis de redes

El origen tecnológico de HODIO añade otro elemento singular al proyecto. Parte de la tecnología utilizada para el seguimiento del discurso de odio procede de la colaboración entre el Gobierno y La Liga, que en 2024 firmaron un convenio para permitir al Observatorio Español de Racismo y Xenofobia utilizar la plataforma MOOD (Monitor para la Observación del Odio en el Deporte).

Según el acuerdo, publicado en el Boletín Oficial del Estado, el sistema no solo proporciona capacidades de monitorización tecnológica, sino que también contempla el intercambio de información, la elaboración de informes y la colaboración en proyectos de sensibilización contra el racismo, la xenofobia y otras formas de discriminación en internet.

Fuentes de LaLiga han explicado a El Independiente, que la herramienta MOOD, base tecnológica de HODIO, fue desarrollada originalmente para monitorizar redes sociales en el ámbito deportivo. “MOOD se basa en inteligencia artificial para identificar posibles manifestaciones de odio e insultos en redes sociales”, diferenciando, por ejemplo, entre referencias a un equipo de fútbol y expresiones racistas hacia personas. LaLiga subraya que esta herramienta "no censura ni denuncia automáticamente", sino que proporciona información que sirve de guía para implementar acciones educativas, judiciales o de concienciación dentro del deporte.

La colaboración con el Gobierno se formalizó mediante un convenio con el Ministerio de Inclusión, publicado en el BOE, que permitió ceder al Observatorio Español de Racismo y Xenofobia el uso de MOOD para fines institucionales. “Desde hace un par de años llegamos a un acuerdo con el ministerio para el observatorio, para cederles esta herramienta de MOOD, que es la misma en la que se basa la herramienta FARO que utilizan ellos”, explicaron desde LaLiga. Según la organización, HODIO podría estar inspirada en esta tecnología, pero “desconocemos si se van a basar en MOOD/FARO, si la van a evolucionar o cuál será su uso exacto”.

Racismo y Xenofobia

Durante su utilización en el ámbito deportivo, MOOD permitió a LaLiga detectar campañas de insultos y racismo en redes sociales antes de partidos concretos, permitiendo actuar preventivamente. “Un ejemplo concreto fue en la temporada pasada, durante el derbi Atlético de Madrid-Real Madrid, donde detectamos una campaña para insultar a Vinicius utilizando mascarillas para evitar identificación”, explican. LaLiga destaca que este tipo de monitorización “nos servía de guía para saber si teníamos que implementar acciones educativas o judiciales”, dentro de su programa integral contra el racismo, ‘LaLiga Versus’, que incluye iniciativas contra el odio, el racismo y el bullying.

Por último, recalcan que la creación de HODIO no implica su participación directa. “No estamos implicados en esta nueva plataforma o iniciativa, HODIO nuestro papel se limitó a ceder la herramienta MOOD al observatorio del ministerio”, concluyen. La organización insiste en que su labor pionera en España en la lucha contra el racismo y el odio en los estadios y redes sociales ha servido como referencia para estas iniciativas institucionales, pero que ahora la gestión y evolución de la tecnología corresponde enteramente al Gobierno.

No obstante, esta adaptación plantea un reto técnico evidente. Una herramienta diseñada para rastrear insultos en contextos deportivos debe aplicarse ahora a debates sociopolíticos donde la interpretación del contexto, la ironía o el sarcasmo puede dificultar la clasificación automática de los mensajes. Aun así, la combinación de la experiencia previa de MOOD con la analítica avanzada prevista por HODIO busca ofrecer “transparencia” sobre la presencia y difusión del odio en internet, permitiendo a las instituciones disponer de datos más precisos para diseñar políticas de prevención y sensibilización.

Polarización y odio

Uno de los aspectos más discutidos del nuevo sistema es la inclusión del concepto de polarización junto al análisis del discurso de odio. En el ordenamiento jurídico español, el delito de odio está tipificado en el artículo 510 del Código Penal y se refiere a conductas que fomentan la violencia, la hostilidad o la discriminación contra determinados colectivos. La polarización, en cambio, es un concepto utilizado en sociología y ciencia política para describir el distanciamiento creciente entre posiciones ideológicas dentro de una sociedad.

La inclusión de ambos fenómenos en un mismo instrumento de medición ha abierto un debate metodológico entre especialistas sobre cómo se interpretarán los resultados del sistema y qué conclusiones podrán extraerse de los datos que genere.

Sánchez no puede sancionar

El alcance real de cualquier iniciativa estatal en este ámbito también está condicionado por el marco regulatorio europeo. Las grandes plataformas digitales están sujetas a la Ley de Servicios Digitales, que centraliza la supervisión de las redes sociales de mayor tamaño en la Comisión Europea.

En la práctica, esto significa que las sanciones más relevantes contra compañías tecnológicas por el funcionamiento de sus algoritmos dependen de las instituciones comunitarias. Los Estados miembros pueden investigar riesgos o trasladar alertas regulatorias, pero las auditorías obligatorias y las multas multimillonarias corresponden a Bruselas, por lo que la herramienta de Sánchez no podrá conllevar ninguna sanción.

En este contexto, el ranking de toxicidad anunciado por el Gobierno funcionaría fundamentalmente como un instrumento de presión reputacional sobre las plataformas más que como un mecanismo sancionador directo.

Los datos

El debate sobre la utilidad del nuevo sistema se produce además en un momento en el que las estadísticas oficiales no reflejan un aumento descontrolado del fenómeno. Según el Informe sobre la evolución de los delitos de odio en España 2024 del Ministerio del Interior, las fuerzas de seguridad registraron 1.955 infracciones penales e incidentes de odio, lo que supone un descenso del 13,8 % respecto al año anterior.

El mismo informe señala que el racismo y la xenofobia continúan siendo el principal motivo de estos delitos. Una parte minoritaria de los hechos se produjo en el entorno digital, con algo más de dos centenares de casos vinculados a internet y redes sociales.