Tenía pendiente echar un ojo a Hodio (Huella de Odio y Polarización), el sistema que ha anunciado el Gobierno de España que tiene como objetivo medir la polarización en redes sociales. Más en concreto es una herramienta desarrollada por el Ministerio de Inclusión, Seguridad Social y Migraciones a través del Observatorio Español del Racismo y la Xenofobia (OBERAXE). La idea es que sea utilizado para medir y evaluar la presencia de discurso de odio y polarización en redes sociales, a saber Facebook, Instagram, TikTok, X (la red antes conocida como Twitter) y YouTube. Con esos datos se elaborará un informe semestral que incluye un ranking para seguir la evolución en cada red social. El Gobierno dice que «la herramienta combina transparencia, rigor académico y el máximo respeto a los derechos fundamentales. » Y que funciona mediante la recogida automatizada de contenido, modelos de inteligencia artificial y revisión humana experta. No es que me parezca mala idea intentar medir –que no meter mano, que de eso no se habla nada– a los desmanes de las redes sociales. Del artículo enlazado:Por su parte, el DCU Institute for Future Media, Democracy and Society creó diez cuentas en diez smartphones limpios de actividad previa, cinco en YouTube y cinco en TikTok. Se construyeron con ellas dos tipos de perfil: chico interesado en contenido genérico relacionado estereotípicamente con lo masculino –gimnasio, deportes, videojuegos, etc. – y chico que busca activamente contenido referente a la manosfera, en ambos casos con dos variantes de edad, 16 y 18 años, además de dos cuentas control –una para cada red– que no buscaron contenido de ningún tipo en particular. Tanto los perfiles de la masculinidad genérica como aquellos interesados en la manosfera recibieron contenido catalogado como “tóxico” –categoría que engloba contenidos relacionados con la cultura “macho alfa”, la misoginia, el reaccionarismo o la conspiranoia– antes de cumplirse 23 minutos de uso, y contenido directamente antifeminista o misógino antes de cumplirse 26 minutos de uso tanto en YouTube Shorts como en TikTok. Pero para acabar de creerme eso de la transparencia y el rigor académico creo que sería necesario por una parte que HODIO fuera si no de código abierto al menos público en la parte que genera el ranking. Y que se supiera quienes son las personas que hacen esa revisión humana. Es aquello de que quién vigila a los vigilantes. Aunque tampoco hay que olvidar que apenas hace unos meses que la Unión Europea abría un procedimiento sancionador al Gobierno por no haber implementado todavía la parte que le toca de la DSA (Digital Services Act). Esa que establece normas en virtud de las cuales los Estados miembros deben otorgar a su coordinador de servicios digitales las facultades necesarias para desempeñar sus funciones con arreglo a dicho reglamento y establecer un régimen de sanciones aplicable a cualquier infracción de dicho reglamento. Así que no sé cómo de en serio se está tomando esto el Gobierno más allá de como generador de titulares. Igual que lo de prohibir las redes sociales a menores de 16 años, que a ver cómo se implementa. Aunque en este caso siempre he abogado más por la educación que por cualquier prohibición. Habrá que darle tiempo, supongo. Pero a ver. _____
Foto de Berke Citak en Unsplash