Un reciente estudio realizado por Laila A. Wahedi y Daniel Robert Thomas, investigadores de Meta (la compañía matriz de Facebook, WhatsApp e Instagram), y publicado en la revista científica PNAS, refuerza una idea que ya sugerían estudios previos: excluir de las plataformas a los llamados líderes tóxicos es una estrategia efectiva para reducir la propagación de discursos de odio.
Los investigadores identificaron los perfiles más activos dentro de seis comunidades que congregaban a 26.000 usuarios en las redes sociales. Estos perfiles, o líderes tóxicos, fueron posteriormente expulsados de dichas comunidades. Wahedi y Thomas hallaron tres hallazgos «notables»: primero, que tras la expulsión, los usuarios veían, en promedio, casi la mitad de contenido de odio por día que antes de la expulsión; segundo, que el subgrupo menos vinculado a estos líderes tóxicos rápidamente comenzó a recibir contenido más saludable y a consumir menos odio, mientras que aquellos más involucrados inicialmente incrementaron su consumo de contenido negativo, aunque comenzó a disminuir a los dos meses. El tercer hallazgo es que, en promedio, los usuarios redujeron su consumo total de contenido (aproximadamente un 10%).
Si, como concluye el estudio, la expulsión de estos perfiles resulta efectiva para limitar el discurso de odio, ¿sería esta la solución para erradicarlo? «Debemos defender la libertad de expresión siempre y cuando no viole la dignidad de nadie», declara Dolors Reig, profesora colaboradora de los Estudios de Ciencias de la Información y de la Comunicación de la Universitat Oberta de Catalunya (UOC). El cambio de paradigma comunicativo propiciado por las redes sociales «nos ha transformado a todos en pequeños medios de comunicación» que nos permiten difundir nuestro mensaje a grandes audiencias. «Las redes sociales son una herramienta poderosa para el cambio social, pero también lo son para la propagación de discursos de odio», añade.
La pandemia como impulsora de los discursos de odio
¿Cuándo han arreciado este tipo de mensajes en las redes sociales? El secretario general de las Naciones Unidas, António Guterres, le puso fecha al estallido del discurso de odio: la pandemia de la COVID-19. Así lo reflejaba en una carta de 2020, donde hacía un llamamiento a todos los agentes sociales y políticos para detener esta «oleada de odio y xenofobia». «El sentimiento antiextranjero ha aumentado en internet y en las calles», decía. En aquel momento, la gente empleó las redes sociales «de forma intensiva para informarse y relacionarse, una conducta que se vio potenciada por el propio confinamiento: las plataformas sociales se presentaban como ventanas de conexión con el mundo exterior», comenta Silvia Martínez, directora del máster universitario de Social Media: Gestión y Estrategia de la UOC, profesora de los Estudios de Ciencias de la Información y de la Comunicación de la UOC e investigadora del grupo GAME. A la vez, «las emociones que se experimentaron durante aquel periodo excepcional incrementaron también la crispación: había miedo, tensión, preocupación por la situación sanitaria, un contexto económico de incertidumbre…».
Si la pandemia es un punto de inflexión a partir del cual este tipo de mensajes calan y se difunden más, los motivos que los hacen proliferar son variados. Por una parte, están los de tipo psicosocial, hacia los que apunta Dolors Reig: la presencia de «comunidades que fomentan y aplauden estos discursos» es uno ellos (como aquellas sobre las que han actuado Wahedi y Thomas). Otros son el anonimato y la distancia emocional que implica no interactuar cara a cara, la evasión de la responsabilidad «por percibir que se actúa en un espacio virtual que genera la sensación de que el contexto no es real», y el efecto espiral hacia la transgresión. La saturación de mensajes en las redes hace que «uno necesite ser cada vez más transgresor para generar la misma atención», explica la profesora, que incide en el uso de esta espiral que hacen a menudo los propios políticos: «Muchos políticos han jugado a esto: a decir la barbaridad más burda para conseguir la popularidad», comenta la experta.
Silvia Martínez, por su parte, habla de dinámicas de funcionamiento y conversación de ciertas redes sociales como palanca que mueve estos mensajes. «La inmediatez y el mensaje breve favorecen la difusión de contenidos más viscerales que racionales y argumentados. La reflexión y el análisis ceden terreno frente a la reacción automática». También añade otro factor que interviene en la proliferación: las interacciones, la viralidad. «Los algoritmos suelen potenciar y dar más visibilidad a esos contenidos que acumulan interacciones, y el discurso del odio suele generar precisamente un aumento de las reacciones». Reig suma a estas causas la proliferación de partidos de ultraderecha en todo el mundo y la circulación de información «distorsionada o directamente falsa» que se propaga en estas plataformas. «Las redes sociales se han vuelto instrumentos de propaganda», afirma.
Perfil de la víctima del discurso de odio: ideología distinta, origen distinto y orientación sexual o identidad de género distintas
¿Qué colectivos reciben más odio? El último Informe sobre la evolución de los delitos de odio en España emitido por el Ministerio de Interior refleja que los tres objetos principales de los delitos de odio son, por este orden, los de enfrentamiento ideológico (34,9 %), los vinculados al racismo y la xenofobia (30,2 %) y los que atentan contra la orientación sexual o la identidad de género (16,3 %). «Los partidos con ideologías más extremas están promoviendo estos discursos de odio», indica Reig.
Con respecto al racismo y la xenofobia, el Observatorio Español contra el Racismo y la Xenofobia (OBERAXE) monitoriza a diario el discurso de odio en las redes sociales y notifica en las mismas los contenidos constitutivos de delito. En su último boletín de monitorización (marzo-abril de 2023) indica que las redes han retirado el 55 % de los contenidos denunciados. Los discursos de odio hacia las personas norteafricanas y la islamofobia copan el 60 % de estos contenidos.
En cuanto a los mensajes de odio relacionados con la orientación sexual o la identidad de género, el perfil de la víctima suele ser menor de cuarenta años, tal como refleja el citado informe de Interior. En el caso del grupo de edad de 18 a 25 años, constituye el 42,5 % de estos delitos. «La naturalidad con que la juventud lee mensajes de odio hacia las personas transexuales en la red lleva a que a la sociedad fuera de línea se le haga un acoso escolar más duro», dice Roig.
El mencionado OBERAXE, en su memorándum explicativo, enumera los rasgos en los que incide el discurso del odio en su recomendación de política general n.º 15: racismo, discriminación racial, discriminación basada en el género, sexismo, homofobia, transfobia, xenofobia, antisemitismo, islamofobia y discriminación contra las personas gitanas, además de varios delitos que incluyen el genocidio o la trivialización de este tipo de delitos.
Aprender a combatir los discursos de odio en las redes
El estudio presentado por Laila A. Wahedi y Daniel Robert Thomas abre una puerta a los responsables de las redes sociales para tomar medidas al respecto, pero ¿qué otras medidas pueden implementarse para reducir y combatir el discurso de odio? «Idealmente, las medidas deberían focalizarse en que no se produjera ese discurso», explica Martínez, «pero, una vez iniciado, lo fundamental es no alimentarlo al comentarlo o compartirlo, pues esto es un modo de reacción y, como señalaba antes, los algoritmos suelen dar más visibilidad a los contenidos que generan interacciones». Además, esa mayor visibilidad hace «más fácil que se produzcan nuevas reacciones, que normalmente suelen ser viscerales y con mensajes cada vez más polarizados». Para Dolors Reig, es vital formar en el uso de las redes e informar: «A mi alumnado le digo, por ejemplo, cuando surge un vídeo de abusos que atenta contra la dignidad de las personas, que ni lo busquen ni lo visualicen, porque al final los algoritmos de las redes sociales funcionan por popularidad».
Finalmente, denunciar es otra opción para frenar estos perfiles tóxicos. «El usuario debe conocer las opciones y vías para denunciar esos contenidos y ponerlos en conocimiento de las propias plataformas, que pueden intervenir eliminando contenidos y suspendiendo perfiles e, incluso, en caso de que haya podido incurrirse en un delito de odio, ponerlo en conocimiento de la policía o la guardia civil», incide Martínez. Frenarlos evita consecuencias peores: «Esto es el posdigitalismo», explica Dolors Reig. «Estamos en una sociedad en la que lo digital influye en lo real. Los mensajes de odio llevan a la gente a suicidarse».
nota de UOC – Núria Bigas Formatjé
