Algoritmos detrás de la propagación del antisemitismo en Internet

Antisemitismo, COMUNIDAD

Foto tomada el 2 de mayo de 2019, que muestra el logotipo de Twitter tal y como aparece en la pantalla de un smartphone, con fines ilustrativos. AFP/LOIC VENANCE

Se ha producido un dramático aumento de los actos antisemitas en Estados Unidos. En 2021 se registraron un total de 2.717 casos, según los datos recogidos por la Liga Antidifamación, una organización judía de derechos civiles ubicada en la ciudad de Nueva York. Un aumento del 34 % respecto a las previsiones de 2020.

La Comisión Europea descubrió un aumento de siete veces en las publicaciones antisemitas a través de cuentas en francés y un aumento de más de trece veces en los comentarios antisemitas dentro de los canales alemanes en toda Europa durante la pandemia.

Comenzamos a investigar, junto con otros expertos en antisemitismo, el papel que la tecnología y las prácticas comerciales de los sitios de medios sociales tienen en la alimentación de esta ideología de odio. Nuestro volumen coeditado “Antisemitismo en los medios sociales” se publicará en 2022, y presentará ensayos de académicos de Estados Unidos, Alemania, Dinamarca, Israel, India, Reino Unido y Suecia sobre el tema de cómo las plataformas de medios sociales como Facebook, Twitter, TikTok y YouTube utilizan la toma de decisiones algorítmica para promover el antisemitismo.

¿Cómo es exactamente el antisemitismo en Internet?

El antisemitismo en Internet suele adoptar la forma de la negación del Holocausto o la promoción de imágenes anticuadas y estereotipadas de los judíos que tienen sus raíces en la propaganda nazi.

Las publicaciones en las redes sociales que transmiten sentimientos antisemitas suelen hacerlo sobre la base de que todos los judíos son sionistas, o miembros del movimiento nacional que apoya a Israel como Estado judío, y que el sionismo es inherentemente malo.

Sin embargo, el antisemitismo moderno no se limita a atacar a los israelíes y no suele implicar un lenguaje abiertamente odioso.

El antisemitismo moderno toma muchas formas en internet, incluyendo GIF, memes, blogs, comentarios y reacciones como likes y dislikes.

La investigadora Sophie Schmalenberger descubrió que el antisemitismo en las redes sociales no se limita a palabras e imágenes abiertamente hostiles, sino que también adopta formas más sutiles que pueden pasar desapercibidas para el ojo inexperto. Cuando se habla de la Segunda Guerra Mundial en Facebook, por ejemplo, la organización de derecha radical Alternative für Deutschland (AfD) no menciona el Holocausto. Normaliza el antisemitismo empleando un vocabulario y una retórica antisemitas.

El antisemitismo sutil puede existir, incluso en forma de emojis. Combinar una estrella de David judía con un emoji de una rata recuerda a la propaganda nazi que equiparaba a los judíos con alimañas. La repetición y normalización de tales imágenes contribuyó a la deshumanización de los judíos en la Alemania nazi y, en última instancia, a la aceptación del genocidio.

El 13 de julio de 2022, el presidente de Estados Unidos, Joe Biden, visitó el memorial del Holocausto, Yad Vashem de Jerusalén, para depositar una corona de flores. Imagen vía Olivier Fitoussi/Flash90.

Los ataques de trolls antisemitas son otra forma de antisemitismo que se puede encontrar en las plataformas de medios sociales. Del mismo modo que QAnon niega el Holocausto y difunde creencias conspirativas, sus seguidores se organizan para perturbar los eventos de Internet inundándolos con mensajes.

TikTok ha sido objeto de una investigación académica por parte de Gabi Weimann y Natalie Masri. Descubrieron que los jóvenes, sobre todo, corren el riesgo de estar expuestos al antisemitismo en este sitio, muy utilizado y en rápida expansión, que ya cuenta con más de mil millones de miembros en todo el mundo.

Parte del material proporcionado mezcla imágenes de películas de la época nazi con comentarios contemporáneos que se burlan o ridiculizan a las víctimas del Holocausto.

Los expertos advierten que la exposición repetida de los jóvenes a contenidos antisemitas en TikTok puede normalizar esos vídeos e incluso radicalizarlos.

El antisemitismo con base en el algoritmo

Los algoritmos diseñados para rastrear la interacción de los usuarios fomentan el antisemitismo. Esto asegura que cuanta más gente interactúe con una publicación, mayor será su alcance. Todas las interacciones, incluidos los “me gusta”, “no me gusta”, “compartir”, “comentarios” y “respuestas”, se consideran participación. Los golpes de dopamina, como los provocados por las respuestas positivas a las publicaciones, son problemáticos.

Los usuarios son más propensos a publicar material hostil porque perciben que generará la mayor atención.

Incluso si los usuarios de las redes sociales comentan negativamente el contenido odioso, puede que no se den cuenta de que los algoritmos en juego realmente ayudan a la propagación de ese contenido.

En un ordenador de sobremesa en Washington, DC, se puede ver el logotipo de Facebook en esta ilustración del 10 de julio de 2019. Foto de Alastair Pike / AFP

Los estudios sobre las sugerencias algorítmicas de vídeos de YouTube muestran una tendencia similar, con la exposición de las personas a material cada vez más extremista con el paso del tiempo. El experto en delitos Matthew Williams define el odio algorítmico en su libro “La ciencia del odio”, e identifica el antisemitismo algorítmico como una de sus manifestaciones.

¿Cómo podemos solucionar este problema?

Para contrarrestar el antisemitismo en línea es necesario un enfoque basado en pruebas. Sin embargo, ni las plataformas de medios sociales ni los académicos han invertido lo suficiente en abordar esta preocupación.

Los investigadores se enfrentan a nuevos obstáculos cuando intentan comprender el antisemitismo en el mundo online, y necesitan tener acceso a datos y fondos para contribuir a la creación de contramedidas eficaces. En este momento, los investigadores solo pueden acceder a estos datos, en gran medida incontrolados, con la ayuda de las propias empresas de medios sociales.

Varias organizaciones de la sociedad civil han pedido que se tomen medidas contra el antisemitismo algorítmico, y muchas plataformas de medios sociales han respondido aplicando normas para denunciar el antisemitismo en sus plataformas. Sin embargo, las respuestas actuales son muy insuficientes, cuando no francamente arriesgadas. Por ejemplo, la táctica del “contra-discurso”, que se defiende con frecuencia, suele servir para reforzar el contenido desagradable ya existente.

Para combatir eficazmente la incitación al odio antisemita, sería necesario cambiar los algoritmos utilizados para recopilar y seleccionar los datos de los usuarios para las empresas de publicidad, que son la principal fuente de ingresos de las plataformas de redes sociales.

El contenido antisemita en las redes sociales se está extendiendo a un ritmo sin precedentes, a través de las fronteras y los idiomas. Cuando se trata de resolver este problema, creemos que será necesaria la cooperación de la industria de las redes sociales, los académicos y el público en general.

Con información de The Times of Israel.

 

Suscríbete a nuestroNEWSLETTER

Ingresando tus datos aquí, y recibirás noticias y novedades de CJCH en tu mail.