Los discursos de odio en redes sociales: algoritmos y masculinidades

Por Víctor Manuel Rivera Morelos (Becario de la CIGU)

Llegar a contenidos en redes sociales que hablen sobre feminismos y prevención de la violencia de género es fácil, pero llegar a los discursos de odio lo es aún más, inclusive en las publicaciones que buscan erradicarlos. Memes, burlas y comentarios abiertamente discriminatorios son de las respuestas comunes que se pueden encontrar en internet al abordar temas de género, pero ¿realmente hay una forma de erradicarlos?

En este marco, la ONU define la violencia digital como una agresión “por razón de género contra las mujeres cometido, con la asistencia, en parte o en su totalidad, del uso de las tecnologías de la información y las comunicaciones”, aunque desde la CIGU se entiende que estas acciones pueden también extenderse a otros grupos en situación de vulnerabilidad.

Eventos como el 5º Foro Universitario contra la Violencia Digital, realizado el 23 de marzo por el Seminario Universitario de Redes Sociales y Cultura Digital de la UNAM, en coordinación con la Dirección General de Divulgación de la Ciencia (DGDC) y la Dirección General de Cómputo y Tecnologías de Información y Comunicación (DGTIC), ayudan a poner en el mapa este tipo de conductas cibernéticas.

En esta edición, el objetivo fue reflexionar sobre la manera en que las Instituciones de Educación Superior pueden impulsar mecanismos de prevención en torno a esta clase de violencias, así como entender el papel que juegan las emociones dentro de ella.

Durante el Foro se buscó construir un espacio que diera cabida a recomendaciones prácticas para fortalecer la seguridad de los usuarios en los entornos digitales y fomentar prácticas incluyentes que combatan la discriminación. Para entender mejor cómo construir esta nueva cibercultura, la Coordinación para la Igualdad de Género en la UNAM (CIGU) participó dentro de este Foro con dos ponencias.

El odio: de emoción al motor

Cuando se habla de un discurso de odio se habla de aquellas “narrativas sociales que justifican, legitiman e incitan la confrontación y violencia de un sector sobre otro”. Con estas palabras lo definió Cecilia Nuñez, jefa de la Unidad de Comunicación para la Igualdad de la CIGU, de tal modo que permite concebir cómo nacen estas narrativas, primero desde un campo emocional y después dirigen la rabia contra un sujeto en particular.

De acuerdo a lo presentado en su ponencia, “Hacia una guía metodológica para la regulación de discursos de odio”, la proliferación de los discursos de odio contra mujeres y personas LGBTIQ+ dentro del internet obedece a tres factores principales: la inversión de la culpa para que el victimario se presente como víctima; la normalización en la esfera pública de estas narrativas; y la instrumentalización emocional para canalizar y responsabilizar del miedo que siente cierto grupo sobre otro.

Su moderación, explicó Núñez, se ha vuelto complicada, no solo porque las redes sociales son espacios lo suficientemente extensos como para erradicarlos por completo, sino porque además, las empresas y sus algoritmos privilegian las narrativas de odio.

“Las personas que administramos redes sociales no podemos permanecer indiferentes ante esta violencia” y bajo dicho argumento, ella ha comenzado un trabajo desde la Unidad de la que es responsable, para desarrollar una guía que oriente a otras personas en cargos como el suyo para lidiar con la hostilidad digital. En el caso de la Universidad, la premisa es clara y es que se deben garantizar espacios libres de violencia, no solo en las aulas, también desde el uso de la tecnología.

La manósfera como tierra de cultivo para el odio

Como mencionó Núñez en su intervención, las redes sociales han tomado un eje rector en nuestras vidas y mediante los algoritmos del ciberespacio, los discursos de odio contra las mujeres han incrementado su alcance y han abierto las puertas a los mercados digitales de la violencia. Este es “el factor más alarmante” alrededor de este fenómeno, tal como lo afirmó Miguel Flores, quien colabora en elPrograma Integral de Trabajo con Hombres (PROITH) de la CIGU y participó con la ponencia “Ecosistema digital masculinista: retos del trabajo con hombres y juventudes”.

En su consideración, esta capitalización de la violencia se ha consolidado gracias a contenidos, reacciones, comentarios y memes vertidos en la manósfera, un ecosistema digital en el que, sin regulación alguna, circulan contenidos antifeministas y misóginos. Llegar a ella no es difícil: organizaciones políticas de derecha, empresas e influencers se han encargado de normalizar y conducir no solo a los hombres, sino también a las mujeres.

Desde tendencias como las tradwife, el cottagecore y el macho sigma, hasta el fomento de cambios físicos no saludables, como la llamada “maximización de la apariencia” o looksmaxxing y la creación de subculturas, como la incel, son algunas de las maneras en que se ha normalizado y consolidado la manosfera en redes sociales. Los hechos coinciden en un punto: promocionan la masculinidad como un bien escaso.

“Hoy, la manosfera ya se encuentra en las discusiones públicas gracias a la notoriedad que han ganado algunos de sus voceros”, mencionó el colaborador del PROITH, pero también a que se han creado contenidos críticos que la analizan y la evidencían como una fuente de poder politico.

En México, este aumento no ha surgido de la nada. Algunos factores que han alimentado la situación son el resurgimiento de premisas ligadas al Movimiento por los Derechos de los Hombres de la década de los 70 y 80 del siglo pasado para contrarrestar los efectos del movimiento feminista; la creación cada vez más constante de espacios carentes de regulación en los que se pueden compartir discursos misóginos; un profundo sentimiento masculino de discriminación hacia ellos; y una adaptación de las conductas machistas en la red que suelen tener usuarios del norte global.

Además, cabe recalcar que con la pandemia, el consumo de contenidos digitales de esta clase fue aún mayor, lo que catapultó a entender las plataformas socio digitales como espacios fácilmente manipulables para compartir contenidos violentos.

¿Cómo se pueden prevenir estas violencias en los entornos universitarios?

Miguel Flores, en su intervención identifica tres ejes principales desde los cuales se puede dar batalla: la corresponsabilidad y la prevención; la educación; y las pedagogías.

Desde el primer rubro, es importante difundir que los hombres tienen una corresponsabilidad en fomentar y procurar cuidados para crear entornos libres de violencia, pero para lograr este entendimiento, es necesario brindarles a los varones jóvenes y adultos acompañamientos institucionales y comunitarios.

En el frente de la educación, se puede agregar una crítica a la masculinidad patriarcal dentro de los planes de estudio, así como incentivar proyectos dentro del aula para analizar y cambiar las maneras en que se construyen los vínculos homosociales fuera y dentro del internet, como también implementar otras estrategias educativas que ayuden a comprender mejor lo referente a la sexualidad, el consentimiento y la heteronormatividad.

Por último, en las pedagogías aún hay camino que recorrer al ser importante replantearse, en lo ético, la manera de evaluar y emitir juicios, e implementar modelos de escucha dentro de las aulas, abriendo el debate y permitiendo las inquietudes.

Por una comunicación asertiva y libre de violencia

Tanto Miguel Flores, como Cecilia Núñez, apuntan hacia una planeación de estrategias que combatan los discursos de odio en las redes sociales, más allá de la censura, a la invitación a repensar la manera en cómo interactuamos entre usuarios y a analizar qué nos mueve a actuar de ese modo.

Como mencionó Núñez: “la incorporación de la perspectiva de género, de Derechos Humanos y las metodologías en la comunicación resulta fundamental”, pues resultan en una intersección para repensar cómo podemos relacionarnos en la web, identificar las expresiones violentas y llevar a cabo la construcción de espacios libres de violencia.

Espacios como el Seminario Universitario de Redes Sociales y Cultura Digital de la UNAM, que se imparte desde 2022, marcan la diferencia al ayudar a entender el impacto de las problemáticas que se dan en el ciberespacio y en las que gran parte de los usuarios participan, muchas veces sin darse cuenta.

Para escuchar y reflexionar más a profundidad sobre las ideas planteadas por Miguel Flores y Cecilia Núñez, puedes consultar sus ponencias y las de más participantes en la cuenta de Facebook del coloquio: Seminario Redes Sociales UNAM; así como en el canal de Youtube de la Dirección General de Divulgación de la Ciencia, DGDC UNAM.

Los discursos de odio en redes sociales: algoritmos y masculinidades