El Congreso acogió a juristas, divulgadoras y expertas en una jornada sobre el odio digital a la que también acudieron representantes de Google y Meta
El pasado lunes, 27 de abril, la sala Clara Campoamor del Congreso de los Diputados acogió la jornada ‘Reset al odio digital. Plataformas, divulgadores, juristas e instituciones frente al odio en la red’. Organizada por Más Madrid y encabezada por Tesh Sidi, diputada y vicepresidenta segunda de la Comisión de Economía, Comercio y Transformación Digital, entre los y las ponentes invitadas destacaba la presencia de representantes de dos de las principales plataformas de contenido en el mundo: Google (YouTube) y Meta (Instagram y Facebook).
No es común que estos monstruos empresariales se presten al diálogo y la escucha, en general, muchísimo menos en ambientes claramente progresistas. Y este lo era; no solo por estar impulsado por Más Madrid, sino por el resto de nombres presentes en el cartel.
La cronología de la jornada llevaría a resumir a continuación lo expuesto en la primera mesa y mantener un orden que pospondría la intervención de las grandes plataformas hasta el final del artículo. Sin embargo, en aras de la información y vistos los espurios esfuerzos realizados por Miguel Escassi (Google) y José Luis Zimmermann (Meta) para exculpar a las corporaciones de las gravísimas negligencias enumeradas por todas y cada una de las participantes en el evento, así como el enorme beneficio que supuso para ellos, en este sentido, ser los últimos en hablar, su argumentario debe aparecer en primer lugar. El Congreso conlleva una serie de limitaciones temporales que impidieron confrontar las inexactitudes, medias verdades y mentiras vertidas por ambos, más allá de cuatro preguntas rápidas desde el público cuyas respuestas eludieron descaradamente. Este artículo tratará de subsanarlo.
Tesh Sidi dio pie a Escassi preguntando acerca del funcionamiento de los mecanismos de supervisión y retirada de contenido ilegal o dañino, a lo que él contestó que en YouTube “somos muy estrictos en las reglas de nuestra comunidad (…) A veces somos más restrictivos que los propios marcos regulatorios de los países en los que estamos (…) Somos particularmente estrictos en materia de discurso de odio, también en incitación a la violencia”. Afortunadamente, la tercera ponente de esa mesa era Pastora Filigrana, directora de Acción Contra el Odio. Allí explicó el trabajo realizado desde ACO y puso como ejemplo paradigmático de los profundos déficits de las plataformas el caso de Jan Sin Miedo, un agresor racista que se graba rociando con spray pimienta a personas racializadas –además de hacer tutoriales sobre cómo replicar sus agresiones– y cuyos vídeos acumulaban millones de visualizaciones en YouTube antes de ser retirados por orden judicial tras la denuncia de ACO. Ni estrictos con el odio ni más restrictivos que las leyes: este contenido, altamente visible por la viralidad alcanzada y explícitamente violento, estuvo meses contaminando a cientos de miles de personas y solo se retiró gracias a una medida cautelar dictada desde instancias judiciales.
El representante de Google esquivó esta realidad excepto para vanagloriarse de que YouTube sí acata los mandatos de un juez o una jueza, pero entre el público se encontraba Carlos H. de Frutos, responsable de comunicación de ACO, que se dirigió a él para consultar cómo es posible que un contenido tan extremo no fuese eliminado por la aparentemente modélica moderación de la empresa. Primero, Escassi se mostró preocupado porque “estamos diseñados para que eso no ocurra”; después, el comodín: “Esto no es infalible”, junto con “el compromiso de ver eso con mayor detenimiento, ver qué ha ocurrido”. Tanto él como una compañera, también de Google, se acercaron al finalizar el evento a charlar con el equipo de ACO para mostrar interés por lo que había ocurrido con este agresor y prometer que se pondría remedio. Las explicaciones en privado dieron forma a exactamente la misma sensación que había quedado tras sus intervenciones: su negociado es inmenso y, por mucho que se esfuercen, siempre se cuelan cosas.
Por un lado, es infame victimizarse precisamente por las consecuencias de una estrategia ilícita de monopolio que protegen con ahínco y gracias a la cual obtienen beneficios milmillonarios y profundas influencias sociopolíticas. Por el otro, tanto los datos como las experiencias propias que se habían ido exponiendo en las mesas anteriores daban fe de que esas supuestas excepciones aparecen, de forma sistemática, en el recorrido digital de una cantidad ingente de personas que se salen de la norma heteropatriarcal y colonial.
José Luis Zimmermann tampoco titubeó al echar mano de un gaslighting obsceno. “A Meta le interesa que sus usuarios tengan una experiencia positiva, eso choca con un uso que vaya en contra de este objetivo, que expulse a la gente de la plataforma”, pronunció.
Esa misma mañana y en esa misma sala, la cómica y guionista Marina Lobo había contado que empezó a ir a terapia psicológica como consecuencia de la violencia a la que tuvo que enfrentarse en redes sociales como Instagram por el hecho de ser una mujer –la frase podría terminar aquí y no estaría faltando a la verdad– con un discurso político progresista. Además, desveló que, “cuando te llega una oleada de ataques, Instagram en las notificaciones te muestra lo malo todo el rato, aunque luego te metas en los comentarios y solo haya dos malos, pero esos van a estar todo el rato en tus notificaciones”. Mara Mariño, periodista y sexóloga, asentía para respaldar lo que estaba contando Lobo, y quiso añadir su experiencia: “En mi caso, me llevo enfrentando al odio online desde que empecé a trabajar como periodista (…) No era por mi trabajo, era por ser mujer (…) He tenido momentos donde el pico de ansiedad ha crecido, siempre relacionados con la publicación de mis ensayos. Yo escribo ensayos feministas y cuando hago promoción de esos libros en redes sociales, por lo que sea el algoritmo nunca lo lleva a potenciales lectoras feministas, siempre lo lleva a hombres machistas”.
Estas vivencias se redondearon con la ponencia de la socióloga Elisa García-Mingo, una de las mayores expertas en España en odio y violencia digital, que sostuvo que las plataformas de contenido como Instagram o YouTube “se han convertido en escuelas del odio y del antifeminismo”.
En esa misma línea, Alex Cadon, fundadora del proyecto contra las violencias machistas digitales Fembloc, aseguró que las redes sociales “no son escenario sino actor” y que están “expulsando activamente a mujeres y disidencias”. Además, lanzó diversas cifras extraídas de su trabajo en primera línea de defensa del odio digital, que demuestran la enorme prevalencia de estas violencias ante las negligencias de las corporaciones. “Detectamos omisiones en el 72% de los casos que atendemos, siendo Meta la que más acumula”, relató.
Desde noviembre de 2025, Fembloc gestiona el servicio de intervención especializada en violencias machistas digitales de la Generalitat de Catalunya, una posición que ha permitido a Cadon mantener reuniones con responsables de las grandes plataformas de contenido en las que, según contó, “se nos dijo con toda claridad que reducir las violencias sexuales digitales contra mujeres comunes no era una prioridad”.
Si bien Escassi llegó a la sala Clara Campoamor justo antes del inicio de su mesa, Zimmermann escuchó todas las intervenciones previas, impasible excepto por algún cabeceo. Uno de los más evidentes se produjo cuando Beatriz Martos, responsable de Campañas de Derechos Humanos en Amnistía Internacional, diseccionó el modelo de negocio de estas compañías que mercadean con datos personales y que, para ampliar sus beneficios, inflaman a propósito la polarización y el odio.
El representante de Meta negaba, pero Martos enumeró diversas investigaciones que demuestran la implicación de plataformas como Facebook en esta industria del odio hasta sus más funestas consecuencias: por ejemplo, en la limpieza étnica contra los rohingyas en Myanmar.
Zimmermann ignoró una a una todas las acusaciones que había ido escuchando, aunque algunas de sus consignas sí podían relacionarse con ellas. Para evadir responsabilidades, repitió una desinformación que ya había lanzado en una sesión de la Comisión de Economía, Comercio y Transformación Digital: “La DSA exime de responsabilidad a las plataformas en cuanto al contenido siempre y cuando no tengan conocimiento efectivo”. Voces expertas en el tema lo desmintieron con rotundidad en un reportaje publicado en CTXT.
En esa tercera y última mesa, Tesh Sidi dio pie a Miguel Escassi comentando que le preocupa la automatización de las labores de supervisión del contenido, a lo que él respondió que YouTube “no ha retirado revisores humanos”. En 2020, Neal Mohan, entonces jefe de producto y hoy CEO de la plataforma, reconoció al Financial Times los problemas derivados de la reducción de personas en la moderación, decisión que se vieron en obligación de revertir. Solo hicieron falta unos cuantos segundos para que fuera el propio Escassi quien se retratase a sí mismo: “El 99% del contenido que hay que retirar se marca gracias a la IA”.
Además, aseguró que hay 750 personas trabajando en dicha tarea. “Daros cuenta de la escala de lo que estamos hablando. En el caso de YouTube (…) de octubre a diciembre del año pasado, estamos hablando de 4,8 millones de vídeos que hubo que retirar, 45.000 en España en ese periodo”, explicó. 750 personas, 4,8 millones de vídeos retirados en tres meses. 97 vídeos retirados al día –de lunes a viernes– por cada persona, en caso de que, como afirmó, la IA sea solo la primera línea de defensa antes del verdadero trabajo de supervisión humana.
En definitiva, fue una jornada marcada por un abismo ineludible. De un lado, la valentía de quienes se enfrentan cada día con el odio más brutal y, aun así, siguen peleando por construir un mundo mejor; del otro, la indolencia de los responsables directos de que ese odio no solo campe a sus anchas, sino que se vea recompensado con visibilidad y réditos de todo tipo. La conclusión, vista la actitud de los segundos, es que no se puede confiar en su buena fe.
Fuente: Ctxt
Deja una respuesta