Por Simona Levi
Fundadora de Xnet. Directora de teatro, dramaturga, docente, activista, promotora cultural y estratega tecnopolítica.
Este caso muestra que el camino hacia un futuro digital más deseable no pasa por vigilar los contenidos ‘online’, sino por regular unas condiciones técnicas de circulación diseñadas para dañar nuestra salud
El juicio contra Meta y YouTube ganado el mes pasado por una joven de 20 años que padecía trastornos de conducta es crucial para nuestro futuro digital.
No tanto por la cuantía de la condena, que sigue siendo ridícula para corporaciones de ese tamaño, sino porque es el primer fallo que enfoca correctamente el problema.
La clave es que no pone el foco en el contenido, como suele suceder, sino en las decisiones editoriales y tecnológicas de las plataformas: en el diseño adictivo, el desplazamiento infinito, las recomendaciones algorítmicas y las funciones concebidas para maximizar captación, permanencia y dependencia, incluso cuando las empresas sabían que podían causar daño.
Según las notas del caso, la demandante sostuvo precisamente que no se trataba de la exposición a discursos nocivos, sino a un diseño tóxico del producto. Eso es lo que abre una vía realmente transformadora.
Durante años, las grandes plataformas han conseguido esquivar casi toda responsabilidad refugiándose en la idea de que ellas no hacen más que alojar o distribuir contenidos producidos por terceros.
En Estados Unidos, esa defensa se ha apoyado de forma sistemática en la Sección 230, que las protege frente a responsabilidades derivadas del contenido publicado por sus usuarios.
De hecho, desde el activismo digital también defendemos que los proveedores de servicios digitales no deberían inmiscuirse en los contenidos, no deberían ser una especie de policía censora del debate.
Por eso es importante que al fin se abra una grieta fundamental: si el problema no es el contenido, sino la arquitectura de decisión que lo selecciona, lo amplifica y lo encadena a mecanismos de recompensa compulsiva, entonces la discusión cambia por completo. Ya no hablamos de censurar discursos, sino de exigir responsabilidad sobre un producto diseñado para alterar comportamientos.
Ese cambio de enfoque permite atacar el problema evitando afectar la libertad de expresión, pues el objetivo no es modificar el discurso o el contenido, sino el diseño técnico y editorial. Es decir, las funciones deliberadamente adictivas, la ingeniería de la atención, la explotación de vulnerabilidades cognitivas, la opacidad de los sistemas de recomendación y las decisiones empresariales orientadas a anteponer el beneficio a la integridad de las personas usuarias.
Es imprescindible evitar entrar en el terreno resbaladizo de convertir a los poderes públicos o a las propias plataformas en árbitros generales de lo que puede o no puede decirse. El contenido siempre nos arrastra a debates mucho más fácilmente instrumentalizables, emotivos, polarizantes y subjetivos. El diseño, en cambio, nos permite intervenir sobre estructuras materiales objetivas.
Por eso este caso importa mucho más de lo que parece. No solo abre la veda judicial –aunque las indemnizaciones sean todavía insignificantes y aún haya miles de procedimientos en marcha–, sino que ofrece un encuadre que Europa debería observar atentamente.
Si las futuras legislaciones europeas avanzan en esta dirección, es decir, en regular la arquitectura tecnológica, la manipulación conductual y la responsabilidad por diseño, Europa puede colocarse en una posición mucho más fuerte y mucho más legítima.
Mucho más fuerte porque estaría actuando sobre prácticas verificables y estructurales, y mucho más legítima porque no estaría entrando a restringir opiniones, expresiones o circulación de ideas, sino a limitar dispositivos de captación y explotación que lesionan derechos.
Ese es el camino inteligente: no atacar la palabra sino la máquina que la organiza para volverla dependencia, ansiedad o depresión; no vigilar el contenido, sino gobernar las condiciones técnicas de su circulación cuando esas condiciones han sido diseñadas para dañar.
Es también la vía más sólida para evitar la trampa en la que tantas veces caen los debates sobre plataformas: la de responder a un problema real con soluciones autoritarias.
Fuente: Ctxt
Deja una respuesta