Vigilar a los que vigilan

Las políticas de moderación de contenido de las redes sociales se encuentran nuevamente en el ojo del debate desde el pasado lunes, tras la consideración, por parte de la Corte Suprema de Estados Unidos, de dos leyes implementadas por los Estados de Texas y Florida que las comprenden. Estas pretenden limitar el poder que las plataformas como X (ex Twitter), Facebook, Instagram y similares tienen para remover o moderar contenido vertido en ellas por sus usuarios, estableciendo condiciones específicas para los casos en los que se modere o filtre contenido, debiendo las redes sociales dar explicaciones a los usuarios. En un mundo digitalizado como el de hoy las plataformas de redes sociales, entendidas como espacios que permiten a usuarios conectarse, interactuar y compartir contenidos a través de medios electrónicos, son esenciales. Quienes participan en ellas tienen no solo la posibilidad de crear contenido –a diferencia de los medios tradicionales, en los que los usuarios son simples receptores-, sino también de utilizar servicios de mensajería, noticias, recomendaciones y publicidad.

Ante esta infinidad de aristas el rol que ocupa la moderación de ese material -el filtro de la información, el bloqueo temporal de cuentas, la menor visibilidad del usuario o su eventual eliminación- es central. Esto se efectiviza a través del flagging, es decir, el reporte del contenido ofensivo o dañino. Si bien existe coincidencia sobre la pertinencia de eliminar contenido racista, de odio, o terrorista, existen zonas grises en las que las plataformas deciden moderar publicaciones o usuarios específicos por otros motivos. En este sentido se pronunció el Juez Samuel Alito al preguntarse si la moderación de contenido no es algo más que un eufemismo para referirse a la censura.

Actualmente la mayoría de estas actividades de moderación son efectivizadas por personas, pero poco a poco la automatización gana terreno y los algoritmos y la inteligencia artificial comienzan a ser los encargados de considerarla. Planteado esto, cabe preguntarse a qué valores, concepciones e instrucciones responden estas alternativas.

Sabido es que las redes sociales se han transformado en la plaza pública de la actualidad, espacio en el que los usuarios intercambian, constantemente, sus visiones. Sin embargo, estas plataformas tecnológicas no dejan de ser compañías y, como tales, siguen determinados modelos de negocios basados en la monetización y la búsqueda de la permanencia del usuario en la red.

En pos de ese objetivo, tiene sentido que decidan dar mayor visibilidad a publicidad, información y otras creaciones que empujen su valor al alza. Por todo esto los Estados comienzan a inmiscuirse en el terreno que, anteriormente, se consideraba privado y buscan distintas alternativas para proteger la libertad de expresión de los usuarios. Sin embargo, no todos están de acuerdo con su intervención. Justamente, el Juez Brett Kavanaugh expresó que cuando piensa en algo orwelliano piensa en el Estado: “no el sector privado, no los individuos”.

En el caso de Estados Unidos, estas normas han sido impulsadas por legisladores conservadores basándose en la creencia de que las redes sociales tienden a moderar o remover, en mayor medida, contenido de esta índole, como lo sostuvo el Gobernador Republicano de Texas, Greg Abbott. Tras los sucesos del 6 de enero de 2021 que implicaron una irrupción de simpatizantes de Donald Trump en el Capitolio y tuits en los que el exmandatario sostenía la existencia de fraude electoral, sus cuentas en redes sociales fueron suspendidas de forma preventiva, lo que despertó propuestas legislativas como las mencionadas.

De hecho, Donald Trump ha lanzado una suerte de red social paralela, denominada Truth, con el objetivo de propiciar conversaciones “abiertas, honestas y libres, sin discriminación por opinión política”. Esta alternativa, concebida como una solución a la censura aplicada sobre sus cuentas, no deja de ser polémica. hay quienes se preguntan si la imposibilidad de tolerar las diferencias no termina por reforzar preconceptos y nociones que amplían, cada vez más, las grietas sociales existentes. Ejemplo de esto es el caso de Cambridge Analytica, una compañía que, a través de la recabación de datos de preferencia de usuarios y el refuerzo de la información ya aceptada por ellos, logró incidir en procesos electorales como el Brexit o las elecciones presidenciales de Estados Unidos en 2016.

En cuanto el continente europeo, la legislación ha aprobado normas como la Ley de Servicios Digitales, de noviembre de 2022, que implementa nuevas responsabilidades para tales servicios, obligándolos a limitar la difusión de contenidos ilícitos y proteger a los usuarios, especialmente a los menores de edad, de la difusión de contenidos peligrosos. Además, ha reforzado las garantías de los derechos fundamentales a través de la incorporación de medios de impugnación ante la moderación de contenido al servicio de los usuarios. Las posibilidades contempladas incluyen la presentación de reclamos en la propia plataforma, la solicitud de reparación ante organismos jurisdiccionales o la resolución extrajudicial del conflicto.

El concepto que parece rondar todas estas propuestas es el de libertad; libertad de expresión para los usuarios y libertad de prensa para las plataformas. En Estados Unidos, la Primera Enmienda a la Constitución reza “El Congreso no podrá hacer ninguna ley (…) limitando la libertad de expresión, ni de prensa (…)”.

Esta disposición, sumada a precedentes como Miami v. Tornillo, ha sido clave en la construcción de una posición combativa por parte de las plataformas de redes sociales que sostienen que su naturaleza en este asunto es similar a la de un periódico o revista, pudiendo elegir una línea editorial y filtrando el contenido que se publica en ellas. La polémica, sin embargo, no les es ajena, dado que anteriormente defendieron una postura completamente opuesta al querer eximirse de responsabilidad por la difusión de contenido de odio o terrorista en sus espacios, basándose en la Sección 230 de la Ley de Decencia de las Comunicaciones. Esta dispone que no pueden hacerse responsables de las opiniones de terceros aun cuando estos utilizaren las herramientas que brindan como medio de difusión.

Dicho todo esto, las leyes de Texas y Florida han cesado su aplicación en tanto NetChoice, en representación de varias empresas tecnológicas, consiguió la efectivización de medidas cautelares que permiten que el foco del debate se desplace a cuestiones más profundas.

La discusión de fondo en todo este tema parece ser la concepción sobre la naturaleza de las redes sociales; ¿son estas simples reproductoras de opinión? ¿O son también medios que controlan lo que debe publicarse, como una editorial o un medio informativo televisivo?

La pugna entre la libertad de expresión -asentada en instrumentos de suma importancia, como la Declaración de los Derechos del Hombre y el Ciudadano o el Pacto Internacional de Derechos Civiles y Políticos- y el derecho de elegir una línea editorial en cabeza de las redes sociales parece no tener salida. Es válido preguntarse, también, si la libertad de expresión no se encuentra ya bastante limitada en tanto las plataformas mainstream como Facebook, X e Instagram no tienen alternativas reales. Mientras Facebook tiene alrededor de 2000 millones de usuarios activos al día –se espera que para 2027 haya alcanzado al 75% de la población mundial-, X concentra aproximadamente 530 millones de usuarios mensuales. Además, más de 1.000 millones de personas conectan con negocios en Facebook cada semana. La adhesión a los términos y condiciones y las políticas de privacidad que son aceptadas por los usuarios al unirse a ellas no dejan de ser decisiones unilaterales, adoptadas, direccionadas y supervisadas por personas que tienen, también, concepciones sociales, políticas y religiosas determinadas.

La noción de “vigilar a los vigilantes” parece tener, entonces, mucho sentido. Ante la fijación unilateral de reglas, los Estados han intentado, de cierto modo, participar en la discusión. El camino no parece estar definido, y la dirección correcta no está nada clara.

Lo realmente interesante de que estos casos hayan alcanzado la Corte Suprema es el impacto que tendrán sus decisiones en el futuro de la regulación de internet. No existen dudas de que las redes sociales y el contenido que se difunde en ellas son elementos centrales en la construcción de opinión, por lo que vale la pena seguir estas causas. Con fecha tentativa de resolución en junio de este año, sentarán un precedente sobre su rol, sus responsabilidades y su importancia en la “plaza pública” de la actualidad.