A pesar de la apariencia de conflicto entre Facebook y el gobierno de EE. UU., Existe una división del trabajo insidiosa y censuradora entre la empresa y el Departamento de Estado, lo que permite a ambos eludir la rendición de cuentas pública.
La publicación por The Intercept de la lista negra secreta de Facebook de ‘Personas y organizaciones peligrosas’ (DIO) que no permite en su plataforma, de supremacistas blancos, grupos de odio, movimientos sociales militarizados y presuntos terroristas, proporciona una idea de cómo las redes sociales La red modera el contenido que, según afirma, podría generar violencia fuera de línea.
Hay dos dimensiones preocupantes en esta última revelación. La primera es que la lista, en particular con respecto a la categoría de terrorismo, se extrae principalmente de una lista de sanciones mantenida por el Departamento del Tesoro y creada por George W. Bush inmediatamente después de los ataques del 11 de septiembre de 2001.
Estas restricciones se remontan a 2012, cuando ante la creciente alarma en el Congreso y las Naciones Unidas sobre el reclutamiento de terroristas en línea, Facebook agregó a sus ‘Normas comunitarias’ una prohibición sobre las organizaciones con un historial de actividades terroristas o delictivas violentas. » Inicialmente, esto fue modesto. Pero hoy, esto se ha transformado en lo que se conoce como la política DIO.
Esto restringe lo que los 2.900 millones de usuarios globales activos de Facebook (no solo los ciudadanos estadounidenses) pueden decir sobre una lista enorme y cada vez mayor de entidades que tanto él como el Departamento de Estado de los Estados Unidos consideran que están más allá de los límites.
Facebook está proyectando efectivamente la política exterior de Estados Unidos a nivel mundial. Y si eso no es lo suficientemente preocupante, esto legitima su creciente poder para vigilar la libertad de expresión global, una capacidad que no tiene límites porque está más allá de la responsabilidad pública.
Este es el segundo y más preocupante componente del DIO. Facebook tiene carta blanca para controlar los pensamientos y el habla de miles de millones de usuarios de Internet en todo el mundo.
La categoría de grupos o individuos de odio, incluidas figuras históricas muertas como Adolf Hitler y Benito Mussolini, es insidiosa. Cuando Facebook prohíbe a un grupo o personas, impone graves limitaciones a la capacidad del público para discutir o incluso simplemente representar eventos o ideas.
La forma en que Facebook decide qué prohibir o qué constituyen comentarios «prohibidos» es realmente escalofriante.
Los materiales internos informados anteriormente por The Guardian y Vice muestran cuán imprecisamente Facebook define lo que significa para un usuario «elogiar», «apoyar» o «representar» a un oyente de DIO. Facebook está pidiendo a sus moderadores que adivinen lo que piensan sus usuarios. No es solo el habla, sino los pensamientos, los que se controlan a nivel mundial.
Los moderadores de Facebook no son psicólogos. Incluso si lo fueran, la moderación del pensamiento y el habla no debe tratarse con tal desprecio. Sin embargo, es peor que eso. Sus moderadores de contenido global son un ejército subcontratado de contratistas por horas mal pagados que, junto con el software automatizado, se espera que resuelvan lo que constituye un ‘elogio’ prohibido o lo que cumple con el umbral de ‘apoyo’, entre otros criterios, y luego decidan si es aceptable para su ubicación geográfica, idioma y contexto específicos.
Es un enfoque notablemente frívolo y arrogante para defender esas libertades fundamentales. Pero esto no es frívolo. Es mortalmente serio.
La noción de que una empresa privada, en busca de ganancias, tiene el poder de calzar de manera efectiva los pensamientos y el discurso de miles de millones de personas de cientos de países e innumerables culturas en un marco ordenado decretado desde Silicon Valley y el Departamento de Estado de EE. UU. motivo de preocupación mundial.