Cuando Facebook adquirió WhatsApp, prometió respetar la privacidad de sus usuarios. Ese no ha sido el caso, y la empresa ahora emplea a miles de personas para leer chats supuestamente encriptados.
El gigante de las redes sociales Facebook adquirió WhatsApp en 2014, y el CEO Mark Zuckerberg prometió mantener la aplicación de mensajería sencilla y sin publicidad «exactamente igual». El cifrado de extremo a extremo se introdujo en 2016, y la propia aplicación ofrecía garantías en pantalla a los usuarios de que «Nadie fuera de este chat» puede leer sus comunicaciones, y el propio Zuckerberg le dijo al Senado de los EE. UU. En 2018 que «No lo hacemos». No veo ningún contenido en WhatsApp «.
Al parecer, nada de eso es cierto. Más de mil moderadores de contenido están empleados en las oficinas compartidas de Facebook / WhatsApp en Austin, Texas, Dublín, Irlanda y Singapur para examinar los mensajes reportados por los usuarios y marcados por inteligencia artificial.
Con base en documentos internos, entrevistas con moderadores y una denuncia de un denunciante, ProPublica explicó cómo funciona el sistema en una extensa investigación publicada el miércoles.
Cuando un usuario presiona «informar» en un mensaje, el mensaje en sí más los cuatro mensajes anteriores en el chat se descifran y se envían a uno de estos moderadores para su revisión. Los moderadores también examinan los mensajes seleccionados por la inteligencia artificial, basándose en datos no cifrados recopilados por WhatsApp. Los datos recopilados por la aplicación son extensos e incluyen:
“Los nombres y las imágenes de perfil de los grupos de WhatsApp de un usuario, así como su número de teléfono, foto de perfil, mensaje de estado, nivel de batería del teléfono, idioma y zona horaria, identificación única del teléfono móvil y dirección IP, intensidad de la señal inalámbrica y sistema operativo del teléfono, como una lista de sus dispositivos electrónicos, cualquier cuenta de Facebook e Instagram relacionada, la última vez que usaron la aplicación y cualquier historial previo de violaciones «.
Estos moderadores no son empleados de WhatsApp o Facebook. En cambio, son contratistas que trabajan por 16,50 dólares la hora, contratados por la consultora Accenture. Estos trabajadores están obligados a guardar silencio mediante acuerdos de no divulgación, y Facebook no anunció su contratación.
Asimismo, las acciones de estos moderadores no se denuncian. Facebook publica «informes de transparencia» trimestrales para su propia plataforma y su subsidiaria Instagram, que detallan cuántas cuentas fueron prohibidas o sancionadas de otra manera y para qué, pero no hace esto para WhatsApp.
Muchos de los mensajes revisados por los moderadores están marcados por error. WhatsApp tiene dos mil millones de usuarios que hablan cientos de idiomas, y el personal a veces tiene que confiar en la herramienta de traducción de Facebook para analizar los mensajes marcados, lo que un empleado dijo que es «horrible» para decodificar la jerga local y el contenido político.
Además de los informes falsos enviados como bromas, los moderadores deben analizar contenido perfectamente inocente destacado por AI. Las empresas que utilizan la aplicación para vender navajas de afeitar de última generación han sido señaladas como vendedoras de armas. Se ha señalado a los padres que fotografían a sus hijos bañándose por pornografía infantil, y se ha señalado a las empresas de lencería como «negocios de orientación sexual» prohibidos.
«La mayoría de las veces, la inteligencia artificial no es tan inteligente», dijo un moderador a ProPublica.
WhatsApp reconoció que analiza los mensajes para descartar «los peores» abusadores, pero no llama a esto «moderación de contenido».
«En realidad, no solemos usar el término para WhatsApp», dijo a ProPublica el director de Comunicaciones Carl Woog. «Las decisiones que tomamos sobre cómo creamos nuestra aplicación se centran en la privacidad de nuestros usuarios, manteniendo un alto grado de confiabilidad y previniendo el abuso».
Facebook ha mentido antes sobre su compromiso con la privacidad del usuario. Dos años después de que Zuckerberg asegurara a los usuarios que su empresa mantendría WhatsApp libre de publicidad y permitiría que la empresa «operara de forma completamente autónoma», reveló planes para vincular las cuentas de WhatsApp a Facebook con el fin de segmentar anuncios. Esta medida le valió a Facebook una multa de 122 millones de dólares por parte de los reguladores antimonopolio de la UE, quienes dijeron que el director ejecutivo de Facebook los había engañado «intencionalmente o por negligencia».
A pesar de las garantías de privacidad de Zuckerberg, WhatsApp comparte más metadatos de usuario (datos que pueden identificar a un usuario sin el contenido de sus mensajes) con las fuerzas del orden que los servicios de mensajería rivales de Apple y Signal. Estos metadatos, que pueden revelar números de teléfono, ubicación, marcas de tiempo y más, son valiosos para las agencias policiales y de inteligencia, y las filtraciones de 2013 del denunciante de la NSA Edward Snowden revelaron una operación a gran escala de la agencia para capturar los metadatos de millones de estadounidenses. comunicaciones.
«Los metadatos te dicen absolutamente todo sobre la vida de alguien», dijo una vez el ex asesor general de la NSA, Stewart Baker. «Si tienes suficientes metadatos, realmente no necesitas contenido».
En todas sus plataformas, Facebook cumple con el 95% de las solicitudes de metadatos. Si bien se desconoce lo que las fuerzas del orden público han podido obtener de los metadatos de WhatsApp, el Departamento de Justicia de EE. UU. Ha solicitado estos metadatos más de una docena de veces desde 2017 y probablemente con mucha más frecuencia, dado que muchas de estas solicitudes no se hacen públicas. Los metadatos de WhatsApp se han utilizado para encarcelar a Natalie Edwards, una exfuncionaria del Departamento del Tesoro que filtró informes bancarios confidenciales sobre transacciones sospechosas a BuzzFeed News.
Dentro de WhatsApp, la empresa destaca la importancia de promocionarse como una operación centrada en la privacidad. Un documento de marketing obtenido por ProPublica establece que WhatsApp debe presentarse como «valiente», adoptando una «postura pública fuerte que no esté motivada financieramente en cosas que nos importan», como defender el cifrado y la privacidad del usuario.
Sin embargo, otra línea en el mismo documento establece que los «objetivos comerciales futuros» significan que «si bien la privacidad seguirá siendo importante, debemos adaptarnos a las innovaciones futuras».