Facebook se ha dado una palmada en la espalda por bombardear casi todos los «discursos de odio» que supuestamente violaban sus reglas. Pero no solo se eliminó la mayor parte del contenido antes de que alguien pudiera marcarlo, sino que los usuarios ni siquiera podían apelar la mayoría de las eliminaciones.
Al presentar su Informe de cumplimiento de los estándares comunitarios para el cuarto trimestre de 2020 el jueves, Facebook se jactó de que su uso ampliado de la inteligencia artificial lo había ayudado a eliminar casi el doble de contenido de «intimidación y acoso» que el trimestre anterior, solo una de varias categorías en las que las eliminaciones se dispararon, mientras que su subsidiaria de Instagram expandió drásticamente su capacidad para detectar contenido relacionado con suicidios y autolesiones.
Facebook eliminó 6,3 millones de artículos de intimidación, casi duplicando los 3,5 millones del último trimestre y asistido en gran parte por su tecnología de inteligencia artificial. La capacidad de traducción ampliada lo ayudó a eliminar 26,9 millones de piezas de contenido de «discursos de odio», frente a los 22,1 millones del tercer trimestre. E Instagram atrapó 6.6 millones de discursos de odio mientras duplicaba con creces la cantidad de contenido de suicidio y autolesiones que eliminó, de 1.3 millones a 3.4 millones este trimestre.
A pesar de que los números crecen en todos los ámbitos, no hay pruebas de que el aumento de eliminaciones se traduzca necesariamente en una mejor experiencia del usuario. La gran mayoría de la eliminación de contenido se realizó automáticamente, por los sistemas de la plataforma, antes de que un solo usuario pudiera verlo, y mucho menos denunciar que viola alguna regla.
Sin embargo, el gigante de las redes sociales se jactó de que el 97 por ciento del «discurso de odio» eliminado de la plataforma fue eliminado por IA antes de que un solo humano pudiera verlo y / o sentirse ofendido por él, un aumento del tres por ciento con respecto al trimestre anterior y la friolera de 16.5 aumento porcentual desde el último trimestre de 2019.
Es difícil saber cómo se sintieron los usuarios acerca de la mejora del contenido de la plataforma. Si bien Facebook normalmente permite a los usuarios apelar sus decisiones de eliminar contenido, «una reducción temporal en [su] capacidad de revisión como resultado de Covid-19» significó que las opciones de apelación de los usuarios se vieron severamente restringidas, admitió la plataforma.
Sin embargo, el director de tecnología de Facebook, Mike Schroepfer, apenas pudo contener su entusiasmo por la tasa de «mejora» de sus herramientas de detección de discurso de odio de inteligencia artificial, y señaló que en el último trimestre de 2017, solo el 24 por ciento de dicho contenido se había eliminado sin intervención humana y comparar las herramientas anti-bullying de Facebook con los avances científicos y tecnológicos que salvan vidas.
«Cuando miras los tiempos en los que la nueva tecnología ha ayudado a abordar los problemas más difíciles que enfrenta nuestro mundo, desde curar enfermedades hasta producir automóviles más seguros, el progreso se produjo de manera incremental durante décadas, a medida que las tecnologías se refinaron y mejoraron», dijo Schroepfer, jactándose de haber escuchado «el la misma historia de mejoras constantes y continuas en estos días cuando hablo con los ingenieros que construyen sistemas de inteligencia artificial que pueden evitar que el discurso de odio y otro contenido no deseado se propague por Internet «.
Sin embargo, como han dejado en claro los muchos usuarios de Facebook insatisfechos que han sido arrancados de la plataforma o migrados por su propia voluntad, el «discurso de odio» está en el ojo del espectador. La plataforma perdió dos millones de usuarios solo en América del Norte en el tercer trimestre de 2020, cayendo un millón más para el cuarto trimestre.
Eso no afectó sus ganancias, pero el gigante tecnológico ha tomado recientemente una serie de decisiones que aliena a los usuarios y que están llevando incluso a los usuarios más antiguos a sus competidores. Se cree que el ultimátum reciente a los usuarios de la subsidiaria de mensajería encriptada WhatsApp, esencialmente exigiendo a los usuarios que compartan sus datos privados con Facebook o eliminen la aplicación, ha aumentado las filas de la aplicación de mensajería encriptada Telegram, que aumentó en popularidad para convertirse en la aplicación no descargada más descargada. aplicación de juegos para todos los teléfonos inteligentes en enero.