Escucha este artículo
Audio generado con IA de Google
0:00
/
0:00
En todas las regiones del mundo, usuarios de WhatsApp, Instagram y Facebook –todos servicios de la empresa Meta– han denunciado el cierre arbitrario de sus cuentas. Rumbeaderos, tiendas, organizaciones políticas, servicios de salud, artistas, activistas, entre otras se han visto afectadas. ¿Qué tienen en común? Todas publican contenido considerado progresista.
La oenegé Repro Uncensored ha documentado el aumento sostenido de estos casos en los últimos dos años. El fenómeno coincide con el inicio del segundo mandato de Donald Trump, presidente de Estados Unidos. El mandatario regresó a la Casa Blanca habiendo pactado con los magnates de las grandes tecnológicas. Pocos días antes de asistir a la ceremonia de posesión, Mark Zuckerberg, director ejecutivo de Meta, redujo los filtros de moderación de contenido que tenían enfoque de género y prevenían el discurso de odio. En nombre de la libertad de expresión, hizo más vulnerables a las minorías en redes sociales.
La función de moderación de contenidos de Instagram –a través de la cual Meta se asegura de que lo que se publique vaya acorde a las normas comunitarias– opera mediante inteligencia artificial y cada vez tiene menos control humano. Esto facilita que el algoritmo de moderación se active y se precipite a cerrar un contenido inofensivo cuando otro usuario lo denuncia, sin leer correctamente los contextos. El algoritmo es una serie de instrucciones que una máquina recibe para seguir. Quienes programan estas instrucciones son seres humanos, por lo que los algoritmos operan bajo sesgos humanos a su vez. Lo que Repro Uncensored ha documentado en los casos de los que tiene registro es que las reglas sobre contenido sexual y desnudez no son muy claras y funcionan con un aparente sesgo que pone en desventaja a las cuentas que publican contenido relacionado con salud sexual y reproductiva, feminismo y derechos LGBTIQ+. En Colombia, por ejemplo, la organización Jacarandas, que brinda apoyo a mujeres que buscan un aborto, vio cerrada su línea de WhatsApp varias veces supuestamente por romper las normas comunitarias, pero sin explicaciones claras de parte de la aplicación.
A esto se suma el engagement-based ranking (clasificación basada en interacción). ¿Han notado que ya en redes los contenidos no aparecen en orden cronológico? Es porque el contenido que las aplicaciones de redes privilegian depende de las probabilidades de que los usuarios interactúen con él y, sobre todo, que pasen más tiempo en pantalla consumiéndolo. Los estudios sobre este tema han encontrado que los algoritmos optimizados para el engagement-based ranking a menudo fomentan contenido emocionalmente cargado, hostil hacia grupos externos y extremista. Esta estructura de funcionamiento lleva a que contenidos de corte progresista y más moderados se visualicen menos.
Instagram y Facebook están diseñadas para pasar en ellas la mayor cantidad posible de tiempo. Por este diseño, un tribunal estadounidense falló contra Meta y la Comisión Europea concluyó que la empresa debe rediseñar la aplicación. En Europa, además, Meta será llevada a una corte de los Países Bajos con el argumento de que su diseño está censurando contenidos relacionados con minorías y disidencias sexuales. Esto podría romper la Ley de Servicios Digitales, una robusta legislación que obliga a las empresas tecnológicas a combatir enérgicamente el contenido ilegal, proteger la privacidad del usuario y prohibir las tácticas de diseño manipuladoras.
En Colombia no disponemos de leyes medianamente similares y los esfuerzos legislativos han sido obstaculizados. Las redes sociales son un pilar del debate público contemporáneo. Para millones de personas, estas son la principal plataforma de acceso a información y de comunicación propia. La legislatura que hoy se instala y el gobierno venidero debería estar a la altura de los retos de su tiempo, y garantizar al público colombiano un acceso seguro, libre y democrático a las redes.
¿Está en desacuerdo con este editorial? Envíe su antieditorial de 500 palabras a elespectadoropinion@gmail.com
Nota del director. Necesitamos lectores como usted para seguir haciendo un periodismo independiente y de calidad. Considere adquirir una suscripción digital y apostémosle al poder de la palabra.
