Riesgos de la tecnología
contenido-exclusivo

Pensadores 2020: Atrapados en la era del capitalismo de vigilancia y la economía predictiva

Una profesora de la Escuela de Negocios de la Universidad de Harvard nos enseña cómo las empresas se apropian de nuestras experiencias y las convierten en flujos de datos patentados.

La autora de este artículo, Shoshana Zuboff, escribió el libro “La era del capitalismo de vigilancia”. / Getty Images
La autora de este artículo, Shoshana Zuboff, escribió el libro “La era del capitalismo de vigilancia”. / Getty Images

Al tiempo que nos asomamos a una nueva década, también nos adentramos en una nueva era de la economía política. Durante siglos, el capitalismo ha evolucionado a través de diversas etapas, desde el capitalismo industrial al corporativo y el financiero. Ahora estamos ingresando en la era del “capitalismo de vigilancia”. (Más de nuestra serie Pensadores 2020: Francis Fukuyama, la internet y la democracia).

Las experiencias vividas por la gente son reclamadas unilateralmente por empresas privadas y convertidas en flujos de datos patentados. Algunos de esos datos se usan para mejorar productos y servicios; al resto se los considera una “plusvalía conductual” y son valiosos por sus abundantes señales predictivas. Estos datos predictivos son enviados a las fábricas de la nueva era con inteligencia artificial, donde son procesados y convertidos en productos predictivos extremadamente rentables, que anticipan nuestras decisiones actuales y futuras.

Los productos predictivos son entonces comerciados en lo que llamo “mercados de futuros conductuales”, donde los capitalistas de vigilancia venden certidumbre a sus clientes corporativos. La “proporción de clics” de Google fue el primer producto predictivo exitoso, y sus mercados de anuncios fueron los primeros en operar con futuros humanos. Los capitalistas de vigilancia ya se han enriquecido inmensamente gracias a estas operaciones de intermediación y cada vez son más las empresas, en casi todos los sectores económicos, dispuestas a apostar por nuestro comportamiento futuro.

La dinámica competitiva de estos nuevos mercados revela los imperativos económicos del capitalismo de vigilancia. En primer lugar, la inteligencia artificial requiere muchos datos: economías de escala. En segundo lugar, las mejores predicciones también requieren variedad en los datos: economías de alcance. Esto impulsó la ampliación de la captura de plusvalía más allá de los “me gusta” y los clics, hacia el mundo fuera de línea: nuestro ritmo y modo de correr, nuestras conversaciones durante el desayuno, nuestras búsquedas de sitios donde estacionar, nuestras caras, voces, personalidades y emociones. En una tercera fase de intensidadcompetitiva, los capitalistas de vigilancia descubrieron que los datos más predictivos provienen de la intervención en la acción humana para convencer, ajustar, arrear y modificar el comportamiento en la dirección de resultados garantizados. Este cambio del conocimiento en poder transforma la tecnología: de un medio de producción pasa a ser un medio mundial de modificación del comportamiento para lograr “economías de acción”.

Llamo a este poder para dar forma al comportamiento humano de manera remota y a escala para los fines de otros “poder instrumentario”, porque funciona completamente a través del medio de la instrumentación digital. El poder instrumentario no te amenazará con el terror o el asesinato, no aparecerán los soldados para arrastrarte al gulag o al campo de concentración. Esta nueva especie de poder Funciona de manera remota, forjando señales subliminales, dinámicas de comparación social, castigos y recompensas, y diversos encargados de su cumplimiento, para moldear comportamientos que se alineen con sus intereses comerciales.

Las economías de acción han sido un punto central de la experimentación. Los “experimentos de contagio a escala masiva” de Facebook descubrieron la forma de diseñar señales subliminales y dinámicas de comparación social en las páginas de Facebook para cambiar el comportamiento y las emociones de sus usuarios en el mundo real, mientras evitaban tenazmente que los usuarios se percaten de ello. El juego de realidad aumentada desarrollado por Google, Pokémon Go, llevó la experimentación a un nuevo nivel. Quienes participaron en la moda del Pokémon Go hace unos pocos años no solo fueron parte de un juego para teléfonos inteligentes. De hecho, las recompensas y los castigos de la ludificación se usaron para arrear a la gente hacia restaurantes, bares, locales de comida rápida y comercios que habían pagado por una “afluencia garantizada de clientes”.

Así como el capitalismo industrial intensificó continuamente los medios de la producción, el capitalismo de vigilancia está intensificando los medios para modificar comportamientos. El capitalismo de vigilancia desmantela el sueño digital original, que imaginó a la internet como una fuerza liberadora y democratizante. Ya no hay que albergar ilusiones sobre la moralidad inherente de las redes, ni sobre la calidad intrínsecamente social, inclusiva y democrática de la “conexión”. Por el contrario, la conexión digital es hoy meramente un medio para los fines comerciales de alguien más. El capitalismo de vigilancia es parasitario hasta la médula, repite la descripción del capitalismo propuesta por Karl Marx: un vampiro que se alimenta del trabajo; solo que ahora el trabajo ha sido reemplazado por la experiencia humana privada.

El capitalismo de vigilancia ha sido abrazado por Facebook, Microsoft, Amazon y muchos otros, pero fue perfeccionado en primer lugar por Google (actualmente, Alphabet), de la misma manera en que el capitalismo corporativo fue perfeccionado por General Motors hace un siglo. En su condición de pionera, Google rápidamente colonizó los espacios no explorados de la internet no regulada, donde prosperó cual especie invasiva en un ambiente carente de depredadores naturales. Desarrolló su modelo de negocios a un ritmo vertiginoso, dejando muy atrás la capacidad de las instituciones públicas y los usuarios para seguirla, pero también se benefició gracias a eventos históricos. Después de los ataques del 11 de septiembre de 2001, el aparato de seguridad nacional estadounidense estaba predispuesto a cultivar, imitar y proteger las nacientes capacidades del capitalismo de vigilancia y apropiarse de ellas, en vez de regularlas.

Los capitalistas de vigilancia rápidamente comprendieron que podían hacer lo que quisieran... y eso hicieron. Mientras de labios para fuera proclamaban el poder emancipador de la tecnología, escondieron la verdadera acción —la extracción secreta e implacable de la experiencia privada como materia prima gratuita para la producción y las ventas— entre bastidores. Envalentonados por los vastos y crecientes flujos de ingresos y un teatro de operaciones salvaje y libre de contrincantes, también fueron protegidas por la inherente ilegibilidad de los procesos automatizados. La gente sencillamente no se dio cuenta de lo que estaba ocurriendo y cómo funcionaba realmente la nueva lógica económica.

Después de comenzar con las principales empresas de internet, los mecanismos e imperativos económicos del capitalismo de vigilancia se han convertido, en general, en el modelo por defecto de las empresas basadas en internet. Más aún, los productos predictivos actuales se extienden más allá de los anuncios dirigidos en línea a muchos otros sectores, entre los que se cuentan los seguros, la venta minorista, las finanzas, la salud, la educación y un creciente abanico de bienes y servicios.

Estos bienes y servicios no se producen para crear reciprocidades constructivas entre los productores y los consumidores. En vez de ser los objetos del intercambio de valor tradicional, son el “gancho” que atrae a los usuarios hacia acuerdos extractivos, donde se pueden cosechar sus experiencias personales y envasarlas para que sirvan a los fines de otros. Una expresión muy frecuente en la era digital es que “si es gratis, tú eres el producto”. Pero eso no es cierto, somos la materia prima en un proceso extractivo mucho mayor.

Esto implica un pacto faustiano: todos hemos aceptado que internet es actualmente fundamental para la participación social y económica. Sin embargo, para cosechar sus beneficios debemos exponernos a la explotación del capitalismo de vigilancia. Debido a que somos tan dependientes del mundo digital, nos hemos habituado a las realidades de ser rastreados, analizados, explotados y manipulados. Racionalizamos que “no tenemos nada que ocultar” o simplemente nos entregamos a la pérdida de privacidad y voluntad, sin darnos cuenta de que se nos está imponiendo una elección en esencia ilegítima.

¿Cómo llegamos a esto? Una de las características más importantes del capitalismo de vigilancia es que no tiene antecedentes. Por definición, los eventos sin precedentes son inicialmente irreconocibles. Cuando nos encontramos con algo nuevo, intentamos entenderlo ubicándolo en el contexto de categorías que nos son familiares. Por ejemplo, cuando aparecieron los primeros automóviles, muchos recurrieron al término “carro sin caballos” para dar sentido a la nueva tecnología.

Cuando interpretamos un evento actual sin precedentes como una mera extensión del pasado, nos arriesgamos a normalizar lo anormal. Este error puede ser peligroso. Cuando los indígenas en las islas del Caribe precolombino encontraron por primera vez a los soldados españoles que marchaban por sus costas con armaduras, supusieron que eran dioses que los visitaban y sembraron las semillas de su propia destrucción dándoles la bienvenida con exquisita hospitalidad.

Debido a la falta de precedentes, el capitalismo de vigilancia supera al alcance de nuestros conceptos económicos actuales. Por ejemplo, recurrimos a palabras como “monopolio” y “privacidad” cuando nos oponemos a las prácticas del capitalismo de vigilancia, pero, aunque estos términos ciertamente son aplicables, no capturan la esencia de las nuevas operaciones. El capitalismo de vigilancia no tiene que ver solo con la gobernanza corporativa o el poder de mercado; es una lógica de acumulación completamente nueva, con sus propios mecanismos, métodos, imperativos y mercados originales. Las consecuencias van más allá del territorio convencional de la empresa privada y socavan la democracia desde arriba y desde abajo. Desde arriba, el capitalismo de vigilancia opera a través de asimetrías sin precedentes de conocimiento y poder, aumentando la desigualdad social en vez de reducirla. Desde abajo, los imperativos del capitalismo de vigilancia apuntan a la autonomía humana, la soberanía individual y la voluntad, capacidades sin las cuales la democracia es inimaginable.

Aunque el capitalismo de vigilancia es una fuerza completamente nueva en la historia económica, ya hemos visto lo suficiente como para saber que depende del flagrante desprecio de las normas sociales y los derechos fundamentales para que una sociedad democrática funcione adecuadamente. Así como la civilización industrial floreció a expensas de la naturaleza, el capitalismo de vigilancia prospera a expensas de la naturaleza humana. Nos estamos enfrentando al legado del capitalismo industrial en la lucha mundial contra el catastrófico cambio climático. ¿Cuál será nuestro propio legado si damos rienda suelta al capitalismo de vigilancia?

Traducción al español Ant-Translation.Copyright: Project Syndicate, 2019. www.project-syndicate.org

900403

2020-01-18T21:00:00-05:00

article

2020-01-18T21:23:08-05:00

[email protected]

none

Shoshana Zuboff / ESPECIAL PARA EL ESPECTADOR / CAMBRIDGE

Economía

Pensadores 2020: Atrapados en la era del capitalismo de vigilancia y la economía predictiva

92

11520

11612

1