A quien nos lee,
si quieres apoyar nuestro trabajo te invitamos a suscribirte a la edición impresa.

SUSCRÍBETE
El capitalismo vigilante, una nueva variable del modelo económico que ha configurado a Occidente, se distingue por estar asentado en las prácticas empresariales impulsadas por empresas ligadas a Internet. Sus objetivos principales son aprovechar al máximo todos los datos disponibles que revelan hasta el más mínimo detalle del comportamiento humano y después comercializarlos. De este complejo sistema y de sus consecuencias actuales y futuras se ocupa el libro The age of surveillance capitalism. The fight for human future at the new frontier of power de Shoshana Zuboff, del cual publicamos esta reseña.

¿Cómo explicar y definir empresas como Google y Facebook cuyos servicios son gratuitos, pero cada año incrementan sus ganancias de manera sustancial? ¿Acaso operan de manera distinta al capitalismo industrial que definió la economía de Occidente en el siglo XX? ¿Es cierto que estas compañías, más allá de su enorme músculo económico, ejercen un inédito poder que merma la capacidad de decisión de sus usuarios? ¿Cómo afecta en nuestra vida diaria el uso de aplicaciones como Waze y Pokémon GO? ¿Es posible domesticar esta nueva variable de la lógica de acumulación de riqueza?

Estas son, entre otras, las preguntas que plantea Shoshana Zuboff en su libro The age of surveillance capitalism. The fight for human future at the new frontier of power (Public Affairs). Un interesante y original texto de poco más de seiscientas páginas, fruto de una investigación de una década y cuyo éxito ha sido abrumador desde su publicación a principios de 2019. Con el mero título de esta obra, Zuboff logró lo que no pocos académicos ambicionan; inventó una nueva categoría de análisis y la colocó en el imaginario social: capitalismo vigilante. El diario The New York Times y la revista Time, entre otros medios, lo ubicaron como uno de los mejores del 2019. Barack Obama, a pesar de que él y su administración no salen bien librados, lo incluyó entre sus recomendaciones de lectura del año pasado. Por si no fuese suficiente, en la agitada discusión que existe ahora en diversas universidades y centros de investigación, respecto a los diversos acertijos alrededor de la gobernanza de las plataformas de Internet, no hay algún texto académico que no cite esta obra.

Más allá del recuento de piropos, la tesis principal de este libro es que en el último par de décadas un grupo de compañías, con Google como punta de lanza, implementaron ciertas prácticas de negocio que pronto se erigieron en el modelo dominante en Internet. Y si bien estas prácticas son claramente capitalistas, también es cierto que reúnen características inéditas que exigen entenderlas como una nueva variante de este modelo económico: el capitalismo vigilante.

Vale aclarar que, para Zuboff, esta etapa no es la más reciente en una evolución lineal del capitalismo, ni tampoco es una fase inexorable del desarrollo tecnológico digital que funge como sustrato de esta nueva lógica económica. Se trata de un tiempo y lugar histórico —un cúmulo de circunstancias y decisiones de personas, que justo trata de reconstruir este libro—, cuyo resultado es un nuevo capitalismo que tiene como principal peculiaridad la materia prima con que trabaja y los enormes riesgos que conlleva el uso de ésta para la autonomía de los seres humanos. En efecto, estas prácticas de negocio consisten, en primer lugar, en apropiarse de manera unilateral, sin negociación ni contraprestación alguna, de toda la experiencia humana posible para traducirla en datos; los cuales, luego, se someten a procesos de manufactura inteligentes —minería de datos, algoritmos, correlaciones de variables— para fabricar predicciones respecto al comportamiento que nosotros tendremos ahora, pronto y después. Estas predicciones, por último, son los productos que se ponen a la venta en un mercado, hasta hace unos pocos años, inexistente en la historia de la humanidad: un mercado de comportamientos futuros de la conducta humana. En otras palabras, contrario a lo que se pudiera pensar, los humanos no somos el producto del capitalismo vigilante; más bien, nuestra experiencia es la materia prima que se utiliza para fabricar, a partir de sofisticados procesos de maquila, predicciones de nuestro comportamiento futuro erigiéndose éstas en los productos a comercializar.

Sobra mencionar que este viraje del capitalismo sólo es posible gracias a, por lo menos, dos factores clave. Un desarrollo tecnológico que ha logrado que Internet esté cada vez más presente en nuestra vida cotidiana y que promete su ubicuidad gracias a la tecnología 5G y el Internet de las cosas;1 de tal manera que sea posible aprehender una gama tan amplia de aspectos de nuestra experiencia, que las diversas vías de extracción de datos pronto serán capaces en su conjunto de dibujarnos con nitidez como individuos. El otro resorte de este capitalismo vigilante es el abrumador avance que ha tenido, en los últimos años, la llamada ciencia de datos; esto es, extracción y análisis de datos, así como el procesamiento de éstos mediante modelos de automatización inteligentes que sólo son viables gracias al actual poder computacional.

El riesgo, señala Shoshana Zuboff, de este nuevo capitalismo consiste en que la inevitable dinámica de competencia arrastra a empresas como Facebook a apropiarse de manera constante de más aspectos de nuestro comportamiento, que les permita a su vez construir predicciones más precisas de la conducta humana. Vale apuntar que este aumento en la extracción de datos sigue dos imperativos: por un lado, ampliar la variedad de facetas de la experiencia humana capturadas, desde indagatorias en buscadores de Internet hasta los registros de refrigeradores y televisiones inteligentes en los hogares; por el otro, profundizar en la experiencia procesada, desde el desempeño de los órganos del cuerpo humano hasta los soliloquios emocionales e intelectuales más íntimos de las personas. Lo más grave es que esta espiral de presiones competitivas eventualmente resulta en un cambio medular: estos procesos, a partir de máquinas inteligentes automatizadas, no sólo buscan conocer y predecir nuestra conducta sino también modificarla.

Ilustración: Patricio Betteo

Un ejemplo: pensemos en un refrigerador inteligente que monitorea lo que se consume en un hogar con el propósito de solicitar, de manera automática al supermercado predilecto, un reabastecimiento de los productos faltantes. En esta rutinaria operación, se genera un filón de información que da luz sobre capacidad adquisitiva, enfermedades o restricciones médicas, religión, dinámica familiar, adicciones, etcétera. Si estos datos se correlacionan con aquellos que se registran en redes sociales, correo electrónico, aplicaciones de mensajería instantánea, selección de contenidos de plataformas audiovisuales, preferencias musicales, entonces, se tiene una suma de referencias capaz de pronosticar el comportamiento futuro de la persona que habita tal casa. Por supuesto, entre más amplia y profunda sea esta extracción de datos, las predicciones serán más precisas. Después de su visita periódica al cardiólogo, la persona que tiene este refrigerador inteligente opta por alimentos saludables y retoma de manera puntual su tratamiento médico; esta disciplina dura un mes en promedio, para luego regresar a la comida chatarra y abandonar sus medicamentos y rutina de ejercicio. Este ciclo de conducta, entre más detallado, tiene un enorme valor para una industria de publicidad cuyo objetivo toral consiste en saber con certeza qué productos debe vender a cada quién y en qué momento. Pero, con esta información tan pormenorizada de la alimentación de una persona, junto con el cruce del sinfín de variables registradas por otras aplicaciones o artefactos hogareños propios del Internet de las cosas, también es posible saber qué empujoncito o condicionamiento, en cierto contexto de decisión, basta para orillar a alguien a comprar el paté más oneroso, recaer en el cigarro o aumentar su consumo de alcohol.

Esta es apenas una imagen del poder instrumental del capitalismo vigilante, pero que ayuda a vislumbrar el enorme peligro que representa este modelo económico para la autonomía humana. La competencia intrínseca al juego capitalista, aunado a las características de esta vigilancia, induce a sus participantes a una dinámica de mayor extracción y aprovechamiento de la experiencia humana, que pone en riesgo la libertad de las personas. Al respecto, la profesora emérita de Harvard considera que este nuevo modelo económico no abandona las leyes básicas del capitalismo tales como producción competitiva, maximización de la utilidad, productividad, crecimiento, pero sí se establece una nueva lógica de acumulación que opera a partir de reglas inéditas hasta hace pocos años. Mientras que el capitalismo industrial se ciñó a la dinámica de incrementar los medios de producción, los capitalistas vigilantes son impulsados a intensificar los medios de predicción y modificación de nuestro comportamiento, así como el valor adquisitivo que adquiere este poder instrumental para moldear la conducta humana.

Según la reconstrucción histórica que ofrece Zuboff, la primera empresa en irrumpir en la economía occidental, de acuerdo con las reglas del capitalismo vigilante, fue Google. Hoy este buscador es apenas una pieza más de un conglomerado de Internet conocido bajo el nombre de Alphabet, que aglutina una amplia batería de servicios en línea gratuitos como mapas y geolocalización, correo electrónico, videoconferencia, plataforma de videos, aplicación interactiva para optimizar el tráfico vehicular y un largo etcétera. A finales de los años noventa, cuando reventó la burbuja económica de Internet, Google se posicionaba como el mejor buscador frente a sus competidores. No obstante, seguía arrastrando una deficiencia: no era rentable. En ese momento, sus fundadores, Larry Page y Serguéi Brin, tenían como política extraer y procesar los datos de los usuarios, resultado de sus búsquedas, con el único propósito de ofrecerles un mejor servicio. Es decir, las pesquisas se traducían en datos y luego se procesaban para mejorar las predicciones de búsqueda. Sin embargo, esta crisis económica, junto con las presiones de los inversionistas, hizo que Google cediera.

Las predicciones de comportamiento humano ya no sólo se aprovecharían para perfeccionar su buscador de Internet, también se venderían a la industria de la publicidad para que ésta desplegase estrategias personalizadas de publicidad. El capitalismo vigilante había nacido. Google se convirtió en un fenómeno de rentabilidad y estableció las condiciones para que compañías como Facebook participaran de las enormes ganancias de este nuevo mercado.

Hasta ahora, en buena medida, el modelo del capitalismo vigilante ha girado en torno a la industria de la publicidad. Por ejemplo, los usuarios que interactúan en Facebook dejan rastro de un sinfín de datos sobre sus preferencias, emociones e intereses, los cuales son extraídos y aprovechados por esta plataforma para hacerles llegar después contenido personalizado. Entre mayor sea el uso de Facebook, más datos se extraen y, de esta manera, se puede predecir o modificar con cierta precisión el contenido que engancha. El modelo de negocio de empresas como ésta consiste en monitorear a sus usuarios; enviarles como anzuelo un contenido personalizado; modificar y manipular su comportamiento para que interactúen cada vez más y, por último, vender esta predicción y/o modificación de la conducta al mercado publicitario.

Para Zuboff, no obstante, es indispensable tener claro que, si bien los anunciantes han sido los clientes principales en los primeros años de este capitalismo vigilante, no hay razón por la cual este mercado se limite a este grupo. Los nuevos sistemas de predicción de la conducta se han enfocado de manera accidental en el mercado de anuncios, del mismo modo que, en su momento, el novedoso sistema de producción en masa de Ford fue incidental en su aplicación a automóviles. En ambos casos, estos sistemas de producción se pueden extrapolar a otros servicios o productos. Esto significa que cualquier actor con interés en comprar información probabilística sobre nuestro comportamiento y/o en influir en nuestra conducta futura, puede participar en estos nuevos mercados donde las conductas de individuos, grupos y cosas son extraídas, procesadas y vendidas. Basta pensar en un par de industrias: seguros médicos y procesos político-electorales. ¿Cómo calcular de manera más exacta el riesgo de las personas al conducir un automóvil que con un escrutinio perenne de cada una de las variables que influyen en la confiabilidad de un automovilista y, de esta manera, reajustar con el mismo dinamismo la correspondiente póliza de seguro? ¿Qué estrategia más efectiva para seducir a los votantes dudosos en una campaña electoral que mediante propaganda personalizada diseñada a partir de sus miedos y prejuicios más profundos e irracionales?

Esto significa que el objetivo último del capitalismo vigilante es, sin duda, influir en el comportamiento humano en el mundo real; mientras que la conducta que se registre en el mundo en línea es útil en tanto sirve como insumo del modelo de negocios. En este sentido, salta una pregunta por demás pertinente para este capitalismo: ¿Cuál es la frontera de posibilidades para modificar la conducta en la realidad a partir de Internet? Esta fue la interrogante que guio uno de los experimentos más interesantes al respecto: el lanzamiento, en el año 2016, de la aplicación Pokémon GO. Desarrollado por Niantic Labs, de la mano de Nintendo y Google, este juego de realidad aumentada no ofrece una dinámica particularmente novedosa: para sumar puntos se deben atrapar figuras animadas llamadas pokémones. Lo interesante es que la arena de batalla es el mundo real. El primer paso es descargar la aplicación del juego en un teléfono inteligente y darle acceso a cierta información privada como geolocalización. Con ello, a través del dispositivo, se podrá ver a sus protagonistas deambular por el entorno. Un jugador, desde la banqueta, al contemplar el edificio de su departamento no verá más que el movimiento de sus vecinos. Pero si observa el mismo escenario, a través de la aplicación Pokémon GO, sí podrá ver una de estas caricaturas pasear por su barrio. De ahí, como su nombre lo indica, es necesario circular por la ciudad o entorno para perseguir y cazar a los personajes virtuales.

El éxito del juego fue contundente. A los pocos días de su lanzamiento, millones de personas alrededor del mundo se sumaron a este ambicioso experimento que fusionó por primera vez con ciertas características el mundo real con el digital. Y, por lo mismo, pronto se suscitaron peculiares eventos en diversos puntos del planeta. Un botón de muestra: caos vehicular en calles aledañas a cierto punto de Central Park, en Nueva York, debido a decenas de personas que corrían de manera desordenada hacia una ubicación para atrapar un Pokémon que rara vez se asomaba y obtener una cantidad significativa de puntos, así como prestigio entre la comunidad de jugadores. Ahora, si bien Pokémon GO se lanzó básicamente como una aplicación gratuita, su objetivo consistía en probar el impacto digital del juego en la conducta de los jugadores en el mundo real. Y, de tal influencia en el comportamiento humano, obtener ganancias. Niantic Labs diseñó, entonces, un concepto de negocio bajo esta lógica: locaciones patrocinadas, es decir, su ganancia dependía del número de personas que el juego hacía ir a cierto establecimiento. Se les cobraría a los clientes bajo la fórmula costo por visita, de manera análoga al modelo de publicidad en línea de costo por clic. McDonald’s Japón, por ejemplo, entendió el potencial de este experimento y cerró trato con sus desarrolladores. Pokémon GO en Japón tenía que ubicar cierto número de estas figuras animadas al interior de los 30 000 restaurantes de esta franquicia en dicha isla. El resultado fue que las ventas de MacDonald’s Japón, entre otros clientes de este original modelo comercial, aumentaron sus ventas de manera considerable. Pero más importante todavía, el ensayo había sido exitoso: Pokémon GO demostró que el mundo digital era capaz, sin coacción ni correa alguna, de movilizar a millones de personas para que salieran de sus hogares y recorrieran numerosas cuadras para consumir en un punto de venta previamente establecido.

Shoshana Zuboff, por otra parte, considera que para entender cabalmente el origen del capitalismo vigilante es indispensable estudiar el otro lado de la moneda de las políticas empresariales de Google y Facebook: el grupo que asumió el poder en Estados Unidos en 2008. Contrario a la lectura dominante de que el 2016 fue el año en que se estrenó la influencia de compañías como Facebook y Cambridge Analytica en las victorias de Trump y del Brexit, para esta académica, más bien, el primer experimento de un equipo de campaña que aprovechó en la arena electoral los productos que ofrece el mercado de predicción y modificación de la conducta fue la elección presidencial de Barack Obama. Google, junto con el equipo de este carismático candidato, diseñaron una estrategia para utilizar la experiencia de los usuarios de este icónico consorcio de Silicon Valley y, de esta manera, delinear micromensajes políticos dirigidos a cada votante con miras a empujar el voto a su favor en las urnas. Esta alianza, que se repitió en la reelección del presidente demócrata, propició que el gobierno de Obama estuviera en una posición por demás incómoda para impulsar regulaciones que podrían atajar los excesos de este capitalismo. Se trató de una oportunidad irrepetible para imaginar límites a estas empresas, pues si bien su músculo no era trivial a finales de esa década, todavía no alcanzaban el enorme poder con que concluyeron al finalizar el periodo presidencial de Obama. Una política pública atinada pudo haber sentado las bases regulatorias encaminadas a domesticar este capitalismo vigilante y, en ese sentido, frenar oportunamente el crecimiento desmedido que tuvo durante dicho periodo. En breve, Zuboff arguye tres responsabilidades clave de Obama y su administración: falta de transparencia respecto la alianza entre su equipo de campaña y Google, lo cual dificultó que la opinión pública conociese de los riesgos de estos ejercicios hasta ocho años después; impulso de programas de ciberseguridad que dependían enteramente del trabajo realizado por estas compañías de Internet; y omisión de siquiera intentar someter a estas empresas a la lógica liberal-constitucional de controlar el poder excesivo.

El análisis de Shoshana Zuboff no está, por supuesto, exento de críticas ni de asignaturas pendientes. Un tema de enorme relevancia que menciona de refilón es el rol de China en este nuevo capitalismo vigilante. Si como ha señalado de manera convincente el economista Branko Milanovic, las opciones de modelos económicos en el planeta se han reducido a básicamente dos versiones del capitalismo: el occidental y el chino,2 aunado al enorme desarrollo que ha impulsado este país asiático en plataformas de Internet e inteligencia artificial,3 resultaba indispensable dedicarle más páginas a China al estudiar esta industria que aprovecha la experiencia humana para acumular riqueza. Asimismo, a lo largo de las páginas de The age of surveillance capitalism flota un tufillo caricaturesco respecto a la maldad de las personas y compañías que están detrás de este modelo de negocio en Internet. Un maniqueísmo que, en ocasiones, no abona a una explicación compleja del devenir histórico que ha resultado en estas prácticas de negocio. Prueba de ello, es el casi inocuo papel que Zuboff le otorga a Lou Montulli y sus trabajos para desarrollar en 1994 un protocolo que permitiera identificar a los visitantes de los sitios web y su interacción en éstos. Invento bautizado con el nombre de cookie y que se convirtió en la piedra fundacional para transformar Internet en una infraestructura para comunicaciones comerciales. De tal manera que sin este protocolo, Google nunca hubiese podido reinventarse como empresa precursora del capitalismo vigilante en los albores del siglo XXI.

Para concluir, y más allá de éstas u otras críticas, lo cierto es que este libro de Shoshana Zuboff es hasta ahora la mejor investigación sobre este complejo modelo económico que pone en riesgo la libertad como nunca antes. Un trabajo que, con inteligencia y creatividad interdisciplinaria, conecta los estudios más novedosos sobre este capitalismo vigilante desde la trinchera de la economía, psicología, antropología, tecnología y del derecho. Asimismo, es una obra que construye sus propios lentes de análisis para ofrecer originales explicaciones de las características de empresas como Google y su impacto en cada una de las esferas sociales. Y, por último, este análisis se sostiene en un sólido basamento filosófico con miras a entender el impacto de este capitalismo en la sociedad democrática occidental y en el ethos de la humanidad —no es casualidad, en este sentido, que su autora más citada sea Hannah Arendt—. De esta manera, Zuboff ofrece la explicación más completa de la enorme asimetría de poder que representa el capitalismo vigilante, una en la que muy pocos tienen el conocimiento para apropiarse de la experiencia humana con miras a automatizar al resto de la humanidad. 

• Soshana Zuboff, The Age of Surveillance Capitalism. The Fight of a Human Future in the New Frontier of Power, Londres, Profile Books, 2019, 704 p.

 

Saúl López Noriega
Profesor e investigador de tiempo completo del CIDE.


1 Entrevista a Alejandro Navarrete, “México y el reto de la tecnología 5G”, El juego de la Suprema Corte, nexos, 12 de marzo de 2020.

2 Capitalism, alone. The future of the system that rules the world, The Belknap Press, USA, 2019.

3 Kai-Fu Lee, AI super-powers. China, Silicon Valley and the new world order, Houghton Mifflin Harcourt, USA, 2018.

 

Un comentario en “Capitalismo vigilante: ¿la automatización de la voluntad humana?

  1. Es una buena síntesis que el profesor Saúl López Noriega desarrolla; incita a la lectura del texto y posteriores reflexiones sobre el devenir del capitalismo y la democracia liberal. De la libertad humana.