Por José Luis Stella
(Licenciado en Economía)

Si en casa buscamos una receta culinaria para hacer arrolladitos primavera, instantáneamente aparecen en el teléfono, en la computadora, recomendaciones de restaurantes chinos cercanos que nos lo pueden proporcionar. Organizamos un viaje a Córdoba y llueven las ofertas de alojamiento, de esparcimiento, lugares a visitar en el lugar de destino, incluso zapatillas, mochilas ideales para utilizar en el viaje. Esto fue el principio de un “juego” que pensamos que era inocente. Los usuarios al utilizar la red generamos datos de actividad, dejamos una huella digital.

La doctora Shoshana Zuboff autora del bestseller internacional: “La era del Capitalismo de la Vigilancia – La Lucha por un futuro humano frente a las nuevas fronteras del poder”, editorial Paidos, en quien basamos el presente artículo señala: “tenemos ahora una lógica extraña, sorprendente, invasiva, significativa, que ha secuestrado la tecnología digital y la tecnología dominante de nuestro siglo. Ha despegado, inundado todo, con total libertad.” Este capitalismo está representado por las empresas tecnológicas como: Facebook, Amazon, Google, Windows, Apple y otras que han trabajado sin límites, sin fronteras, porque nadie entendía lo que hacían y nos encuentra “desnudos” para protegernos de su influencia. Estamos en el siglo digital, con tecnología digital, cuya dueña para Zuboff es la “economía de la vigilancia” con un nuevo sistema de capitalización.

Una frase muy popular de marketing es «Cuando el producto es gratis, el producto eres tú», peor aún, NO SOMOS EL PRODUCTO. SOMOS LA MATERIA PRIMA. Somos los objetos de los que se extrae una materia prima que las tecnológicas expropian para su uso en sus fábricas de predicciones. El producto son las predicciones sobre nuestros comportamientos. «Ustedes son el cadáver abandonado. El producto es lo que se fabrica con el excedente que han arrancado de sus vidas». Los servicios online gratuitos, las app que no cuestan nada, solo son un cebo, no un regalo que hacen media docena de empresas magnánimas creadas por jóvenes emprendedores, casi todos estadounidenses, divertidos y simpáticos, en nada parecidos a los grandes magnates encorbatados del pasado que posaban fumando un habano.

Para expertos hay un engaño por partida doble, ya que entregamos nuestros datos a cambio de servicios triviales y en segundo lugar, esos datos son mercantilizados para personalizar y estructurar nuestro mundo de una manera que no es transparente ni deseable. Se pierde soberanía personal. El filósofo alemán de origen coreano Byung-Chul Han lo resume en esta certera frase: “Pienso que estoy leyendo un ebook, pero en realidad es el ebook el que me lee a mí”. Los videojuegos fueron el comienzo de la adicción a las nuevas tecnologías.

Como ciudadanos democráticos, a pesar del RGPD (Reglamento general de protección de datos de 2016 en la Unión Europea) y la Ley de Privacidad del Consumidor de 2018 (aprobada por el estado de California), de todas las conversaciones, las leyes presentes y futuras marchamos en este siglo sin “cartas de derechos”, sin marcos legales apropiados, sin paradigmas regulatorios y sin las nuevas instituciones necesarias para defendernos en este siglo digital para poder asegurar que las tecnologías desarrolladas y lanzadas no solo sean compatibles con la democracia, sino también que promuevan los valores y principios democráticas y la participación para el futuro del siglo XXI.

Para Zuboff han tenido 20 años de ilegalidad y le temen a la democracia, a los ciudadanos democráticos, a las leyes y a los legisladores y le temen a que trabajen juntos. Es difícil frenarlos porque primero no entendemos bien lo que hacen, segundo no hemos intentado prohibir lo que hacen, no nos hemos movilizado. Y no es una condición inevitable del avance de la tecnología, es la lógica de la economía, un modelo de negocios centrado en la predicción, que ha construido un caballo de Troya.

El capitalismo de la vigilancia reclama unilateralmente para sí la experiencia humana, entendiéndola como materia prima “gratuita” que puede traducir en datos de comportamiento. Ahora las máquinas no solo conocen nuestra conducta, sino que también moldean nuestros comportamientos en igual medida. Ellos saben demasiado y nuestra ignorancia juega a su favor. Alguien puede decir que nos conocen más que nosotros mismos. Saben con quien hablamos a qué hora nos despertamos y nos acostamos, donde vamos, que nos gusta y qué no.

En Palo Alto (California) en la Universidad de Stanford hay una un laboratorio de tecnología persuasiva cuya meta explícita es entender cómo se puede utilizar la tecnología para modificar lo que las personas piensan o lo que las personas hacen. Preocupan los sesgos cognitivos y los sistemas de recompensa. Y “quien entienda esto tiene el poder de manejarnos”, señala el economista Santiago Bilinkis en su charla que se puede ver en Youtube: “Cómo nos manipulan, Aprender de Grandes” con Gerry Garbulsky.

Según la Dra Zuboff “hemos estado desnudos y ahora es hora de vestirnos”.

Estas empresas (tecnológicas) quieren ganar dinero, es comprensible. Estas tecnologías, pueden modificar nuestra conducta en forma subrepticia. No se ve, y como “está debajo del agua” cuesta tiempo entenderlo. Sucede que, con generar estímulos que premian conductas y castigan otras pueden redirigir nuestro comportamiento. El reto no es destruir la tecnología, es crear leyes para protección de la población, y que la tecnología no esté a disposición de ese capitalismo de la vigilancia, que busca apropiarse de lo único que no ha sido comercializado hasta ahora en los mercados tradicionales, nuestra experiencia humana privada y la manera en que esta puede ser utilizada como materia prima. Toda la información que recolectan fluye hacia las nuevas fábricas del siglo XXI, fábricas informáticas de IA (Inteligencia Artificial), con predicción de nuestro comportamiento.

En Agosto 2011 Apple sobrepasó a Exxon Mobil como la compañía de más alta capitalización en la bolsa, en el mercado de valores de EEUU. Hoy Exxon no está entre las S&P 500 mientras Apple continúa “arriba”. Las 5 compañías más importantes en capitalización del mercado para Zuboff son capitalistas de la vigilancia. Tenemos un grupo de empresas tecnológicas que suben y hay pobreza lo que genera violencia, todo causado por un crecimiento desigual.

En “Las uvas de la ira”, de John Steinbeck (premio Nobel de literatura en 1962), un empleado de un banco le dice al granjero al que van a desahuciar: «El banco es algo más que hombres. Fíjate que todos los hombres del banco detestan lo que el banco hace, pero aun así el banco lo hace. El banco es algo más que hombres, créeme. Es EL MONSTRUO. Los hombres lo crearon, pero no lo pueden controlar. El tiempo que pasó ha cambiado los cortinados pero la obra de teatro es la misma.

El capitalismo de la vigilancia es el titiritero que mueve los hilos del aparato digital, ese títere Zuboff lo llama «el Gran Otro». Y el instrumentarismo sería una especie de poder que se definiría como «la instrumentación e instrumentalización de la conducta a efectos de su modificación, predicción, monetización y control».

El Otro Mayor solo quiere una cosa: quiere llevarse nuestra experiencia, convertirla en datos y enviarlos por las tuberías a las fábricas, las ventas, los mercados. Esta arquitectura que no tiene “humanidad, ni ética” quiere a nuestros hijos, quiere sus datos.

Más gente mira contenido violento, lleno de ira, agresivo, que la que mira contenido agradable, bueno, más que calmado, pacífico, así los algoritmos constantemente evolucionan para favorecer el peor contenido, más destructivo, más peligroso, más chocante, siempre que de más ganancia para las empresas, así funciona el Otro Mayor. En el libro 1984,George Orwell Novelista, el Hermano Mayor quería dominar desde adentro. No le importa lo que sintamos o lo que pensemos. La conducta colectiva está definida por lo que hacen sus miembros, ASÍ FUNCIONA LA COLMENA.

En el futuro el capitalismo de la vigilancia y su poder instrumentario se le permite dominar y prosperar, la sociedad se convertirá en colmena. Hay gente dentro y gente afuera que afina la colmena, los algoritmos, para que la conducta en la colmena fluya como lo prefieren para lograr sus objetivos económicos.

Y ¿a quién venden los datos que recolectan?. Venden certeza en mercados de Marketing. Estamos a la venta en un mercado humano de futuros. Así como hay futuros de trigo o de acero, ahora hay futuros humanos que están generando muchas ganancias para esas compañías. Hay una lucha desigual, miles, millones de personas con preparación técnica de excelencia, formados en las mejores universidades trabajan en las empresas tecnológicas, controladas por gobiernos que no tienen la infraestructura adecuada.

La concentración y el poder, en manos de pocas compañías es antidemocrática.

Pensemos que los celulares “hacen todo”, son móviles, hay personas que están pendientes de ellos todo el tiempo, ofrecen un software que no es como era antes una radio o un televisor (que estaba en el living) y eso ya, le fijaba un límite. Los adolescentes quieren ser reconocidos y tienen el temor a perderse algo, eso los hace muy vulnerables, y manipulables. No hay que olvidarse que Facebook fue inventado por jóvenes universitarios con esa mentalidad.

Primero necesitan muchos datos (Economía de escala), segundo necesitan variedad de datos (Economías de alcance). Y luego está la Economía en Acción, con premios y castigos en tiempo real, señales subliminales. Las dinámicas competitivas de estas economías que tienen éxito, que socavan la autonomía humana, nos quita libertad, lo que se llama derecho al tiempo futuro. Sin autonomía, sin el derecho de decidir, sobre los límites de nuestra experiencia: quién sabe de nosotros, que se sabe de nosotros y como se usa esa información. Esos son derechos de los ciudadanos en democracia.
Facebook llegará a conocer todos los libros, todas las películas, todas las canciones que usted, lector de estas líneas, haya consumido en su vida, larga o corta. La información de la que dispone la empresa informática en el futuro servirá para deducir a qué bar irá usted cuando llegue a una ciudad extraña, un bar en el que el camarero ya tendrá preparada su bebida favorita. Ello lo pronostica el creador y director ejecutivo de Facebook, Mark Zuckerberg, una de las personas más ricas del mundo, que la fundó en 2004.

No es para alarmarnos en extremo, es para tener conocimiento que nuestras decisiones no son tan independientes como creemos. Necesitamos leyes, nuevas instituciones democráticas, nuevas cartas de derechos, necesitamos que se protejan nuestras experiencias. Necesitamos estar alertas, no aceptar cualquier contrato que nos pongan enfrente, prohibir incentivos financieros que impulsen esta lógica económica que favorece la concentración.