El mundo moderno se ha vuelto demasiado complejo para que cualquiera de nosotros pueda entenderlo

Traducción: Sofía Stel

 

Vastos sistemas, desde cadenas de suministro automatizadas hasta trading de alta frecuencia, aseguran nuestra vida diaria… y estamos perdiendo el control de todos ellos.

Uno de los temas principales de los últimos años es que nada tiene sentido. Donald Trump es presidente, QAnon ha adoptado teorías conspirativas marginales, y cientos de miles murieron por la pandemia y el cambio climático mientras que muchos norteamericanos no creen que la pandemia o el cambio climático sean mortales. Es inentendible.

Déjenme decirles que el motivo por el cual tanto en este mundo parece inentendible es porque es inentendible. Desde las redes sociales, hasta la economía global y las cadenas de suministro, nuestras vidas se apoyan precariamente en sistemas que se han vuelto tan complejos, y han cedido tanto a tecnologías y agentes autónomos, que ya nadie los comprende del todo.

En otras palabras: no hay nadie al volante. Y si queremos retomar el control, vamos a tener que entender, de cerca, las maneras en que lo hemos perdido.

La mayoría de nosotros no pasa mucho tiempo pensando en los gigantes y complejos sistemas que mantienen en pie a nuestra −tecnológicamente dependiente− sociedad. Y esto por un muy buen motivo. Es necesaria una cierta dosis de fe y creencia (en nosotros mismos, en el capitalismo, en las plataformas digitales que median nuestras interacciones con el sistema, y en las infraestructuras que sostienen todo lo anterior) para que podamos salir de la cama y sobrevivir cada día. Pero desayunar, ponernos nuestro casual atuendo de negocios para la reunión por Zoom, todos esos actos mundanos son posibles gracias a una cadena de suministro global insondablemente enreversada, calibrada mediante algoritmos, en parte automatizada y en parte sostenida por explotación laboral clandestina.

Actualmente hay más de 17 millones de contenedores de embarque en circulación a nivel mundial; a toda hora, unos 5 o 6 millones de contenedores cruzan el océano. Solo Estados Unidos importa, por año, más de 20 millones de contenedores con productos. Si bien es común hablar de iPhones y zapatillas de marca cuando nos referimos a importaciones provenientes de China y Asia, la realidad es que la gran mayoría de esos contenedores están llenos de mercancías mucho más mundanas: medias, paraguas, lápices, papeles, materiales de embalaje, sábanas, frutas, autopartes, comida congelada, medicamentos… un inventario infinito de objetos físicos que hacen posible nuestras vidas modernas.

Igual de vasto y complejo, e intrínsecamente vinculado a la cadena de suministro, es este otro sistema en expansión, aunque mayormente invisible: los mercados financieros globales. Se trata de una enorme red, altamente tecnologizada, que conecta bancos, organismos gubernamentales, fondos de cobertura, entes reguladores, mercados, dark pools, bolsas, agencias de noticias y millones de traders humanos y analistas. Ha crecido a un nivel de complejidad tal que se volvió inaccesible para cualquier inteligencia humana individual. Todo se mueve a una escala demasiado colosal y demasiado veloz.

En promedio, el volumen de negociación diario de la Bolsa de Nueva York por lo general oscila entre los 2 mil millones y los 6 mil millones de acciones, con un valor promedio de negociación diario de 169 mil millones de dólares en 2013. La única manera de lidiar con un mercado de este tamaño y sofisticación ha sido con una implacable adopción de automatización, cediendo cada vez más el análisis diario y la toma de decisiones al software. En una industria como las finanzas, que se enfoca enteramente en el crecimiento, estos sistemas han llevado a un incremento exponencial de la complejidad: mientras que los traders humanos podían concretar 5 intercambios al día, los algoritmos del trading de alta frecuencia pueden hacer 10.000 por segundo.

Y las plataformas tecnológicas y softwares que conectan a todas estas inmensas redes se han convertido a su vez en complejos sistemas. Quizás Internet sea el sistema con el que interactuamos de manera más directa e íntima, pero la mayoría de nosotros casi no comprendemos lo que yace detrás de nuestras pantallas táctiles, cosa que tan solo unos pocos entienden realmente. Es una vasta red dedicada a minar, crear y transferir datos a una escala que no podemos imaginar; una red integrada por centros de datos, intercambios online, compañías enormes, pequeñas start-up, inversores, plataformas de redes sociales, datasets, empresas de tecnología y publicidad, y miles de millones de usuarios con sus dispositivos conectados. Los usuarios de YouTube suben más de 500 horas de video cada minuto (lo cual equivale a decir que se suben 82,2 años de video por día). A la fecha de junio de 2020, hay más de 2,7 mil millones de usuarios mensuales activos en Facebook, con un promedio 1,79 mil millones de personas que se loguean cada día. A diario, se escriben 500 millones de tuits, o 6.000 tuits por segundo, lo que sería un libro de 10 millones de páginas cada 24 horas. Cada día se envían 65 mil millones de mensajes por WhatsApp. Para 2025, se estima que 463 millones de terabytes de datos se generen cada día, el equivalente a 212.765.957 DVDs.

La mayoría de nosotros no pasa mucho tiempo pensando en los gigantes y complejos sistemas que mantienen en pie a nuestra −tecnológicamente dependiente− sociedad. Y esto por un muy buen motivo. Es necesaria una cierta dosis de fe y creencia (en nosotros mismos, en el capitalismo, en las plataformas digitales que median nuestras interacciones con el sistema, y en las infraestructuras que sostienen todo lo anterior) para que podamos salir de la cama y sobrevivir cada día.

 

Así que lo que tenemos ahora es una civilización edificada sobre el constante flujo de bienes materiales, capital y datos, y las redes que hemos construido para gestionar esos flujos de la manera más eficiente posible se han vuelto tan vastas y complejas que ahora están más allá de la posibilidad de que cualquier humano (o, incluso, cualquier grupo o equipo) pueda comprenderlas. Es tentador pensar en estas redes como gigantes organismos, con tentáculos que se extienden por el globo para tocar e interconectar todo, pero no estoy seguro de que esa metáfora sea la adecuada. Un organismo sugiere algún tipo de inteligencia centralizada, un sistema nervioso con un cerebro en su núcleo, que procesa los datos a través de loops de retroalimentación y  toma decisiones. Pero la realidad de estas redes se acerca mucho más al concepto de inteligencia distribuida o conocimiento distribuido, donde muchos agentes diferentes cuentan con información limitada más allá de su entorno inmediato e interactúan en formas que llevan a la toma de decisiones, pero por lo general sin que ellos sepan qué es lo que están haciendo.

En 2014 me dediqué algún tiempo a investigar las cadenas de suministro de bienes de China, y pasé una semana en un enorme buque portacontenedores. Una de las cosas que más llamó mi atención fue lo mucho que la toma de decisiones diaria estaba mediada por la tecnología. Todos los humanos involucrados en la cadena de suministro, desde los conductores de las grúas hasta el capitán del buque en el que me encontraba, todos estaban constantemente recibiendo instrucciones de algoritmos de gestión, lejanos e invisibles. Unas pantallas les decían a los conductores de las grúas qué contenedores tenían que recoger y dónde debían dejarlos, mientras que el capitán recibía correos automáticos sobre correcciones del rumbo del buque. Lo que resultaba fascinante, y un poco desconcertante, era cómo profesionales calificados aceptaban y ejecutaban esas instrucciones sin cuestionamiento alguno, sin explicación sobre los procesos de decisión detrás de todo ello.

El capitán del buque recibía a menudo correos automáticos que le indicaban reducir la velocidad de la embarcación. Es imposible saber por qué los algoritmos de la compañía decidían que eso era lo mejor, el propio capitán no lo sabía. Pero hacía algunas especulaciones: tal vez el equipo o los sistemas de la terminal a la cual nos dirigíamos reportaron retrasos en la descarga, o alguna complicación mecánica. O quizás el algoritmo se percató de los retrasos con anticipación porque los rastreadores GPS de los contenedores mostraron que los camiones de reparto estaban atascados en un embotellamiento fuera del puerto. Tal vez decidieron que podían ralentizar todo porque un cliente avisó que su pedido no era prioritario. O porque un cambio en algún otro eslabón de la cadena de suministro significó que conseguir su cargamento a través de otra fuente era una opción más barata o rápida. O el valor del petróleo fluctuó lo suficiente como para que consumirlo a la velocidad a la que estaba yendo el buque se volviera ineficiente. O quizás eran todas esas razones simultáneamente, o ninguna de ellas. El punto es que no lo sabemos, el propio capitán no lo sabía, y tal vez nadie lo sabía, pero eso no evitaba que la decisión se ejecutara de todos modos.

Lo que tenemos ahora es una civilización edificada sobre el constante flujo de bienes materiales, capital y datos, y las redes que hemos construido para gestionar esos flujos de la manera más eficiente posible se han vuelto tan vastas y complejas que ahora están más allá de la posibilidad de que cualquier humano (o, incluso, cualquier grupo o equipo) pueda comprenderlas.

Lo cual está bien,  ¿no? Hay mucha gente ‒ejecutivos, traders, inversores y desarrolladores de tecnología entre ellos‒ quienes dirían que está más que bien; está perfecto. Deberíamos estar contentos con que sea así. Hay comida y ropa en las tiendas, dinero en los cajeros automáticos, stories en nuestro Instagram. Y sí, que esas cosas puedan estar ahí fue muy muy complicado, pero en definitiva no importa, porque los humanos no tuvimos que preocuparnos por eso en lo más mínimo, todo eso se hace cargo de sí mismo por su cuenta. ¿Qué podría salir mal?

Primero, y lo más obvio, partes de los sistemas, o incluso el sistema entero, puede fallar. Como todos sabemos, cuanto más complejo es algo, existen más posibilidades de que algo salga mal. Recientemente hemos tenido oportunidad de ver ejemplos de esto. Este año vimos cómo las cosas se complicaron para las cadenas de suministro ante la presión de la pandemia por covid-19, desembocando en escasez y mala asignación de recursos, desde mascarillas, hasta harina o papel higiénico.

Las consecuencias del covid han tenido un efecto aún más devastador para la economía global; aunque ya hemos visto que los mercados pueden quedar al borde del colapso sin ayuda de ninguna catástrofe global, como ocurrió durante la crisis financiera de 2008. E Internet sin dudas es propenso a las fallas. Tal vez el mejor ejemplo sea el ataque ransomware WannaCry de 2017, que se dice que afectó a más de 200 mil computadoras en 150 países, causando un daño y una pérdida de ganancias de miles de millones de dólares. Curiosamente, una de las industrias más afectadas por los ataques de malware fue la industria de envíos o shipping. Los ataques paralizaron parte de las cadenas de suministros, y compañías como Maersk no tuvieron más remedio que ver cómo sus redes se detenían por completo. Lo preocupante es que aunque ninguna de estas fueron fallas catastróficas, y las redes eventualmente pudieron recuperarse, en algunos casos llevó años de análisis experto y debate descubrir qué fue lo que falló, justamente porque esos sistemas son tan complejos de comprender.

Por otro lado, también debe preocuparnos que estos sistemas funcionen demasiado bien. Estas redes fueron construidas ‒o, mejor dicho, evolucionaron‒ para ser lo más eficientes posible, y como vimos con los ejemplos anteriores, les hemos cedido mucho de nuestro poder de decisión con el objetivo de alcanzar esa meta. Pero lo que no les hemos otorgado es la capacidad de tomar decisiones éticas y realizar juicios morales.

Las redes globales de suministro, con sus proyectos de ingeniería e infraestructuras a megaescala, existen principalmente porque la desigualdad mundial de la riqueza hace que sea más barato que las cosas se fabriquen en ciertos países (incluso cuando hay que enviarlo desde el otro lado del planeta para venderlo y obtener una ganancia). Al aprovecharse de las marcadas brechas de salarios y estándares de vida de la manera más eficiente posible, la red de suministro refuerza activamente esa desigualdad global.

Lo mismo es cierto para los mercados financieros globales, que ciegamente se concentran en generar riqueza y crecimiento, sin importar cuántas empresas y trabajadores queden en el camino, cuántos esquemas de pensión se pongan en riesgo, o incluso cuántas emisiones de carbono destructivas del medioambiente se emitan. Y en Internet, plataformas de streaming como Spotify y YouTube nos proveen de ilimitado contenido de entretenimiento, cuando sea que lo deseemos, pero a expensas de músicos y creadores que luchan por ganar un salario digno. Además tenemos los inevitables sesgos y la falta de transparencia de los algoritmos que toman decisiones, y cómo eso impacta en todo: desde las recomendaciones que nos hace YouTube hasta la calificación de estudiantes o la vigilancia predictiva.

Ceder el control a vastas e incomprensibles redes no solo pone en riesgo aquellas que se salen de la norma, también amenaza a la propia democracia. Si a nosotros nos cuesta entender o influir en cualquier cosa que no sea una ínfima parte de estos sistemas, esto también les sucede cada vez más a políticos y líderes mundiales. Como le ocurría al capitán del buque portacontenedores, los políticos y votantes tienen cada vez menos control sobre el funcionamiento de estas redes. Apenas controlan una parte muy pequeña de ellas (que, de todos modos, mayormente son propiedad de empresas corporativas privadas). Queda claro que no parecen capaces de realizar cambios drásticos, aunque se trate de redes que impactan tanto sobre la población como sobre la economía y políticas de sus naciones. Parafraseando al director Adam Curtis, en vez de elegir a líderes visionarios, en verdad simplemente estamos votando mandos intermedios en un sistema global complejo que nadie controla por completo. 

El resultado de todo esto se siente, cada vez más, como un vacío democrático. Vivimos en una era en la que los votantes presentan niveles récord de desconfianza hacia los políticos, en parte porque sienten esta desconexión: ven en la realidad cotidiana que, a pesar de sus declaraciones, los políticos no pueden ejecutar cambios. No realmente. Puede que no comprendan el porqué con exactitud, pero existe una sensación creciente de que los líderes han perdido su capacidad de realizar cambios fundamentales sobre nuestra realidad económica y social. El resultado es un gran cuerpo de votantes que quieren derribar el statu quo. Quieren ver cambios, pero no creen que los políticos tengan la capacidad de llevarlos a cabo. Se sienten como si estuvieran atrapados en un coche yendo a máxima velocidad, pero no hay nadie al volante.

Puede que no consigan hacer mucho al respecto, pero hay políticos y líderes electos que ven a este vacío por lo que es, y se dan cuenta de la oportunidad política que les ofrece. Figuras como Donald Trump y Boris Johnson ciertamente no creen en reparar las fallas del sistema; en todo caso, les interesa acelerar el proceso, desregulando y cediendo más poder a las redes. Para ellos se trata de un vacío político que puede llenarse con reproches. Señalando con el dedo y entregando chivos expiatorios. Es una oportunidad para que ellos puedan mostrarse poderosos, dando lugar a los miedos, y evocando el nacionalismo, el racismo y el fascismo.

Donald Trump aún no ha reconocido las elecciones de 2020 a pesar de la clara victoria de Joe Biden, y esto se debe en parte al hecho de que Estados Unidos posee un complejo, y a veces opaco, sistema de votación, que gran parte del público no comprende, y que se presta a la difusión de teorías conspirativas sobre máquinas de votación ilícitas o con fallas técnicas que cambian o eliminan millones de votos. Tal vez no sea coincidencia que algunas de las figuras de derecha con más alto perfil (como el ex asesor de Trump, Steve Bannon, o el líder del Brexit, Nigel Farage) vengan del entorno de la industria financiera. Son jugadores políticos que han visto cuán complicadas se pusieron las cosas, y que se han percatado de la brecha que se abrió en la comprensión pública… pero quieren llenarla con caos y conspiraciones antes que con explicaciones racionales.