Dave Eggeers, escritor "troglo" donde los haya protagonizó una sonora polémica cuando decidió no vender por Amazon la edición en tapa dura de El Todo por considerar que esta empresa estaba monopolizando toda la venta de libros atentando contra la supervivencia de las librerías independientes. Esta fue toda una declaración de intenciones y sin duda alguna tanto El círculo como El todo constituyen la visión, bastante pesimista, de lo que Dave Eggers piensa acerca de la tecnología y su imposición en nuestras vidas a través de la vigilancia y la creencia en la ilusión de la transparencia propia de la era digital.
El mundo de la tecnología, dirigido por hombres con un fuerte sentido de la peor masculinidad posible, véase Jeff Bezos presumiendo de músculos y su mujer, una auténtica mujer hinchable siliconada hasta límites insospechados o Elon Musk, que no contento con instigar violencia racista a través de su red X es además un misógeno de cuidado que favorece la manosfera y su repugnante visión de las mujeres.
Laura Bates, una excelente periodista y divulgadora feminista nos mostró ya en su libro Los hombres que odian a las mujeres: incels, artistas de la seducción y otras subculturas misógenas online (2023) cómo los foros de Internet en las diversas plataformas se habían convertido en un foco infeccioso de ataques contra el progreso de las mujeres que estos mastuerzos ven como una amenaza a la tradicional hegemonía masculina. Unos desgraciados que sin embargo consiguen atraer a numerosos hombres que compran un discurso violento, autojustificativo y complaciente con comportamientos vergonzosos. Laura Bates saca nuevo libro en unos días donde analiza el contenido de la IA con respecto a las mujeres de sugestivo título: La nueva era del machismo: cómo la IA y las nuevas tecnologías están reinventando la misoginia.
En oposición a este panorama, Dave Eggers ha convertido a dos mujeres en protagonistas de nuestros dos libros: Mae Holland en El círculo y Delaney Wells en El todo. Si la primera representa la conversión ideológica a los postulados del algoritmo, la segunda representa la disidencia.
No podemos decir que no habíamos sido advertidos de lo chunga que podría llegar a ser la tecnología y las personas que en ella trabajan. En Valle inquietante, recuento de su experiencia en Silicon Valley. Anna Wiener decide dejar su puesto, precario y mal pagado de asistente editorial para probar con las start-ups tecnológicas de Silicon Valley. Ahí, empezará a trabajar en esas oficinas disfrazadas de parques temáticos donde se esconden los falsos ideales, las interminables jornadas, el corporativismo alienante y la misoginia endémica. Una crónica extraordinaria aunque muy desasosegante, pre-Chatgpt pero que ya prefiguraba el control de las apps en nuestras vidas y las enormes desigualdades que se avecinaban.
La ficción patria también ha hecho sus pinitos en lo referente a la dominación del algoritmo. La novela se llama Inmanencia (2025) y su autor, Víctor Lapuente, nos propone una sociedad futura donde la vida, las decisiones y el destino de los ciudadanos son controlados por la inteligencia artificial. Esta novela está escrita con gracia porque mezcla un misterio medieval, el inevitable Santo Grial con una intriga política y tecnológica situada en 2086. Está bien y plantea de manera acertada y rigurosa pero sin ser demasiado moralista cómo la sumisión al algoritmo tiene consecuencias nefastas.
La imposición del algoritmo es también un motivo de gran preocupación para la politóloga de la Universidad de Harvard Shoshana Zuboff quien en su libro La era del capitalismo de la vigilancia. La lucha por un futuro humano frente a las nuevas fronteras del poder (2020) plantea cómo las empresas tecnológicas han creado un nuevo modelo económico basado en la extracción masiva de datos personales para predecir y modificar el comportamiento humano con el fin de influir en el consumo. Como dice Harari en su ya canónico libro Sapiens, a cambio de divertidos vídeos de gatitos, dejamos que nuestros datos se conviertan en el alimento de las grandes plataformas tecnológicas. Resumiendo, nos hemos convertido en productos. Zuboff indica que esta captación de datos se hace a través de nuestra navegación en las páginas web, las redes sociales o las compras que luego permiten ver nuestros hábitos de consumo. No hay más que comprobar como Amazon envía correos recurrentes donde nos ofrece los productos que hemos mirado un día o unos minutos antes. Estamos pues ante una publicidad personalizada que puede inducirnos, aún sin nosotros quererlo, a comprar de acuerdo con lo propuesto por el algoritmo que para colmo seguro que nos gusta. Estamos en un 1984 que no necesita ningún tipo de represión porque nos sometemos al escrutinio del Big Brother de las plataformas. Por ejemplo, Mae Holland en El círculo va convenciéndose de que la privacidad es algo negativo. Por no hablar de la sorpresa de Delaney Wells al comprobar que por mucho que las diferentes apps atenten contra derechos fundamentales como oír conversaciones privadas en el ámbito doméstico, los usuarios las perciben como buenas y eficientes, sea por la comodidad en el consumo que implican, sea porque las consideran beneficiosas para la seguridad.
Zuboff en su excelente, aunque algo denso libro, detecta los riesgos más evidentes como son el debilitamiento de la privacidad, la creencia en que los algoritmos son idóneos para la cohesión social y, por lo tanto, estos algoritmos a quienes se da patente de corso pueden acabar debilitando la propia democracia al sustituirla por la sumisión a las plataformas tecnológicas que por supuesto dictaminarán aquello que más beneficie sus intereses.
No es difícil ver en la Dra. Argawal un remedo de la propia Shoshana Zuboff. De momento, Zuboff sigue batallando contra la omnipresencia del algoritmo en nuestras vidas.
Yanis Varoufakis, el que fuera rompedor ministro de finanzas griego durante unos años muy difíciles para Grecia que fue maltratada sin piedad por la Unión Europea y de la que salió un libro que recomiendo muchísimo para comprender los entresijos de una Unión Europea nefasta en lo económico: Comportarse como adultos: mi batalla contra el Establishment europeo (2017)de la que por cierto hay película del director Costa-Gavras (2019) titulada "Comportarse como adultos" que me gustó bastante. Os dejo trailer aquí debajo.
Yanis Varoufakis, a raíz de su cese como Ministro de Finanzas y de la bajada de pantalones de Syriza, fundó un partido, Diem25 que de momento no ha logrado cuajar en el mapa político europeo en mi opinión por la omnipresencia de este hombre de brillantísima inteligencia. Veleidades políticas aparte, Varoufakis es una de las mentes más lúcidas del momento y buena prueba de ello es un libro extraordinario: Tecnofeudalismo: el sigiloso sucesor del capitalismo (2024). Su tesis, aunque no totalmente original, antes que él este tema lo trató el filósofo francés Cédric Durand, Varoufakis ha sabido desarrollarlo de una manera muy atractiva y comprensible.
Así, Varoufakis nos muestra en este libro que el capitalismo tradicional ha muerto ya que el beneficio que se obtenía mediante la producción y venta de bienes y servicios ya no existe porque las plataformas tecnológicas han acabado con la competencia. Ellas fijan las reglas y se convierten en una especie de señores feudales porque en vez de poseer la tierra poseen la infraestructura digital y de ahí que los usuarios y empresas, como antes los campesinos, dependen de ellas para simplemente existir. Por otra parte estas empresas, tales como Amazon, Google, Meta, Apple o Microsoft, no producen riqueza sino que obtienen renta. Cómo: por ejemplo Amazon cobra por acceder a su plataforma. Así, toda su política de devoluciones gratis sin apenas explicaciones por parte del usuario es el fruto de esa especie de peaje que debe pagar cualquier empresa que quiera aparecer en sus páginas. Y todas las empresas quieren aparecer porque aparecer por ejemplo como primera opción en esta plataforma de compra marca la diferencia en las ventas.
A esta transacción comercial Varoufakis la denomina "capital en la nube" porque se construye con plataformas, algoritmos, bases de datos, inteligencia artificial y toda una serie de infraestructuras digitales. No se fabrica, se poseen redes digitales.
Además de eso, somos los propios usuarios quienes hacemos un trabajo gratuito para estas plataformas, por ejemplo cuando publicamos en redes sociales, dejamos reseñas, subimos fotografías o generamos contenido.
Con lo cual, la competencia queda muy acotada porque todo queda en manos de unas cuantas plataformas digitales. Las consecuencias políticas son una concentración de riqueza brutal en muy pocas manos (véase la fortuna de Elon Musk), y las desigualdades extremas acarrean un debilitamiento de la democracia. Por otra parte, la dependencia tecnológica que es brutal hoy en día implica una pérdida de autonomía individual lo que favorece estructuras de vigilancia y control.
Dave Eggers ilustra a la perfección los conceptos de "capitalismo de vigilancia" y de "tecnofeudalismo". Por ejemplo, Mae Holland en El círculo cree que la tecnología es un vector de progreso; Delaney Wells en El todo considera que la plataforma se ha convertido en una institución demasiado poderosa. Mae acepta que la vigilancia es buena, mientras que Delaney la combate. Finalmente, Mae acaba integrándose completamente en la empresa mientras que Delaney comprende con horror que la sociedad acata voluntariamente la dominación digital en aras de la comodidad y la seguridad.
Una vuelta de tuerca más la da el activista Gary Doctorw en su libro Mierdificación: Qué hacer ante la apropiación de Internet por las grandes tecnológicas (2026). Esta mierdificación es el proceso por el cual las plataformas digitales van degradando las opciones de los consumidores. ¿Cómo lo hacen?
En un principio, las plataformas funcionan de maravilla, política de envío y devolución gratuitos, una experiencia cómoda gracias a un servicio a domicilio impecable y una gran facilidad en el uso y en el pago cuando Amazon por ejemplo priorizaba precios bajos y el servicio al cliente. Pero, una vez que las plataformas han conquistado al consumidor, nos bombardean de anuncios, surgen algoritmos especialmente diseñados para captar la atención constantemente y hay un menor control del usuario. Porqué? Porque la plataforma trabaja únicamente para los anunciantes y los potenciales inversores. Y, como estamos ante un capitalismo sin frenos, la empresa intenta extraer el mayor beneficio posible con lo cual la experiencia del usuario sufre una merma y ahí aparece la mierdificación.
¿Se puede luchar contra esto? Pues según Doctorow la cosa está cruda. Primero porque cuando una plataforma domina el mercado es muy difícil abandonarla. Amazon sigue ofreciéndonos comodidad, servicio a domicilio, una política de devolución cero complicada y es que además ahí están los libros en idiomas extranjeros que tardan días en llegar a las librerías y a las que nos debemos desplazar.
¿Cómo vamos a dejar Facebook si ahí tenemos nuestros amigos? ¿Y a dónde nos vamos? Es decir, las plataformas juegan con las dificultades para cambiar nuestras costumbres.
Sin embargo, el peor problema según Doctorow es que el poder de las tecnológicas hacen que sean ellas las que dicten las reglas del juego. Lo que nos viene a decir este autor es que los grandes señores feudales tecnológicos acaban por no tener que agradar a nadie y por lo tanto dictan sus propias reglas a los consumidores a los que tienen en sus manos.
Si lo trasladamos a los libros de Eggers en El círculo, por ejemplo, prometen transparencia, conexión y democracia pero acaban vigilando, uniformizando y controlando férreamente. En El todo ni siquiera se plantea la transparencia porque ya no existe. Cada vez que hay una nueva innovación esta solo sirve para reducir la libertad individual y controlar el comportamiento a través de la única acción de una pantalla. Por ejemplo Para + Mira que propone viajar por el mundo mediante una pantalla para no contaminar. Si Mae Holland lo ve como un progreso, Delaney Wells lo ve como un apocalipsis.
A todo esto le podemos añadir lo que los historiadores Quinn Slobodian y Ben Tarnoff han denominado el muskismo en su libro Muskismo: Elon Musk y la nueva era posliberal de reciente publicación. Para estos dos autores el muskismo no es Elon Musk sino un nuevo régimen político, económico y tecnológico.
¿En qué consiste el muskismo? Pues básicamente en construir una sociedad basada en infraestructuras tecnológicas privadas, con una concentración extrema de riqueza en muy pocas manos, y la fusión entre empresas tecnológicas y la estructura del Estado tradicional.
¿En qué deriva este delirio? La tecnología domina toda la sociedad, se privatizan las funciones públicas, se crea la tecnoseguridad a través de satélites, IA, robótica, etc... Esta situación no aporta progreso ideológico sino que se favorecen las actitudes reaccionarias dividiendo el mundo en jerarquías sociales programadas. ¿Quién gobierna?: El empresario rodeado por expertos tecnológicos que resetearán el mundo según sus necesidades.
En El todo el muskismo ya está presente, por ejemplo en la absorción de la disidencia, cuando la plataforma ya no solo domina el consumo sino que asume funciones propias del Estado como por ejemplo la aplicación Atyende.
Que por este Aula de Lectura no se diga que no nos hemos enterado de la movida....
Y a todo este embrollo se le ha sumado la Inteligencia Artificial con Chatgpt, Gemini, etc.... Ahora mismo se están dando casos no solo de copiadas integrales de lo que diga Chatgpt sino que los trabajos universitarios ya no tienen sentido cuando la inteligencia artificial lo puede hacer por ti. Ni qué decir tiene que esto es una dejación de nuestra capacidad de pensar, desarrollar sentido crítico por no hablar de aquellos que dejan en manos de Chatgpt la toma de decisiones personales. Eso sí hay una versión gratis que da un mínimo y la versión de pago que se lo curra más.
Lo que propone Dave Eggers en sus dos libros no es solo totalmente plausible sino que además coincide con lo que está ocurriendo en este momento.
El cine también ha transitado por el algoritmo y lo ha hecho muy bien. Desde la película "Her" de 2013 dirigida por Spike Jonze en la que Theodore, interpretado por Joaquin Phoenix se enamoraba de Samantha, el nuevo sistema operativo que le servía para escribir las cartas a terceros y cuya voz ponía Scarlett Johansson, el cine ha explorado de manera muy acertada los riesgos de la dominación del algoritmo. "Ex machina" (2014) dirigida por Alex Garland donde directamente se apunta al nacimiento de una nueva especie surgida de la inteligencia artificial o la película "A. I." (2001) dirigida por Steven Spielberg y que pone sobre la mesa la posibilidad de programar a robots para tener sentimientos. Tres películas que fuera de efectismos más o menos espectaculares plantean qué giro puede dar la vida tal y como la conocemos. Os dejo el trailer de las tres porque me han gustado mucho.
Pero si hay una película que en mi opinión refleja todas las cuestiones en general problemáticas que una utilización indebida de la IA puede acarrear es, sin duda "Minority Report" (2002) dirigida por Steven Spielberg con su brío habitual y protagonizada por un muy solvente Tom Cruise a la que le dan una magnífica réplica Colin Farrell y el legendario Max von Sydow. Basada como no podía ser de otro modo en una historia de Philip K. Dick. Por cierto, no os perdáis la maravillosa biografía de este autor escrita por Emmanuel Carrère: Yo estoy vivo y vosotros estáis muertos. Un viaje en la mente de Philip K. Dick (2019). Una biografía extraordinaria de uno de los popes, junto con Isaac Asimov de la ciencia-ficción en una época de gran efervescencia intelectual.
Volviendo a "Minority Report", la acción se sitúa en 2054, la policía utiliza una técnica basada en algoritmos y en los "precogs" para detener a los asesinos antes de que cometan un crimen. Los "precogs" son tres seres psíquicos de extremada sensibilidad cuya capacidad de predicción es totalmente efectiva. No os voy a contar la trama pero sí podemos poner esta película en relación con El círculo y El Todo. Pero antes trailer para abrir boca:
En "Minority Report" la utopía de la seguridad absoluta parece funcionar. Ya no existe el crimen. Aunque Spielberg plantea casi desde el inicio de la película la pregunta fundamental: ¿puede una sociedad ser totalmente segura sin sacrificar la libertad? El problema aparece cuando John Anderton, el jefe de Precrime es acusado de un asesinato que podría cometer. A todo esto se añade una variante y es que Anderton es un ferviente defensor del sistema PreCrime ya que su hijo desapareció sin dejar rastro según parece secuestrado por un individuo. ¿Es inevitable que John Anderton cometa un crimen, aunque tenga que ver con su pérdida? Es toda la cuestión del libre albedrío, idea clave en la historia del pensamiento occidental. Al mismo tiempo que esto sucede, el tema de los "precogs" y su supuesta infalibilidad empieza a resquebrajarse ya que se descubre la existencia de "informes minoritarios", de ahí el título de la película que podrían poner en entredicho todo el sistema.
Por supuesto esta película es también una crítica al determinismo tecnológico y anticipa muchos de los debates actuales sobre algoritmos predictivos, inteligencia artificial o los sistemas automatizados de toma de decisiones. Esta última cuestión es de capital importancia porque ¿las conclusiones a las que llegan estos sistemas pueden tener valor jurídico? ¿Puede un preso ser mantenido en prisión porque el algoritmo determine que puede reincidir aunque cumpla todos los requisitos establecidos por la ley para ser liberado?
En Minority Report la sociedad está vigilada permanentemente a través de escáneres oculares. Por ejemplo cuando John Anderton entra en un gran almacén, se le ofrece una publicidad personalizada de acuerdo con sus compras o sus posibles compras. Este hecho que requiere nada más y nada menos que reconocimiento facial, geolocalización y recopilación de los datos personales se percibe como un hecho normal y cotidiano.
Desde un punto de vista jurídico ni qué decir tiene que la película es una vulneración total y absoluta del Estado de Derecho. Cierto es que las vulneraciones que enumeraré seguidamente están siendo refrendadas por un montón de gobernantes y en alguna ocasión jueces pero en principio un Estado de Derecho debe respetar la presunción de inocencia y el derecho a un juicio justo.
En "Minority Report" los detenidos son castigados por algo que todavía no han hecho. ¿Puede castigarse el pensamiento o nuestro cerebro sigue siendo el último reducto de nuestra libertad? El Derecho, hasta nueva orden, solo puede sancionar hechos, no posibilidades.
En cualquier caso es una película que nos interpela puesto que la tecnología va ocupando cada vez más espacios en nuestra vida cotidiana que autorizamos e incluso impulsamos. De nosotros depende que sea un instrumento de progreso o de opresión.
Y en esta última entrada del curso, os pido que no olvidéis que
PENSAR LA LITERATURA ES PENSAR EL MUNDO.
Y cómo no, la lectura es
¡¡¡PARA DISFRUTAR SIN MODERACIÓN!!!
