La Singularidad está aquí

ilustración de una página de texto de libro cubierta con ventanas emergentes que dicen "suscríbase", "aprenda más", "compre ahora" y flechas pixeladas
Paul Spella / The Atlantic

Este ensayo ha sido adaptado de una conferencia pronunciada en la Biblioteca Pública de Newark en honor a Philip Roth.

Algo antinatural está en marcha. Cada vez más, nuestras afinidades ya no son nuestras, sino que son seleccionadas por nosotros con el fin de obtener un beneficio económico automatizado. La automatización de nuestra cognición y el poder de predicción de la tecnología para monetizar nuestro comportamiento, de hecho nuestro propio pensamiento, está transformando no sólo nuestras sociedades y el discurso de unos con otros, sino también nuestra propia neuroquímica. Es un capítulo tardío de una historia más amplia, sobre la incursión cada vez más profunda del pensamiento mercantil en las aguas subterráneas de nuestros ideales filosóficos. Esta tecnología ya no se limita a modelar el mundo que nos rodea, sino que nos rehace activamente desde dentro.

Que estamos sometidos al dominio de la vigilancia digital sin fin no es ninguna novedad. Sin embargo, la magnitud del dominio sigue desafiando nuestra imaginación. Prácticamente todo lo que hacemos, todo lo que somos, se transmuta ahora en información digital. Nuestros movimientos en el espacio, nuestra respiración por la noche, nuestros gastos y hábitos de visualización, nuestras búsquedas en Internet, nuestras conversaciones en la cocina y en el dormitorio, todo ello observado por nadie en particular, todo ello reducido a datos analizados en busca de patrones que predigan nuestras compras.

Pero el modelo no es simplemente predictivo. Nos influye. El trabajo seminal de Daniel Kahneman en psicología del comportamiento ha demostrado la eficacia del cebado inconsciente. Seas o no consciente de que has visto una palabra, esa palabra afecta a tu toma de decisiones. Esta es la razón por la que la tecnología funciona tan bien. El régimen de pantallas que ahora comprende gran parte de la superficie de nuestra cognición diaria funciona como un sistema de entrega de la imprimación inconsciente. También conocido como tecnología publicitaria, es el sistema que se esconde detrás de los banners de los sitios web, la pestaña de promociones de tu Gmail, las historias de Instagram que recorres, los nombres de las marcas que se ojean en los encabezados de los correos electrónicos, las palabras y las imágenes que se insinúan entre las publicaciones en los feeds de diversos tipos. Los anuncios a los que no prestamos especial atención nos moldean más de lo que sabemos, forman parte del conjunto de estímulos sensoriales de las plataformas, y todos trabajan en conjunto para adherirnos más completamente.

Adhesividad. Eso es lo que aspira a conseguir la tecnología, la métrica con la que se autorregula y optimiza. Cuanto más tiempo permanezcamos en YouTube o Facebook, en Amazon, en el New York Times la aplicación del New York Times, más profundizamos, mayor es el rendimiento de la información, más efectiva es la influencia. Estamos empezando a comprender lo intencionado que es todo esto, lo diseñadas que están las plataformas para conseguir la máxima participación. De hecho, las plataformas han sido construidas, y siguen siendo optimizadas, para mantenernos pegados, para mantenernos comprometidos.

Los comerciantes de la atención han aprendido que nada nos adhiere a sus trampas como la emoción, y que algunas emociones son más pegajosas que otras. Lo nuevo y seductor, lo superadoramente bonito. La emoción frenética ante la perspectiva de un conflicto o de la violencia. La desgracia ajena. Tal vez lo más emblemático sea la expresión de nuestra ira, legítima u odiosa. Todo esto enciende una parte de nuestro cerebro que desde su tiranía. Las yemas de nuestros dedos lo buscan. Decir que somos adictos no capta la magnitud de lo que ocurre.

El sistema está construido para mantenernos fascinados, para mantener esa fuga neuroquímica de dopamina constantemente, y funciona con una prima en la eficiencia, es decir, las plataformas optimizan para el rendimiento basado en la retroalimentación empírica. Uno de los primeros arquitectos del modelo publicitario escribe que el mayor diccionario monolingüe del mundo, el Diccionario de la lengua holandesatiene más de 350.000 entradas y, sin embargo, es

se ve empequeñecido por el tamaño de las listas de palabras clave que mantienen los … comercializadores de motores de búsqueda. Al igual que un gestor de carteras de acciones, que mantiene un conjunto de activos con un precio teórico y actual, el gestor de búsquedas de pago mantiene listas de palabras enciclopédicas junto con valores con signo de dólar, y ajusta constantemente las ofertas para reflejar el rendimiento realizado.

«abogado de divorcio en reno» / coste por clic 1,45 $ / ingresos por clic 0,90

«divorcio barato en nevada» / coste por clic $0,75 / ingresos por clic $1,10

«abogado de divorcio nevada» / coste por clic $5.55 / ingresos por clic $2.75

Hace una década, los abogados que buscaban daños y ganaban fortunas con los honorarios de contingencia pujaban por el valor de la palabra mesotelioma hasta 90 dólares por clic, lo que la convierte en la palabra más cara de la lengua inglesa. Sería difícil imprimir dinero más rápido de lo que estos mercados de subastas publicitarias pueden acumular beneficios.

Esta tecnología se autorregula por naturaleza: evoluciona, como un virus que necesita una muestra saludable de la población para generar variaciones. Para que la tecnología pueda adaptar y ofrecer publicidad en sus distintas formas, necesita globos oculares. Cuantos más sean y más tiempo permanezcan, más adhesiva será la plataforma y más ingresos podrá generar.

John Stankey, el actual consejero delegado de AT&T, fue inusualmente claro sobre esta directiva principal en 2018, cuando se dirigió a sus nuevos empleados en la recién adquirida HBO.

«Necesitamos horas al día», dijo Stankey, refiriéndose al tiempo que los espectadores pasan viendo los programas de HBO. «No son horas a la semana, ni horas al mes. Necesitamos horas al día. Estás compitiendo con dispositivos que están en las manos de la gente y que captan su atención cada 15 minutos». Siguiendo con el tema, Stankey añadió: «Quiero más horas de compromiso. ¿Por qué son importantes más horas de compromiso? Porque obtienes más datos e información sobre un cliente que luego te permite hacer cosas como monetizar a través de modelos alternativos de publicidad, así como de suscripciones.»

Las plataformas que se mueven con mayor velocidad por los contenidos dan forma a las respuestas emocionales de los consumidores casi en tiempo real. Si ves un vídeo en YouTube o te gusta una publicación en Facebook o Twitter, te ofrecerán otra, y otra, y otra. Detrás de las ofertas sugeridas hay una lógica de respuesta emocional. Lo que te atrae más y te mantiene haciendo clic. Nada lo hace como la indignación. La indignación moral. Los que sabemos que tienen razón en odiar; los que amamos porque estamos unidos contra los que sabemos que tienen razón en odiar. Esta es la lógica de las campañas virales que conducen a la matanza de los rohingya en Myanmar. Y la lógica de la división cada vez más truculenta entre la derecha y la izquierda en Estados Unidos hoy en día. Impulsados por el compromiso y el beneficio que genera, cada lado se aleja cada vez más del otro, el espacio entre nosotros se hace cada vez más cargado, cada vez más rico en oportunidades de monetización. El choque cultural en los Estados Unidos hoy en día tiene más ingeniería eléctrica detrás de él de lo que creemos.

Durante más de una generación, los escritores y aficionados a la ciencia ficción han especulado sobre la posibilidad y la inminencia de la singularidad, es decir, el momento en que la IA finalmente eclipse la inteligencia humana. Para muchos, eso significa el robot capaz de pensar y con un intelecto que supere el nuestro. Permítanme sugerir que la resolución de problemas digitales ya ha superado la capacidad humana. De hecho, nuestras sociedades avanzadas están siendo ordenadas por una matriz digital de recopilación de datos, reconocimiento de patrones y toma de decisiones que no podemos ni siquiera empezar a comprender, y que está ocurriendo cada milisegundo sucesivo. La sinergia de la tecnología de los datos, la velocidad y la capacidad de procesamiento de los ordenadores y una interconectividad casi sin fricciones permiten el intercambio, la prestación de servicios, la producción de bienes, el crecimiento del capital y, sobre todo, el catálogo interminable de cada una de nuestras interacciones, aunque sea de refilón, aunque sea indirecta, con el extenso y omnipresente aparato de este sistema. La singularidad está aquí -podríamos llamarla la era de la automatización- y su ineludible huella en nuestras vidas interiores es ya evidente.

En la búsqueda de lo que John Stankey denominó más horas al día, la tecnología reparte su flujo constante de pequeños placeres como recompensa a nuestra atención sostenida. Toca la pantalla, responde a los estímulos ofrecidos como una rata en un experimento y recibe lo que algunos llaman ahora un subidón de dopamina.

Lo que sigue a este compromiso con los dispositivos es una educación, en la que el sistema absorbe nuestras respuestas y comienza a darles forma. La modalidad fetichista del inconsciente humano, hasta ahora siempre elusiva, adquiere una forma ordinal a medida que la tecnología canaliza la nebulosa atracción de nuestro proverbial id con claridad cartesiana, nuestras más profundas corrientes de deseo redirigidas hacia los fines mercantiles del sistema. Esta curación cuidadosa, incesante e inhumanamente metódica de nuestro principio del placer se convierte en una fuerza mayor en nuestra psique, a medida que los dispositivos nos alimentan con una estimulación incremental, que a su vez se hace coextensiva con el terreno nativo de nuestra propia cognición.

Puede que no nos demos cuenta de que cada vez pasa menos tiempo entre las pulsaciones del teléfono. ¿Cada 15 minutos? Eso era tan de 2018. Estamos en 2021, y el impulso de alcanzar la pantalla ahora se siente como una impaciencia legítima ante el aburrimiento de cualquier tipo. Pero no es eso. . Y de este déficit neuroquímico infinitamente recurrente es nació un sentido de las circunstancias y un silogismo que dice así: Algo va mal si no pasa nada. Siempre está pasando algo en esta pantalla. Nada está mal cuando estoy en esta pantalla. El hábito de sucumbir al silogismo -diariamente, cada hora, minuciosamente- traza un curso hacia un país de desconfianza no descubierto. Desconfianza del malestar interior, sea cual sea su textura. Ansiedad e incertidumbre por un lado; aburrimiento por otro.

En este esquema de distracción interminable hay una lógica más profunda. El sistema ha llegado a comprender el valor fundamental de reafirmar siempre nuestros puntos de vista, entregándonos un mundo a nuestra imagen y semejanza, el sesgo de confirmación como configuración por defecto. Este es el verdadero significado de la virtualidad contemporánea. En el espacio virtual, la tecnología combate y corrige nuestras frustraciones con la propia realidad, que desafía las expectativas y la comprensión, por definición.

Busco. Encuentro lo que conozco. Disfruto de este reconocimiento de mí mismo. Estoy entrenado con el tiempo para confiar en un camino hacia la comprensión que conduce a través de lo familiar, que conduce a través de mí. «Yo soy el árbitro de lo que es real. ¿Qué es más real que yo?

En su forma más básica -y no nos equivoquemos, cuanto más básica sea la forma, más pegajoso será el compromiso- lo que estamos describiendo aquí es un profundo apoyo tecnológico para el narcisismo primario. No necesitamos conocer a nuestro Ovidio para entender los peligros de toda esta autocontemplación y, sin embargo, es posible que no apreciemos hasta qué punto se han generalizado las actitudes sociales engendradas por esta orientación.

La auto-obsesión como camino hacia la autorrealización no es, por supuesto, una idea nueva. La publicidad estadounidense nos ha estado imponiendo esta ficción durante bastante tiempo, exaltando la atención prestada incluso a nuestros deseos más fugaces y triviales, animándonos a pensar en su realización como el propósito último de nuestra política nacional. Pero ahora la escala del mensaje no tiene precedentes. La tecnología inunda la zona; las aguas nunca se retiran. En el proceso, el paisaje y su uso se rehacen por completo. El predicado afirmativo de las exhibiciones exhibicionistas de autoestima se confunde con los casos de desafío político. Abundan los himnos de autovaloración. El «yo» y el «mi» se han elevado a categorías epistemológicas. Y se ha generalizado la lectura errónea de la fragilidad del yo como resultado, no de la situación contingente de la mismidad, sino del fracaso de la sociedad en proteger y reconocer el «yo».

Acostumbrados a las escasas satisfacciones que nos proporcionan los anuncios y las suscripciones, absorbidos y convencidos por la retórica moralizante que hace pasar nuestra dependencia de la tecnología por un activismo justo, interiorizamos otra perniciosa falsedad, profundamente dañina para nuestro tejido social, a saber, que el camino hacia la redención y el cambio estará pavimentado por nuestro placer personal, un placer que llegamos a sentir que no deberíamos sufrir ni siquiera un momento de incomodidad para poder disfrutar. Para utilizar una locución muy querida, tomada del léxico de la cultura contemporánea de la autoestima, nos merecemos este placer porque nos merecemos algo mejor; nos merecemos sentirnos bien.

Todo esto apunta a una nueva ontología social, un conjunto de comportamientos en evolución guiados por el cambio de incentivos que ha creado la tecnología. Es el modelo publicitario del pensamiento; el modelo de entretenimiento de la conciencia. La autopromoción, la autocomodificación, la autocomercialización, se toman ahora por formas de comentario y crítica legítimos; la incesante afirmación de nuestros prejuicios envalentona la estridente certeza de nuestras posiciones morales. Este es el aspecto del intercambio público en la nueva esfera pública, donde las ideas son poco más que un cebo para las horas diarias de atención humana que están en juego, otra demostración de hasta qué punto la tecnología está remodelando nuestras relaciones con los demás. De hecho, somos poco más que la molienda de un molino monetizador que mezcla, como el alimento del ganado molido a partir de los huesos del ganado, nuestras propias intimidades más profundas con la bazofia digital del sistema, devolviéndonosla al por mayor. En el proceso, estamos siendo rehechos por lo que consumimos. En palabras de la escritora Chimamanda Ngozi Adichie: «Observo lo que me parece cada vez más preocupante: un aferramiento a sangre fría, un hambre de tomar y tomar y tomar, pero nunca de dar; …una facilidad para la deshonestidad y la pretensión y el egoísmo que se expresa en el lenguaje del autocuidado; una expectativa de ser siempre ayudado y recompensado sin importar si lo merece o no; … un nivel asombroso de ensimismamiento; una expectativa poco realista de puritanismo por parte de los demás; un sentido exagerado de la capacidad, o del talento cuando lo hay; una incapacidad para disculparse, verdadera y plenamente, sin justificaciones; una actuación apasionada de la virtud que está bien ejecutada en el espacio público de Twitter pero no en el espacio íntimo de la amistad». Palabras conmovedoras. Dudo que alguien deje de ver algo de verdad en lo que dice. Pero quizá más inquietante que el dolor que hay detrás de esta apasionada acusación es el predicamento de quienes la han ocasionado. De los demás. Porque ¿quién, si es verdaderamente honesto, se atrevería a pensar que ha escapado de alguna manera?

Al final, un escritor sobrevive sólo si hay sabiduría en su trabajo.

Cien años después, un lector tiene que reconocer los patrones emocionales como propios, sin importar las circunstancias sociales del escritor.
– Vivian Gornick

Como escritor, me parece que el desarrollo más nefasto en nuestra vida colectiva contemporánea es la preponderancia de una práctica derivada de la tecnología digital que trata el conocimiento y la información como sinónimos. Porque si bien el camino a la sabiduría pasa por el conocimiento, no hay camino a la sabiduría desde la información. Especialmente cuando esa información se utiliza como un regalo de entrenamiento en lo que ha llegado a sentirse como un intento de reeducación permanente.

Es comprensible que una cascada de información que refleja tus preferencias y opiniones, segundo tras segundo, confirme tus prejuicios, lo que genera una ilusión de certeza. Pero la certeza no se parece en nada a la sabiduría; de hecho, podría ser algo más parecido a su opuesto. Sabiduría: un tipo de conocimiento siempre impulsado por la contradicción, un conocimiento íntimo con la inevitabilidad de la incertidumbre. En Pastoral AmericanaPhilip Roth escribe:

Acertar con la gente no es lo que significa vivir. Vivir es hacer que se equivoquen, hacer que se equivoquen y se equivoquen y se equivoquen y luego, al reconsiderar cuidadosamente, hacer que se equivoquen de nuevo. Así es como sabemos que estamos vivos.

El compromiso de reconocer que uno se equivoca, la necesidad de no llegar a una conclusión y la necesidad de volver a encontrar el sentido, y otra vez, y otra vez, es el camino de lo que Gornick identifica como lo que perdura en la literatura. Para Saul Bellow, las novelas eran pruebas de sus mejores ideas, en las que esperaba, de hecho, que esas ideas acabaran fracasando. La certeza es un anatema para el arte, para la sabiduría y, en última instancia, como escribe Roth a través de la voz de Nathan Zuckerman, para la vida misma.

El régimen de pantallas que afecta a nuestra cognición ha elevado la centralidad de la certeza en nuestras esferas públicas, que son cada vez más indistinguibles de las privadas. Y lo que es más alarmante para la escritora, que no puede confiar en la certeza como guía de su trabajo, está hurtando nuestras afinidades electivas, transformándolas en otras seleccionadas por nosotros. Al utilizar el término afinidad electivainvoco una idea que va desde la alquimia, pasando por Goethe, hasta las ciencias sociales del siglo XIX. Se trata de la noción de elementos químicos, o de personas, o de formas culturales que manifiestan analogía y parentesco y que, por tanto, entran en relación mutua. Para un escritor, la afinidad es la guía, la lámpara que ilumina el camino.

Así fue siempre para Roth, un escritor de afinidades intrépidas y apasionadas, si es que alguna vez las hubo. Afinidades que sentía hacia los grandes escritores estadounidenses, incluso en una época en la que el pensamiento social imperante lo imaginaba como judío en primer lugar y estadounidense en segundo lugar, si es que lo era; afinidades que le llevaron a abrazar incluso a un antisemita virulento como Céline. «¡Céline es mi Proust!» dijo una vez Roth. «Aunque su antisemitismo lo convirtiera en una persona abyecta e intolerable. Para leerlo, yo… suspendo mi conciencia judía… Céline es un gran liberador». El camino de la afinidad conduce a menudo a la contradicción, como la de un novelista judío americano que emula a un antisemita declarado. Contradicción que, si F. Scott Fitzgerald tiene razón sobre la prueba de una mente de primera clase, no es sino otra forma que adopta la sabiduría.

En la obra de Benjamin Taylor Aquí estamosde Benjamin Taylor, un contacto con Roth, Taylor escribe que Roth lee en voz alta un pasaje de la obra de Joseph Conrad Lord Jim:

Un hombre que nace cae en un sueño como un hombre que cae al mar. Si intenta salir al aire, como se esfuerzan los inexpertos, se ahoga. El camino es hacia el elemento destructivo sométete, y con los esfuerzos de tus manos y pies en el agua haz que el profundo, profundo mar te mantenga en pie… En el elemento destructivo sumérgete.

Y Roth mira hacia arriba y añade: «Es lo que me he dicho a mí mismo en el arte y, ay de mí, también en la vida. Sométete a las profundidades. Deja que te levanten». El movimiento de bajada que levanta. O el ascenso que se hunde «lentamente como una cometa» -como escribe Elizabeth Hardwick en Noches de insomnio. Los caminos hacia la sabiduría de la contradicción son legión, por lo que cualquier artista con olfato para una ruta posible, viva para sus propias afinidades, no se dejará abatir por las preocupaciones de los muchos.

Es difícil saber si las preocupaciones de los muchos son más fuertes hoy que antes. Pero puede que sean más ineludibles. Una de las características de la tecnología de la automatización es su eficacia a la hora de agrupar la opinión de una forma no muy diferente a la de vigilarla. La tecnología ha creado lugares de reunión para nuestros diversos campos de prejuicios confirmados. Estas aglomeraciones de indignación no son sólo de izquierdas o de derechas, sino que son agrupaciones superpuestas por eslóganes de pertenencia y declaraciones de credo perfeccionadas, como marcas comerciales -o shibboleths- hasta la propia locución. El resultado es una estridencia generalizada y punitiva.

La escritora de hoy, esté donde esté, no debe acobardarse por el miedo, aunque sea real, al oprobio, a las represalias y a la exclusión del grupo. Debe saber que el camino hacia la transmutación del conocimiento que produce la sabiduría de la literatura puede, al final, conducir sólo desde su propio sentido de las cosas. La información disfrazada de conocimiento no la llevará allí, ni la metafísica de la pertenencia al grupo la redimirá en forma de certeza moral monetizada. La atención a sus propias afinidades, por muy heterodoxas que sean, puede ser todo lo que tiene para seguir, y el miedo a hacerlo es lo que debe desafiar. Por eso, cualquier defensa del camino de la literatura, de su escritura -y, por extensión, de su lectura y enseñanza- sólo puede ser tan sólida como los que estén dispuestos a atenderla. En el fondo, no se trata de una cuestión de juicio, ni de un tribunal de opinión pública ni de ningún otro tipo. Es un asunto del corazón, un asunto de esa sabiduría que llamamos amor.