El filósofo Esteban Ierardo disecciona la serie de Charlie Brooker

Black Mirror: ciencia ficción

a la vuelta de la esquina
El ensayista analiza las implicancias de un mundo que se digitaliza y robotiza, y
subraya además el lado inquietante de un capitalismo algorítmico que busca
perfeccionar sus sistemas de control. La inmortalidad digital, el hiperfuturo y la
imposibilidad del olvido.
Por ​Julián Varsavsky

En los últimos dos años, el filósofo y escritor Esteban Ierardo publicó libros

inspirados en la serie Black Mirror (“Sociedad Pantalla” y “Mundo Virtual”,

Ediciones Continente) donde los distópicos capítulos de esta ficción son el

disparador de reflexiones críticas sobre la cultura “tecno-global” mediante

una metodología que el autor denomina pensamiento múltiple: “Abordo

procesos culturales saliendo de los compartimientos estancos para cruzar

disciplinas como la filosofía, la literatura, la historia social y del arte, la

mitología y las ciencias duras”.

--Uno de los temas que inquietan en Black Mirror es la imposibilidad

del olvido mediante la incorporación al cuerpo de dispositivos

técnicos que registran en video la vida completa de una persona,

incluyendo la técnica de proyectarla en una pared. Uno podría

reconstruir su vida como el memorioso Funes del cuento de Borges.

El casco con la cámara GoPro encima ya existe. Y esto sucede ya

incipientemente en las redes sociales.

--En el capítulo ​Toda tu historia​, esa GoPro simplemente se inserta debajo

de la piel para filmar a través de los ojos. Este registro total de la vida

puede permitir a un extorsionador inspeccionar la memoria de los otros. Es

decir, en un sentido potencial, no hay olvido ni secreto imposible de

develar. La vida se somete a la tragedia de la imposibilidad del olvidar. Y

como si de un video se tratara, deviene un continuo material editable (es

posible borrar fragmentos del pasado o todos). La memoria convertida en

un proceso técnico haría del sujeto su editor y dueño, por un lado. Pero

ese disco rígido implantado despoja al sujeto del derecho del olvido de
aquello que, a veces, impide la frescura de un nuevo comienzo. Ya Huxley

destacó que la memoria orgánica actúa por la selección de lo relevante y la

eliminación de lo innecesario. Por el contrario, la memoria artificial del

futuro sería el quedar prisioneros de un pasado que no permite el alivio del

olvido, y que se convierte en una continua invasión y condicionamiento del

presente.

--Uno de los dilemas de la nueva tecnodependencia es el del encierro

rodeado de pantallas. Estamos cada vez más aislados e

hipercomunicados. Byung Chul Han plantea que la nueva experiencia

del mundo se basa en el paso desespacializado a través de ventanas:

“el ​windowing​ es el modo hipercultural de la experiencia”. El estar en

el mundo se convierte en estar frente a la ventana. Esto conduce a la

caída del horizonte, algo que generaría un vacío doloroso. Pero dice

Han que esta novedad podría conducir a una práctica de libertad: si

bien el caminante analógico ha perdido el horizonte único, el mundo

hipertextual le ofrece algo más al abrirse a innumerables visiones. Es

ya la mirada la que camina. El libro de papel clásico tiene un orden

narrativo prestablecido. En cambio la virtualidad es una red sin

centro: el ​windowing ​permite ir de una ventana a otra sin un sentido

predefinido. Cada quien puede construir su propia narración y una

identidad singular.
--Ese mundo digital es lo que analizo como el “pensamiento hipertexual” en

el libro “Mundo virtual”. Es un modo de pensar no anclado solo en

secuencias lineales: es un pensar que, por los saltos o relaciones de los

links, puede diversificarse hacia distintos caminos de conocimiento y

reflexión. Esto nos sitúa ante el hecho de que estamos ante cambios

profundos en la forma de percibir el mundo sensible. La tecnología ha

dejado de ser el mero uso de ciertos dispositivos y se ha convertido en una

forma de construir la experiencia: es la interpretación de nuestra

existencia. Vivimos cada vez más tecnológicamente y esto abre un camino

ambiguo. Por un lado es un proceso de superación del hombre al adquirir

nuevas herramientas para la acción: este es el aspecto glorioso que

permite superar los límites de nuestra memoria y nuestros sentidos

naturales. Aquí se da el matrimonio entre ciencia y magia. Pero Black

Mirror nos propone meditar sobre el hecho de que la virtualidad puede

crear también un sistema de entretenimiento hechizante, un sonambulismo

tecnológico que genere una fascinación de la conciencia tan potente, que

vayamos perdiendo nuestra relación con la naturaleza circundante, con el

mundo exterior y con las personas que lo habitan, hasta ir quedando

encerrados en el magnetismo de las pantallas. El ser absorbido por la

sociedad pantalla supone el peligro de una erosión de nuestra percepción

del espacio físico, amplio y extrapantalla, en el que fluye la vida.

--Creo que lo virtual es una ampliación unidimensional del espacio,

un nuevo ámbito que puede enriquecer nuestra experiencia

perceptiva. Lo que sucede en la Matrix es también real. Y no lo digo

desde una mirada tecno-positivista: no desconozco el lado nocivo e

incluso siniestro de los usos corporativos de Internet a partir del lado

“amable” que muestran Google y Facebook. Por otra parte, en

Occidente nos causan cierto espanto la idea de lo virtual --el

holograma de una persona-- y la presencia de robots humanoides,

algo con lo que en el Este de Asia se convive con más naturalidad por

diversas razones culturales.

--Ya los bisontes paleolíticos --filmados en 3D por Herzog en el

documental ​La cueva de los sueños olvidados​-- son virtuales: eran la

imagen que representaba o hacía presentes de forma virtual a los bisontes

reales y ausentes. A lo largo de su dilatada historia, el ​homo sapiens​ creó

virtualidad, lo cual debe ser visto como la continuación y multiplicación del

espacio real, y no como algo aparte. Las pantallas y su mundo virtual

tienden a sustituir crecientemente al mundo primario físico,​ ​pero lo virtual

debería ser pensado también como una simulación de la realidad que

además necesita de un espacio real. El mundo virtual no puede existir en

sí mismo sin la materialidad de los dispositivos. Y las ondas por donde se

transmite lo virtual atraviesan un mundo físico imprescindible para la

existencia del mundo online: este no es entonces un mundo aparte sino

que está basado en la realidad material. Pensado así, lo virtual es una

posibilidad de “otra realidad” mediante representación o duplicación. Pero

no es su reemplazo. El capítulo Quince millones de méritos --ese de los

personajes que pedalean en bicicletas fijas para llegar a un show de TV--

expresa el proceso de sustitución de la vida real ambiental por otra cada

vez más encapsulada en el consumo de lo virtual. Las personas viven en

habitaciones con techos y paredes pantalla, desconectados de la realidad

primaria. Brooker parodia los excesos del consumismo y el capitalismo

mediante trabajadores que pedalean como en una rueda de hámster,

acumulando créditos que les permiten comprar objetos y mercancías no

físicas, virtuales. El único escape a esta tentadora y sudorosa vida de

sacrificios sería brillar como estrella televisiva en una sociedad del

espectáculo donde no tenemos derecho a aburrirnos. En cierto momento,

quienes más se esfuerzan y pedalean frente a pantallas con shows,

alcanzan los puntos para ser invitados a un talk-show donde deben lucirse

y alcanzar una gloria fugaz: allí serán premiados otra vez, no por su talento

sino por la capacidad que tengan para asombrar y excitar al público con un

discurso emotivo, buscando aprobación. Al protagonista le llega el gran día

y en lugar de reproducir el modelo, lo denuncia con una arenga crítica. Y la

reacción popular en el estudio --representada por avatares de personas

existentes encerradas entre pantallas-- también es inesperada. El hecho

es que la crítica disruptiva es premiada como forma de neutralizarla,

convirtiéndola fatalmente en una nueva mercancía.

​ studia la idea de un capitalismo

--En su nuevo libro ​Mundo virtual e

algorítmico. En el documental ​Lo and Behold,​ un entrevistado por

Werner Herzog dice que un algoritmo de inversiones muy poderoso

podría en el futuro operar para desencadenar una guerra, si lo viese

conveniente para elevar el precio de ciertas acciones. Esto ya lo

hacen algunos humanos. Yo creo que el algoritmo es visto a veces

--de manera errónea-- como un proceso autónomo. En el Mundial de

Fútbol de robots los jugadores no son teleoperados: son en teoría

autónomos al salir a la cancha. Sin embargo, siempre hay un

programador detrás de cada máquina.

--Para cierta mirada contemporánea, los individuos son impactados por

dos revoluciones algorítmicas. La primera es la de los algoritmos

biológicos resultado de la evolución, cuya programación está en los genes

y sigue siendo, en gran medida, uno de los misterios para la ciencia. Los

códigos genéticos son algoritmos bioquímicos que determinan nuestros

procesos biológicos. Un ejemplo: cuando el alimento llega al estómago se

debe iniciar su síntesis de manera automática. La segunda revolución es la

de las máquinas que funcionan a través del algoritmo informático: si una

moneda entra en una expendedora de bebidas, se debe abrir la

compuerta. Cada vez más vivimos bajo los efectos de estos últimos

algoritmos. Y las tecnologías de Big Data interpretan nuestras huellas

digitales en océanos de datos. Así somos interpretados y manipulados.

Pero esto no supone todavía un funcionamiento algorítmico sin el

programador detrás que formula los algoritmos, según ciertos intereses de

reproducción del sistema.

--“El Big Brother muta en Big Data”, dice Han. En el mundo existen

muchísimas más pantallas en funcionamiento que humanos vivos.

¿Hay forma de salir de esto?

--Tal vez, si nos hacemos menonitas. Nadie puede vivir hoy sin

tecnologías. ¿Es necesaria una hiperconectividad continua? Seguramente

no, pero hoy nuestra percepción surge mucho más de la interacción con

las pantallas que de las conexiones con personas reales. No hemos

llegado a implantes cerebrales como los de Black Mirror que pueda

monitorear nuestras decisiones. Aun se puede cultivar una ética del uso

mesurado de la conectividad. Está de moda el concepto de distopía,

entendido como una época en la cual no habrá escapatoria. Black Mirror

es distópico al mostrar un mundo donde la tecnología implica un sacrificio

de la libertad. En los años 80 la novela ​Neuromante​ de William Gibson

comienza con la idea de un mundo encerrado en sí mismo. Su opuesto es

la utopía como ideal de un mundo mejor. Nos sobrevuela entonces la idea

de una implosión tecnológica que generará algún tipo de apocalipsis. El

capítulo Metal Head de Black Mirror muestra ese posapocalipsis donde

perros robot que no se sabe quien maneja --acaso sean autónomos--

persiguen cruelmente a ciertas personas detectadas como enemigo por un

algoritmo. No creo que se produzca ese posapocalipsis, pero sí un control

algorítmico cada vez más meticuloso y eficaz de los individuos.

--Existe entre los “pastores” de las nuevas tecnologías una suerte de

iluminismo digital: el dataísmo y su pretensión de objetividad e

incluso infalibilidad.

--Hoy los individuos se descomponen en datos para ser sujetos de

interpretación, Esto es también la cuantificación del yo de manera

voluntaria. Son personas que corren llevando relojes inteligentes o

teléfonos que miran constantemente controlando su presión sanguínea, la

distancia y la velocidad. Y herramientas como Facebook y Google nos

convierten en una cantera de datos permanente para enviarnos publicidad.

El algoritmo de los autos sin chofer reducirá los accidentes. La depresión

llevó a un piloto de German Wings a tirar contra una montaña un avión

lleno de pasajeros. Un algoritmo no se deprime pero uno error de

programación de Boeing hizo estrellar a dos aviones. En esa sustitución

del sujeto falible por la infalibilidad de los algoritmos y la “buena

administración de los datos”, se pierde el sujeto como cultivo de la

conciencia y como fuerza de creación y comprensión, más allá de su

reducción a un paquete de datos.

--Deberíamos asumirlo: somos cyborgs.

LEER MÁS

¿Dos más dos no es cuatro?

--Sí, hace largo rato ya. Un bypass es un aparato incorporado al cuerpo

que nos constituye en cyborg. Cuando sentimos la llamada del smartphone

en el bolsillo, su vibración parece venir del interior del cuerpo. Y no nos

despegamos jamás de él. Pensemos en la angustia que genera descubrir

que estamos en la calle habiendo olvidado el celular. Esta simbiosis con el

aparato ha transformado nuestra subjetividad. Internet es una proyección

expansiva del cerebro. Ya no podemos vivir sin él, cuya capacidad de

memoria es millones de veces más grande que la nuestra. Hoy existen los

exoesqueletos, esa suerte de “segundo cuerpo” que potencia nuestra

fuerza. La​ ​biónica --incorporación de mecanismos artificiales al cuerpo que

reemplazan o mejoran órganos-- es otro ejemplo de una corporalidad en la

que los dispositivos se integran cada vez más con lo orgánico.

--La idea de la inmortalidad digital atraviesa Black Mirror. El filósofo

surcoreano Byung Chul Han dijo que “no​ ​creo que computadoras

muy inteligentes puedan copiar la mente humana... las máquinas

nunca podrán inventar un nuevo lenguaje... Porque no tienen mente y

​ ue su ​input​. Este es
ninguna puede generar mayor ​output q

precisamente el milagro de la vida, que puede generar mayor ​output

que su ​input,​ y esto resultar en algo completamente distinto. Eso es

la vida: es espíritu y así es como se diferencia de la máquina. Pero la

vida está en peligro cuando todo está automatizado y regido por

algoritmos. Una máquina humana inmortal como la imaginada por el

poshumanista Ray Kurzweil, ya no sería humana. Quizás alcancemos

la inmortalidad eventualmente con la ayuda de la tecnología, pero

perderemos la vida. Alcanzaremos la inmortalidad al costo de la

vida”.

--El capítulo San Junípero trata la inmortalidad digital a través de un

mundo paralelo al que viajan personas muy enfermas, donde están

rejuvenecidas en un paraíso simulado por computadoras; pero allí no

escapan de la decepción, porque los habitantes de ese mundo paralelo

caen en la cuenta de que allí un cigarrillo no sabe a nada. Hay una

corriente científica conocida como singularismo que aspira a que

evolucionemos artificialmente hacia un poshumano que, en una primera

etapa, aumentará su longevidad liberado de las enfermedades, para luego

detener los procesos de degenerativos de las células. Finalmente se

buscará acumular toda la información cerebral en soportes informáticos, ya

como conciencia digitalizada en otro soporte: un cuerpo robótico que sería

como una carcasa. No sería una clonación de la conciencia sino una

transferencia de la misma, una tecnología que --a mi modo de ver-- está en

estado cero, y que olvida algo esencial: una vida inmortal no sería

simplemente no morir y vivir indefinidamente en un dispositivo, sino crear

continuamente sentido para que esa vida se justifique y no se convierta en

una vida extendida artificialmente y vacía, hasta el punto que lo mejor sería

volver a ser mortales como en el cuento El inmortal de Borges. El capítulo

Museo Negro de Black Mirror plantea esto: personas que continúan

viviendo tortuosamente para siempre, presos en un holograma.

--De sus libros se desprende una mirada de la tecnología como una

herramienta ambigua.

--En lo personal me interesa la compresión de los procesos culturales, no

la tecnología en sí misma. Pero lo técnico hoy es ya inseparable de la

construcción del mundo global y de la subjetividad. Por lo que, frente al

fenómeno cultural de lo técnico, podemos usar la metáfora de las dos

caras opuestas de Jano, ese dios bifronte de los romanos. No debemos

--ni podemos-- ser dioses, pero sí ser conscientes de que esos rostros que

miran en dos direcciones ven las partes de un todo. Una mirada se dirige

al progreso entendido como ingeniería aeroespacial, transporte, energías

renovables y medicina. La otra se orienta hacia la economía capitalista y

los intereses del poder, pretendiendo que se la acepte y celebre con una
ingenuidad pasiva. Esto último plantea que después de destruir millones

de empleos, la revolución robótica traerá un mundo mejor. Esta mirada

luminosa --es parte del nuevo dataísmo digital y de la mentalidad Silicon

Valley-- omite que los intereses del poder no están vinculados con el

bienestar económico general, la salud, la educación y la realización

humana de las personas. El ojo oscuro del poder descubrió en la

tecnología una herramienta para mejor dominarnos y vigilarnos. Busca

excitar nuestros deseos, hacernos comprar más y votar de determinada

manera. En el capítulo ​Arkangel​ de Black Mirror, una madre implanta un

chip que le transmite en vivo la mirada de su hija, logrando un control total

sobre ella. Todo lo que sucede ya queda registrado en Internet: la

información no se pierde. El algoritmo interpreta huellas digitales y

concluye: “a esta persona hay que darle esto y aquello”. El documental

Brexit muestra cómo los algoritmos interpretaron datos para inducir a

mucha gente a votar algo de lo que ahora se arrepienten. Hay un lado de

la tecnología que nos mira como un búho oculto en la noche y actúa, no

por lo que muestra, sino por lo que oculta. Es un poder agazapado, ligado

a los entramados de servicios de inteligencia y corporaciones que tienen

herramientas cada vez más sofisticadas para orientar a la población hacia

los intereses privados de estas minorías. Snowden lo demostró. Esta

distopía es, en el fondo, la utopía soñada por el poder. Todos

reproducimos los patrones funcionales al capitalismo vigente. Hay una

necesidad de adaptarnos, sin duda. Pero está el peligro de la

sobreadaptación, que es lo que nos propone el capitalismo algorítmico:

rendirnos al consumismo total y renunciar al derecho a la crítica respecto a

todo. Yo propongo defender el derecho a la duda y a la crítica frente a la

tecnología, mirando sus lados oscuro y luminoso, manteniendo una actitud

realista de sospecha. Es esto mismo lo que hace Black Mirror con su

tecnoparanoia convertida también en entretenimiento de una manera

ingeniosa y reflexiva, que acaso en la última temporada ya adolece de una

sobreadaptación a la lógica del espectáculo. La cuestión es hacer de las

herramientas tecno-digitales del mundo contemporáneo, medios para el

desarrollo individual y colectivo, y no los ladrillos de una pared que nos

aleje cada vez más de la vida real en todas sus caras y posibilidades.