Yuval Noah Harari Sobre Por Qué La Tecnología Favorece La Tiranía - The Atlantic

29/2/2020 Yuval Noah Harari sobre por qué la tecnología favorece la tiranía - The Atlantic
Suscribir
Más de ¿está muriendo la democracia?
See Project
Por qué la tecnología favorece la tiranía

La inteligencia arti cial podría borrar muchas ventajas prácticas de la democracia y
erosionar los ideales de libertad e igualdad. Concentrará aún más el poder entre una
pequeña élite si no tomamos medidas para detenerlo.
Yoshi Sodeoka
Historia de Yuval Noah Harari
EDICIÓN DE OCTUBRE DE 2018
¿Te gusta el Atlántico ? Suscribirse a The Atlantic diario , nuestro boletín electrónico
gratuito entre semana.
Introduce tu correo electrónico Regístrate
https://www.theatlantic.com/magazine/archive/2018/10/yuval-noah-harari-technology-tyranny/568330/ 1/18
Nota del editor: este artículo es parte de una serie que intenta responder a la
pregunta: ¿se está muriendo la democracia?
I. El creciente miedo a la irrelevancia
N
   inevitable en la democracia. A pesar de todo el éxito que
han tenido las democracias durante el siglo pasado o más, son puntos
débiles en la historia. Las monarquías, las oligarquías y otras formas de
gobierno autoritario han sido modos mucho más comunes de gobierno
humano.
El surgimiento de las democracias liberales está asociado con ideales de

libertad e igualdad que pueden parecer evidentes e irreversibles. Pero estos
ideales son mucho más frágiles de lo que creemos. Su éxito en el siglo XX
dependió de condiciones tecnológicas únicas que pueden resultar efímeras.
En la segunda década del siglo XXI, el liberalismo ha comenzado a perder

credibilidad. Las preguntas sobre la capacidad de la democracia liberal para
proveer a la clase media se han vuelto más fuertes; la política se ha vuelto más
tribal; y en cada vez más países, los líderes muestran una inclinación por la
demagogia y la autocracia. Las causas de este cambio político son complejas,
pero parecen estar entrelazadas con los desarrollos tecnológicos actuales. La
tecnología que favoreció la democracia está cambiando y, a medida que se
desarrolla la inteligencia artificial, podría cambiar aún más.
La tecnología de la información continúa avanzando; La biotecnología está

comenzando a proporcionar una ventana a nuestra vida interior: nuestras
emociones, pensamientos y elecciones. Juntos, la infotecnología y la
biotecnología crearán trastornos sin precedentes en la sociedad humana,
erosionando la agencia humana y, posiblemente, subvirtiendo los deseos
humanos. En tales condiciones, la democracia liberal y la economía de libre
mercado pueden quedar obsoletas.
Es posible que las personas comunes no entiendan la inteligencia artificial y la

biotecnología en detalle, pero pueden sentir que el futuro los está pasando. En
1938, la condición del hombre común en la Unión Soviética, Alemania o los
Estados Unidos puede haber sido sombría, pero constantemente le decían que
era lo más importante del mundo y que era el futuro (siempre que, por
supuesto, que él era un "hombre común", en lugar de, por ejemplo, un judío o
una mujer). Miró los carteles de propaganda, que típicamente representaban a

los mineros del carbón y a los trabajadores del acero en poses heroicas, y se vio
a sí mismo allí: “¡Estoy en ese cartel! ¡Soy el héroe del futuro! "
En 2018, la persona común se siente cada vez más irrelevante. Muchos

términos misteriosos se mezclan con entusiasmo en las charlas  , en los
think tanks del gobierno y en conferencias de alta tecnología ( globalización ,
blockchain , ingeniería genética , IA , aprendizaje automático) y la gente común,
tanto hombres como mujeres, puede sospechar que ninguno de estos términos
se trata de ellos.
En el siglo XX, las masas se rebelaron contra la explotación y buscaron

traducir su papel vital en la economía en poder político. Ahora las masas
temen la irrelevancia y están desesperadas por usar su poder político restante
antes de que sea demasiado tarde. El brexit y el ascenso de Donald Trump
pueden, por lo tanto, demostrar una trayectoria opuesta a la de las
revoluciones socialistas tradicionales. Las revoluciones rusa, china y cubana
fueron hechas por personas que eran vitales para la economía pero que
carecían de poder político; En 2016, Trump y Brexit fueron apoyados por
muchas personas que aún disfrutaban del poder político pero temían que
estaban perdiendo su valor económico. Quizás en el siglo XXI, las revueltas
populistas se realizarán no contra una élite económica que explota a las
personas sino contra una élite económica que ya no las necesita. Esta bien
puede ser una batalla perdida.
Las revoluciones en la tecnología de la información y la biotecnología todavía

están en pañales, y es discutible hasta qué punto son responsables de la crisis
actual del liberalismo. La mayoría de las personas en Birmingham, Estambul,
San Petersburgo y Mumbai son poco conscientes, si es que lo saben, del
aumento de la IA y su impacto potencial en sus vidas. Sin embargo, es
indudable que las revoluciones tecnológicas que ahora están cobrando impulso
en las próximas décadas confrontarán a la humanidad con las pruebas más
difíciles que haya enfrentado.
II ¿Una nueva clase inútil?
E
mpecemos   empleos y los ingresos, porque cualquiera que sea el
atractivo filosófico de la democracia liberal, ha ganado fuerza en gran
parte gracias a una ventaja práctica: el enfoque descentralizado para la
toma de decisiones que es característico del liberalismo, tanto en política como

en economía, ha permitido a los liberales democracias para competir con otros
estados y entregar una creciente riqueza a su gente.
El liberalismo reconcilió al proletariado con la burguesía, los fieles con los

ateos, los nativos con los inmigrantes y los europeos con los asiáticos al
prometer a todos una porción más grande del pastel. Con un pastel en
constante crecimiento, eso era posible. Y el pastel bien puede seguir creciendo.
Sin embargo, el crecimiento económico puede no resolver los problemas
sociales que ahora están siendo creados por la disrupción tecnológica, porque
dicho crecimiento se basa cada vez más en la invención de tecnologías cada vez
más disruptivas.
El miedo a las máquinas que empujan a las personas fuera del mercado laboral
no es, por supuesto, nada nuevo, y en el pasado tales temores resultaron ser
infundados. Pero la inteligencia artificial es diferente de las máquinas antiguas.
En el pasado, las máquinas competían con los humanos principalmente en
habilidades manuales. Ahora comienzan a competir con nosotros en
habilidades cognitivas. Y no conocemos ningún tercer tipo de habilidad, más
allá del manual y el cognitivo, en el que los humanos siempre tengan una
ventaja.
Al menos durante unas pocas décadas más, es probable que la inteligencia

humana supere con creces la inteligencia informática en numerosos campos.
Por lo tanto, a medida que las computadoras asuman más trabajos cognitivos
de rutina, continuarán apareciendo nuevos trabajos creativos para los
humanos. Muchos de estos nuevos trabajos probablemente dependerán de la
cooperación en lugar de la competencia entre los humanos y la IA. Los
equipos de IA humana probablemente demostrarán ser superiores no solo a los
humanos, sino también a las computadoras que trabajan por su cuenta.
Sin embargo, es probable que la mayoría de los nuevos empleos demanden

altos niveles de experiencia e ingenio y, por lo tanto, no proporcionen una
respuesta al problema de los trabajadores desempleados no calificados, o los
trabajadores que se emplean solo con salarios extremadamente bajos. Además,
a medida que la IA continúa mejorando, incluso los trabajos que requieren
alta inteligencia y creatividad podrían desaparecer gradualmente. El mundo
del ajedrez sirve como un ejemplo de hacia dónde se dirigen las cosas. Durante
varios años después de que la computadora de IBM Deep Blue derrotó a
Garry Kasparov en 1997, los jugadores de ajedrez humanos aún prosperaron;

La IA se usó para entrenar prodigios humanos, y los equipos compuestos por
humanos más computadoras demostraron ser superiores a las computadoras
que juegan solas.
Sin embargo, en los últimos años, las computadoras se han vuelto tan buenas
jugando al ajedrez que sus colaboradores humanos han perdido su valor y
pronto podrían volverse completamente irrelevantes. El 6 de diciembre de
2017, se alcanzó otro hito crucial cuando el programa AlphaZero de Google
derrotó al programa Stockfish 8. Stockfish 8 había ganado un campeonato
mundial de ajedrez informático en 2016. Tenía acceso a siglos de experiencia
humana acumulada en ajedrez, así como a décadas de experiencia en
informática. Por el contrario, sus creadores humanos no le habían enseñado a
AlphaZero ninguna estrategia de ajedrez, ni siquiera aperturas estándar. Más
bien, utilizó los últimos principios de aprendizaje automático para enseñarse
ajedrez jugando contra sí mismo. Sin embargo, de 100 juegos que el novato
AlphaZero jugó contra Stockfish 8, AlphaZero ganó 28 y empató 72, no
perdió una sola vez. Como AlphaZero no había aprendido nada de ningún
humano, muchos de sus movimientos y estrategias ganadoras parecían poco
convencionales para el ojo humano. Podrían describirse comocreativo, si no
francamente genio .
¿Puedes adivinar cuánto tiempo pasó AlphaZero aprendiendo ajedrez desde

cero, preparándose para el combate contra Stockfish 8 y desarrollando sus
geniales instintos? Cuatro horas . Durante siglos, el ajedrez fue considerado
una de las glorias de la inteligencia humana. AlphaZero pasó de la ignorancia
absoluta al dominio creativo en cuatro horas, sin la ayuda de ningún guía
humano.
AlphaZero no es el único software imaginativo que existe. Una de las formas

de atrapar a los tramposos en los torneos de ajedrez hoy en día es monitorear
el nivel de originalidad que exhiben los jugadores. Si juegan un movimiento
excepcionalmente creativo, los jueces a menudo sospecharán que no podría ser
un movimiento humano, debe ser un movimiento de computadora. ¡Al menos
en el ajedrez, la creatividad ya se considera la marca registrada de las
computadoras en lugar de los humanos! Entonces, si el ajedrez es nuestro
canario en la mina de carbón, se nos advirtió debidamente que el canario está
muriendo. Lo que está sucediendo hoy en día con los equipos de IA humana
en el ajedrez podría suceder en el camino a los equipos de IA humana en la

policía, la medicina, la banca y muchos otros campos.
Además, la IA disfruta de habilidades únicas no humanas, lo que hace que la

diferencia entre la IA y un trabajador humano sea única en lugar de
meramente de grado. Dos habilidades no humanas particularmente
importantes que posee la IA son la conectividad y la capacidad de
actualización.
Por ejemplo, muchos conductores no están familiarizados con todas las

regulaciones cambiantes de tráfico en las carreteras que conducen, y a menudo
las violan. Además, dado que cada conductor es una entidad singular, cuando
dos vehículos se acercan a la misma intersección, los conductores a veces
comunican mal sus intenciones y chocan. Los automóviles autónomos, por el
contrario, conocerán todas las normas de tránsito y nunca las desobedecerán a
propósito, y todas podrían conectarse entre sí. Cuando dos de estos vehículos
se acercan al mismo cruce, en realidad no serán dos entidades separadas, sino
parte de un solo algoritmo. Las posibilidades de que puedan comunicarse mal
y colisionar serán, por lo tanto, mucho menores.
Del mismo modo, si la Organización Mundial de la Salud identifica una

nueva enfermedad, o si un laboratorio produce un nuevo medicamento, no
puede actualizar de inmediato a todos los médicos humanos en el mundo. Sin
embargo, incluso si tuviera miles de millones de médicos de IA en el mundo,
cada uno monitoreando la salud de un solo ser humano, aún podría
actualizarlos a todos en una fracción de segundo, y todos podrían comunicarse
entre sí sus evaluaciones de la nueva enfermedad o medicina. Estas ventajas
potenciales de la conectividad y la capacidad de actualización son tan grandes
que al menos en algunas líneas de trabajo, podría tener sentido reemplazar a
todos los humanos con computadoras, incluso si individualmente algunos
humanos todavía hacen un mejor trabajo que las máquinas.
Las mismas tecnologías que podrían hacer que miles de millones de

personas fueran económicamente irrelevantes también podrían
facilitar su monitoreo y control.
Todo esto lleva a una conclusión muy importante: la revolución de la

automatización no consistirá en un solo evento decisivo, después del cual el
mercado laboral se asentará en un nuevo equilibrio. Más bien, será una
cascada de interrupciones cada vez mayores. Los viejos trabajos desaparecerán
y surgirán nuevos trabajos, pero los nuevos trabajos también cambiarán y
desaparecerán rápidamente. Las personas necesitarán volver a capacitarse y
reinventarse no solo una vez, sino muchas veces.
Al igual que en el siglo XX, los gobiernos establecieron sistemas de educación

masiva para los jóvenes, en el siglo XXI deberán establecer sistemas de
reeducación masiva para adultos. Pero será suficiente? El cambio siempre es
estresante, y el mundo agitado de principios del siglo XXI ha producido una
epidemia mundial de estrés. A medida que aumenta la volatilidad del trabajo,
¿podrán las personas hacer frente? Para 2050, podría surgir una clase inútil,
resultado no solo de la escasez de empleos o la falta de educación relevante,
sino también de la resistencia mental insuficiente para continuar aprendiendo
nuevas habilidades.
III. El auge de las dictaduras digitales
A
    pierden su valor económico, también
pueden llegar a perder su poder político. Las mismas tecnologías que
podrían hacer que miles de millones de personas fueran
económicamente irrelevantes también podrían facilitar su monitoreo y
control.
La IA asusta a muchas personas porque no confían en que siga siendo

obediente. La ciencia ficción aprovecha la posibilidad de que las computadoras
o los robots desarrollen conciencia, y poco después intentarán matar a todos
los humanos. Pero no hay una razón particular para creer que la IA
desarrollará la conciencia a medida que se vuelva más inteligente. En cambio,
deberíamos temer a la IA porque probablemente siempre obedecerá a sus amos
humanos y nunca se rebelará. La IA es una herramienta y un arma diferente a
cualquier otra que los seres humanos hayan desarrollado; casi seguramente
permitirá que los ya poderosos consoliden aún más su poder.
Considera la vigilancia. Numerosos países de todo el mundo, incluidas varias

democracias, están ocupados construyendo sistemas de vigilancia sin
precedentes. Por ejemplo, Israel es un líder en el campo de la tecnología de
vigilancia y ha creado en la Cisjordania ocupada un prototipo funcional para

un régimen de vigilancia total.. Ya hoy, cuando los palestinos hacen una
llamada telefónica, publican algo en Facebook o viajan de una ciudad a otra,
es probable que sean monitoreados por micrófonos, cámaras, drones o
software espía israelíes. Los algoritmos analizan los datos recopilados,
ayudando a las fuerzas de seguridad israelíes a identificar y neutralizar lo que
consideran amenazas potenciales. Los palestinos pueden administrar algunas
ciudades y pueblos en Cisjordania, pero los israelíes dominan el cielo, las
ondas aéreas y el ciberespacio. Por lo tanto, se necesitan sorprendentemente
pocos soldados israelíes para controlar efectivamente a los aproximadamente
2.5 millones de palestinos que viven en Cisjordania.
En un incidente en octubre de 2017, un trabajador palestino publicó en su

cuenta privada de Facebook una foto de sí mismo en su lugar de trabajo, junto
a una excavadora. Junto a la imagen escribió: "¡Buenos días!" Un algoritmo de
traducción de Facebook cometió un pequeño error al transcribir las letras
árabes. En lugar de Ysabechhum (que significa "Buenos días"), el algoritmo
identificó las letras como Ydbachhum (que significa " Herirlas "). Sospechando
que el hombre podría ser un terrorista con la intención de usar una excavadora
para atropellar a las personas, las fuerzas de seguridad israelíes lo arrestaron
rápidamente.. Lo liberaron después de darse cuenta de que el algoritmo había
cometido un error. Aun así, la publicación ofensiva de Facebook fue
eliminada: nunca se puede ser demasiado cuidadoso. Lo que los palestinos
están experimentando hoy en Cisjordania puede ser solo una vista previa
primitiva de lo que miles de millones de personas eventualmente
experimentarán en todo el planeta.
Imagine, por ejemplo, que el régimen actual en Corea del Norte obtuvo una
versión más avanzada de este tipo de tecnología en el futuro. Es posible que se
requiera que los norcoreanos usen un brazalete biométrico que controla todo
lo que hacen y dicen, así como su presión arterial y actividad cerebral.
Utilizando la creciente comprensión del cerebro humano y aprovechando los
inmensos poderes del aprendizaje automático, el gobierno de Corea del Norte
podría eventualmente evaluar lo que cada ciudadano está pensando en cada
momento. Si un norcoreano mirara una foto de Kim Jong Un y los sensores
biométricos detectaran signos reveladores de ira (presión arterial más alta,
mayor actividad en la amígdala), esa persona podría estar en el gulag al día
siguiente.
El conflicto entre democracia y dictadura es en realidad un conflicto

entre dos sistemas diferentes de procesamiento de datos. La IA puede
cambiar la ventaja hacia este último.
Y, sin embargo, tales tácticas duras pueden no ser necesarias, al menos la

mayor parte del tiempo. Una fachada de libre elección y libre votación puede
permanecer en algunos países, incluso cuando el público ejerce cada vez menos
control real. Sin duda, los intentos de manipular los sentimientos de los
votantes no son nuevos. Pero una vez que alguien (ya sea en San Francisco,
Beijing o Moscú) adquiera la capacidad tecnológica de manipular el corazón
humano —de manera confiable, barata y a escala— la política democrática
mutará en un emotivo espectáculo de marionetas.
Es poco probable que enfrentemos una rebelión de máquinas inteligentes en

las próximas décadas, pero es posible que tengamos que lidiar con hordas de
robots que saben presionar mejor nuestros botones emocionales que nuestra
madre y que usan esta extraña habilidad, a instancias de elite humana, para
tratar de vendernos algo, ya sea un automóvil, un político o una ideología
completa. Los bots pueden identificar nuestros miedos, odios y antojos más
profundos y usarlos contra nosotros. Ya se nos ha dado un anticipo de esto en
las recientes elecciones y referéndums en todo el mundo, cuando los piratas
informáticos aprendieron a manipular a los votantes individuales analizando
datos sobre ellos y explotando sus prejuicios. Si bien los thrillers de ciencia
ficción se sienten atraídos por dramáticos apocalipsis de fuego y humo, en
realidad podemos enfrentar un apocalipsis banal haciendo clic.
E
l    El impacto de la revolución de la IA podría
estar en la relativa eficiencia de las democracias y dictaduras.
Históricamente, las autocracias han enfrentado desventajas paralizantes
en lo que respecta a la innovación y el crecimiento económico. A fines del
siglo XX, las democracias generalmente superaron a las dictaduras, porque
eran mucho mejores en el procesamiento de la información. Tendemos a
pensar en el conflicto entre democracia y dictadura como un conflicto entre
dos sistemas éticos diferentes, pero en realidad es un conflicto entre dos
sistemas de procesamiento de datos diferentes. La democracia distribuye el
poder para procesar información y tomar decisiones entre muchas personas e
instituciones, mientras que la dictadura concentra la información y el poder

en un solo lugar. Dada la tecnología del siglo XX, era ineficiente concentrar
demasiada información y poder en un solo lugar. Nadie tenía la capacidad de
procesar toda la información disponible lo suficientemente rápido y tomar las
decisiones correctas. Esta es una de las razones por las que la Unión Soviética
tomó decisiones mucho peores que los Estados Unidos, y por qué la economía
soviética se quedó muy rezagada con respecto a la economía estadounidense.
Sin embargo, la inteligencia artificial pronto puede mover el péndulo en la

dirección opuesta. La IA hace posible procesar enormes cantidades de
información de forma centralizada. De hecho, podría hacer que los sistemas
centralizados sean mucho más eficientes que los sistemas difusos, porque el
aprendizaje automático funciona mejor cuando la máquina tiene más
información para analizar. Si ignora todas las preocupaciones de privacidad y
concentra toda la información relacionada con mil millones de personas en
una base de datos, obtendrá algoritmos mucho mejores que si respeta la
privacidad individual y tiene en su base de datos solo información parcial
sobre un millón de personas. Un gobierno autoritario que ordena a todos sus
ciudadanos secuenciar su ADN y compartir sus datos médicos con alguna
autoridad central obtendría una inmensa ventaja en genética e investigación
médica sobre sociedades en las que los datos médicos son estrictamente
privados. La principal desventaja de los regímenes autoritarios en el siglo XX
—el deseo de concentrar toda la información y el poder en un solo lugar—
puede convertirse en su ventaja decisiva en el siglo XXI.
Yoshi Sodeoka
Las nuevas tecnologías continuarán surgiendo, por supuesto, y algunas de ellas

pueden fomentar la distribución en lugar de la concentración de información
y poder. La tecnología Blockchain, y el uso de criptomonedas habilitadas por
ella, actualmente se promociona como un posible contrapeso al poder
centralizado. Pero la tecnología blockchain todavía está en la etapa
embrionaria, y aún no sabemos si realmente contrarrestará las tendencias
centralizadoras de la IA. Recuerde que Internet también fue promocionado en
sus primeros días como una panacea libertaria que liberaría a las personas de
todos los sistemas centralizados, pero ahora está preparada para hacer que la
autoridad centralizada sea más poderosa que nunca.
IV. La transferencia de autoridad a las

máquinas
E
   sociedades siguen siendo ostensiblemente democrática,
el aumento de la eficiencia de los algoritmos todavía se desplazará cada
vez más la autoridad de los seres humanos individuales a las máquinas
en red. Podríamos renunciar voluntariamente a más y más autoridad sobre
nuestras vidas porque aprenderemos de la experiencia a confiar en los
algoritmos más que a nuestros propios sentimientos, y eventualmente
perderemos nuestra capacidad de tomar muchas decisiones por nosotros
mismos. Solo piense en la forma en que, en solo dos décadas, miles de
millones de personas han llegado a confiar al algoritmo de búsqueda de
Google una de las tareas más importantes de todas: encontrar información
relevante y confiable. Como confiamos más en Google para obtener
respuestas, nuestra capacidad de localizar información de forma independiente
disminuye. Ya hoy, la "verdad" se define por los mejores resultados de una
búsqueda en Google. Este proceso también ha afectado nuestras habilidades
físicas, como navegar por el espacio. La gente le pide a Google no solo que
encuentre información sino que también los guíe. Los automóviles autónomos
y los médicos de IA representarían una mayor erosión: si bien estas
innovaciones dejarían a los camioneros y a los médicos humanos sin trabajo,
su mayor importancia radica en la transferencia continua de autoridad y
responsabilidad a las máquinas.
Los humanos estamos acostumbrados a pensar en la vida como un drama de

toma de decisiones. La democracia liberal y el capitalismo de libre mercado
ven al individuo como un agente autónomo que constantemente toma
decisiones sobre el mundo. Las obras de arte, ya sean obras de Shakespeare,
novelas de Jane Austen o comedias cursis de Hollywood, generalmente giran
en torno al héroe que tiene que tomar una decisión crucial. Ser o no ser?
¿Escuchar a mi esposa y matar al rey Duncan, o escuchar mi conciencia y
perdonarlo? ¿Casarse con el Sr. Collins o el Sr. Darcy? La teología cristiana y
musulmana se enfoca de manera similar en el drama de la toma de decisiones,
argumentando que la salvación eterna depende de tomar la decisión correcta.
¿Qué pasará con esta visión de la vida si confiamos en la inteligencia artificial

para tomar cada vez más decisiones por nosotros? Incluso ahora confiamos en
Netflix para recomendar películas y Spotify para elegir la música que nos
guste. Pero, ¿por qué debería detenerse la ayuda de AI?
Cada año, millones de estudiantes universitarios necesitan decidir qué

estudiar. Esta es una decisión muy importante y difícil, tomada bajo la presión
de padres, amigos y profesores que tienen diferentes intereses y opiniones.
También está influenciado por los propios miedos y fantasías individuales de
los estudiantes, que son moldeados por películas, novelas y campañas
publicitarias. Para complicar las cosas, un estudiante determinado realmente
no sabe lo que se necesita para tener éxito en una profesión determinada, y no
necesariamente tiene un sentido realista de sus propias fortalezas y debilidades.
No es tan difícil ver cómo la inteligencia artificial podría algún día tomar
mejores decisiones que nosotros sobre las carreras, y tal vez incluso sobre las
relaciones. Pero una vez que comencemos a contar con AI para decidir qué
estudiar, dónde trabajar y con quién salir o incluso casarse, la vida humana
dejará de ser un drama de toma de decisiones, y nuestra concepción de la vida
tendrá que cambiar. Las elecciones democráticas y los mercados libres podrían
dejar de tener sentido. Lo mismo ocurre con la mayoría de las religiones y
obras de arte. Imagine a Anna Karenina sacando su teléfono inteligente y
preguntándole a Siri si debería quedarse casada con Karenin o fugarse con el
apuesto conde Vronsky. O imagine su juego favorito de Shakespeare con todas
las decisiones cruciales tomadas por un algoritmo de Google. Hamlet y
Macbeth tendrían vidas mucho más cómodas, pero ¿qué tipo de vidas serían
esas? ¿Tenemos modelos para dar sentido a esas vidas?
¿P
ueden los      superar estos
desafíos y prevenir los escenarios más oscuros? En el momento
actual, esto no parece probable. La disrupción tecnológica ni
siquiera es un elemento destacado en la agenda política. Durante la carrera
presidencial de EE. UU. De 2016, la referencia principal a la tecnología
disruptiva se refería a la debacle del correo electrónico de Hillary Clinton, y a
pesar de todo lo que se habla sobre la pérdida de empleo, ninguno de los
candidatos abordó directamente el impacto potencial de la automatización.
Donald Trump advirtió a los votantes que los mexicanos tomarían sus trabajos
y que, por lo tanto, Estados Unidos debería construir un muro en su frontera
sur. Nunca advirtió a los votantes que los algoritmos tomarían su trabajo, ni
sugirió construir un firewall alrededor de California.
¿Entonces, qué debemos hacer?
Para empezar, debemos dar una prioridad mucho mayor a la comprensión de

cómo funciona la mente humana, en particular cómo se puede cultivar nuestra
propia sabiduría y compasión. Si invertimos demasiado en inteligencia
artificial y muy poco en desarrollar la mente humana, la inteligencia artificial
muy sofisticada de las computadoras podría servir solo para potenciar la
estupidez natural de los humanos y alimentar nuestros peores (pero también,
quizás, los más poderosos) impulsos, entre ellos avaricia y odio. Para evitar ese
resultado, por cada dólar y cada minuto que invirtamos en mejorar la IA, sería
prudente invertir un dólar y un minuto en explorar y desarrollar la conciencia
humana.
Más prácticamente, y de manera más inmediata, si queremos evitar la

concentración de toda la riqueza y el poder en manos de una pequeña élite,
debemos regular la propiedad de los datos. En la antigüedad, la tierra era el
activo más importante, por lo que la política era una lucha por controlarla. En
la era moderna, las máquinas y las fábricas se hicieron más importantes que la
tierra, por lo que las luchas políticas se centraron en controlar estos medios
vitales de producción. En el siglo XXI, los datos eclipsarán tanto la tierra
como la maquinaria como el activo más importante, por lo que la política será
una lucha para controlar el flujo de datos.
Desafortunadamente, no tenemos mucha experiencia en la regulación de la

propiedad de los datos, lo que es inherentemente una tarea mucho más difícil
que regular la tierra o las máquinas. Los datos están en todas partes y en
ninguna parte al mismo tiempo, pueden moverse a la velocidad de la luz y
puede crear tantas copias de ellos como desee. ¿Los datos recopilados sobre mi
ADN, mi cerebro y mi vida me pertenecen a mí, al gobierno, a una
corporación o al colectivo humano?
La carrera para acumular datos ya está en marcha, y actualmente está

encabezada por gigantes como Google y Facebook y, en China, Baidu y
Tencent. Hasta ahora, muchas de estas compañías han actuado como
"comerciantes de atención": captan nuestra atención al brindarnos
información, servicios y entretenimiento gratuitos, y luego revenden nuestra
atención a los anunciantes. Sin embargo, su verdadero negocio no es
simplemente vender anuncios. Más bien, al captar nuestra atención, logran
acumular inmensas cantidades de datos sobre nosotros, que valen más que
cualquier ingreso publicitario. No somos sus clientes, somos su producto.
A las personas comunes les resultará muy difícil resistirse a este proceso. En la
actualidad, muchos de nosotros estamos felices de regalar nuestro activo más
valioso, nuestros datos personales, a cambio de servicios de correo electrónico
gratuitos y videos divertidos para gatos. Pero si, más adelante, las personas
comunes y corrientes deciden tratar de bloquear el flujo de datos, es probable
que tengan problemas para hacerlo, especialmente porque pueden confiar en
la red para ayudarlos a tomar decisiones, e incluso por su salud y salud.
supervivencia física
La nacionalización de los datos por parte de los gobiernos podría ofrecer una
solución; ciertamente reduciría el poder de las grandes corporaciones. Pero la
historia sugiere que no estamos necesariamente mejor en manos de gobiernos
excesivamente poderosos. Por lo tanto, es mejor que recurramos a nuestros
científicos, filósofos, abogados e incluso a nuestros poetas para que presten
atención a esta gran pregunta: ¿cómo regulan la propiedad de los datos?
Actualmente, los humanos corren el riesgo de volverse similares a los animales

domesticados. Hemos criado vacas dóciles que producen enormes cantidades
de leche pero que, por lo demás, son muy inferiores a sus ancestros salvajes.
Son menos ágiles, menos curiosos y menos ingeniosos. Ahora estamos creando
humanos mansos que producen enormes cantidades de datos y funcionan
como chips eficientes en un enorme mecanismo de procesamiento de datos,
pero apenas maximizan su potencial humano. Si no tenemos cuidado,
terminaremos con humanos degradados que usen mal las computadoras
actualizadas para causar estragos en ellos y en el mundo.
Si estas perspectivas son alarmantes, si no te gusta la idea de vivir en una

dictadura digital o en una forma de sociedad similarmente degradada,
entonces la contribución más importante que puedes hacer es encontrar
formas de evitar que se concentren demasiados datos en muy pocas manos. y
también encontrar maneras de mantener el procesamiento de datos
distribuidos más eficiente que el procesamiento centralizado de datos. Estas no
serán tareas fáciles. Pero lograrlos puede ser la mejor salvaguarda de la
democracia.
Este artículo ha sido adaptado del libro de Yuval Noah Harari, 21 Lecciones para el siglo
XXI .
YUVAL NOAH HARARI es historiador y filósofo de la Universidad Hebrea de Jerusalén y

autor de 21 Lecciones para el siglo XXI .
MÁS POPULAR
1 La vergüenza de Pete Buttigieg

SPENCER KORNHABER
2 Es probable que tengas el coronavirus

JAMES HAMBLIN
3 Lo que sucedió en Delhi fue un pogrom

MIRA KAMDAR
4 La extraña y peligrosa idea de 'derechos absolutos' de Donald Trump

JANE CHONG
5 Un pequeño agujero de gusano del tamaño de un laboratorio podría

destruir nuestro sentido de la realidad
PHILIP BALL , QUANTA
6 Cómo pensar en la caída del mercado de valores

JOE PINSKER
7 The Nuclear Family Was a Mistake

DAVID BROOKS
8 Trump’s Quiet Power Grab

PETER M. SHANE
9 The ‘Dating Market’ Is Getting Worse

ASHLEY FETICHES , KAITLYN TIFFANY
10 El problema de decirle a los trabajadores enfermos que se queden en casa

AMANDA MULL
VIDEOS
Las historias de fantasmas mantienen vivos a los romaníes

EMILY BUDER
Un secreto en la frontera
JEREMY RAFF
Dos parejas intentaron un matrimonio grupal. No funcionó.

EMILY BUDER
Firmé la petición y ahora me estoy volviendo loco

EMILY BUDER
Haz que tu bandeja de entrada sea más interesante.

Cada noche de lunes a viernes, obtenga una visión general de las noticias más importantes
del día, junto con ideas, imágenes y personas fascinantes. Ver más boletines
Introduce tu correo electrónico Regístrate
Ideas que importan. Desde 1857

Suscríbete y apoya 162 años de periodismo independiente. Por menos de $ 1
por semana.
SUSCRIBIR

Yuval Noah Harari Sobre Por Qué La Tecnología Favorece La Tiranía - The Atlantic

Caricato da

Informazioni sul documento

Titolo originale

Copyright

Formati disponibili

Condividi questo documento

Condividi o incorpora il documento

Opzioni di condivisione

Hai trovato utile questo documento?

Questo contenuto è inappropriato?

Copyright:

Formati disponibili

Yuval Noah Harari Sobre Por Qué La Tecnología Favorece La Tiranía - The Atlantic

Caricato da

Copyright:

Formati disponibili

29/2/2020 Yuval Noah Harari sobre por qué la tecnología favorece la tiranía - The Atlantic

Más de ¿está muriendo la democracia?

Por qué la tecnología favorece la tiranía

Historia de Yuval Noah Harari

EDICIÓN DE OCTUBRE DE 2018

Introduce tu correo electrónico Regístrate

I. El creciente miedo a la irrelevancia

El surgimiento de las democracias liberales está asociado con ideales de

En la segunda década del siglo XXI, el liberalismo ha comenzado a perder

La tecnología de la información continúa avanzando; La biotecnología está

Es posible que las personas comunes no entiendan la inteligencia artificial y la

una mujer). Miró los carteles de propaganda, que típicamente representaban a

En 2018, la persona común se siente cada vez más irrelevante. Muchos

En el siglo XX, las masas se rebelaron contra la explotación y buscaron

Las revoluciones en la tecnología de la información y la biotecnología todavía

II ¿Una nueva clase inútil?

toma de decisiones que es característico del liberalismo, tanto en política como

El liberalismo reconcilió al proletariado con la burguesía, los fieles con los

Al menos durante unas pocas décadas más, es probable que la inteligencia

Sin embargo, es probable que la mayoría de los nuevos empleos demanden

Garry Kasparov en 1997, los jugadores de ajedrez humanos aún prosperaron;

¿Puedes adivinar cuánto tiempo pasó AlphaZero aprendiendo ajedrez desde

AlphaZero no es el único software imaginativo que existe. Una de las formas

en el ajedrez podría suceder en el camino a los equipos de IA humana en la

Además, la IA disfruta de habilidades únicas no humanas, lo que hace que la

Por ejemplo, muchos conductores no están familiarizados con todas las

Del mismo modo, si la Organización Mundial de la Salud identifica una

Las mismas tecnologías que podrían hacer que miles de millones de

Todo esto lleva a una conclusión muy importante: la revolución de la

Al igual que en el siglo XX, los gobiernos establecieron sistemas de educación

III. El auge de las dictaduras digitales

La IA asusta a muchas personas porque no confían en que siga siendo

Considera la vigilancia. Numerosos países de todo el mundo, incluidas varias

vigilancia y ha creado en la Cisjordania ocupada un prototipo funcional para

En un incidente en octubre de 2017, un trabajador palestino publicó en su

El conflicto entre democracia y dictadura es en realidad un conflicto

Y, sin embargo, tales tácticas duras pueden no ser necesarias, al menos la

Es poco probable que enfrentemos una rebelión de máquinas inteligentes en

instituciones, mientras que la dictadura concentra la información y el poder

Sin embargo, la inteligencia artificial pronto puede mover el péndulo en la

Las nuevas tecnologías continuarán surgiendo, por supuesto, y algunas de ellas

IV. La transferencia de autoridad a las

Los humanos estamos acostumbrados a pensar en la vida como un drama de

¿Qué pasará con esta visión de la vida si confiamos en la inteligencia artificial

Cada año, millones de estudiantes universitarios necesitan decidir qué

¿Entonces, qué debemos hacer?

Para empezar, debemos dar una prioridad mucho mayor a la comprensión de

Más prácticamente, y de manera más inmediata, si queremos evitar la

Desafortunadamente, no tenemos mucha experiencia en la regulación de la

La carrera para acumular datos ya está en marcha, y actualmente está

Actualmente, los humanos corren el riesgo de volverse similares a los animales

Si estas perspectivas son alarmantes, si no te gusta la idea de vivir en una

YUVAL NOAH HARARI es historiador y filósofo de la Universidad Hebrea de Jerusalén y

1 La vergüenza de Pete Buttigieg

2 Es probable que tengas el coronavirus

3 Lo que sucedió en Delhi fue un pogrom

4 La extraña y peligrosa idea de 'derechos absolutos' de Donald Trump

5 Un pequeño agujero de gusano del tamaño de un laboratorio podría

6 Cómo pensar en la caída del mercado de valores

7 The Nuclear Family Was a Mistake

8 Trump’s Quiet Power Grab

9 The ‘Dating Market’ Is Getting Worse

10 El problema de decirle a los trabajadores enfermos que se queden en casa