P.W. SINGER EN: ROBOTS MILITARES Y EL FUTURO DE LA GUERRA Disponible en: http://www.ted.com/talks/pw_singer_on_robots_of_war.

html Pensaba comenzar con una escena de guerra. Haba poco que advertir sobre el peligro inminente. El insurgente iraqu haba colocado el IED, un artefacto explosivo improvisado, cuidadosamente al borde de la carretera. En 2006 hubo ms de 2,500 ataques de este tipo cada mes, y fueron la principal causa de vctimas entre soldados estadounidenses y civiles iraques. El equipo que estaba a la caza de este IED se llama EOD -Eliminacin de Artefactos Explosivos- y son la punta de lanza en el esfuerzo estadounidense para suprimir estas bombas artesanales. Cada equipo EOD interviene unas 600 veces al ao desactivando alrededor de dos bombas al da. Quizs la mejor indicacin de su valor al esfuerzo de guerra, es que los insurgentes iraques ofrecan una recompensa de 50,000 dlares por la cabeza de cada soldado EOD. Por desgracia, esa llamada en particular no terminara bien. Cuando el soldado avanz suficientemente cerca para ver los cables reveladores de la bomba, sta explot en una ola de fuego. Ahora, dependiendo de lo cerca que uno est y la cantidad de explosivo que haya sido colocado en la bomba, puede causar la muerte o lesiones. Hay que estar a una distancia aproximada de 50 metros para estar a salvo. La explosin es tan fuerte que puede incluso romper un miembro, aunque el golpe no sea directo. Ese soldado estaba encima de la bomba. Cuando el resto del equipo se acerc, de l haba quedado poco. Esa noche el comandante de la unidad tuvo el penoso deber de escribir una carta de condolencias a los EE.UU. que hablaba de lo duro que haba sido para su unidad la prdida, del hecho de haber perdido el soldado ms valiente, un soldado que ms de una vez les haba salvado la vida. Luego se disculp por no poder llevarlo de vuelta a casa. Pero tambin habl de la leccin positiva que aprendi de esa prdida. "Al menos", escribi, "cuando un robot muere, no hay necesidad de escribir una carta a su madre". Suena a ciencia ficcin pero ya es una realidad en el campo de batalla. En ese caso el soldado era un robot de 21 kilos llamado PackBot. La carta del comandante no se diriga a una granja en Iowa como se ve en las viejas pelculas de guerra, sino a la iRobot Company, que toma el nombre de la novela de Asimov y de la no tan buena pelcula con Will Smith, y... uh...

(Risas)... si Uds. recuerdan, en ese mundo ficticio los robots comenzaron realizando tareas ordinarias, y luego comenzaron a tomar decisiones de vida o muerte. Es una realidad que hoy conocemos. Lo que vamos a hacer es simplemente mostrarles una serie de fotos que muestran la realidad de los robots utilizados en la guerra en este momento o ya en fase de prototipo. Es solo para darles una idea. En otras palabras, no van a ver nada que funcione con la tecnologa Vulcano o con las hormonas de algn geniecillo adolescente o cosas por el estilo. Todo esto es real. As que sigamos adelante y comencemos a ver las imgenes. Algo importante est sucediendo en la guerra, y quizs tambin en la historia de la humanidad. El ejrcito de Estados Unidos fue a Irak con unos cuantos aviones no tripulados. Ahora tenemos 5300. Fuimos sin sistemas terrestres no tripulados. Ahora tenemos 12000. Y el trmino tcnico "aplicacin asesina" adquiere un nuevo significado en este contexto. Y no olvidemos que estamos hablando de los Ford Modelo T, los aviones de los hermanos Wright, en comparacin con lo que vendr pronto. Aqu es donde estamos ahora. Una de las personas que conoc hace poco fue un general de tres estrellas de la Fuerza Area, y dijo, bsicamente, que muy pronto tendremos decenas de miles de robots operando en nuestros conflictos, y estas son cifras importantes ya que no se habla solo de decenas de miles de robots modernos, sino de decenas de miles de estos prototipos y robots del futuro, porque, por supuesto, uno de los factores que funciona en la tecnologa es la Ley de Moore, la cual puede incorporar ms y ms potencia de clculo a estos robots, as que si la Ley de Moore sigue vigente dentro de 25 aos, esos robots sern unos mil millones de veces ms potentes que ahora. Esto significa que ese tipo de cosas de las cuales se hablaba solo en las convenciones de ciencia ficcin como la Comic-Con tendrn que ser discutidas en los centros de poder y en lugares como el Pentgono. Se acerca una revolucin de los robots. Ahora, y en esto debo ser claro, no estoy hablando de una revolucin en la que hay que preocuparse porque el gobernador de California se aparezca en su puerta a la Terminator. (Risas) Cuando los historiadores miren este periodo, van a concluir que estamos viviendo un tipo de revolucin diferente: una revolucin en la guerra, como la invencin de la bomba atmica. Pero podra ser an ms importante porque nuestros sistemas no tripulados no solo afectan el "cmo" de la guerra, sino tambin el "quin" de la guerra en su nivel ms fundamental. Es decir, cada revolucin anterior en la guerra, ya sea la ametralladora o la bomba atmica, se basaba en un sistema que disparaba ms rpido, o ms lejos, o ms fuerte. Ese es ciertamente el caso de la robtica, pero tambin cambia la experiencia del guerrero e incluso su propia identidad.

En otras palabras, el monopolio que la humanidad ha tenido en los ltimos cinco mil aos para combatir la guerra se est desmoronando en nuestra vida. He pasado los ltimos aos por ah reunindome con todos los actores en este campo, desde creadores de robots a los autores de ciencia ficcin que los inspir, a los pilotos de 19 aos de aviones no tripulados que combaten desde Nevada, a los generales de cuatro estrellas que los manejan, hasta los insurgentes iraques que son atacados para saber qu opinan de nuestros sistemas, y me parecieron interesantes no solo sus historias, sino cmo sus experiencias indican que estos efectos domin se reflejan en nuestra sociedad, en nuestras leyes, en nuestra tica, etc. Por eso quisiera utilizar el tiempo que queda para analizar un par de estos efectos. El primero es que el futuro de la guerra, incluyendo la robtica, no va a ser exclusivamente americano. Actualmente los Estados Unidos llevan la delantera en cuanto a robtica militar, pero sabemos que en la tecnologa no hay avance o ventaja permanente. Una encuesta rpida: Cuntas personas aqu siguen utilizando computadoras Wang? (Risas) Lo mismo ocurre en la guerra. Los britnicos y los franceses inventaron el tanque. Los alemanes descubrieron cmo usarlo mejor, as que lo que hay que pensar para los Estados Unidos, es que estamos por delante en este momento, pero hay otros 43 pases por ah trabajando en robtica militar, incluyendo pases interesantes como Rusia, China, Pakistn, Irn. Esto me plantea una gran preocupacin: Cmo podemos avanzar en esta revolucin, dado nuestro nivel de produccin, el estado de nuestra ciencia y la formacin matemtica en las escuelas? Tambin se puede pensar de este modo: Qu significa enviar cada vez ms soldados a la guerra con equipos cuyo hardware es hecho en China y el software programado en India? Pero as como el software se ha vuelto de cdigo abierto, tambin lo ha hecho la guerra. A diferencia de un portaaviones o una bomba atmica, no es necesario un sistema de fabricacin masiva para construir robots. Muchos ya estn a la venta. Incluso muchos son "hgalo usted mismo". Una de las cosas que acaban de ver pasar en frente es un Raven no tripulado, que se lanza con la mano. Con unos mil dlares se pueden construir uno equivalente a los que usan los soldados en Irak. Esto plantea otro problema cuando se trata de guerras y conflictos. Los buenos podran jugar y trabajar en ellos como kits de pasatiempo, pero tambin podran hacerlo los malos. Este cruce entre robtica y cosas como el terrorismo resultar fascinante y hasta perturbador, y ya lo hemos visto comenzar. Durante la guerra entre Israel, un estado y Hezbol, un actor no estatal, el actor no estatal lanz cuatro aviones no tripulados contra Israel. Ya existe un sitio web yihadista en el que se puede entrar y detonar a distancia un IED en Irak sentado desde su computadora.

Y entonces creo que vamos a ver surgir dos tendencias. La primera es que va a reforzar el poder de los individuos contra los gobiernos, pero la segunda es que vamos a ver una expansin en el mbito del terrorismo. El futuro de esto prodra ser una mezcla entre Al Qaeda 2.0 y la prxima generacin de Unabomber. Y otra forma de verlo es el hecho que, recuerden, no hay que convencer a un robot que recibir 72 vrgenes despus de su muerte para hacerlo inmolar. Pero las repercusiones se van a hacer sentir en nuestra poltica. Una de las personas que conoc era un asistente del secretario de defensa de Ronald Reagan, y me dijo lo siguiente: "Me gustan estos sistemas porque salvan vidas americanas, pero me preocupa la comercializacin de las guerras, el lenguaje sensacionalista que distrae la atencin acerca de los costos. La gente es ms propensa a apoyar el uso de la fuerza si ve que no cuesta nada". Para m, los robots siguen ciertas tendencias que ya estn jugando un papel importante en nuestra vida poltica y tal vez los llevan a su conclusin lgica. No tenemos ningn proyecto. Ya no hacemos declaraciones de guerra ni compramos bonos de guerra. Y ahora hay que considerar que cada vez ms estamos reemplazando nuestros soldados americanos que mandaramos al peligro por mquinas, y as poder superar los obstculos que quedan en la guerra y hacerlos caer al suelo. Pero el futuro de la guerra tambin va a ser una guerra en YouTube. Es decir, nuestras nuevas tecnologas no se limitan a alejar la gente del riesgo. Tambin registran todo lo que ven. No solo desvinculan el pblico: redefinen su relacin con la guerra. Ya hay miles de video clips de escenas de combates en Irak en este momento en Youtube, la mayora filmados por aviones no tripulados. Ahora, esto podra ser una cosa positiva. Podra crear conexiones entre el frente interno y el frente de guerra como nunca antes. Pero recuerden, todo esto sucede en nuestro extrao y bizarro mundo, y as, inevitablemente, la posibilidad de descargar estos video clips en el iPod o Zune nos da la capacidad para convertirlos en entretenimiento. Los soldados tienen un nombre para estos videos. Los llaman pornografa blica. Un ejemplo tpico fue uno que me enviaron por email con un archivo adjunto de un video del ataque de un Predator a una base enemiga. Golpes de misiles, cuerpos volando por el aire por la explosin. Fue hecho con msica. Era con la cancin "I Just Want To Fly" de Sugar Ray. Esta capacidad de ver ms pero sufrir menos crea un desequilibrio en la relacin del pblico con la guerra. Hago una comparacin con el deporte. Es como la diferencia entre ver un partido de la NBA, un partido de baloncesto profesional en televisin, donde los jugadores son pequeas figuras en la pantalla, y estar en el mismo partido en persona y darse cuenta

cmo es realmente alguien de 2,10 metros. Pero hay que recordar que estos son solo videos. Es solo la versin del partido de ESPN. Pierden el contexto. Pierden la estrategia. Pierden la humanidad. La guerra se convierte solo en mates y bombas inteligentes. La cosa irnica en todo esto es que mientras el futuro de la guerra puede involucrar cada vez ms mquinas, es nuestra psique humana la que impulsa todo esto, son nuestros errores humanos los que estn llevando a estas guerras. Un ejemplo de esto que tiene gran resonancia en la esfera poltica es cmo se manifiesta en nuestra verdadera guerra de ideas que estamos librando contra los grupos radicales. Qu mensaje creemos que estamos enviando con estas mquinas, frente al mensaje que se est recibiendo del otro lado. Una de las personas que conoc era un alto funcionario del gobierno Bush, que dijo lo siguiente acerca de la deshumanizacin de la guerra: "Contribuye a nuestra fuerza. Lo que asusta a la gente es nuestra tecnologa". Pero cuando conoces a la gente del Lbano, por ejemplo, es una historia muy diferente. All conoc a un editor de noticias. Mientras hablbamos, un avin no tripulado volaba sobre nosotros, y dijo esto al respecto: "Esto es otra muestra ms de la insensibilidad de los israeles y los americanos, que son cobardes porque envan mquinas para luchar contra nosotros. No quieren luchar contra nosotros como hombres de verdad, pero tienen miedo de luchar, as que es suficiente matar a algunos de sus soldados para derrotarlos". El futuro de la guerra trae consigo un nuevo tipo de guerrero que en realidad est redefiniendo la experiencia de ir a la guerra. Se les puede llamar guerreros de cubculo. Fue as que un piloto de avin no tripulado Predator describi su experiencia de lucha en la guerra de Irak sin salir de Nevada: "Vas a la guerra durante 12 horas, disparas a los blancos, matas directamente a los enemigos, luego tomas el coche, conduces hasta tu casa y en 20 minutos ests sentado en la mesa hablando con tus hijos de sus tareas". Pues bien, el equilibrio psicolgico de estas experiencias es increblemente difcil, y de hecho los pilotos de aviones no tripulados tienen mayores ndices de trastorno por estrs postraumtico que muchas de las unidades fsicas en Irak. Pero algunos temen que esta desconexin conducir a otra cosa, que har que sea ms fcil aceptar los crmines de guerra cuando se tiene esta distancia. "Es como un videojuego", me dijo un joven piloto hablando del ataque de las tropas enemigas desde la distancia. Cualquiera que haya jugado Grand Theft Auto, sabe que en el mundo virtual hacemos cosas que nunca haramos en la vida real. Gran parte de lo que estoy diciendo es que hay otro aspecto de las revoluciones tecnolgicas que est dando forma a nuestro presente, y quizs dar forma a nuestro futuro en la guerra.

La Ley de Moore se aplica, al igual que la Ley de Murphy. La niebla de la guerra no se levanta. El enemigo tiene un voto. Estamos ganando increbles nuevas capacidades, pero tambin estamos viendo y experimentando nuevos dilemas humanos. A veces no son ms que momentos "oops!", que es lo que el jefe de una compaa de robtica describi como "patinazos". Bien, Cules son los patinazos de los robots en la guerra? Bueno, a veces son graciosos. A veces son como esa escena de la pelcula con Eddie Murphy "La mejor defensa, el ataque!", por ejemplo, cuando pusieron a prueba un robot que estaba armado, y durante la demostracin, ste comenz a girar en un crculo apuntando con sus ametralladoras hacia la tribuna de las personalidades. Afortunadamente el arma no estaba cargada y nadie result herido, pero otras veces los patinazos son trgicos, como el ao pasado en Sudfrica, donde un can antiareo tuvo un "problema de software", y en realidad se activ y dispar, matando a nueve soldados. Existen nuevos escollos en las leyes de guerra y la rendicin de cuentas. Qu hacemos en situaciones como la masacre no tripulada? Qu es masacre no tripulada? Ya hemos tenido tres casos de ataques con aviones no tripulados Predator donde pensbamos que tenan a Bin Laden, y result no ser as. Y ah es donde estamos ahora. Ni siquiera estamos hablando de sistemas autnomos armados con plena autoridad para usar la fuerza. Y no creo que esto no vaya a suceder. Durante mi investigacin me top con cuatro diferentes proyectos del Pentgono sobre diversos aspectos del problema. Y entonces surge la pregunta: cmo plantear cuestiones relacionadas con crmenes de guerra? Los robots no tienen emociones, as que no se enojan si un compaero es asesinado. No cometen crmenes de rabia y venganza. Pero los robots no sienten emociones. Ven a una abuela de 80 aos en silla de ruedas del mismo modo que ven un tanque T-80: ambos son solo una serie de ceros y unos. Debemos hallar entonces una respuesta a esta pregunta: Cmo podemos adaptar nuestras leyes de guerra del siglo XX, tan viejas que podran jubilarse, a estas tecnologas del siglo XXI? Por ltimo, he hablado de lo que parece ser el futuro de la guerra, pero tengan en cuenta que solo he usado ejemplos del mundo real y que solo han visto fotos y videos reales. Y esto representa un gran desafo del cual todos debemos preocuparnos, antes de tener que preocuparnos de que una aspiradora nos succione la vida. Vamos a dejar que esto que est sucediendo en la guerra, solo porque suena a ciencia ficcin nos mantenga en la negacin? Vamos a enfrentar la realidad de la guerra del siglo XXI? Nuestra generacin va a repetir el error que cometi una generacin pasada con las armas atmicas, y no va a lidiar con las cuestiones que lo rodean sino hasta que la caja de Pandora est abierta?

Ahora, yo podra estar equivocado, como afirm un cientfico de robots del Pentgono diciendo: "No hay verdaderos problemas sociales, ticos y morales cuando se trata de robots. Es decir", aadi, "a menos que la mquina mate repetidamente a las personas equivocadas. Entonces es simplemente una cuestin de retiro del producto". Y el punto de esto es que podemos recurrir a Hollywood. Hace unos aos, Hollywood reuni a los personajes ms famosos y cre una lista de los 100 mejores hroes y los 100 mejores villanos de toda la historia de Hollywood, los personajes que representan lo mejor y lo peor de la humanidad. Solo un personaje aparece en ambas listas: Terminator, una mquina asesina. Y esto indica que nuestras mquinas pueden ser usadas ya sea para bien o para mal, pero para m indica que hay una dualidad en el ser humano. Esta semana celebramos nuestra creatividad. Nuestra creatividad ha llevado nuestra especie a las estrellas. Nuestra creatividad ha creado obras de arte y la literatura para expresar nuestro amor. Ahora estamos usando nuestra creatividad en una cierta direccin, para construir mquinas fantsticas con increbles capacidades, y quizs, algn da, incluso una nueva especie. Pero una de las principales razones por las que hacemos esto se debe a nuestro instinto de destruirnos unos a otros. Por lo tanto, deberamos preguntarnos: son nuestras mquinas, o estamos auto diseados para la guerra? Gracias. (Aplausos)