¿Podrán los robots dominar el mundo, como en Terminator IV?

'Terminator: Salvation', la cuarta entrega de la franquicia cinematográfica ‘Terminator’ se desarrolla en 2018, unos cuantos años después de que una red de inteligencia artificial concebida por el Ejército de EEUU, llamada Skynet, pusiera a sus expertos en marcha para iniciar una guerra nuclear. El ordenador sensible controla ahora un Ejército de robots asesinos cuya misión consiste en dar caza y matar hasta el último miembro de la especie humana. Es toda un taquillazo de ficción de Hollywood, salvo por algo que pone los pelos de punta: la película muestra algunas pautas muy reales de la tecnología militar moderna.

¿Se rebelarán contra los humanos los robots como en ‘Terminator: Salvation'?

Casi al tiempo que los productores comenzaron a idear cómo hacer una película de 'Terminator' sin contar con la estelar actuación del gobernador de California, me dediqué a estudiar cómo las máquinas de ciencia ficción se empezaban a emplear en los campos de batalla del mundo real. Entrevisté a científicos, generales, insurgentes y activistas de derechos humanos para escribir mi libro Wired for War y por el camino descubrí que el uso de la robótica en la guerra ya está sorprendentemente extendido.

El Ejército de EEUU invadió Irak en 2003 con tan solo un puñado de aparatos no tripulados. Ahora tenemos a más de 7.000 aviones teledirigidos en nuestras fuerzas combatientes, incluyendo al famoso Predator, que gana popularidad por sus visitas casi diarias a Pakistán. De forma similar, aunque la fuerza invasora que entró en Irak empleó vehículos terrestres conducidos por hombres, ahora el Ejército cuenta con más de 12.000 sin tripulación —incluyendo el Packbot, del tamaño de un cortacésped, que ha sido desarrollado por el equipo que está detrás de el robot aspiradora Roomba pero que, sin embargo, rastrea bombas en los bordes de las carreteras en lugar de pelusas de polvo—. La próxima generación de máquinas que actualmente está en fase de prototipo está siendo armada hasta los dientes con todo, desde ametralladoras hasta misiles.

Hay cientos, si no miles, de soldados norteamericanos que hoy están vivos gracias a la robótica, así que bajo diversas consideraciones este triunfo habría que celebrarlo. Muchas de las personas con las que hablé describieron la robótica como equivalente a la aparición de la máquina de vapor o el ordenador en términos de sus masivos efectos dominó militares, políticos, sociales y económicos, haciendo de los Predators y Packbots algo similar al Flyer I de los hermanos Wright o al Ford modelo T. Bill Gates describió a los robots como algo análogo a lo que fueron los ordenadores en 1980 y aseguró que "estamos al borde de una nueva era". Pero muchos otros se refieren a los robots de la misma manera en que discutimos ahora la bomba atómica: como un invento que podría llegar el día en que lo lamentáramos y nos gustaría poder retroceder en el tiempo. Según el pionero en robots Robert Finkelstein, la nueva tecnología "podría llegar a acabar o bien con la humanidad o bien con las guerras para siempre".

Es una tema importante que requiere un debate inmediato. Pero en nuestro mundo, a menudo la cultura pop impera. Por eso Slate me ha pedido a mí, un tipo con un doctorado en Harvard en seguridad nacional que ayudó a escribir la agenda de política de defensa del nuevo presidente, que respondiera a la pregunta de si la revuelta del robot 'Terminator' podría llegar a ser una realidad. Afortunadamente, también soy un freak de la ciencia ficción reconocido, así que de algún modo estoy bien armado para lidiar con la pregunta de si los hombres de acero irían a por ti.

Se tendrían que dar fundamentalmente cuatro condiciones antes de que un ente similar a Skynet pudiera apoderarse del mundo.

1. Para empezar, la máquinas tendrían que estar dotadas de algún tipo de instinto de supervivencia o ansia de poder. En las películas de 'Terminator', por ejemplo, Skynet decide provocar un holocausto nuclear contra los humanos en defensa propia después de que unos generales asustados trataran de deshacerse de él. Sin embargo, gran parte de los esfuerzos actuales en robótica militar se centran en emplear la tecnología como sustituto del riesgo y pérdidas humanas. Nos valemos de Packbot en Irak puesto que, como dice un oficial del Ejército de EEUU, "cuando un robot muere, no tienes que escribirle una carta a su madre". Si dotáramos a los robots de cualquier clase de instinto de supervivencia, lograríamos justo el efecto contrario.
2. En segundo lugar, las máquinas tendrían que ser más inteligentes que los humanos, pero carecer de sus cualidades (como empatía o principios). Podría ser factible mejoras en inteligencia entendida de esta manera dado que la tecnología avanza en progresión aritmética. Pero una eclosión de inteligencia artificial que sobrepasara lo humano (en ocasiones llamada singularidad tecnológica) no es segura de ninguna de las maneras. Mi aspiradora Roomba, por ejemplo, es aún incapaz de componérselas para no quedarse atascada bajo mi sofá, con que ni hablar de urdir la trama de mi deceso. Existe todo un ámbito denominado "robótica social" dedicado a otorgar a máquinas pensantes el tipo de cualidades humanas positivas que minarían la perspectiva de un robot malvado. Investigadores de Hanson Robotics, por ejemplo, describen cómo su misión consiste en desarrollar robots que "evolucionarán hasta llegar a convertirse en seres socialmente inteligentes, capaces de amar y de hacerse su hueco en un modelo familiar extendido".
3. La tercera condición que habría de cumplirse para que las máquinas se hicieran con el poder del mundo sería la existencia de robots independientes que pudieran abastecerse de combustible, repararse y reproducirse por sí mismos, sin la intervención humana. Esto va mucho más allá del alcance de cualquier ente actual. Por muy capaces que se hayan vuelto los robots de nuestro mundo real, aún precisan de la mano del hombre. Por poner un ejemplo, el vehículo aéreo no tripulado Global Hawk, el sustituto del avión espía con piloto U-2, puede despegar por su cuenta, volar a 4.828 kilómetros de destino, permanecer en el aire durante 24 horas mientras busca terroristas en tierra, luego puede emprender el vuelo de vuelta de forma autónoma. Pero nada de esto sería posible sin manos humanas que lo rellenaran de gas, repararan las piezas rotas y actualizaran sus protocolos de misión.
4. Por último, una invasión de robots sólo podría tener éxito si los humanos carecieran de mecanismos de seguridad o de formas de controlar la toma de decisiones de las máquinas. Tendríamos que haber perdido toda habilidad para invalidar, intervenir o incluso definir las acciones de los robots. Sin embargo, uno alberga la esperanza de que una generación que creció con las películas de 'Terminator' apreciaría la utilidad de los mecanismos de seguridad. Además, cabe la posibilidad de que nuestra mejor trinchera llegue a ser la programación cutre de los propios humanos: como bromean muchos expertos en robótica, justo cuando los robots estén dispuestos para tomar el poder, sus programas de software de Microsoft probablemente se cuelguen.

El contrapunto de todo esto es que, por supuesto, una máquina superinteligente se las arreglaría para salvar todos estos obstáculos. En el argumento de 'Terminator', por ejemplo, el ordenador de Skynet es capaz de manipular y chantajear a humanos para conseguir que hagan la clase de cosas que necesita. Puede reescribir su propio código fuente, una perspectiva que no es tan inimaginable. Se está trabajando mucho actualmente en inteligencia artificial autodidáctica o "evolucionaria" que puede incluso empezar a adoptar su propia identidad. Así como la Humanidad acabó tanto con Gandhi como con Hitler, no hay garantía alguna de que nuestras máquinas evolucionen para sentir amor y compasión.

Un predator. No necesita tripulación

Y, lo más importante: rara vez tomamos nota de las lecciones de la ciencia ficción. El Ejército lleva a cabo investigaciones rutinarias de sistemas contra los que escritores y directores de cine llevan tiempo advirtiéndonos. Realmente, los científicos a menudo se inspiran directamente en dichas historias admonitorias que les habían traído. Sin ir más lejos, de hecho la oscura fantasía de H. G. Wells de lo que denominaba una "bomba atómica" en su novela pacifista The World Set Free (La liberación del mundo) sirvió de inspiración a quienes concibieron el Proyecto Mantattan. En mi libro menciono cómo el Ejército consultó a una empresa de robótica hace algunos años si podían diseñar un robot similar al monstruoso robot Hunter-Killer de Terminator (no fue una petición tan descabellada: el diseño sería bastante útil para el tipo de combates que libramos actualmente en Irak y Afganistán.)

Mi valoración definitiva, sin embargo, es que puede que 'Terminator' no sea la mejor biblia de cómo una máquina podría hacerse con el poder en el mundo real. En su lugar, otras entregas de ciencia ficción, como The Matrix, serían más instructivas. Pero con esto no quiero decir que podamos pronosticar un futuro donde los humanos vivamos en burbujas y con los avatares de Keany Reeves correteando por ahí enfundado en pantalones de cuero. Más bien, las películas nos ofrecen una valiosa metáfora para la red tecnológica en la que cada vez nos encontramos más inmersos sin apenas percatarnos. Va por todos nuestros miedos azuzados por la cultura pop de habitar un mundo poblado de robots que rigen con mano de hierro (o digital), en realidad ya vivimos en un mundo tecnológico que pocos de nosotros podemos siquiera comprender. Se lleva cada vez más en nuestra forma de vivir, de trabajar, de comunicarnos, y, ahora, incluso de combatir.

¿Por qué las máquinas habrían de querer conspirar algún día para dominar el mundo si ahora mismo ya no podemos hacer casi nada importante sin contar con ellas?

*Artículo originalmente publicado en el medio digital estadounidense Slate.

(Traducción: Carola Paredes)