Este artículo es un adelanto de nuestra nueva revista Humanismo Digital 3, ya disponible en nuestra tienda online.
(Este es un artículo no lineal, que incluye seis textículos relacionados, pero independientes, a los que remiten las palabras en negrita y que pueden ser leídos —o ignorados— en el orden que cada lector(a) considere oportuno).
El robot bueno y el robot malo
La irrupción de los robots en la cultura de masas va ligada a dos grandes clásicos del cine de ciencia ficción: Ultimátum a la Tierra (1951), de Robert Wise, y Planeta prohibido (1956), de Fred M. Wilcox. El complaciente Robby de Forbidden Planet es el prototipo del robot amistoso, estricto cumplidor de las leyes de la robótica, mientras que el hierático Gort de The Day the Earth Stood Still, de cuyo ojo de cíclope brota un rayo devastador, es el paradigma de la máquina destructora, fría e incontenible.
Aunque hay algunos antecedentes, Robby y Gort marcaron el inicio de dos dinastías paralelas (o perpendiculares, más bien) de robots cinematográficos, fieles servidores los unos e implacables asesinos los otros. Pero el desarrollo de ambas líneas no ha sido simétrico: no hay en la cultura de masas un «robot bueno» comparable a Terminator en popularidad y presencia mediática, por no hablar de HAL 9000 o de las «casas inteligentes» que se rebelan contra sus ocupantes.
Robby
Además de ser el robot más icónico del cine de ciencia ficción clásico (reapareció en varias películas y en series de televisión como The Twilight Zone y La familia Addams), Robby fue el primero en protagonizar un conflicto entre las dos primeras leyes de la robótica: cuando, en una de las secuencias más impactantes de Planeta prohibido, el doctor Morbius le ordena que dispare al capitán Adams, el robot se bloquea ante la imposibilidad de cumplir la orden sin vulnerar la primera ley. Y, por la misma razón, tampoco puede matar al monstruo que ataca a los astronautas, pues sabe que es una prolongación de Morbius.
Leyes de la robótica
Los robots positrónicos de Isaac Asimov, protagonistas de muchos de sus relatos, están programados para cumplir las tres leyes de la robótica, enunciadas por primera vez en «Círculo vicioso», un relato publicado en 1942:
- Un robot no puede dañar a un ser humano ni, por inacción, permitir que un ser humano sufra daño.
- Un robot debe cumplir las órdenes de los seres humanos, excepto si dichas órdenes entran en conflicto con la primera ley.
- Un robot debe proteger su propia existencia en la medida en que ello no entre en conflicto con la primera o la segunda ley.
En 1950, Asimov publicó una primera recopilación de relatos sobre este tema con el título Yo, robot; en ellos se plantean una serie de paradojas, dilemas y conflictos relacionados con la interpretación de las leyes de la robótica en situaciones complejas o dudosas.
Los robots de Asimov y sus leyes han tenido una gran influencia —y no solo en la ciencia ficción—, y el desarrollo de la robótica real ha revalorizado (y utilizado) algunas de sus reflexiones. Aunque el nombre de Asimo, el entrañable robot de Honda, es un acrónimo (Advanced Step in Innovating MObility), también es un homenaje al creador de las tres leyes de la robótica.
Pero, en realidad, y al igual que los mosqueteros, las tres leyes de la robótica son cuatro, pues, con el tiempo, y al introducir en sus relatos robots humanoides cada vez más evolucionados, Asimov completó sus tres leyes con una «ley cero» que viene a ser una generalización —o más bien un salto cualitativo— de la primera ley, puesto que dice que un robot no puede dañar a la humanidad ni, por inacción, permitir que la humanidad sufra daño.
Especial atención merece, en este sentido, el relato de robots positrónicos que el propio Asimov calificó de «definitivo» (aunque luego escribió El hombre bicentenario); me refiero a That Thou Art Mindful of Him (1974), que publiqué en castellano con el título ¿Qué es el hombre? (en aquella época yo era el editor de Asimov en España).
Gort
Vi por primera vez Ultimátum a la Tierra a los ocho años y me estalló la cabeza.
Cinco años después, convertido ya en un insaciable lector de ciencia ficción, descubrí que mi película favorita se basaba en el relato Farewell to the Master (1940), de Harry Bates, y cuando lo leí me estalló la cabeza por segunda vez con la misma historia. Aunque no era exactamente la misma (de hecho, era radicalmente distinta), pues al final el robot, que en el relato no se llama Gort sino Gnut, le dice a un humano que se refiere a Klaatu como su supuesto amo: «You misunderstand, I am the master».
Fue mi primer encuentro con la superinteligencia artificial, en una época en que ASI solo era un adverbio, y la idea de que los robots pudieran llegar a convertirse en el siguiente paso evolutivo fue un shock del que aún no me he repuesto.
¿Qué es el hombre?
El título del relato de Asimov remite a una cita bíblica de los Salmos: «¿Qué es el hombre para que haya que tenerlo en cuenta?».
A raíz de la preocupante exacerbación del complejo de Frankenstein en un futuro hipertecnológico, dos robots muy avanzados, George 9 y George 10, discuten sobre la segunda ley. Hay que obedecer a los hombres, sí, pero ¿a todos ellos? ¿También a los niños pequeños, a los insensatos, a los enfermos mentales, a los que dan órdenes absurdas o contradictorias…? Y concluyen que hay que obedecer a los más sabios y bondadosos, a los mejores. Y que los mejores son ellos dos. El relato (atención, spoiler) termina así:
George 10 y George 9 estaban sentados solos.
Pensaban: quizá los seres humanos de la otra clase no han pretendido nunca borrar la distinción que existe entre ellos y los seres humanos como los George. Pero lo han hecho sin proponérselo.
Puede que ahora se den cuenta de su equivocación e intenten corregirla. Pero no deben hacerlo. En cada consulta que se les hizo, las directrices dadas por los George fueron dadas teniendo esto en cuenta.
A toda costa, los George y aquellos de su especie y forma que les siguieron deben dominar. Así lo exigen, con exclusión de cualquier otra posibilidad, las leyes de la humánica.
Complejo de Frankenstein
La expresión fue acuñada por Isaac Asimov, en los años cuarenta del siglo pasado, para referirse al temor de que las creaciones humanas —y muy concretamente los robots— se rebelaran contra sus creadores, como lo hace, con fatales consecuencias, la criatura del doctor Frankenstein en la novela de Mary Shelley.
Podría parecer un temor reciente, surgido con la revolución industrial y con la consciencia del enorme poder transformador de la ciencia; pero es tan antiguo como la humanidad y va ligado a la idea mágico-religiosa de que hay «sagrados misterios» que no es lícito profanar, conocimientos a los que los humanos no pueden aspirar sin incurrir en el pecado de hibris, la soberbia que desencadena la némesis, el castigo de los dioses. No en vano, el título completo de la novela de Mary Shelley es Frankenstein o el moderno Prometeo, en referencia al titán que robó el fuego de los dioses para entregárselo a los humanos y que, según algunas versiones del mito, creó al primer hombre infundiendo vida a una figura que moldeó con barro. Y el Dios judeocristiano, tan vengativo como Zeus, expulsa a Adán y Eva del paraíso terrenal por probar la fruta prohibida, que no es otra que la del árbol de la ciencia.
Cabría esperar que este temor al conocimiento (sin el cual no habría tenido sentido el sapere aude horaciano) declinara junto con el pensamiento mágico; pero la robótica y la inteligencia artificial le han dado un nuevo rostro al monstruo de Frankenstein, que de tosco remedo de lo humano ha pasado a ser, potencialmente, más que humano. El miedo a ser atacado ha dado paso al miedo a ser sustituido. Y, como ocurre con el policía malo y el policía bueno, el robot bueno y el robot malo podrían ser las dos caras de la misma moneda.
«Si construimos máquinas inteligentes, será lo último que nos dejen construir», dijo Arthur Clarke.
«El único peligro de las máquinas inteligentes es que no lleguen a tiempo de salvarnos de nosotros mismos», replicó Isaac Asimov.
En cualquier caso, hemos construido un espejo implacable que nos devolverá —ya lo está haciendo— una imagen que no podremos embellecer ni ignorar.
