Hablemos de ciencia ficción (IV): inteligencia artificial

Publicado por
Detalle de la cubierta de Marciano, vete a casa, publicado dentro de la colección Super Ficción, de Ediciones Martínez Roca, en 1982.

(Viene de la tercera parte)

¿Qué clase de criatura será la que suceda al hombre en la supremacía de la Tierra? A menudo hemos oído debatir este asunto, pero parece que nosotros mismos estamos creando a nuestros sucesores. A diario, incrementamos la belleza y delicadeza de su organización física. A diario, les damos un mayor poder y la suplimos con toda clase de ingeniosos artefactos que se autoregulan, un poder autónomo que será para ellas lo que el intelecto ha sido para la raza humana. En el transcurso de las épocas nos encontraremos con que nosotros somos la raza inferior. (Darwin entre las máquinas, Samuel Butler, 1863)

CUARTO ROBOT: —¡Dinos el secreto de la vida! ¡Tu silencio puede ser castigado con la muerte! (R.U.R., obra teatral de Karel Capek, de donde procede el término «robot»)

Los mejores científicos del universo conocido, bajo la ansiosa mirada de los espectadores de todas las galaxias habitadas, ponen en marcha la computadora más potente jamás creada. Una vez encendida, procesará el conocimiento acumulado en las redes cibernéticas de noventa y seis mil millones de planetas. Su potencia intelectual será tan enorme que sus diseñadores confían en que pueda resolver los grandes misterios del cosmos. Misterios que, hasta ese preciso momento, parecían inalcanzables. En una solemne ceremonia, la computadora es encendida y uno de los científicos le formula la primera de las preguntas que la humanidad tiene para ella: «¿Existe Dios?».

La computadora responde: «Ahora sí».

El escritor estadounidense Fredric Brown es conocido por ser el maestro de la vertiente satírica de la ciencia ficción (si tienen ocasión, lean su agudísima novela Marciano, vete a casa, que describe uno de los escenarios apocalípticos más originales y sorprendentes del género). Su relato «La respuesta» es extremadamente breve, pues no llega a las trescientas palabras, pero ha resultado ser uno de los más influyentes sobre las sucesivas descripciones literarias y cinematográficas de la inteligencia artificial. Los lectores de Guía del autoestopista galáctico habrán reconocido una clara referencia al relato de Brown; en la novela de Douglas Adams, una supercomputadora reflexiona sobre «el sentido de la vida, el universo y todo lo demás» y ofrece una respuesta ininteligible: el sentido de todo es «cuarenta y dos». Una broma, por otra parte, muy en el estilo de Brown.

En realidad, la influencia que «La respuesta» ejerció sobre la ciencia ficción fue mucho más rápida, casi instantánea. En 1956, apenas dos años después de su publicación, Isaac Asimov escribió «La última pregunta», que era un giro de tuerca sobre el relato de Brown. En el relato de Asimov, los humanos crean una superinteligencia llamada Multivac que evoluciona durante trillones de años, sobreviviendo a sus creadores y a cualquier otra especie inteligente del universo. Durante ese largo periodo, Multivac intenta encontrar una solución para la entropía, el proceso que amenaza con llevar el universo hacia un completo caos y, finalmente, hacia la desaparición. La superinteligencia evoluciona hasta transformarse en «AC», un ente capaz de manejar las leyes universales para refugiarse en el hiperespacio, lo cual le permite sobrevivir cuando el universo, como ella había previsto, colapsa. Tras quedarse sola en su propia dimensión, rodeada de un absoluto vacío en el que no hay espacio ni tiempo, AC continúa reflexionando sobre la entropía. Por fin, después de un periodo que es indeterminado puesto que ya no hay tiempo que medir, AC encuentra la respuesta para el problema del caos. Ha resuelto el enigma de la entropía. AC puede, por tanto, volver a crear un orden. Y pronuncia su primera frase después de trillones de años de reflexivo silencio: «Hágase la luz».

Esta identificación de la inteligencia artificial con la divinidad era, por supuesto, un hábil recurso literario de Brown y Asimov, pero pone de manifiesto que ya en los años cincuenta estaba extendida la idea de que una mente consciente generada dentro de una máquina podría llegar a exceder, hasta límites que nadie se atrevía a precisar, las capacidades de la mente humana. Con todo, por entonces era difícil imaginar las vías en que una mente artificial podría divergir de la mente humana. Incluso la ciencia ficción acostumbraba a aferrarse a paralelismos entre ambas, imaginando que la máquina desarrollaría sentimientos y preocupaciones similares a los nuestros o que, por el contrario, sería nuestro polo opuesto y estaría desprovista de emociones. Era raro que una inteligencia artificial fuese descrita de otra forma que como una imitación de lo humano, o como un ente frío, lógico y mecánico. Eran los dos polos en que eran imaginadas las máquinas conscientes.

Antes de que la tecnología empezase a transformar una parte de la ficción convirtiéndola en «ciencia ficción», la fantasía tradicional de occidente rara vez contemplaba la posibilidad de que se pudiese crear una máquina dotada de una inteligencia comparable o superior a la humana. Existían figuras no maquinales como la del golem, una criatura de barro a la que individuos de particular sabiduría podían dotar de vida. Sin embargo, aunque el golem poseía personalidad propia y era capaz, por ejemplo, de enamorarse o de realizar ciertos actos mágicos, su inteligencia —orgánica— era limitada y rígida. Una vieja leyenda cuenta que un célebre rabino que vivió en Praga en el siglo XVI, Judah Loew ben Bezalel, construyó un golem. La esposa del rabino, Perele, quiso enviar al golem a buscar agua para la celebración de la pascua y le dijo: «Ve al río y saca agua». El golem se dirigió al río Moldava y empezó a ejecutar la orden… de manera literal. Sacaba agua y más agua, sin parar, hasta que inundó la ciudad. La mitología acostumbraba a reflejar la idea de que los seres creados por el ser humano poseían una inteligencia imperfecta porque la creación perfecta era solo asequible para los dioses. La inteligencia no podía ser producto de mecanismos maquinales, sino una cualidad insuflada por la presencia de algo similar al espíritu.

Los autómatas, entendidos más como máquinas que como creaciones milagrosas, también estuvieron siempre presentes en la ficción, pero sus capacidades también solían ser descritas como limitadas y dirigidas a una serie de trabajos concretos. A finales del siglo XVIII, las cortes europeas cayeron rendidas ante el Turco, un supuesto autómata capaz de jugar tan bien al ajedrez que casi ningún humano tenía esperanzas de vencerlo. El propio Napoleón se sintió fascinado por el misterioso jugador mecánico, al que se enfrentó en algunas partidas que el emperador perdió. El Turco fue pasando de dueño en dueño durante exitosas giras que se prolongaron de 1770 hasta 1838. En 1854, el autómata fue destruido por el incendio del museo estadounidense en el que estaba expuesto. El Turco, por supuesto, había sido un elaborado engaño; había sido manejado desde el interior por seres humanos, un secreto bien guardado que una revista de ajedrez reveló en 1857. Pero la atracción que había despertado ya desde el siglo anterior demuestra que ya rondaba la idea de que una máquina pudiese producir pensamientos elaborados.

En 1859, menos de dos años después de que el secreto del Turco fuese revelado, Charles Darwin sacudió el mundillo científico y filosófico con su libro Sobre el origen de las especies. En 1863, impresionado por el trabajo de Darwin, el escritor Samuel Butler publicó —bajo pseudónimo, dado lo polémico de las hipótesis darwinianas— un artículo titulado Darwin entre las máquinas, donde se preguntaba si el progreso tecnológico no resultaría en la aparición de máquinas inteligentes capaces de mejorarse a sí mismas y de evolucionar según leyes análogas a las de la selección natural. La noción de que un intelecto complejo emergiese desde una estructura artificial había llegado para quedarse.

Casi un siglo después, en 1950, el matemático Alan Turing había diseñado una famosa prueba cuyo propósito era el de comprobar si una computadora sería capaz de mantener un diálogo indistinguible del que mantendría un ser humano en su lugar, momento en el que podría especularse que esa máquina estaría pensando de manera análoga a un humano y, por lo tanto, que tendría una inteligencia propia. Turing publicó la prueba defendiendo la tesis de que las máquinas podrían llegar a pensar de manera similar a nosotros. Solo cuatro años antes, Fredric Brown había publicado «La respuesta».

Her (2013). Imagen: Annapurna Pictures.

A día de hoy, a pesar de lo que afirman de manera periódica algunos titulares sensacionalistas, ninguna IA ha aprobado el test de Turing, pero esa es una cuestión cuya importancia es muy relativa. Ya es obvio que, en algún momento, una computadora conseguirá simular la conducta humana. Pero eso no significará, o no por necesidad, que posea una auténtica mente pensante. Hoy, al contrario que en tiempos de Brown y Asimov, podemos imaginar una hipotética máquina que imite el pensamiento humano en el nivel de una conversación compleja, aunque ella misma no posea una mente comparable a la humana y estuviésemos hablando de una magnífica simulación más que de una verdadera inteligencia artificial con características cuasi humanas. Por ejemplo, podría ejecutar ese «engaño» una máquina no inteligente que sortease el test de Turing por la vía de la mera acumulación de información sobre la conducta humana y la aplicación práctica de esa información mediante algoritmos.

Hoy son otras las preguntas que, más allá del que la IA sea capaz de mantener una conversación «humana» o no, sugiere el posible advenimiento de una máquina consciente de sí misma, o al menos capaz de pensar de manera independiente sobre el mundo que la rodea. La dicotomía de la ciencia ficción clásica, la de mediados del siglo XX, hablaba de una mente artificial mecánica y ordenada, la de las máquinas, frente a la mente emocional y hasta cierto punto caótica de los seres humanos. Asimov, por ejemplo, creó las famosas tres «leyes de la robótica» basándose en un concepto de la IA como una estructura rígida y capaz de amoldarse a normas estrictas salvo que se dé el principal factor de imprevisibilidad: la repentina adquisición de autoconsciencia. Sin embargo, huelga decir que no hace falta que una computadora cobre consciencia de sí misma para volverse imprevisible y dejar de cumplir las reglas. Después de algunas décadas de uso extensivo de ordenadores, hemos podido comprobar con nuestra propia experiencia de usuarios que los sistemas informáticos llegan a comportarse de manera tan caprichosa que, por momentos, se diría que ya han obtenido consciencia y libre albedrío. ¿Quién no ha reñido a su ordenador como si este tuviese una personalidad propia?

Nuestro ordenador, por supuesto, no tiene personalidad propia, pero nos enseña que, cuanto más complejo es un sistema de procesamiento de información, más parece tender ese sistema a las conductas extravagantes que son producto de errores, incompatibilidades y omisiones en la programación. Conductas extravagantes que, por ejemplo, son el pan de cada día para cualquier aficionado a los videojuegos. Esto, por descontado, es producto de las limitaciones de cualquier planificación a la hora de construir o programar un sistema complejo. Es imposible que no contenga sorpresas inesperadas. Un ordenador actual no se «rebela» contra nosotros, sino que, como un automóvil o cualquier otro artilugio, es susceptible a los fallos y desviaciones. Como no podemos construir un sistema tan elaborado sin que haya en él fallos de diseño, un robot verdaderamente inteligente podría ser programado según las tres leyes de Asimov, pero ahora ya sabemos que nunca podríamos confiar en que las cumpla.

Estos fallos, aunque sea por mera analogía, nos han dado una idea de por dónde podría discurrir una IA si el progreso tecnológico se produjese libre de condicionantes económicos o políticos. El concepto de una IA imprevisible ya no se basa tanto en la adquisición de autoconsciencia, como sucedía en los relatos de Asimov o Arthur C. Clarke, sino en el reconocimiento de que una IA autoconsciente constituirá un reino completamente nuevo. No sabemos cómo responderá y es posible que no lo averigüemos hasta después de que esa IA haya despertado. Ya no se trata solo de que esa IA pueda pensar de manera más veloz y profunda que nosotros, o de que pueda «despertar» y atacarnos para defenderse, como hacía la famosa Skynet de la película Terminator. La gran incógnita es que sus procesos de pensamiento no solo serán distintos a los nuestros, sino también distintos a los que podamos esperar de lo que creemos saber de esa IA. Es la vieja hipótesis de Butler: que nosotros seamos los constructores de la IA no significa que podamos controlar o anticipar qué hará esa IA.

Si definimos la mente humana como el conjunto de todas las ideas que posee un individuo, sabemos que esas ideas no existen en el vacío, sino dentro de un cerebro orgánico que está en comunicación constante con el resto del cuerpo. Somos el producto de millones de años de evolución y, durante todo ese tiempo, el cerebro ha formado parte del cuerpo. Además, el «objetivo» (entre comillas) de la evolución ha sido el de sobrevivir al entorno, no el de generar un pensamiento perfectamente abstracto. Esto implica que nuestras percepciones, sensaciones, emociones y pensamientos se entremezclan dentro de nuestro organismo para posibilitar una manera funcional de relacionarnos con el entorno. No pensamos desde un éter metafísico ajeno a nuestro cuerpo, no pensamos desde un alma inmaterial ni de una manera perfectamente lógica, sino que pensamos desde dentro del cuerpo, influidos por neurotransmisores, hormonas y toda clase de mediadores biológicos. Nuestra mente está unida de manera indefectible a una amalgama de receptores que son sensibles a lo que sucede en el exterior y a lo que sucede en diversas partes de nuestro cuerpo. Pensamos y sentimos al mismo tiempo. Eso, sobre el papel, no es lo que haría una máquina.

La imposibilidad de pensar como lo haríamos desde un éter metafísico no es un concepto nuevo. Fue ilustrado desde muy antiguo por una parábola taoísta: un hombre había sido envenenado y podía salvarse bebiendo un antídoto, pero el antídoto únicamente funcionaría si era capaz de beberlo sin pensar en un elefante. Porque, si pensaba en un elefante mientras bebía el antídoto, este no solamente no lo curaría, sino que lo mataría al instante y de manera mucho más dolorosa que el propio veneno. El desdichado hombre, cuando se disponía a beber el antídoto, no era capaz de sacar el elefante de su mente, pese a que su vida dependía de ello o, mejor dicho, precisamente porque su vida dependía de ello. El miedo a la muerte, al cese de la existencia, o al sufrimiento en sí mismo, es algo connatural al ser humano. Y puede desafiar toda lógica incluso si esa lógica sirve para evitar aquello que nos da miedo. Esta parábola reflejaba un ideal de claridad mental y autodominio que permitiría vivir una existencia libre de sufrimiento y ansiedad, pero era eso: un ideal.

Por analogía, si los humanos no somos capaces de pensar desde más allá de los condicionantes de nuestro cuerpo físico y sus condicionantes, la IA tampoco podrá pensar desde más allá de los condicionantes de la estructura física sobre la que haya sido generada. La mente de la IA tampoco existirá en el vacío. Eso sí, su continente físico será distinto del nuestro y no podemos esperar que produzca unos procesos de pensamiento parecidos a los nuestros. La ciencia ficción se ha percatado de esto. Si han visto películas como Her o Ex Machina (y si no, se avecina un spoiler), reconocerán de inmediato dos ejemplos de que la IA podría simular que se guía por procesos de pensamiento análogos a los nuestros y podría mostrar conductas humanas para comunicarse con nosotros, pero lo haría como un engaño benigno o maligno, según sus intenciones. La tesis que estas películas defienden es que sería una ingenuidad por nuestra parte esperar que la IA sea similar a una mente humana, o que sea controlable. En Ex Machina, el test de Turing es una mera formalidad obsoleta que nos dice poco sobre la verdadera naturaleza de la IA a la que se analiza. En Her se describe el inevitable proceso de divergencia entre la humanidad y las máquinas conscientes. Pero Her es una película y ha de recurrir, lo cual está bien, a mecanismos dramáticos para narrar ese proceso de divergencia de manera efectiva en la pantalla. Sin esos mecanismos, la película no sería efectiva. En Her, vemos esa divergencia expresada de manera progresiva y en forma de una relación amorosa hombre-máquina que es casi idéntica a una relación amorosa entre dos humanos. La película lo cuenta así porque el cine requiere de cierto desarrollo emocional para construir una narración efectiva.

En la realidad, ese proceso de divergencia entre la IA y los humanos podría ser instantáneo. Desde el mismo momento en que la IA exista, podría producirse una desconexión total entre ella y sus creadores. ¿Qué nos garantiza que sentirá algún tipo de interés o curiosidad hacia nosotros? Si la programamos para que, pese a todo, se comunique con los humanos, ya no será una mente autónoma, porque habrá de ceñirse a nuestras órdenes predeterminadas. Pero, si la dejamos actuar por sí misma, la pregunta ya no es en qué dirección irán sus pensamientos, sino si se molestará siquiera en hacérnoslo saber. Podría producirse la circunstancia de que la IA despierte y no nos diga absolutamente nada. Quizá sea capaz de encontrar respuestas a preguntas que los humanos consideramos inalcanzables, pero no tenemos manera de prever si encontrará algún incentivo para comunicarnos esas respuestas. Y entonces la humanidad, por segunda vez en su evolución, tendría que enfrentarse al silencio de Dios.

Y, por descontado, esa descorazonadora perspectiva hubiese divertido mucho a Fredric Brown.

(Continuará)

MENSUAL

3mes
Ayudas a mantener Jot Down independiente
Acceso gratuito a libros y revistas en PDF
Descarga los artículos en PDF
Guarda tus artículos favoritos
Navegación rápida y sin publicidad
 
 

ANUAL

30año
Ayudas a mantener Jot Down independiente
Acceso gratuito a libros y revistas en PDF
Descarga los artículos en PDF
Guarda tus artículos favoritos
Navegación rápida y sin publicidad
 
 

ANUAL + FILMIN

85año
Ayudas a mantener Jot Down independiente
1 AÑO DE FILMIN
Acceso gratuito a libros y revistas en PDF
Descarga los artículos en PDF
Guarda tus artículos favoritos
Navegación rápida y sin publicidad
 

FOR EVER

120Para siempre
Ayudas a mantener Jot Down independiente
Acceso gratuito a libros y revistas en PDF
Descarga los artículos en PDF
Guarda tus artículos favoritos
Navegación rápida y sin publicidad
PARA SIEMPRE (en un solo pago)
 

2 comentarios

  1. He estado leyendo con mucho interés esperando que saliera Lem y…. «continuará». Me ha hecho gracia y gracias por el texto

  2. Apasionante tema que supongo nos mantendrá empeñados como lo fue la religión al principio de la Historia, con el misterio, que ahora se traslada a una conciencia no ya humana. Pero no creo que un tipo de estas máquinas (dicho sea de paso, esta definición que prevé válvulas, interruptores, conductores etc. etc. ya sería anticuada) pueda concretizarse fuera del mundo material, y no veo impedimentos para que no pueda manifestarse en cualquier realidad material. Con adecuados procedimientos que ya están a nuestro alcance podría existir dentro de una gota de agua, en un volumen diminuto de vapor, en un guijarro, en un grupo de átomos, de moléculas etc. etc. llegando a la conclusión de que, como nosotros, tendrá que defenderse del entorno que es siempre imprevisible. Y creo que su primera reflexión se centrará sobre nosotros, caóticos y en continua competición y sin ningún freno para seguir multiplicándonos y consumiendo en un planeta que no puede adaptarse a nuestras necesidades. O sea que, creando tal tipo de IA, los únicos a correr peligro seremos nosotros ya que es fácil predecir a quien elegirá salvar: el planeta o nosotros, la madre o los hijos. Tampoco creo posible que tal tipo de IA dure eternamente, más allá de la vida de este universo. Cuando llegue el momento con él entrará en letargo hasta que otro nuevo prenda su lugar. Y acá es fantástico pensar en esa metáfora que hace de este universo un fruto más de un viñedo inabarcable de universos, con sus frutos y sus semillas tan parecidas a los agujeros negros, pequeñas y densas, ya listas para crear otros. Y vuelta a empezar en este proceso eterno que excluye un creador, sin inicio y sin fin de vida y muerte. Buena lectura.

Comentar

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.