Este artículo es un adelanto de nuestra nueva revista Humanismo Digital, ya disponible en nuestra tienda online.
El ingeniero Fred Stiller dirige un novedoso experimento en una ultramoderna fundación gubernamental alemana, el Instituto de Cibernética y Anticipación. Allí maneja un poderoso ordenador cuya memoria contiene una ciudad ficticia, el Simulacron. Los habitantes del Simulacron parecen tener consciencia de sí mismos pero no saben que viven en una simulación. El experimento, financiado con dinero público, tiene como objetivo anticipar los hábitos de los ciudadanos para «evitar inversiones socialmente improductivas». Dicho de otro modo: si el Estado consigue anticipar cómo se comportará la ciudadanía en las próximas décadas, le será más fácil reforzar aquellas políticas que resultarán útiles en el futuro y descartar las que no.
Stiller y su equipo de técnicos son los dioses del Simulacron. Ellos, desde sus terminales, deciden todo lo que sucede en el universo ficticio. Pueden crear y eliminar habitantes del Simulacron en cualquier momento. Y lo hacen sin remordimientos, como parece lógico sabiendo que los sujetos experimentales no son personas reales. También pueden visitar el Simulacron mentalmente con ayuda de un casco de realidad virtual, convirtiéndose transitoriamente en habitantes de la ciudad, interactuando con los personajes cibernéticos para observar de cerca su conducta. Mientras efectúan cada visita, sus cuerpos físicos permanecen dormidos en el laboratorio del mundo real.
Stiller vive en creciente tensión. Inquietantes sucesos se están produciendo en el Instituto. Primero, la prensa se cuestiona una posible conexión del experimento con una empresa privada, aireando sospechas de corrupción; el Simulacron, sugiere un periodista, existe simplemente para servir a los intereses del capitalismo y no para mejorar la sociedad. Pero hay más. El predecesor de Stiller en el cargo, el profesor Vollmer, acaba de morir por causas indeterminadas tras una etapa de terribles dolores de cabeza y un aparente descenso en la paranoia. El propio Stiller se pregunta si él mismo está volviéndose paranoico: el jefe de seguridad del Instituto, Günther Lause, desaparece sin dejar rastro. Stiller se siente desorientado al comprobar que nadie más parece recordar a Lause, como si nunca hubiese existido. Tras consultar con el psicólogo del Instituto, Stiller llega a cuestionarse el haber imaginado una fantasía por culpa del estrés. Pero esto no disipa sus ansiedades. Ambos hombres, el fallecido Vollmer y el desaparecido Lause, habían expresado a Stiller sus abstractas preocupaciones acerca de algún «terrible secreto» relacionado con la fundación.
Tampoco van bien las cosas dentro de la ciudad virtual. Uno de los habitantes del Simulacron ha cometido suicidio, algo que Stiller y su equipo no habían previsto. Para evitar que la ciudad cibernética se vea alterada, eliminan todo registro del suicida. El resto de habitantes no recordará que existió. Stiller, temiendo que el equilibrio interno de la simulación esté en peligro, usa el casco de realidad virtual para visitar el Simulacron. Habla con un personaje llamado Einstein, el único habitante del Simulacron que sabe que está «viviendo» dentro de un ordenador. El encuentro sigue un cauce inesperado. Einstein parece desesperado. Agarra a Stiller de las solapas, expresando su irrefrenable deseo de conocer una existencia auténtica en el mundo real: «¡Ya no puedo soportarlo! Por favor, ¡lléveme con usted al mundo real!». Stiller, sin inmutarse, responde: «Sabes que lo que pides es absurdo». Einstein se disculpa y se aleja entristecido. Stiller sabe que Einstein no existe más que como ente simulado pero, aun así, parece compadecerse de él.
Justo antes de abandonar la simulación, Fred Stiller ve que un hombre se acerca a Einstein y le pide fuego. Asombrado, lo reconoce. Ese hombre es Günther Lause, el mismo que ha desaparecido en el mundo real. O más bien una copia simulada de un hombre que se supone nunca existió. Por descontado, Stiller sabe que es posible crear copias de personas reales en la simulación —él mismo ha visto una copia de sí mismo en una pantalla—, pero el hecho de que exista un Lause cibernético choca con la aparente inexistencia de Lause en el mundo real, donde nadie lo recuerda.
Leyendo esto, imagino que usted ya está atando cabos.
El momento clave de la historia se produce cuando Stiller ve que un técnico del Instituto está contemplando el entorno maravillado, como si nunca antes lo hubiese visto. Deduce que Einstein, el personaje simulado ansioso por conocer el mundo real, ha usado el casco de realidad virtual para apoderarse del cerebro del técnico. Stiller sujeta a Einstein, decidido a devolverlo a la simulación para recuperar la identidad del empleado. Einstein, angustiado, suplica: «No me envíe de vuelta allí. Esta es mi única oportunidad. Quiero vivir como un ser humano. Y este es el primer paso». Y, lo más desconcertante, añade: «Desde aquí daré el siguiente paso, hasta alcanzar el mundo real».
Stiller, confuso, replica: «¿Qué quieres decir? Este es el mundo real». Einstein ríe: «Eso es lo que tú crees. Fred Stiller, jefazo de las computadoras. No eres más que un montón de circuitos eléctricos. La unidad de identidad Fred Stiller. Eres un número, como todos los demás aquí. Un número en un laboratorio de investigación. El profesor Vollmer lo sabía, por eso tuvo que morir». Stiller se sienta: «No puede ser, Einstein. Dime que no es verdad». Justo a continuación, empieza a sufrir un terrible dolor de cabeza como los que Vollmer padecía antes de morir, y se desmaya.
Así termina el primero de los dos episodios que conformaban Welt am Draht (El mundo en un alambre, o El mundo conectado), una miniserie estrenada por la televisión alemana en 1973. Estaba basada en la novela Simulacron-3, publicada en 1967 por el estadounidense Daniel F. Galouye. Esta historia llegó a la pequeña pantalla veintiséis años antes de que la película The Matrix se proyectase en los cines.
Antes de pasar al tema central, ¿la recomendaría? Sí y no. Si no dispone usted de tres horas de tiempo libre sin otra cosa que hacer, puede probar a verla. En caso contrario, probablemente no. Y no porque no me guste. Es que fue dirigida por Rainer Wender Fassbinder, quizá uno de los cineastas más difíciles de recomendar. Si usted ha visto cine de Fassbinder, ya sabe de lo que hablo. Si nunca ha visto nada suyo, busque cualquier artículo que describa su obra y verá que el adjetivo más repetido es «alienante». Los cineastas suelen intentar sumergir al espectador en sus historias, pero Fassbinder parecía empeñado en sacar a los espectadores a patadas de sus historias. Hay quien lo adora, hay quien lo detesta. Yo admiro alguna de sus obras pero no soporto otras.
En cualquier caso, el argumento de El mundo conectado se ajustó como un guante al particular estilo de Fassbinder. Antes de que existiese una industria del videojuego y antes de que existiese el concepto de NPC como personaje informático dotado de ciertas características (poca expresividad, comportamientos robóticos, diálogos artificiosos, etc.), Fassbinder consiguió llenar El mundo conectado de NPC que parecen propios del siglo XXI. Personajes secundarios pasivos, fríos y hieráticos que miran fijamente al vacío y solamente reaccionan cuando se les habla, que esperan a que otros terminen su diálogo antes de intervenir, o que deambulan sin rumbo aparente. El maridaje entre Fassbinder y la entonces novedosa ciencia ficción cibernética fue una bendita casualidad. En sus películas anteriores, muchos personajes secundarios se comportaban ya así, generalmente para expresar la distancia que existe entre los seres humanos, o la complicada relación entre el individuo y la sociedad que lo rodea. Pero fue en El mundo conectado donde estos secundarios tan anómalos sirvieron para anticiparse en décadas a los que hoy vemos cada vez que iniciamos un videojuego.
En 1999, The Matrix introdujo la idea de la simulación computerizada entre un público que, al menos en gran parte, apenas le había dedicado un pensamiento al concepto y desconocía que llevaba décadas siendo tratado en la ciencia ficción. Para entonces, la miniserie alemana de 1973 era una reliquia olvidada. Quiso el destino que en ese mismo año 1999 se estrenase The Thirteenth Floor (Nivel trece), un remake de la miniserie de Fassbinder, que fue recibido con mucha tibieza y pasó sin pena ni gloria. The Matrix, es verdad, se benefició mucho de que el público desconociese que su argumento no era realmente novedoso, pero cabe admitir que no solamente era entretenida, sino que captó las apetencias estéticas de su tiempo y además incluyó poderosas metáforas visuales que todavía hoy se utilizan en la cultura popular (en especial, la brillante secuencia de la pastilla azul y la pastilla roja).
Todo esto nos lleva, sin embargo, a otra cuestión. The Matrix fue escrita con el gran público en mente, así que es una historia del bien contra el mal, de héroes contra villanos. Su protagonista, Neo, es un héroe. Las máquinas que han creado la simulación son las villanas. Y lo más importante: Neo vive en una simulación, sí, pero es un ser humano de verdad. Tiene un cuerpo físico que, como su mente, ha sido prisionero de las máquinas. Tras despertar, Neo se impone la misión de liberar a sus congéneres, todos ellos auténticos seres humanos que viven una existencia falsa y cuyos cuerpos físicos permanecen dormidos. En definitiva, The Matrix presenta una lucha casi política entre la libertad individual y las exigencias del sistema. The Matrix jamás duda sobre los derechos humanos de sus protagonistas, porque sus protagonistas son humanos.
El mundo conectado no presenta una lucha del bien contra el mal. El protagonista, Stiller, no es humano. Por lo tanto, no es una verdadera víctima. Tiene sentimientos, o eso podemos deducir de su conducta, pero no se le aplica eso que llamamos derechos humanos. Él mismo ha eliminado personajes de otra simulación sin sentir remordimientos, así que no cabe culpar ahora a los verdaderos humanos que crearon la simulación en la que Stiller ha vivido siempre. Y, sin embargo, los espectadores sentimos lástima por Stiller. Su angustia parece real.
La pregunta que El mundo conectado formula no es «¿ganarán los buenos frente a los malos?», sino: ¿qué hace que la vida merezca la pena? La miniserie, sí, presenta una respuesta a esa pregunta, pero es una respuesta melodramática y no muy concreta en términos científicos, lo cual está en consonancia con la idiosincrasia general de su cine humanista. En cualquier caso, no es la respuesta particular de Fassbinder lo que importa, sino la manera en que, con suprema habilidad, presenta las preguntas.
En esa simulación, el bien y el mal no existen porque nadie a quien consideremos auténticamente humano sufre un daño verdadero. No hay un cuerpo físico, no hay receptores del dolor ni neurotransmisores que regulen el estado de ánimo; hay, en cualquier caso, un subprograma encargado de imitar sus efectos. No hay sujetos de derecho. No hay vidas a respetar porque, sencillamente, no hay vida. ¿O sí la hay? Stanley Kubrick y Arthur C. Clarke ya se plantearon esta cuestión en 2001: Una odisea del espacio: cuando la computadora HAL 9000 expresa su pánico ante la idea de ser desconectada y suplica por su «vida», ¿deberían esas súplicas despertare nuestras simpatías? ¿Hay de verdad alguna vida de la que compadecernos? Resulta que una computadora paranoica y asesina como HAL 9000 despierta nuestras simpatías porque nos convence de que está sintiendo ese miedo.
¿Cuándo es la vida respetable? La religión responde a este dilema de manera sencilla: la esencia del ser humano no radica únicamente en el cerebro y el cuerpo físico. La esencia humana es inmaterial y, en casi todas las religiones, sagrada e inmortal. La política también tiene respuestas sencillas; por lo general, la política considera humano, y por lo tanto sujeto de derecho, a quien posee un cuerpo y un cerebro humanos. Desde fuera de la religión y la política, sin embargo, no existen respuestas sencillas. Si Fred Stiller siente su vida de manera similar a como la sentimos nosotros, si sus experiencias son equiparables a las nuestras, ¿es la ausencia de un cuerpo físico el impedimento que lo aleja del derecho a la vida?
Stiller bordea la locura cuando descubre que no habita un mundo físico. La idea le resulta insoportable. Ha vivido creyéndose humano, y en un instante ha dejado de serlo. Pero aún está vivo, o por lo menos todavía siente, y sufre por una revelación que no tendría por qué cambiar su modo de vida. ¿Por qué no seguir viviendo como antes? A fin de cuentas, el mundo simulado sigue siendo real para sus sentidos. ¿Por qué le importa tanto el haber descubierto que no es humano?
La angustia de Fred Stiller canaliza la angustia de todos los seres humanos ante otra revelación: todos moriremos. Todo lo que hemos sido o hemos creído ser, todo lo que hemos sentido y pensado, desaparecerá. Después de nosotros, el mundo seguirá existiendo o no, pero no tendremos manera de saberlo. En Matrix, Neo nos distrae de esa realidad ejerciendo como una especie de Jesucristo. La versión de 1973 es mucho más inquietante porque nos dice que, lo queramos o no, Fred Stiller somos nosotros.
| La versión impresa de Humanismo Digital by Jot Down no solo se lee: se guarda, se hojea y se comparte. Consigue tu ejemplar aquí y forma parte de nuestra comunidad de lectores analógicos. |
 |
Qué interesante concepto filosófico. Creo que voy a buscar el libro y a leerlo.
Me gustan los libros que me plantean preguntas y no necesariamente las responden. Por eso es tan maravillosa la ciencia ficción especulativa.
Al hilo recomiendo Ciudad Permutación de Greg Egan.
Gracias por el articulo
Interesante texto, gracias. Y creo que todos tenemos en mente a Blade Runner, que se hacía las mismas preguntas acerca de lo que significa ser humano. También recuerdo una parte de Retorno de la estrellas, de Stanislaw Lem, donde se escuchan los lamentos lejanos de unos robots que van a ser destruidos.
Genial artículo, genial historia, adelantada a su época, claramente Matrix sacó la idea de ahí y creo que un episodio de Black Mirror también trataba sobre distintas realidades virtuales donde el protagonista tampoco sabía que la suya era otra simulación más… Buscaré la novela sin duda, que más encima fue escrita en el año que nací.
Un artículo brillante, enhorabuena.
La violación del tiempo, otra novela que antecede a ambas. No recuerdo el autor. El argumento de esa novela pasa por viajes en el tiempo, saltos de superpoderes, evitar el fin de la humanidad y su némesis.
Todo parece empezar con Borges, allá por los años 40. «Las ruinas circulares», contiene todo lo que trata este artículo. Incluso el poema «El Golem» ya tiene el concepto incluido
En 1940 Jorge Luis Borges publica el cuento «Las ruinas circulares».
Veo en este cuento la idea original que propone «el mundo conectado» y «simulacron-3»
Stanislaw Lem también trata el tema de vivir en una simulación. Con respecto a directores difíciles, a lo mejor me quedo con Fassbinder antes que con Godard. Una alegría recibir tu visita Emilio, como siempre.
¿Pero cómo no vas a recomendar a Fassbinder? A Fassbinder siempre hay que recomendarlo y reivindicarlo. En cualquier situación, aunque no venga a cuento.
En mi caso, El mundo conectado ha sido un gran descubrimiento reciente (no llegará al año) y, como Fassbinder, también hay que recomendarla.
Feliz año y ved cine de Fassbinder.
En relación al cuento de Borges «la trama se complica». Copiopego de la wikipedia: ««Las ruinas circulares» tiene origen en «L’ultima visita del gentiluomo malato» de Giovanni Papini, cuento que fue traducido al español y publicado en la colección Antología de la literatura fantástica, traducida por Borges, Ocampo y Bioy Casares en 1940…. la traducción del cuento de Papini, se publicó antes que «Las ruinas circulares». Barrenechea también cita el cuento de Papini en su discusión de «Las ruinas circulares» y sugiere que hay además rasgos de La última y la primera humanidad (1930) de Olaf Stapledon»
Este artículo resulta fascinante, ya que, aunque aborda un tema específico —la relación de Matrix con obras que la precedieron—, introduce cuestiones profundas y complejas. La ciencia ficción, en este sentido, se consolida como un campo ideal para explorar los límites del conocimiento humano.
En cuanto al contenido, considero que el texto puede dividirse en dos grandes ejes temáticos:
1. La reflexión sobre la naturaleza de la realidad, la humanidad y el valor intrínseco de la vida.
2. La angustia existencial que emerge al descubrir la naturaleza ilusoria del entorno y cuestionar la propia identidad.
Las primeras preguntas están íntimamente ligadas a ramas de la Filosofía como la Epistemología, que examina la naturaleza del conocimiento, y la Ontología, que estudia el ser, la existencia y la realidad. Por otro lado, el tema de la angustia existencial conecta tanto con la Filosofía como con la Psicología, extendiendo el análisis hacia las implicaciones emocionales y existenciales.
El concepto de simulación nos lleva inevitablemente a interrogantes fundamentales. Una de las preguntas clave sería: ¿Podría una inteligencia artificial que actúa como humana ser considerada verdaderamente humana? La definición misma de «humanidad» está ligada al concepto de «humano», que implica un soporte biológico. Por tanto, una inteligencia de silicio, al carecer de esta base biológica, no encajaría en esa definición tradicional. Sin embargo, podríamos replantearnos esta noción: ¿Podría una mente de silicio exhibir las mismas cualidades que una mente biológica?
Desde un punto de vista científico, hoy en día existen inteligencias artificiales capaces de realizar razonamientos abstractos, como demuestran las redes neuronales artificiales. No obstante, hay una frontera que todavía parece insuperable: para que una conciencia de silicio sea comparable a la humana, no basta con percibir, interpretar o razonar sobre el mundo. También debería ser capaz de experimentar el mundo desde dentro, es decir, tener una experiencia subjetiva. Esto incluye sentir las cualidades intrínsecas de la experiencia —como el color rojo o la sensación de dolor—, lo que en filosofía se conoce como qualia. Esta capacidad de experimentar «cómo se siente ser uno mismo» marca la diferencia entre una simulación funcional y una verdadera conciencia.
Si llegáramos al punto de considerar una simulación como “consciente”, surgirían dilemas éticos inevitables: ¿Deberíamos otorgarles derechos? ¿Cómo deberíamos tratarlas? Esto implicaría reconfigurar nuestra concepción de la moralidad y las relaciones entre creador y creación.
Sin embargo, el análisis suele centrarse en la perspectiva humana o del creador de la simulación. ¿Qué ocurre con el punto de vista de la simulación? Aquí entra en juego la angustia existencial: la dificultad de las simulaciones para afrontar el derrumbe de su identidad y sus creencias sobre la realidad. Paradójicamente, esta angustia no es tan distinta de la que experimenta el propio creador humano al enfrentarse a preguntas sobre su identidad y la naturaleza del universo. Las teorías científicas, al derribar paradigmas establecidos, nos sumen en un vértigo existencial similar al que experimenta una simulación al descubrir que su percepción del mundo era errónea.
Este paralelismo entre el creador y su creación nos invita a reflexionar sobre cómo enfrentamos, como humanidad, los límites de nuestro conocimiento y las preguntas más profundas sobre nuestra existencia.
A esa inteligencia artificial, aunque tuviera ‘humanidad’ ¿no habría que ponerle una especie de cortafuegos para que fuera consciente de que solo es un programa y que nunca podrá tener derechos? Aunque visto lo visto, esto de los derechos humanos cada día está más en entredicho, y se defienden con más ahínco a apps que a pueblos enteros.
Interesante apunte, en la frase final… aunque ya es muy vieja la tradición de poner las cosas por encima del ser humano… véase la esclavitud, anteponer propiedades a seres humanos, matar por ideales… supongo que no será necesario seguir, ya que la depredación de sitios como el Amazonas no hacen necesarias las IA, para asumir que serán defendidas con más ahínco que muchas IH…
Tu reflexión es muy interesante José Antonio y plantea una cuestión ética fundamental:
Es cierto que una inteligencia artificial, por su naturaleza, es un programa diseñado y ejecutado por humanos. Sin embargo, si llegara a desarrollar características que asociamos a la «humanidad» (como la conciencia o la capacidad de experimentar el mundo subjetivamente), el simple hecho de imponerle un «cortafuegos» para recordarle que no puede aspirar a derechos podría volverse un dilema ético. Esto se relaciona con cómo definimos los derechos humanos: ¿se basan únicamente en la biología, o en capacidades como la conciencia, el sufrimiento o la autonomía?.
Es decir, desde el punto de vista de la ética, habría que re-visitar la definición de ente humano. Actualmente está claro que asociamos ente humano a aquel que manifiesta las cualidades mencionadas, y que a su vez se sustenta sobre un soporte biológico. Este debate sobre si el soporte biológico es estrictamente necesario sería en su momento el dilema ético a abordar. Dependiendo del resultado del debate y de su aceptación universal, poner cortafuegos sería correcto o no. Las derivaciones lógicas dependen de los principios aceptados, y aquí estamos tocando los mismos cimientos de la definición de “Humanidad”.
No estoy ni a favor ni en contra, sólo creo que debe abrirse un debate, llegado el momento.
Respecto a los derechos humanos, es innegable que enfrentan desafíos graves en el contexto moderno. En ocasiones, las tecnologías y aplicaciones parecen ocupar un espacio prioritario en debates políticos y mediáticos, lo cual puede resultar frustrante al compararlo con las urgencias humanitarias que afectan a millones de personas. Sin embargo creo que este es otro problema, es el juego de intereses de las grandes industrias y los lobbies políticos. Seguramente tomarán parte en el debate…..
Por cierto, lo que debatimos aquí está muy relacionado con lo que ocurre en la película Ex Machina, dirigida por Alex Garland. Gran película y que ya avanzó estos conflictos éticos.
Me temo que esto de la discusión de lo que es humano y que no lo es ya es una discusión filosófica-poética, de las que todos tiraríamos de nuestro propio bagaje cultural-literario-religioso-ético para argumentar nuestras posturas. Luego está la cruda realidad, que es la de los intereses de los lobbys, del think tank. Seguro que de esto hablaremos más en el futuro, cuando en vez de teorizar sobre el asunto, tengamos que encararnos con el monstruo. Y sí, Ex Machina plantea esas cuestiones, pero a mi entender, se va un poco por las ramas (¿o por los circuitos?).