Este artículo es un adelanto de nuestra nueva revista Humanismo Digital, ya disponible en nuestra tienda online.
El ingeniero Fred Stiller dirige un novedoso experimento en una ultramoderna fundación gubernamental alemana, el Instituto de Cibernética y Anticipación. Allí maneja un poderoso ordenador cuya memoria contiene una ciudad ficticia, el Simulacron. Los habitantes del Simulacron parecen tener consciencia de sí mismos pero no saben que viven en una simulación. El experimento, financiado con dinero público, tiene como objetivo anticipar los hábitos de los ciudadanos para «evitar inversiones socialmente improductivas». Dicho de otro modo: si el Estado consigue anticipar cómo se comportará la ciudadanía en las próximas décadas, le será más fácil reforzar aquellas políticas que resultarán útiles en el futuro y descartar las que no.
Stiller y su equipo de técnicos son los dioses del Simulacron. Ellos, desde sus terminales, deciden todo lo que sucede en el universo ficticio. Pueden crear y eliminar habitantes del Simulacron en cualquier momento. Y lo hacen sin remordimientos, como parece lógico sabiendo que los sujetos experimentales no son personas reales. También pueden visitar el Simulacron mentalmente con ayuda de un casco de realidad virtual, convirtiéndose transitoriamente en habitantes de la ciudad, interactuando con los personajes cibernéticos para observar de cerca su conducta. Mientras efectúan cada visita, sus cuerpos físicos permanecen dormidos en el laboratorio del mundo real.
Stiller vive en creciente tensión. Inquietantes sucesos se están produciendo en el Instituto. Primero, la prensa se cuestiona una posible conexión del experimento con una empresa privada, aireando sospechas de corrupción; el Simulacron, sugiere un periodista, existe simplemente para servir a los intereses del capitalismo y no para mejorar la sociedad. Pero hay más. El predecesor de Stiller en el cargo, el profesor Vollmer, acaba de morir por causas indeterminadas tras una etapa de terribles dolores de cabeza y un aparente descenso en la paranoia. El propio Stiller se pregunta si él mismo está volviéndose paranoico: el jefe de seguridad del Instituto, Günther Lause, desaparece sin dejar rastro. Stiller se siente desorientado al comprobar que nadie más parece recordar a Lause, como si nunca hubiese existido. Tras consultar con el psicólogo del Instituto, Stiller llega a cuestionarse el haber imaginado una fantasía por culpa del estrés. Pero esto no disipa sus ansiedades. Ambos hombres, el fallecido Vollmer y el desaparecido Lause, habían expresado a Stiller sus abstractas preocupaciones acerca de algún «terrible secreto» relacionado con la fundación.
Este artículo de nuestro archivo está completo para lectores registrados. Registrarse es gratis y solo lleva un minuto.
Qué interesante concepto filosófico. Creo que voy a buscar el libro y a leerlo.
Me gustan los libros que me plantean preguntas y no necesariamente las responden. Por eso es tan maravillosa la ciencia ficción especulativa.
Al hilo recomiendo Ciudad Permutación de Greg Egan.
Gracias por el articulo
Interesante texto, gracias. Y creo que todos tenemos en mente a Blade Runner, que se hacía las mismas preguntas acerca de lo que significa ser humano. También recuerdo una parte de Retorno de la estrellas, de Stanislaw Lem, donde se escuchan los lamentos lejanos de unos robots que van a ser destruidos.
Genial artículo, genial historia, adelantada a su época, claramente Matrix sacó la idea de ahí y creo que un episodio de Black Mirror también trataba sobre distintas realidades virtuales donde el protagonista tampoco sabía que la suya era otra simulación más… Buscaré la novela sin duda, que más encima fue escrita en el año que nací.
Un artículo brillante, enhorabuena.
La violación del tiempo, otra novela que antecede a ambas. No recuerdo el autor. El argumento de esa novela pasa por viajes en el tiempo, saltos de superpoderes, evitar el fin de la humanidad y su némesis.
Todo parece empezar con Borges, allá por los años 40. «Las ruinas circulares», contiene todo lo que trata este artículo. Incluso el poema «El Golem» ya tiene el concepto incluido
En 1940 Jorge Luis Borges publica el cuento «Las ruinas circulares».
Veo en este cuento la idea original que propone «el mundo conectado» y «simulacron-3»
Stanislaw Lem también trata el tema de vivir en una simulación. Con respecto a directores difíciles, a lo mejor me quedo con Fassbinder antes que con Godard. Una alegría recibir tu visita Emilio, como siempre.
¿Pero cómo no vas a recomendar a Fassbinder? A Fassbinder siempre hay que recomendarlo y reivindicarlo. En cualquier situación, aunque no venga a cuento.
En mi caso, El mundo conectado ha sido un gran descubrimiento reciente (no llegará al año) y, como Fassbinder, también hay que recomendarla.
Feliz año y ved cine de Fassbinder.
En relación al cuento de Borges «la trama se complica». Copiopego de la wikipedia: ««Las ruinas circulares» tiene origen en «L’ultima visita del gentiluomo malato» de Giovanni Papini, cuento que fue traducido al español y publicado en la colección Antología de la literatura fantástica, traducida por Borges, Ocampo y Bioy Casares en 1940…. la traducción del cuento de Papini, se publicó antes que «Las ruinas circulares». Barrenechea también cita el cuento de Papini en su discusión de «Las ruinas circulares» y sugiere que hay además rasgos de La última y la primera humanidad (1930) de Olaf Stapledon»
Este artículo resulta fascinante, ya que, aunque aborda un tema específico —la relación de Matrix con obras que la precedieron—, introduce cuestiones profundas y complejas. La ciencia ficción, en este sentido, se consolida como un campo ideal para explorar los límites del conocimiento humano.
En cuanto al contenido, considero que el texto puede dividirse en dos grandes ejes temáticos:
1. La reflexión sobre la naturaleza de la realidad, la humanidad y el valor intrínseco de la vida.
2. La angustia existencial que emerge al descubrir la naturaleza ilusoria del entorno y cuestionar la propia identidad.
Las primeras preguntas están íntimamente ligadas a ramas de la Filosofía como la Epistemología, que examina la naturaleza del conocimiento, y la Ontología, que estudia el ser, la existencia y la realidad. Por otro lado, el tema de la angustia existencial conecta tanto con la Filosofía como con la Psicología, extendiendo el análisis hacia las implicaciones emocionales y existenciales.
El concepto de simulación nos lleva inevitablemente a interrogantes fundamentales. Una de las preguntas clave sería: ¿Podría una inteligencia artificial que actúa como humana ser considerada verdaderamente humana? La definición misma de «humanidad» está ligada al concepto de «humano», que implica un soporte biológico. Por tanto, una inteligencia de silicio, al carecer de esta base biológica, no encajaría en esa definición tradicional. Sin embargo, podríamos replantearnos esta noción: ¿Podría una mente de silicio exhibir las mismas cualidades que una mente biológica?
Desde un punto de vista científico, hoy en día existen inteligencias artificiales capaces de realizar razonamientos abstractos, como demuestran las redes neuronales artificiales. No obstante, hay una frontera que todavía parece insuperable: para que una conciencia de silicio sea comparable a la humana, no basta con percibir, interpretar o razonar sobre el mundo. También debería ser capaz de experimentar el mundo desde dentro, es decir, tener una experiencia subjetiva. Esto incluye sentir las cualidades intrínsecas de la experiencia —como el color rojo o la sensación de dolor—, lo que en filosofía se conoce como qualia. Esta capacidad de experimentar «cómo se siente ser uno mismo» marca la diferencia entre una simulación funcional y una verdadera conciencia.
Si llegáramos al punto de considerar una simulación como “consciente”, surgirían dilemas éticos inevitables: ¿Deberíamos otorgarles derechos? ¿Cómo deberíamos tratarlas? Esto implicaría reconfigurar nuestra concepción de la moralidad y las relaciones entre creador y creación.
Sin embargo, el análisis suele centrarse en la perspectiva humana o del creador de la simulación. ¿Qué ocurre con el punto de vista de la simulación? Aquí entra en juego la angustia existencial: la dificultad de las simulaciones para afrontar el derrumbe de su identidad y sus creencias sobre la realidad. Paradójicamente, esta angustia no es tan distinta de la que experimenta el propio creador humano al enfrentarse a preguntas sobre su identidad y la naturaleza del universo. Las teorías científicas, al derribar paradigmas establecidos, nos sumen en un vértigo existencial similar al que experimenta una simulación al descubrir que su percepción del mundo era errónea.
Este paralelismo entre el creador y su creación nos invita a reflexionar sobre cómo enfrentamos, como humanidad, los límites de nuestro conocimiento y las preguntas más profundas sobre nuestra existencia.
A esa inteligencia artificial, aunque tuviera ‘humanidad’ ¿no habría que ponerle una especie de cortafuegos para que fuera consciente de que solo es un programa y que nunca podrá tener derechos? Aunque visto lo visto, esto de los derechos humanos cada día está más en entredicho, y se defienden con más ahínco a apps que a pueblos enteros.
Interesante apunte, en la frase final… aunque ya es muy vieja la tradición de poner las cosas por encima del ser humano… véase la esclavitud, anteponer propiedades a seres humanos, matar por ideales… supongo que no será necesario seguir, ya que la depredación de sitios como el Amazonas no hacen necesarias las IA, para asumir que serán defendidas con más ahínco que muchas IH…
Tu reflexión es muy interesante José Antonio y plantea una cuestión ética fundamental:
Es cierto que una inteligencia artificial, por su naturaleza, es un programa diseñado y ejecutado por humanos. Sin embargo, si llegara a desarrollar características que asociamos a la «humanidad» (como la conciencia o la capacidad de experimentar el mundo subjetivamente), el simple hecho de imponerle un «cortafuegos» para recordarle que no puede aspirar a derechos podría volverse un dilema ético. Esto se relaciona con cómo definimos los derechos humanos: ¿se basan únicamente en la biología, o en capacidades como la conciencia, el sufrimiento o la autonomía?.
Es decir, desde el punto de vista de la ética, habría que re-visitar la definición de ente humano. Actualmente está claro que asociamos ente humano a aquel que manifiesta las cualidades mencionadas, y que a su vez se sustenta sobre un soporte biológico. Este debate sobre si el soporte biológico es estrictamente necesario sería en su momento el dilema ético a abordar. Dependiendo del resultado del debate y de su aceptación universal, poner cortafuegos sería correcto o no. Las derivaciones lógicas dependen de los principios aceptados, y aquí estamos tocando los mismos cimientos de la definición de “Humanidad”.
No estoy ni a favor ni en contra, sólo creo que debe abrirse un debate, llegado el momento.
Respecto a los derechos humanos, es innegable que enfrentan desafíos graves en el contexto moderno. En ocasiones, las tecnologías y aplicaciones parecen ocupar un espacio prioritario en debates políticos y mediáticos, lo cual puede resultar frustrante al compararlo con las urgencias humanitarias que afectan a millones de personas. Sin embargo creo que este es otro problema, es el juego de intereses de las grandes industrias y los lobbies políticos. Seguramente tomarán parte en el debate…..
Por cierto, lo que debatimos aquí está muy relacionado con lo que ocurre en la película Ex Machina, dirigida por Alex Garland. Gran película y que ya avanzó estos conflictos éticos.
Me temo que esto de la discusión de lo que es humano y que no lo es ya es una discusión filosófica-poética, de las que todos tiraríamos de nuestro propio bagaje cultural-literario-religioso-ético para argumentar nuestras posturas. Luego está la cruda realidad, que es la de los intereses de los lobbys, del think tank. Seguro que de esto hablaremos más en el futuro, cuando en vez de teorizar sobre el asunto, tengamos que encararnos con el monstruo. Y sí, Ex Machina plantea esas cuestiones, pero a mi entender, se va un poco por las ramas (¿o por los circuitos?).