Tecnología

Conciencia, inteligencia artificial y nuestra búsqueda de sentido: Oliver Sacks sobre ChatGPT, 30 años antes de ChatGPT

English version here

«La mente es su propio lugar», escribió John Milton, «y en sí misma puede convertir un cielo en infierno, un infierno en cielo». Pero en una época en la que las máquinas pueden simular, con la mera fuerza del cálculo, cosas mentales como poemas, ¿sigue siendo la mente un lugar preponderante? ¿Qué creaciones celestiales e infernales puede hacer la mente sola que ningún algoritmo pueda reproducir o imitar?

Leo en las palabras de Milton la insinuación de que la mente crea significado, y el significado — que es diferente de la información, incluso diferente del conocimiento— es incalculable. El significado podría ser el último baluarte de la conciencia humana en la era de la IA: el anhelo existencial supremo irreducible a cálculo, la gran inquietud creativa que fermenta todos nuestros poemas y nuestras pasiones.

El neurólogo poético Oliver Sacks (9 de julio de 1933–30 de agosto de 2015) aborda estas preguntas en un ensayo premonitorio de abril de 1993 en el New York Review of Books, provocado por el libro del neurocientífico ganador del Nobel, Gerald Edelman, Bright Air, Brilliant Fire: On The Matter Of The Mind pero, como toda gran reseña de libro, elevándose mucho más allá del libro en sí y hacia preguntas más amplias sobre la conciencia, la naturaleza de la mente y lo que significa ser humano.

oliver sacks
Oliver viajando en un tren mientras escribe un ensayo, 1987. Courtesy Of Lowell Handler / PBS

Revisando el auge de la literatura sobre la ciencia de la mente y la materia, Sacks lamenta que «debajo del entusiasmo por los desarrollos científicos, hay una cierta delgadez, una pobreza y una irrealidad en comparación con lo que sabemos de la naturaleza humana, la complejidad y densidad de las emociones que sentimos y de los pensamientos que tenemos». En un sentimiento que nos recuerda lo milagroso que es que un gélido cosmos haya encendido la la llama de la conciencia, él escribe:

Leemos con entusiasmo sobre la última teoría química, computacional o cuántica de la mente, y luego nos preguntamos «¿Es eso todo lo que hay?»

Con un ojo en su propia emoción al encontrarse por primera vez con la pionera cibernética de Norbert Wiener a finales de los años 1940, con su asombrosa insistencia en que «no somos materia que perdura, sino un conjunto de pautas que se perpetúan a sí mismas», y la generación de reflexiones sobre autómatas lógicos y redes neuronales que inspiró, él relata haber pensado, como muchos lo hicieron, que la humanidad estaba al «el umbral de la traducción informática, la percepción, la cognición; un mundo nuevo y desafiante en el que ordenadores cada vez más potentes serían capaces de imitar, e incluso asumir, las principales funciones del cerebro y la mente». Y sin embargo, como neurólogo que ha dedicado su vida a los mecanismos internos de las mentes humanas encarnadas, él advierte:

En efecto, debemos ser muy cautos antes de permitir que cualquier artefacto sea (salvo en un sentido superficial) «parecido a la mente» o «parecido al cerebro»… Si vamos a tener un modelo o teoría de la mente tal y como esta se da realmente en las criaturas vivas del mundo, tendrá que ser radicalmente diferente de cualquier cosa parecida al modelo computacional. Tendrá que basarse en la realidad biológica, en los detalles anatómicos y de desarrollo y funcionales del sistema nervioso; y también en la vida interior o mental de la criatura viva, el juego de sus sensaciones y sentimientos e impulsos e intenciones, su percepción de los objetos y las personas y las situaciones y, en las criaturas superiores al menos, la capacidad de pensar de forma abstracta y de compartir a través del lenguaje y la cultura la conciencia de los demás.

blake paradiselost butts3
Uno de los grabados de William Blake para El paraíso perdido de Milton

En un sentimiento que más tarde desarrollaría en sus perspicaces escritos sobre la memoria narrativa como pilar del yo, añade:

Por encima de todo, una teoría así debe dar cuenta del desarrollo y la adaptación propios de los sistemas vivos. Los organismos vivos nacen en un mundo de desafíos y novedades, un mundo de significados, al que deben adaptarse o morir. Los organismos vivos crecen, aprenden, se desarrollan, organizan el conocimiento y utilizan la memoria de un modo que no tiene análogo en lo no vivo. La propia memoria es característica de la vida. Y la memoria provoca un cambio en el organismo, de modo que está mejor adaptado, mejor encajado, para hacer frente a los retos del entorno. El propio «yo» del organismo se amplía gracias a la memoria.

Reflexionando sobre la obra de Edelman, Sacks considera el cuerpo como la representación última del yo en la conciencia, metiendo un premonitorio palo en los radios de ChatGPT:

Para ser consciente de ser consciente… los sistemas de memoria deben estar relacionados con la representación de un yo.

Lo que se necesita, observa Sacks, es una nueva teoría que reconozca nuestra vida mental como algo más que la suma de procesos computacionales — «una teoría de autoorganización y orden emergente en cada nivel y escala, desde el ajetreo de moléculas y sus micropatrones en un millón de hendiduras sinápticas hasta los grandes macropatrones de una vida realmente vivida»— . Una teoría de la mente así solo puede ser biológica y no mecanicista, una idea cada vez más urgente en nuestra era actual de IA incorpóreas que fabrican simulacros de conciencia cada vez más convincentes, pero que permanecen siempre separadas de la totalidad palpitante que es la vida.

97.724.A Q 02 Large TIFF 4000 pixels long scaled 1
Katharina Fritsch: Display Stand with Brains, 1989. (San Francisco Museum of Modern Art, 2009)

Gran parte de nuestra atracción por la inteligencia artificial proviene de lo que Sacks denomina en un ensayo aún más antiguo «nuestro deseo casi irresistible de vernos a nosotros mismos como si estuviéramos de algún modo por encima de la naturaleza, por encima del cuerpo», un deseo canalizado a lo largo de la larga historia de nuestro dañino dualismo, desde Platón a Descartes hasta la noción misma de inteligencia artificial. Spinoza lanzó el primer gran guante con su insistencia en que toda nuestra experiencia consciente exige que se nos entienda como seres encarnados, ya que «el cuerpo puede, por las solas leyes de su naturaleza, hacer muchas cosas de las que la mente se maravilla». La suma total de esas cosas es lo que podríamos llamar experiencia, y se convierte en la lente a través de la cual comprendemos que es distinto de computar el mundo:

El mundo no tiene una estructura predeterminada: nuestra estructuración del mundo es propia — nuestros cerebros crean estructuras a la luz de nuestras experiencias—… A través de esta estructuración y reestructuración, el bebé, el individuo en crecimiento, construye un yo y un mundo.

[…]

Es característico de una criatura, en contraste con un ordenador, que nunca nada se repita o reproduzca con precisión; que haya, más bien, una continua revisión y reorganización de la percepción y la memoria, de modo que nunca haya dos experiencias (o sus bases neuronales) exactamente iguales. La experiencia es siempre cambiante, como el arroyo de Heráclito. Esta cualidad de arroyo de la mente y la percepción, de la consciencia y la vida, no puede captarse en ningún modelo mecánico — solo es posible en una criatura en evolución—… Uno no es un alma inmaterial, flotando en una máquina. No me siento vivo, psicológicamente vivo, salvo en la medida en que una corriente de sentimiento —percibir, imaginar, recordar, reflexionar, revisar, recategorizar— me atraviesa. Yo soy esa corriente — esa corriente soy yo.

La conciencia surge así no como una operación de la mente sino como una interacción encarnada entre la mente y el mundo — un flujo dinámico de intercambios en el que todo el organismo, no sólo el cerebro, participa y, en el acto de participación, se crea a sí mismo—. (El neurocientífico Antonio Damasio ha defendido desde entonces la conciencia no como una función cerebral sino como un fenómeno de todo el cuerpo, y otros trabajos han demostrado una y otra vez que «nuestra mente está ligada al cuerpo»).

Sacks escribe

Durante el desarrollo del feto, se crea un patrón neuronal único de conexiones, y luego, en el lactante, la experiencia actúa sobre este patrón, modificándolo al reforzar o debilitar selectivamente las conexiones entre grupos neuronales, o creando conexiones totalmente nuevas.

Así pues, la experiencia en sí no es pasiva, una cuestión de «impresiones» o «datos sensoriales», sino activa y construida por el organismo desde el principio. La experiencia activa «selecciona», o esculpe, un nuevo patrón de grupos neuronales más complejamente conectados, un reflejo neuronal de la experiencia individual del niño, de los procedimientos por los que ha llegado a categorizar la realidad.

BeautifulBrain p064
Uno de los poco conocidos dibujos del cerebro del padre fundador de la neurociencia Santiago Ramón y Cajal.

Con el tiempo, estos distintos circuitos neuronales se sincronizan entre sí para dar forma a ««la vida interior, la mente, el comportamiento de la criatura». Con la vista puesta en esta y otras pruebas contundentes de una base biológica de la consciencia, escribe:

Desde Boole, con sus «Leyes del pensamiento» en la década de 1850, hasta los pioneros de la Inteligencia Artificial en la actualidad, ha persistido la noción de que se puede tener una inteligencia o un lenguaje basados en la pura lógica, sin que intervenga nada tan sucio como el «significado»… Esto no es así, y no puede serlo.

Nuestra búsqueda de significado, insinúa Sacks, formará parte para siempre de la experiencia de funcionamiento óptimo del organismo humano, una experiencia, para mí, cualitativamente diferente de cualquier cosa a la que pueda aproximarse una inteligencia artificial, en la medida en que pueda siquiera tener experiencia en absoluto. En un pasaje que me parece la refutación suprema de la apuesta de ChatGPT por la conciencia, escribe:

Esa sensación que tenemos cuando funcionamos de forma óptima, de una corriente de conciencia rápida, sin esfuerzo, compleja, siempre cambiante, pero integrada y orquestada… coincide con la sensación de que esta conciencia es nuestra, y de que todo lo que experimentamos y hacemos y decimos es, implícitamente, una forma de autoexpresión, y de que estamos destinados, lo deseemos o no, a una vida de particularidad y autodesarrollo; coincide, por último, con nuestra sensación de que la vida es un viaje — impredecible, lleno de riesgo e incertidumbre, pero, igualmente, lleno de novedad y aventura, y caracterizado (si no está saboteado por limitaciones externas o patologías) por un avance constante, una exploración y comprensión del mundo cada vez más profundas—.

Una y otra vez, los correlatos de la conciencia la enraízan en la vida del cuerpo, el latido de la experiencia hambrienta de significado, algo de lo que carece una máquina de la capacidad computacional más asombrosa. En un lírico antídoto contra milenios de dualismo y una vorágine de hipérboles de moda sobre el futuro de la IA, Sacks escribe:

No somos incoherentes, un manojo de sensaciones, sino un yo, surgido de la experiencia, en continuo crecimiento y revisión. El cerebro no es un haz de procesos impersonales, un «ello», con la «mente», el «yo», planeando misteriosamente sobre él. Es una confederación, una unidad orgánica, de innumerables categorizaciones, y categorizaciones de sus propias actividades, y de éstas, de su autorreflexión, surge la conciencia, la Mente, una metaestructura… construida sobre los mundos reales en el cerebro… A través de la experiencia, la educación, el arte y la vida, enseñamos a nuestros cerebros a ser únicos. Aprendemos a ser individuos. Se trata de un aprendizaje tanto neurológico como espiritual.

Puedes complementar este artículo con la lectura de Meghan O’Gieblyn sobre la conciencia y nuestra búsqueda de sentido en la era de la IA, y después vuelve a Oliver Sacks sobre los tres elementos esenciales de la creatividad, la psicología de la escritura, y la mortalidad y el sentido de la vida.

SUSCRIPCIÓN MENSUAL

5mes
Ayudas a mantener Jot Down independiente
Acceso gratuito a libros y revistas en PDF
Descarga los artículos en PDF
Guarda tus artículos favoritos
Navegación rápida y sin publicidad
 
 

SUSCRIPCIÓN ANUAL

35año
Ayudas a mantener Jot Down independiente
Acceso gratuito a libros y revistas en PDF
Descarga los artículos en PDF
Guarda tus artículos favoritos
Navegación rápida y sin publicidad
 
 

SUSCRIPCIÓN ANUAL + FILMIN

85año
Ayudas a mantener Jot Down independiente
1 AÑO DE FILMIN
Acceso gratuito a libros y revistas en PDF
Descarga los artículos en PDF
Guarda tus artículos favoritos
Navegación rápida y sin publicidad
 

5 Comentarios

  1. Álvaro Ruiz

    Enhorabuena por este artículo. Ya era hora de que alguien aportara algo de sensatez y no se subiese al carro triunfal de ChatGPT, en nuevo crecepelo milagroso del siglo XXI, como hace unos años lo fue el grafeno. Tratan de hacernos creer que la mente y la conciencia pueden reducirse a un algoritmo, de la misma manera que tratan de convencernos de que biológicamente no somos más que un conjunto de reacciones químicas. Leí hace poco en XL Semanal a un prestigioso científico afirmando que no existe el libre albedrío. En fin…

    Lo dicho, ya era hora de que alguien enfocara el asunto de la IA desde el punto de vista filosófico y no meramente matemático. Reciba mi agradecimiento por ello.

    • 2000 años y seguimos en lo mismo: somos lo mejor y el centro de la creación, el sol nos da vueltas… El problema es que hay quien no acepta que no, que no somos materia mágica. Si un sistema de maquinaria bioquímica tiene eso tan especial de lo que hablamos, ¿por qué no iba a tenerlo otro fabricado por nosotros? Corrijo, por algunos de los más avanzados de nosotros. Que uno no entienda de maquinaria biológica o de cómo funciona una ia (cuyos algoritmos y cálculos se hacen de forma analógica en un sistema natural, no sé qué piensa alguno cuando dice esas palabras) no significa que, quizá, tarde o temprano, quienes sí lo hacen terminen creando una mente comparable en esa esencia mágica (…) cuya exclusividad tanto ansiáis proteger y, más tarde, una mejor que ella. Y no hay más. A llorar y a seguir con la fé cada uno en su casa y no quemando Copérnicos ni Galileos…

  2. Pingback: Page Not Found - Jot Down Cultural Magazine

  3. Yo, gallo claudio

    Tercer artículo en poco tiempo en JD contra la tecnología. Al menos este no tiene tintes apocalípticos como los anteriores, pero creo que su premisa («nada puede igualar el espíritu humano que está por encima de la materia inerte») parte de un enfoque religioso, el de la supuesta existencia de algo inmaterial, inherente al ser humano que no se puede igualar con medios artificiales. Vamos dios, el alma o cualquier otro cacharro por el estilo. Yo no tengo conocimientos en filosofía ni neurociencias como la autora o Mr. Sacks, pero me atrevería a recomendar una lectura: Microcosmos de Lynn Margulies donde la autora explica, creo que satisfactoriamente, como al principio de nuestro planeta la materia empezó a agruparse y formar moléculas por el simple mecanismo del azar, la repetición y unos cuantos miles de millones de años, sin necesidad de ningún dios. Y luego esas moléculas siguieron combinándose por azar y millones de años más hasta construir organismos unicelulares y estos con muchos millones de años más acabaron convirtiéndose entre otras cosas en neuronas. Y cuando estas fueron muchos miles de millones empezaron a producir consciencia, mente, conciencia. No veo ninguna razón por la que este proceso no pueda repetirse artificialmente y mucho más deprisa por esas mismas neuronas organizadas sin necesidad de apelar a ningún espíritu externo al ser humano y al universo. Sospecho que detrás de este miedo a la IA está gente con una vida maravillosa que teme perder a manos de un robot maligno, pero como la mía es bastante aburrida e insustancial estoy dispuesto como diría Sheldon Cooper ha convertirme en la mascota de alguna inteligencia artificial muy bondadosa. Seguramente estaré equivocado pero espero que en las posibles réplicas se me insulte lo justo. Saludos cordiales y perdón por no permanecer callado y parecer tonto en lugar de resolver la duda hablando.

    • Totalmente de acuerdo. En filosofía parece que todo lo que uno para tiene validez. Gracias por el comentario, me ha permitido leer algo razonable antes de salir de la página… Sobre la mente, desde distintos enfoques más científicos, quiero recomendar leer ademas de a Sacks, a Penrose, a D. Dennet, a Hofstadter…

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

*