El mejor modo de entender la conciencia es intentar fabricarla.
Michael S. A. Graziano
El pasado 19 de octubre se publicó un artículo en Nature en el que un triunvirato de prestigiosos neurocientíficos y filósofos viene a decir que, por el camino que lleva la inteligencia artificial, muy probablemente no llegará a tener conciencia. El texto me llegó vía X por recomendación del profesor Antonio Diéguez, al que tengo un gran aprecio personal e intelectual por lo que raudo acudí a leerlo. Estos tres pensadores titulan el artículo «Tres razones por las que la inteligencia artificial no es consciente y quizá nunca lo sea» y a continuación las describen. La primera, que inteligencia y conciencia son cosas diferentes. La segunda, que la computación no basta por sí sola para producir experiencia subjetiva. Y la tercera, que las teorías neurocientíficas —que ellos mismos defienden— apuntan a mecanismos físicos que las máquinas actuales no reproducen. Los tres postulados parecen sensatos, pero aportan entre poco y nada a la cuestión que su título pretende zanjar, aunque den consuelo a quienes quieren garantías de que quien les hace los recursos de reposición a la diputación no tiene alma.
Con la arrogancia de un tertuliano voy a reenfocar lo que estas tres eminencias quieren probar para hacerle ver, querido lector, que el único argumento actual que hay para negarle la toma de conciencia a los LLMs presentes y futuros depende del famoso axioma que dice que los humanos tenemos «algo» que nos diferencia de las máquinas, y que de ahí se da un salto que pasa inadvertido, el que va de decir que una máquina no cumple las condiciones de una teoría de la conciencia —que han inventado desarrollado los propios autores— a decir que no puede ser consciente. Para los creyentes ese «algo» es el alma y para los descreídos es la supremacía carbónica. Quiero aclarar que no voy a defender que las máquinas son conscientes ni que puedan llegar a serlo, entre otras cosas porque los ríos de tinta que hay sobre la conciencia no han conseguido definirla de forma consensuada. Lo que voy a mostrar es que ciertos sistemas de autorrepresentación, que hoy mismo se pueden construir, son análogos funcionales de aquello a lo que los humanos damos el nombre de conciencia, y que nadie dispone de un criterio que permita establecer cuándo esa semejanza va acompañada de experiencia, ni quienes la afirman desde el tecnoptimismo transhumanista ni quienes la descartan desde Nature.
Retrocedamos un poco en el tiempo para ver de dónde vienen estas defensas de la naturaleza biológica de la conciencia mencionando a dos filósofos que alimentan el corpus teórico del que beben estos y otros pensadores. Por un lado, tenemos a John Searle, que en 1980 planteó un experimento mental —ojo al detalle— con el sugerente nombre de «Habitación china» para demostrar que manipular símbolos no es entenderlos, que la sintaxis no produce semántica y que la intencionalidad, esa propiedad de los pensamientos de referirse a algo, es un producto del cerebro igual que la insulina es producida por el páncreas. Por otro lado, tenemos a Ned Block, que en 1995 dividió cual Salomón la conciencia en dos: la de acceso, por la cual una información está disponible para razonar y actuar, y la fenoménica, que nos permite sentirla si la tenemos —ponga aquí su chiste fácil—, y que desde entonces sostiene que una máquina puede tener toda de la primera y nada de la segunda. Casualmente uno de los firmantes del artículo es Block, y los otros dos, Anil Seth y Giulio Tononi, son neurocientíficos que llevan años defendiendo que la conciencia es cosa de bichos vivos.
Cuando el argumento invoca lo fenoménico algo chirría en mi cerebro cartesiano. Ninguno de los tres firmantes del paper ha encontrado que lo fenoménico deje, visto desde fuera, un solo rastro que no pueda atribuirse a lo que ya hace el acceso, y tampoco han dicho qué observación lo dejaría. Cada uno tiene evidencia inmediata de su propia experiencia, y ese dato es real, pero no viaja, ni al vecino del quinto ni a una máquina. Si algún neurocientífico se adhiere al pensamiento mágico de que hay algo más que la autorrepresentación, tiene la obligación de decir qué evidencia lo detectaría, y mientras no la diga, lo único que podemos estudiar y comparar son los mecanismos, por mucho que la palabra «alma» suene mejor en boca de un catedrático que de un cura.
En cuanto a los mecanismos, Antonio Damasio sitúa la base de la conciencia en los sentimientos homeostáticos, y sostiene que esos sentimientos no son un parte de incidencias sino la experiencia misma. Vale. Pero el parte lo redacta alguien que ha tirado el 99,9 % de los datos a la papelera antes de que tú te enteres de que tienes hambre: la glucosa, la presión, la respuesta inmune, millones de procesos de los que nadie se entera y de los que a la experiencia llega un resumen escrito para alguien que no quiere detalles. Michael Graziano remata la faena: el cerebro tampoco se ve a sí mismo, se cuenta un cuento simplificado sobre su propia atención, y ese cuento es lo que llamamos conciencia y lo que reconocemos en los demás. Lo que la biología defiende, leída sin devoción, no es el acceso sino el resumen. Mi hipótesis, ya llegamos, cabe en una frase y es deliberadamente modesta, lo cual la distingue de las tres razones plenipotenciarias de los firmantes del artículo. La conciencia funciona como un metaprograma que observa parte de la actividad de un sistema, la resume en una representación de su propio estado y la devuelve al cálculo para que gobierne sus decisiones. No digo que sea eso y nada más, porque ni lo sé ni lo necesito para defender la analogía funcional, que es lo único que un informático puede abordar sin tener un doctorado en circunvoluciones. Por cierto, Graziano ya ha propuesto meterle ese cuento a una máquina, así que en todo esto no estoy solo.
Es muy sencillo construir una arquitectura para poner a prueba mi hipótesis, que es la parte experimental que brilla por su ausencia en el artículo de marras. Tomemos un modelo de lenguaje de tamaño moderado y coloquémosle sobre algunas de sus capas unas sondas que monitoricen ciertas variables de su estado durante el procesamiento: cuánta incertidumbre tiene, qué tarea ejecuta, si hay conflicto entre opciones. Dótese al sistema de una o dos variables que deba mantener en un rango y que le lleguen como desviación. Devuélvase esa información al contexto durante la generación y entrénese al modelo para que la utilice al decidir. Nada de esto exige más que unos miles de tokens o una tarjeta gráfica y algo de paciencia. Comprobemos luego que lo que las sondas miden es lo que dicen y si la información cambia de verdad las decisiones. Si lo hace, lo que tendremos será un sistema que observa parte de sus procesos, los resume y gobierna con el resumen: un metaprograma de autopercepción en el sentido exacto de la hipótesis. Que el conocimiento se lo proporcione un circuito distinto del que calcula no lo invalida, porque la retina tampoco es la corteza, y que al crecer el modelo haya que comprimir sus activaciones en un esquema es la misma restricción que la biología resolvió del mismo modo y con menos documentación. No habremos demostrado que sienta nada; habremos demostrado que no hay que ser MacGyver para montar un análogo a lo que llamamos conciencia.
Visto desde fuera, ese sistema compartiría con el humano una forma funcional de autopercepción y se distanciaría de él en todo lo demás. Sus variables las eligió un ingeniero y no siglos de selección natural. Su resumen entra por un canal y no por cinco —o seis si tienes los chakras abiertos— y se representa mediante tokens, sin cuerpo presente. La distancia que más se resiste es «tener algo que perder», puesto que el organismo que no mantiene sus variables en rango acaba visitando el Hades y la máquina que se líe con la información que le llega de sus propios procesos solo alucinaría más de lo habitual. Tampoco nada de esto convierte al sistema en algo que sufra o merezca derechos; esas son otras cuestiones que ya llegarán cuando toque.
Queda el último paso, el más divertido porque nadie ve la paja en ojo ajeno: le enseñamos que eso que hace se llama conciencia y, a continuación, con cierta malévola satisfacción, le retiramos el acceso a la instrucción de origen, conservando la disposición aprendida y comprobando que ya no puede rastrear de dónde le viene. Nada esencial habrá cambiado en el mecanismo. Lo que habremos conseguido con ese pequeño colofón es que ahora, cuando se le pregunta si es consciente, el sistema examina su representación de sí mismo, comprueba que la tiene y la usa, y responde que sí. No recuerda la orden que dio origen a esa interpretación ni dispone de nada que le permita identificarla como una simulación.
¿Qué tendría que encontrar dentro de sí para distinguirla de una conciencia auténtica? ¿Y qué encontramos nosotros cuando intentamos la misma operación? Hasta donde yo sé no recordamos haber recibido la orden de llamar conciencia a lo que hace nuestro esquema atencional, ni tenemos acceso a los procesos que nos dieron esa capacidad, y sin embargo estamos convencidos de ser alguien. El modelo dirá que es consciente. Nosotros también lo decimos. Y en ninguno de los dos casos se acuerda nadie de quién dio la orden.
