El lenguaje, a veces, nos ofrece resonancias heurísticas casuales que, como el saltito con el que se salva un tropezón, nos permiten avanzar ligeramente más rápido en la dirección en la que ya caminábamos. Y maestros del relato, como Borges, a veces también dan esos saltitos¹.
Estaba pensando en lo que hay en común entre los verbos «comprender» y «comprimir» y en esa «compre(n)sión» de la realidad en forma de modelos, fórmulas y conceptos con la que intentamos entenderla e incorporarla a nuestra cultura; lo que llamamos ciencia. Como hipótesis etimológica encubierta, resulta que es casi correcta: tanto «comprender» como «comprimir» vienen del latín comprimere/comprehendere, ambos construidos sobre prehendere, agarrar, asir. Entender algo es literalmente tomarlo con la mano y apretarlo hasta que cabe en la palma. Esta metáfora cognitiva que llevará cerca de un milenio incrustada en el castellano ya contenía la intuición que la teoría de la información formalizó en el siglo XX².
La ciencia no solo consiste, como mucha gente dice, en «buscar la verdad». No quiero decir con ello que la ciencia mienta, salvo por fallos y corrupciones ajenas a su planteamiento formal y más bien fruto de su inserción en esta nuestra sociedad capitalista. Me refiero a que, además de veraz, el conocimiento científico debe ser comprensible³. Al menos, si consideramos la ciencia como práctica cultural y no como un mero instrumento práctico. Hacer ciencia consiste en plantear adecuadamente las preguntas necesarias para explorar la realidad que nos concierne y buscar respuestas que, además de predictivamente eficaces y empíricamente respaldadas, sean pensables. Pero para que esas respuestas sean pensables, debemos comprimir la realidad en modelos del mundo simplificados. Modelos que floten lo suficiente para permitirnos navegar hacia lo desconocido y dibujar mapas de los límites del conocimiento. Esos mapas adornan, como obras de arte, nuestra mente particular y también esa mente compartida que llamamos cultura, aunque a veces la cultura prefiera decorar sus paredes con sucedáneos religiosos y algunas mentes incluso con fútbol. Pero el interiorismo no debe ser juzgado.
También estaba pensando —últimamente lo hago mucho— en la relación entre ciencia, arte e IA. Y eso me llevó a Borges. Hace más de ochenta años Borges ya estaba escribiendo sobre algunas de las pesadillas epistemológicas que la inteligencia artificial está precipitando ahora. Pienso mucho en que el conocimiento que ya está generando la IA, y que seguirá generando de forma exponencial, no surge de esa compre(n)sión humana ni está necesariamente destinado a ella, sino de una búsqueda masiva de relaciones estadísticas al margen de nuestra cognición y, por lo tanto, no plenamente incorporable a nuestra cultura. Sin duda, podemos —y debemos— usar y aplicar ese conocimiento, pero ¿podremos seguir llamándolo ciencia? Pues, antes de volver a Borges, se me ocurren dos respuestas defendibles, pero que apuntan en direcciones muy distintas.
La primera: sí, podremos seguirlo llamando ciencia, pero habremos cambiado implícitamente la definición de lo que llamamos ciencia. No pasa nada, los conceptos evolucionan. De hecho, en parte, el proceso de «descomprensión» de la ciencia ya ha ocurrido antes: la mecánica cuántica nos obligó a aceptar que podemos manejar con éxito un formalismo teórico aunque su imagen intuitiva nos resulte imposible. Nadie entiende una función de onda del mismo modo intuitivo en que entiende una piedra cayendo, pero aprendimos a operar con ese formalismo con una eficacia asombrosa. Si extendemos ese precedente, el conocimiento estadístico de la IA sería el siguiente escalón en la misma dirección, con una ciencia que se seguiría llamando así, aunque fuese cada vez más instrumental y menos humana. También podríamos llamarla «neociencia».
Pero, tradicionalmente, el descubrimiento científico sigue una serie de pasos que incluyen el planteamiento de preguntas, la identificación de patrones en los datos, la formulación de conjeturas o hipótesis, el diseño y la realización de experimentos, el análisis de los resultados y el perfeccionamiento de las explicaciones en forma de modelos. Cuando los modelos son fértiles, suelen originar nuevas preguntas que tal vez lleven a descubrimientos que cuestionen o sustituyan los modelos que los originaron, cerrando el círculo. Si bien la IA ya se ha integrado en muchos de estos pasos, los investigadores humanos siguen siendo los principales responsables de plantear preguntas, generar hipótesis e interpretar los resultados en forma de modelos y teorías, siempre dentro de lo cognoscible para nuestro cerebro. Esto último es aquí lo relevante.
Porque los sistemas avanzados de IA podrían integrar todas estas etapas en un proceso iterativo donde las hipótesis, los experimentos y los análisis se retroalimentan continuamente de forma autónoma, sin necesidad de intervención humana. Es decir, ante una pregunta, la IA podría proponer hipótesis basadas en datos, diseñar experimentos o simulaciones potenciales para ponerlas a prueba, analizar los resultados y perfeccionar los modelos en ciclos repetidos. Estos sistemas podrían explorar un gran número de hipótesis que superan con creces la capacidad humana, lo que podría conducir a avances significativos en muchos campos. Sin embargo, una IA no tiene curiosidad, no se siente concernida. Por eso aún queda en nuestras manos de científicos, de momento, el planteamiento de preguntas: el puerto desde el que la IA parte. Bueno, en realidad, también están en unas pocas manos que no usan guantes, pinzas y altruismo, sino cotizaciones en bolsa, índices de beneficios y minería de datos sociológicos al por mayor. Pero ese es otro (m)elón.
Al margen de la tiranía de los mercados y el capitalismo de datos, ese camino hacia la autonomía científica artificial tiene otro grave problema para considerarlo «ciencia». Algunos autores han empezado a hablar de una «ciencia alienígena», porque los modelos, las explicaciones o los descubrimientos funcionan en la práctica, pero son, precisamente, difíciles de comprender para los humanos⁴. Si el conocimiento que la IA genera no es incorporable a nuestra cultura, deja de cumplir una función que la ciencia ha tenido siempre, desde que no se distinguía de la filosofía, y que iba más allá de su utilidad práctica. Un conocimiento que, parta del puerto que parta, no pueda hacer el viaje de vuelta hacia la comprensión humana, ya no es ciencia en sentido estricto; es algo nuevo que todavía no tiene nombre. Quizás algo más parecido a un oráculo tecnológico: funciona, pero sus razones son opacas, y la relación con ella es de uso, no de comprensión.
La ciencia no es solo una fuente de aplicaciones y tecnología, también es una forma de orientación en el mundo: de saber dónde estamos, qué somos, cómo funciona todo esto. La ciencia no solo descubre y aplica, también explica. Y explicar es siempre traducir al lenguaje de la mente humana. Un conocimiento que solo pueda aplicarse, pero no pensarse, tal vez nos vuelva técnicamente más poderosos —¿o dependientes?—, pero existencial y culturalmente estaremos más desorientados. Y esa desorientación es la que Borges, en 1941, describe en los bibliotecarios del cuento «La biblioteca de Babel».
El cuento, leído desde la perspectiva actual, parece una deliberada alegoría epistemológica sobre las dificultades a las que nos enfrenta el uso de IA para generar conocimiento. En primer lugar, señala que el problema no es solo el volumen generado —que también, como bien saben algunos médicos⁵—, sino su opacidad generativa⁶. En el cuento, la Biblioteca contiene todo, pero los bibliotecarios no saben cómo está organizada ni desde qué lógica fueron producidos los libros. La caja negra de la IA, entendida como los opacos principios con los que genera conocimiento, reproduce exactamente esa estructura: el output existe, es inmenso, a veces brillante, pero el proceso —las capas de pesos, las correlaciones de alta dimensionalidad, etc.— permanece inaccesible incluso para sus creadores. Borges incluso describe libros que parecen incomprensibles porque simplemente son cuatrocientas diez páginas de inalterables MCV que no pueden corresponder a ningún idioma, por dialectal o rudimentario que sea. Libros que, sin embargo, no son ruido, sino textos perfectamente «escritos» según la lógica interna del sistema, aunque ningún habitante pueda descifrarla. Es una metáfora anticipatoria de lo que la IA podría producir operando en regímenes de alta complejidad según su propio arbitrio.
El cuento también explica que hay bibliotecarios que, abrumados por la inconmensurabilidad de la Biblioteca y la proliferación de sinsentidos, caen en la desesperación o renuncian a buscar. Y hay otros que, por el contrario, convierten la opacidad en fe: si la Biblioteca existe, razonan, debe existir también un orden, un catálogo, una justificación última que algún día será encontrada. En ambos extremos se reconocen fácilmente algunas posiciones contemporáneas: desde quienes reniegan de la IA, una tecnología que no entienden o que consideran demasiado peligrosa y degradante, hasta quienes tienen fe en ella y esperan a que, con más datos, más cómputo y más tiempo, su caja negra acabe revelándose como una inteligencia superior. Estos últimos confían, en el fondo, en que el sistema acabará dándonos la esperada respuesta. Lo que quizá no han considerado es que, como en Guía de autoestopista intergaláctico, de Douglas Adams, podría darnos un «42» como respuesta correcta a una pregunta que ya no sabemos formular.
El potencial proceso de ingeniería inversa que podríamos utilizar para entender la caja negra de la IA ofrecería como resultado una base de datos tan inabarcable y compleja como el problema original; es decir, algo no necesariamente más comprensible que aquello que pretendía explicar⁷. Esto también lo evoca Borges en el brevísimo relato «Del rigor en la ciencia», en el que imagina un Imperio cuyo arte cartográfico alcanza tal perfección que el mapa termina siendo del tamaño exacto del territorio. Es decir, un mapa tan perfectamente fiel como inútil, que es finalmente abandonado. El inabordable «mapa» de la caja negra de la IA es probable que tampoco revelara principios útiles, sino que nos devolviera el problema original con otras etiquetas. Y, como en el relato de Borges, sería abandonado.
Tomada como metáfora, la complejidad de Kolmogorov⁸ formula que hay sistemas cuya descripción más breve no es una teoría más simple, sino una reproducción casi completa del propio sistema. Algo parecido podría ocurrir con ciertos modelos de IA de gran escala: no porque sean aleatorios como algunos libros de la Biblioteca de Babel, sino porque sus representaciones internas podrían haber capturado tantas regularidades locales, tantas dependencias y tantas relaciones de alta dimensionalidad que cualquier explicación exhaustiva terminaría pareciéndose demasiado al propio sistema y siendo inútil en cuanto a su comprensión.
Borges, en «El Aleph», se acerca a la misma idea. El cuento describe un punto en el espacio que contiene todos los puntos. Verlo supone ver el universo entero simultáneamente, pero esa visión es incomunicable porque el lenguaje es secuencial y la experiencia de verlo no. Es decir, el problema no es que el Aleph no contenga la verdad —la contiene toda—, sino que la comprensión humana es irreductiblemente lineal y parcial. Una representación completa del espacio latente de un modelo grande tendría esa misma patología: sería técnicamente exhaustiva e inhumanamente ilegible. No nos falta información; nos falta la arquitectura cognitiva para procesarla y compartirla.
En «Funes el memorioso», Borges nos proporciona otra perspectiva, igualmente reveladora. Ireneo Funes recuerda cada hoja de cada árbol, cada nube de cada amanecer, cada variación mínima de cada percepción. Su memoria es perfecta, pero precisamente por eso su pensamiento queda casi paralizado. Borges muestra que pensar es olvidar diferencias, generalizar, abstraer. Es decir, pensar exige perder información. Funes no es una mente superior porque lo recuerde todo; es una mente atrapada en la imposibilidad de comprimir el mundo por exceso de información. Si la IA no es exactamente Funes es porque no queda paralizada por esa falta de olvido, que compensa con más espacio, más procesamiento, más fuerza bruta. Pero no usa, como nosotros, el olvido y la renuncia como parte del pensamiento. Además, esa fuerza bruta no nos sale políticamente gratis. La inteligencia artificial quizá parezca etérea, pero necesita infraestructuras, energía, agua, minerales y una concentración de poder empresarial que conviene no olvidar. Es como una voraz musaraña de acelerado metabolismo… con el tamaño de una ballena azul⁹. Ya adivinará el lector por qué jamás ha evolucionado un animal así.
El problema con la IA no es que el exhaustivo conocimiento que llegará a generar no vaya a sernos útil, sino que quizá no podamos reducirlo y procesarlo nosotros. Y esa falta de comprensión no tiene solo consecuencias epistemológicas, sino también éticas y prácticas. Por ejemplo, aunque los diagnósticos médicos hechos con IA sean en promedio muy fiables, esto no es suficiente para confiar ciegamente en ellos: pueden ocultar valores y sesgos y fomentar una confianza excesiva que impida detectar que su validez es dependiente del contexto¹⁰. Solo si comprendemos bien el funcionamiento de las decisiones que llevan a la caja negra de la IA a generar conocimiento o predicciones podemos valorar —y, si acaso, aceptar— sus consecuencias éticas.
Pero la comprensión humana funciona, como decíamos, por compresión: para entender algo necesitamos una representación más simple que la cosa misma. Y la ciencia es, en esencia, una práctica de compresión con pérdida: una ecuación que condensa millones de observaciones, un modelo verbal que confiere sentido y unifica fenómenos dispares. Aceptamos perder detalle y simplificar a cambio de ganar inteligibilidad. Incluso podríamos preguntarnos si no es precisamente esa economía formal —esa capacidad de decir mucho con poco— lo que algunos físicos, como Dirac o Einstein, llamaban belleza o elegancia, y defendían como criterio orientativo para seleccionar modelos teóricos. El caso es que no necesitamos conocer la trayectoria de cada partícula para formular un principio explicativo general que nos permita entender y predecir un fenómeno. El ejemplo más simple es que, aunque no podamos predecir dónde estarán al cabo de un rato todas las moléculas de un cubito de hielo en un vaso de agua, sabemos que se derretirá y comprendemos por qué.
Sin embargo, si el sistema que genera conocimiento, la caja negra de la IA, no necesita simplificarlo —y nosotros tampoco podemos comprimirlo sin destruirlo—, entonces la categoría misma de principio explicativo pierde su función¹¹. La ciencia no es la Biblioteca, ni el Mapa, ni el Aleph, ni Funes; la ciencia son los modelos del mundo que, aunque sean parciales, nos resultan comprensibles¹². La forma de infierno epistemológico que Borges evoca en todos esos relatos es un mundo donde la abrumadora información no produce comprensión, sino desorientación.
Hasta aquí el problema parece cuantitativo: demasiados datos, demasiadas relaciones, demasiada complejidad para nuestra mente. Pero quizá el problema sea más profundo y no se trate solo de cuánto puede procesar una mente, sino de qué clase de mundo puede albergar. En un reciente ensayo¹³, siguiendo al filósofo Paul Humphreys¹⁴, se describe un escenario automatizado en el que los sistemas de IA comenzarían a fijar su propia agenda de investigación, con propósitos que desconocemos, para ser interpretados de formas que ignoramos, y que, al comenzar las superinteligencias a hablar un nuevo lenguaje científico, su trabajo se volvería ininteligible para nosotros porque careceríamos de la perspectiva interna necesaria para comprenderlo.
El ensayo cita el león de Wittgenstein: si un león pudiera hablar, no lo entenderíamos, porque el significado de nuestro lenguaje está entretejido con la experiencia interna de lo humano, no de lo félido. El concepto de umwelt de Jakob von Uexküll —el entorno subjetivo que cada organismo construye a partir de sus propios receptores y efectores¹⁵— captura esta misma idea. El león no nos resulta ininteligible porque sea más complejo que nosotros, sino porque su mundo, su entorno perceptivo —lo que le es saliente, lo que para él es señal y lo que es ruido, lo que le importa—, su umwelt, está construido desde una corporalidad y una experiencia radicalmente distintas de las nuestras. El lenguaje que hipotéticamente hablaría estaría tejido desde su umwelt y no desde el nuestro, y por eso nos resultaría opaco, incluso aunque usara las mismas palabras. Esta misma idea aplicada al conocimiento generado por una hipotética superinteligencia artificial nos hace ver que el problema no es solo la incomprensibilidad de ese conocimiento, sino su constitución perceptiva.
Lo que llamamos ciencia es conocimiento generado desde y para un umwelt humano, no desde un procesamiento estadístico sin cuerpo ni sujeto. El conocimiento generado por la IA no es que surja de su propio umwelt; tiene una vuelta de tuerca adicional que lo hace más extraño aún. El umwelt del león es inaccesible para nosotros, pero coherente en sí mismo —está anclado a su cuerpo, sus necesidades y restricciones, y a su historia evolutiva—, por lo que podríamos intentar interpretarlo desde el nuestro o, al menos, identificar las diferencias insalvables. Pero la IA no está anclada a nada de eso. No tiene hambre, no tiene depredadores; no tiene necesidades ni horizonte temporal propio. No genera análisis ni conocimiento «encarnados», vinculados a una corporeidad. Tal vez sí que tenga una especie de historia evolutiva, pero no está claro si eso condiciona su percepción del mundo, que es estadística pura. Y todo puede ser estadísticamente relevante para ella, pero nada le concierne. No hay subjetividad porque no hay individualidad. Podríamos decir que el supuesto umwelt de la IA no es simplemente diferente al nuestro, como el del león; es un umwelt sin sujeto. Pero eso es un sinsentido. Uexküll concibió el concepto precisamente para capturar la perspectiva de un sujeto que organiza su mundo. Así que, si en la IA no hay sujeto, aunque haya procesamiento, podríamos decir que opera fuera de cualquier umwelt, y por eso lo que produce, siendo formalmente indistinguible, es otra cosa. La IA no tiene umwelt porque no tiene un cuerpo que seleccione lo relevante: procesa todo sin que nada le importe. Y quizá por eso no hay posibilidad de traducción a nuestro umwelt científico. Salvo que le proporcionásemos uno. Lo cual no es seguro que sea posible ni deseable.
Curiosa pero predeciblemente, la misma lógica opera en sentido inverso cuando la IA produce «arte». Si la ciencia es el intento de traducir el mundo a nuestro umwelt, el arte es el intento de traducir nuestro umwelt al mundo, o al de otro sujeto. Ambos ejercicios presuponen un sujeto. Y en ambos casos, la IA falla en el mismo punto, por la misma razón. Lo que define la categoría —ciencia, arte— no es solo el producto, sino el proceso y la relación que ese proceso establece entre sujetos. El arte no es solo forma bella o emocionalmente efectiva: es algo que porta la huella de una subjetividad singular, de una experiencia vivida que busca resonar con otra. Y la ciencia no es solo verdad útil: es verdad comprendida y compartible.
La IA no produce simulacros defectuosos de ciencia o de arte; produce algo que cumple todas las funciones instrumentales de ambos, pero falla precisamente en la dimensión que no es instrumental. En la ciencia, falla en la inteligibilidad —no podemos pensar ese conocimiento—; en el arte, falla en la honestidad expresiva: no hay un sujeto, una mente singular, que lo haya necesitado producir. Lo interesante es que ambas carencias señalan hacia la misma cosa: la ausencia de un sujeto singular, con límites. La ciencia surge porque una mente limitada necesita reducir la complejidad del mundo para asirla. La expresión artística ocurre porque una mente singular necesita externalizar y compartir su percepción del mundo. También es curioso que llamemos «singularidad» al advenimiento de una inteligencia artificial general que seguiría sin ser un sujeto singular. ¿Otra vez el lenguaje dando sus saltitos?
Normalmente pensamos que la singularidad personal se expresa a pesar de los errores, o que los errores son ruido sobre una señal que intentamos depurar. Yo pienso lo contrario: que en el arte los errores —las desviaciones sistemáticas, los sesgos perceptivos, las obsesiones, los puntos ciegos— son la señal. Son lo que hace que Cézanne no sea Monet, aunque ambos miren la misma manzana. La IA, en ese sentido, no es un artista sin talento: es un optimizador sin errores propios. Y esa ausencia de errores la despoja de subjetividad singular, descalificando lo que hace como arte. Del mismo modo, la compresión, parcialidad o simplificación de la realidad que asumen —razonablemente— todos los modelos científicos no son problemas que debamos depurar usando la IA. Son lo que mantiene la ciencia como algo humano y parte de nuestra cultura.
Así que la pregunta que originó una serendipia léxica, sobre si podemos llamar «ciencia» a lo que haga la IA, no era solo una cuestión semántica. Es, en el fondo, una pregunta sobre qué tipo de relación queremos tener con el conocimiento. Nada menos. ¿Nos basta con que funcione y sea útil? La IA —o más bien, el capitalismo que la gobierna— nos está arrojando contra ese dilema. Y quizá nos quede poco tiempo para decidir si queremos corregir el tropiezo con un saltito o seguir cayendo hacia una forma de conocimiento que ya no podremos pensar.
Referencias
(1) Borges, J. L. (1974). «La biblioteca de Babel». En Obras completas 1923–1972. Buenos Aires: Emecé.
(2) Lakoff, G., y Johnson, M. (1980). Metaphors We Live By. University of Chicago Press.
(3) De Regt, H. W. (2017). Understanding Scientific Understanding. Oxford: Oxford University Press.
(4) Zenil, H., Tegnér, J., Abrahão, F. S., Lavin, A., Kumar, V., Frey, J. G., Weller, A., Soldatova, L., Bundy, A. R., Jennings, N. R., Takahashi, K., Hunter, L., Džeroski, S., Briggs, A., Gregory, F. D., Gomes, C. P., Rowe, J., Evans, J., Kitano, H., y King, R. (2026). «The future of fundamental science led by generative closed-loop artificial intelligence». Frontiers in Artificial Intelligence, 9: 1678539.
(5) Lopes, G. (2025). «The Library of Babel: Artificial Intelligence in Cancer Care, Research, and Education From Borges to IBM Watson and Beyond». ASCO Connection. Publicado el 23 de mayo de 2025.
(6) Burrell, J. (2016). «How the machine “thinks”: Understanding opacity in machine learning algorithms». Big Data & Society, 3(1): 1–12.
(7) Lipton, Z. C. (2018). «The mythos of model interpretability». Communications of the ACM, 61(10): 36–43.
(8) Li, M., y Vitányi, P. M. B. (2019). An Introduction to Kolmogorov Complexity and Its Applications. 4.ª ed. Cham: Springer.
(9) Brown, J. H., Gillooly, J. F., Allen, A. P., Savage, V. M., y West, G. B. (2004). «Toward a metabolic theory of ecology». Ecology, 85(7): 1771–1789.
(10) Veliz C, Phillips-Brown M, Prunkl C, Lechterman T. (2021). We might be afraid of black-box algorithms. Journal of Medical Ethics, 47(5): 339-40.
(11) Rudin, C. (2019). «Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead». Nature Machine Intelligence, 1: 206–215.
(12) Duede, E. (2023). «Deep learning opacity in scientific discovery». Philosophy of Science, 90(5): 1089–1099.
(13) Boesch, B. (2025). «When AIs do science, it will be strange and incomprehensible». Aeon. Publicado el 24 de abril de 2025.
(14) Humphreys, P. (2004). Extending Ourselves: Computational Science, Empiricism, and Scientific Method. Oxford: Oxford University Press.
(15) Uexküll, J. von. (1934/2010). A Foray into the Worlds of Animals and Humans; with, A Theory of Meaning. Trad. Joseph D. O’Neil. Minneapolis: University of Minnesota Press.
