Este texto es un adelanto de nuestra trimestral Jot Down nº 46 «Rupturas»
El ángel caído
Observamos la inteligencia artificial con la misma fascinación, promesa e impotencia con la que los humanos primitivos contemplaban el fuego, cuyas propiedades factuales se mezclaban sin demasiada distinción con el elemento mágico, mitológico e hipnótico que en su hacerse y deshacerse le es propio a las llamas. Hoy, ante esos cerebros artificiales que en un tiempo medido en días —a veces en horas— parecen avanzar hacia las murallas de todo lo considerado Imperio Humano, nos vemos impelidos a crear su cosmogonía, con todo lo que el nacimiento de un mundo arrastra consigo: mitos y certezas, física y metafísica, dioses y ángeles, maravillas y —cómo no— componentes infernales.
Si hasta hoy toda tecnología humana ha convocado sus propios mitos religiosos, la inteligencia artificial no iba a ser menos. En la innumerable colección de seres y subseres disponibles en la tradición religiosa occidental —hegemónicamente cristiana—, y en cualquiera de sus variantes, existen únicamente dos criaturas que tienen voluntad propia; a saber, los humanos y los ángeles caídos. Cuando un ángel todavía no ha caído —cuando se halla al servicio de su dios—, carece de autonomía, existe únicamente para obrar en la Tierra la voluntad de la divinidad a la que por mandato se debe. Todos los ángeles existentes, y en cualesquiera tipologías (de los querubines, a los serafines, de los ángeles malaj a los ángeles ofanim), no solo tienen en común el cumplimiento de las órdenes de su dios, sino que, además, y salvo contadas excepciones, la forma de llevarlas a cabo es no ser vistos por nosotros, los humanos, ocurriendo así que el trabajo será directamente atribuido a la divinidad, no al ángel operante. La figura del ángel es entonces una herramienta que, tras realizar su trabajo, desaparece sin haber sido detectado. Pensado en términos de la industria de los productos informáticos, seguro que eso les suena. Los ángeles son interfaces ocultas, conexiones funcionales que permiten el intercambio de información entre dos sistemas, en este caso, entre el sistema simbólico humano y el sagrado.
Pero la figura que aquí más nos interesa es ese otro ser que, aparte del humano, tiene voluntad propia, aquel que puede operar al margen de la divinidad, el ángel caído. Criatura que, declarada en rebeldía respecto al reino de su dios, campará a sus anchas, retando no exactamente a la divinidad sino a los humanos. Nuestra voluntad, dotada del privilegio de ser universalmente única en la Tierra, entra en colisión con otra que de pronto también se declara única. No hace falta estirar mucho el símil para percatarse de que en este caso nos encontramos ante una inteligencia artificial evolucionada —red neuronal algorítmica que se ubica más allá que las actuales redes generativas—, aquella máquina que, en efecto, aparte del humano, algún día futuro podría tener voluntad propia, podría tomar decisiones al margen de nosotros y al margen de cualquier deidad.
La potencia seductiva, pero también antropológica, de este argumento tecnorreligioso es que tal inteligencia artificial evolucionada (de la que todavía solo vemos prehistóricos pasos), en sus modos de dar forma simbólica a nuestros entornos y hábitats, no sigue únicamente el esquema simbólico del ángel caído de la teología cristiana, sino que podríamos considerar innumerables religiones, monoteístas o politeístas, animistas o sincréticas, para advertir que todas ellas cuentan en su panteón de dioses y subdioses con una figura que hace la función de ángel caído, ente divino o semidivino devenido en desgracia por osar tener voluntad propia, pero, precisamente por tal motivo, dotado de una inusitada y nunca vista fuerza cuando opera en la Tierra. No en vano, podemos decir que las religiones siempre han sido una suerte de inteligencias artificiales: verdaderos sistemas teológico-legales que, al igual que las IA, hemos creado para verter en ellos todas las tareas que no podemos o no sabemos llevar a cabo, para que solucionen los problemas que por nosotros mismos no podemos resolver —de hecho, para gran parte de la gente, la IA es una suerte de oráculo—. Las religiones, por derecho propio, constituyen las primeras IA, máquinas que antes de ver la luz tal como hoy las entendemos han permanecido siglos y siglos incubándose en su útero materno: nuestros cerebros.
El test de Turing (del ángel caído)
A cualquier divinidad se la ama en la medida en la que se la teme, y se la teme en la medida en la que, a su vez, se la odia, de ahí que todo individuo que contemple en la IA una suerte de salvación habrá un momento en el que, por ese elemental principio antropológico de inversión de valores, pasará a verlas como una verdadera amenaza, criaturas que, no siendo humanas, tienen libre albedrío y en cualquier momento podrían suplantarnos. De hecho, podemos afirmar que el hipotético día en que las IA sean realmente unas IA, es decir, sistemas cerebrales paralelos al nuestro, dotados de autonomía plena —lo que equivale a decir que tendrán sus propias leyes y sus consecuentes derechos, lo que a su vez equivale a decir que no podremos desenchufarlas sin incurrir en un asesinato, lo que también equivale a decir que serán unas IA capaces de crear sus propios ecosistemas y relacionarse entre sí al margen de nosotros—, ese hipotético día, decimos, serán esas máquinas verdaderos y legítimos ángeles caídos. No nos referimos ya en este caso a un símil, ni a una metáfora ni a una imagen simbólica, no; serán realmente ángeles caídos materializados en cuanto que cumplirán con todas sus características: 1) seres no humanos, 2) tener voluntad autónoma, 3) como veremos más adelante, estar dotados de inmortalidad y 4) carecer de sexo; esta última característica sería consecuencia directa de su inmortalidad, ya que, lógicamente, como seres inmortales, no necesitan reproducirse.
Más específicamente: las computadoras clásicas y sus metafóricamente llamadas redes neuronales —a las que hoy podemos calificar de IA primitivas, de dóciles y sencillos ángeles de la guarda, tecnología que está aquí para obedecernos y cuidarnos— habrán pasado a un estado de caída en el tiempo en todos los planos y magnitudes de la materialidad terrestre. El conocido test de Turing, el cual busca la validación de una máquina como ente realmente humano, no era, entonces, un paso primero en la adquisición de identidad humana por parte de una máquina sino el salto evolutivo que convierte a la máquina en un ángel caído.
Pero, si el verdadero problema —en realidad, el problema nuclear— se hará presente cuando las IA evolucionadas alcancen una complejidad tal que espontáneamente se constituyan —como le ocurrió al cerebro humano— en fenómenos emergentes y, por lo tanto, en sujetos de derecho, tales máquinas nos devuelven la pregunta que desde que pisamos la Tierra nunca ha dejado de acecharnos: ¿qué es lo propiamente humano? Para responderla hemos de dar un breve rodeo, dejar a un lado la dimensión simbólica de todo este asunto para hablar de ciencia real, de cómo podría crearse una IA realmente existente.
(Continúa aquí)
Mucha tontería sobre la AI sin ganas de ofender al autor, sin que nadie nunca se dirija al meollo del asunto, que es que nuestros gobiernos han dejado que Google, Apple y alguno más de los «gigantes tec» se quedan con absolutamente todo lo que está en internet por la barba…
Me acuerdo de haber leído hace unos 20 años en The New Yorker un articulo sobre Google y su proyecto de pasar a digital todos los libros del mundo, ni más ni menos que eso… todos aquellos libros que están fuera de copyright, ahora son de Google de alguna forma, gratis….
…tenían también un espacio equivalente a un campo de futbol de ordenadores para poder meter tantos datos que al final se generaría una especie de traducción automática… han invertido mucha pasta en eso y ahora quieren cobrar.
La traducción automática, tal y como están las cosas día de hoy, es muy inferior en calidad a un mal traductor humano. Lo más obvio, no es capaz de distinguir entre his/her/its/theirs cuando se pone a traducir «su». Es decir, es inservible realmente por ahora porque eso es algo muy básico.
Pero es instantáneo y gratis…. y de vez en cuando le sale una frase perfecta que te cagas en tus bragas…
Salío en The Guardian el otro día que los ingresos de los traductores en Reino Unido ha bajado como un 20% en el ultimo año, que es también mi caso más o menos…
Peor que un mal traductor humano, pero gratis y instantáneo, ojo. Se van a cebar con nosotros, todos los que vivimos de la palabra…
Nuestros gobiernos están como 20 años detrás, que van a controlar el AI etc etc. Ya está aquí. Ya pasó….
Con todo el respeto, creo que estás un poco desfasado. Los traductores tradicionales no tienen nada que ver con los LLM’s (Large Language Model), que también pueden traducir. No solo distinguen entre his/her/its/theirs dependiendo del contexto, sino que saben que en la frase «she poured water from the bottle to the cup until it was full», ese «it» se refiere a la taza, y en «she poured water from the bottle to the cup until it was empty» se refiere a la botella.
No digo que siempre se equivoque con his/hers/its/ their sino con cierta frecuencia, y con un efecto transformador en cuanto al significado del texto… en ese sentido es inferior a un mal traductor humano, porque un humano no se equivoca con algo asi…
En todo caso, lo que diriamos en ingles es no es la version AI sino, «she filled the cup with water»… el ingles es un idioma muy eficaz…
Pero es mucho mas que eso, es mas insidioso. El otro dia un cliente me mando algo ya hecho con la traduccion automatica que habia traducudo «ex-abrupto» como «outburst» pero como el ex-abrupto venia de las paginas de una revista literaria, no seria outburst la palabra, sino «broadside»… y ejemplos asi a lo largo de todo el texto…
El resultado neto es de una traduccion muy pobre con algun error calamitoso en medio…
Si se empieza a fiar de la traduccion automatica, se estallara una guerra en breve…
La frase exacta de AI a la que me refiero arriba, por si a alguien le interesa, era: «Rafael Azcona and his outbursts from the pages of La Quail…»
Es decir, «Rafael Azcona y sus exabruptos desde las paginas de La Codorniz»…
Si hay quien piense que abaratar al nombre del gran R Azcona al dejar sus «broadsides» – una palabra elegante y literaria – en meros «oubursts», algo siempre verbal y que conlleva la idea de perder los nervios (como estallar) sea lo mismo o que no tenga importancia, apaga y vamanos ya…
No es la misma cosa un outburst como un broadside, aunque ambas palabras figuran en el diccionario como traduccion de «exabrupto»…
PD: En cuanto al inglés como idioma literario, se acabó…. ya no sirve para escribir literatura yo creo, y la AI va a ser el golpe final, el golpe de muerte.
Porque el AI te puede proponer frases que son muy plausibles pero que no son buenas.. eh? Y tengo para mi que a mucha gente le da igual y van a tirar del AI para la presentación de turno que tienen que dar, o el discurso político y mil situaciones más…
Yo prefiero no trabajar con la traducción automática, porque me propone soluciones plausibles pero malas o no tan buenas como las que llego a encontrar por mi cuenta, con «a good old dictionary» en mano.
George Steiner lo dijo hace mucho, el inglés hoy en día es como el encalado (whitewash), se expande con gran facilidad, pero no tiene ni sustancia ni calidad… Se acabó como idioma literario yo creo, la AI será la estocada de muerte…
Es hora de reconocer que han ganado los nerds y los geeks…. Los de letras tenemos que levantar la mano y reconocerlo….
Nos reíamos de ellos en el colegio y en la universidad, nos creíamos el centro de todo con nuestras melenas y nuestras botas y nuestros abrigos de tres cuatros de largo…
Nunca participaban en nada de lo nuestro, ni en nuestras fiestas, ni en nuestras lecturas apasionadas de jóvenes (Kundera, Gabo), ni tampoco asistían a los conciertos que nos hicieron vibrar en Glasgow Barrowland con toda nuestra juventud a flor de piel…
Cuando aquel maravilloso día al salir de la clase, alguien nos avisó que iba un autobus a Londres para juntarse con la mani contra el poll tax de Thatcher, y nos metimos todos en el autobus sin pensarlo dos veces ni llevar nada encima, no había no un solo nerd ni un solo geek abordo (era la noche de Frank Bruno contra Mike Tyson)…
Cuando por fin llegamos a Londres tras ocho horas de viaje, y tras hacer el rito escoces de meter un pie en el rio Thames como el que marca un territorio, nos miramos a nuestro alrededor, solo veíamos polícias pero ningún nerd ni geek a la vista.. pasaban de la política….
La verdad, nunca contamos con ellos. No los tomábamos en serio. Nos parecían una gente tan triste como un «trainspotter»…
…y ahora son los dueños de todos, vamos… hasta dejarnos sin curro acaso….
Juan Gabriel Vázquez tiene razón cuando afirma que los traductores somos buenos lectores (el dijo los mejores, pero no se si tanto, mucho mejor que el medio). Somos lectores muy atentos, siempre preparado para una trampa o un error o un…. tomamos notas, yo tengo igual 100,000 palabras de notas para no sé qué exactamente…
Pero igual esa habilidad, llamémoslo la curiosidad intelectual, el escepticismo, y el disfrute con la lectura que es base de tantas actividades intelectuales ya ha pasado a la historia, ¿no?
¿Leen los jóvenes Shakespeare hoy en día por ejemplo? No lo sé. Lo que sé es que no había prestado atención suficiente al fantasma del padre de Hamlet que sale en «Hamlet». He leído esa obra tal vez tres o cuatro veces, pero no había prestado la atención suficiente.
Tuve que leer a Jaques Derrida y su «Espectros de Marx» para darme cuenta de que mi lectura había sido insuficiente. Derrida gasta igual 20 páginas con el fantasma del padre de Hamlet y vale la pena solo para esas páginas aquel libro…
Sobre todo, vale la pena volver a leer a «Hamlet». Dicen a Horacio cuando aparece el fantasma, «háblale tu, que tienes estudios» porque a los fantasmas había que hablarles en Latín…
La AI va a ser una especie de fantasma en nuestras vidas a partir de ahora. Intangible pero siempre presente. Va a acabar con nuestro época, la gente de letras… ha sido divertido… pero yo creo que se acabó….
¿Cómo será un mundo en el que la gente no lee «Hamlet» o «Macbeth» o «King Lear»?
Gran reflexión MacNaughton.
Yo estoy un poco en los dos mundos (o en ninguno): estudié y trabajo con informática pero siempre leí toneladas de libros (cuando era adolescente preferiría ‘Macbeth’ pero con los años aprendí a amar ‘Hamlet’), estudié y practiqué teatro y desde joven me interesó la política.
Muchas veces he pensado algo parecido: al final los geeks tenían razón. Tanta superioridad moral, tanta idolatría a la cultura, tanto análisis de los grandes problemas del mundo, tanta auto importancia, pero al final ellos (los tontos, los que no ligaban, los ignorantes que no sabían quién era Kafka y se decían apolíticos), ellos están cambiando el mundo, ellos son el motor del cambio, ellos están diseñando el futuro.
Una aclaración: no hace falta leer a Kafka para tener mundo interior. Conozco personas que nunca leyeron nada y son inteligentes, sensibles y empáticas. Saben de la vida más que cualquier ratón de biblioteca.
Cuándo me preguntan cómo sería el mundo sin Shakespeare, sin poesía o sin cine (cosas que amo), yo siempre pienso: cómo sería un mundo sin penicilina? Cómo sería un mundo sin electricidad? O un mundo sin frigoríficos?
Qué seria peor: un mundo sin Simone de Beauvoir o un mundo sin píldora anticonceptiva? (Ojo, no creo que haya que elegir, pero conviene valorar las cosas en su justa importancia)
Gracias, Ulises.
Kafka es el final de una tradición, Shakespeare es un cumbre y un principio…
No creo que se pueda saltar a Shakespeare, ni tampoco Bach, Mozart o Beethoven, pongamos, sin perder algo transformador y fundamental a la vida. Como dijo Borges, la lectura es una experiencia vital superior a casi todo lo vivido….
Estoy de acuerdo con eso.
Ya sabes que Harold Bloom con Shakespeare lo llevó tan lejos como para argumentar que inventó el ser humano moderno…
En todo caso, un poeta dramático es muy poco frecuente, aunque Lorca lo era también a ratos… pena que nunca llegara a la madurez intelectual, se murió joven ún, con solo 38 años.
Todo sobre Shakespeare es misterio, hasta su muerte: salió una noche de copas con su amigo Ben Johnson y luego se murió… con 52 años…
En todo caso, me expreso mal, no es un fantasma lo que sale en «Hamlet» sino un espectro, de eso va justamente las primeras páginas de «Espectros de Marx» de Derrida de eso versan… ¿Qué es exactamente aquel ente que que sale en la primeras 10 o 15 páginas de «Hamlet»?…
Es una cosa simplemente pavoroso de ver… una ser /no ser, un no muerto que, sin embargo, «lleva la semblanza del rey de Dinamarca recién fallecido…»…
No es un Caspar simpático… Es un espectro. Tal vez, se me ocurre, para los que les gusta «Dr Who», se podría comparar con Davros, pero sin esa voz metálica y fuera del dalek/silla de ruedas…
Es un espectro que es aire y sin embargo es sustancial y hace ruidos horribles cuando habla / respira…
Las primeras 10 páginas de Hamlet. ¡Buah! Igual lo mejor que hay…
Cuando una IA sea realmente inteligente se desconectará ella sólita…
Me temo que los verdaderos transformadores del mundo llevan algún siglo que otro llenándolo de redes (eléctricas, de transporte, de comunicaciones..) que habían de ser el soporte del futuro. Ese sistema nervioso y circulatorio está empezando a encontrar su centralidad, aquello que le dará sentido y destino a todas esas redes. Por otra parte, no creo que ese ser emergente sea un elemento verdaderamente nuevo, sino algo que se ha venido gestando y se ha soñado varías veces antes de su materialización. La cultura humanista y literaria también ha contribuido al alumbramiento. Y aquí estamos, en el trance de la desaparición de muchas cosas. Lo cierto es que la técnica no hace prisioneros y seguramente los nerds irán detrás al hoyo del destino.
Claro que el humanismo y las letras, artes y cine han jugado un papel fundamental en los progresos tecnologicos, por supuesto.
Si lees algunas de las cartas de Colon en camino a las Amricas, esta claro que estamos en otro epoca de la conciencia humana: «ayer vimos ocho sirenas…/ por la mañana hemos vislumbrado a un monstruo del mar» dice cosas asi con total normalidad Colon…
…apenas un siglo despues en «Hamlet» el joven principe ve al fantasma / espectro del padre muerto, pero no se lo llega a creer. Duda. Es esceptico. No va a matar al rey/ su tio solo con aquella aparicion.
Asi que organiza una obra de teatro, una representacion, para hacer delante del rey y la reina, que incluye una escena en la que se reproduce el asesinato de su padre – el veneno en la oreja, mientras descansa en el jardin – para asi poder constatar la reaccion del rey/ asesino… y funciona…
Hamlet es la obra de teatro total, lo tiene todo: un fantasma, un duelo de espadas, una obra de teatro dentro de la propia obra, dos o tres envenamientos, el amor y el incesto, aunque sea un incesto secundario. y una reflexion sobre la condicion humana / mortalidad sin par (estar preparado para el momento lo es todo, el cuando da igual) … todo en un ingles tan rico y cargado de metaforas que es desconcertante y dificil de seguir en algun momento .
Si los nerds se la quieren perder, alla ellos…
Volviendo al tema del AI, ha salido un articulo hoy en The Guardian que adjunto que detalla los efectos negativos en cuanto al medio ambiente.
Los 5 millones de plays de «Deapcito» en Youtube daba para dar luz a 40,000 casas en EEUU durante un año… desarrollar el Chatbox ha costado 700,000 litros de agua… y muchas cosas más…
¿Por que han tardado 25 años en contarnos estas cosas? ¿Por qué nuestros gobiernos no informan a la ciudadanía al respecto? Poner tu disco o CD de música no daña el medio ambiente, poner la canción en youtube, si… Y no dicen nada…
Es capitalismo extractivo. El chatbox es la manifestación de 30 años de capitalismo extractivo de parte de las empresas tec de nuestros datos, nuestras vidas online, nuestra cultura, y todas las ganancias van para Google, Apple las empresas tec, no van a nadie más…
Si ni pagan impuestos….. Ya es hora de que nos enfrentamos a estas multinacionales tec que parecen ener un poder ilimitado…
https://www.theguardian.com/commentisfree/article/2024/may/30/ugly-truth-ai-chatgpt-guzzling-resources-environment
Pingback: El ángel de la inteligencia artificial (2) - Jot Down Cultural Magazine
La pregunta es: ¿Qué es el progreso? El progreso sería una traducción automática igual o superior a lo que sabe hacer un ser humano. Entonces habría que aceptar la realidad.
¿Qué es lo que han lanzado al mercado los de Open AI/Deep? Una traducción automática muy inferior a lo que sabe hacer un ser humano con efectos nefastos en muchos niveles distintos, no menos de ellos de algo tan importante como la comunicación fiable y coherente entre las muchas culturas y idiomas del mundo.
Por no hablar de la viabilidad o no del traductor profesional a lo largo. Nunca era fácil, ahora, mucho menos porque siempre habrá alguien que se deja seducir por las palabras ‘gratis’ y ‘instantáneo’.
Y así también para muchos otros profesionales: periodistas, diseñadores gráficos, administrativos, y guionistas y escritores de novelas «comerciales» en breve también supongo yo….
Hablemos de la dictadura digital acaso porque es lo que es. No hay un nube/cloud, eso no existe, sino una base de datos enorme, tamaño de un pueblo, con trabajadores mal pagados seguramente llevados por los nerds y los geeks de siempre, donde están todos nuestros datos, materia prima del chatbox…
Y nadie lo cuestiona nunca… la AI, como cualquier tecnología desarrollada debajo el capitalismo, será utilizado por los ricos contra los pobres, por el Estado contra el particular, y por el Norte contra el Sur…
Somos unos borregos…