1
El duelo intelectual que mantenemos el científico y escritor Juan José Gómez Cadenas y un servidor sobre inteligencia artificial y creación, que ha derivado en un Borges contra Queneau, me ha obligado a pasarme dos veces Pangram. La primera demostré que, solo con cambiar un carácter en un texto, los resultados del análisis de nuestro nuevo inquisidor pasaban de 100% humano a 100% IA. Como el asunto ha seguido escalando, he tenido que volver a pasarme Pangram, y esta vez con resultados mucho más divertidos y prometedores. Resulta que, sin necesidad de conocimientos de programación ni de contratar a hackers norcoreanos, se puede «despangramizar» un texto en minutos. Cómo lo hago, pues en tres pequeños pasos que paso a contaros.
Primero le pido un artículo a mi amigo ChatGPT, que hace mucho que dejó de alucinar. Luego, con DeepL (una IA, especializada en traducir) paso el texto por tres idiomas¹ diferentes. Por último, le solicito cortésmente a Claude (es una IA muy sensible al trato, como ya sabéis) que corrija los datos factuales y los errores de coherencia que han producido las tres traducciones. Listo. Un texto identificado como 100% IA se convierte en un 20% IA que, con una pequeña edición, se transforma en 100% humano. Pangram afirma que tiene controlada la retraducción —incluso se jactan de que hay estudios científicos que confirman que son los más fiables a la hora de detectar este tipo de trucos—, pero mis pruebas (que, para mi sorpresa, aún no han sido revisadas por pares) dejan nuevamente a Pangram como lo que es: una herramienta inútil para los que tenemos un agudizado pensamiento lateral.
No soy el único que se ha dado cuenta de estas debilidades de los detectores. El pasado septiembre, Mindaugas Kiškis y Tomas Krilavičius, de la Universidad Vytautas Magnus de Kaunas, publicaron un estudio sobre nuestro Torquemada digital, y ya el título del artículo nos da una pista de lo que vamos a encontrarnos: Is Pangram the New Theranos? En sus pruebas, quince de los treinta textos se consideraron inicialmente generados por una máquina, pero tras editarlos y reformularlos dejaron de identificarse como tales. Y otros doce textos que contenían párrafos generados por una máquina se aceptaron como escritos por humanos. Otros estudios —uno de la Universidad de Chicago y otro de la Universidad Libre de Bruselas— también muestran que, en cuanto al número de falsos positivos, Pangram es el que «mejor» funciona entre los detectores existentes. En este caso, la cuestión no es si suele dar la respuesta correcta, porque es muy probable que sí lo haga. El problema es si podemos permitir que las dudas estadísticas se conviertan en sentencias judiciales y que se juzgue al acusado antes incluso de que sepa de qué se le acusa.
Porque eso es precisamente lo que está pasando ahora mismo. La mayor parte del mundo literario ha decidido convertir este programa informático en el guardián del sancta sanctorum de la creatividad humana. Este software ha conseguido que, en lugar de preguntarnos si una novela es buena o no, estudiemos si el autor puede demostrar que ha escrito personalmente cada palabra del texto. Si esta tendencia sigue así, los autores tendremos que enviar muestras de ADN junto a nuestros manuscritos —que tendrán que estar escritos a mano con excelsa caligrafía—, y las editoriales contratarán a notarios para que certifiquen cada coma.
2
El caso de la editorial mexicana Almadía es un ejemplo claro. La obra ganadora de la primera edición del Premio Internacional de Novela Breve Almadía-Ventosa Arrufat —con un premio de 20.000 euros— fue Donde el agua trabaja, del escritor peruano David Silva Rojas, elegida entre 2.204 manuscritos por un jurado formado por Cristina Rivera Garza, Selva Almada y Mónica Ojeda. La obra tuvo muy buena acogida, ganó el premio y empezó su andadura editorial, hasta que el 23 de octubre El País publicó un artículo muy crítico en el que se afirmaba que, según Pangram, el 99% del contenido de la obra había sido generado por inteligencia artificial. La presentación en Madrid se canceló inmediatamente, el autor quedó bajo sospecha y la editorial inició una investigación.
El 6 de noviembre, tras revisar los materiales aportados por el autor y consultar a expertos técnicos, abogados y lingüistas —algo que pone en duda la intelectual Elizabeth Duval, que igualmente hubiera defendido la posición de la editorial si le hubiese pillado la ola del otro lado—, Almadía ratificó el premio, reiteró su confianza en el autor y exigió a El País que pidiera disculpas públicamente. Silva Rojas niega haber usado inteligencia artificial, y la editorial tampoco ve motivos para retirar su apoyo. Toda esta situación es una auténtica farsa involuntaria: tres escritoras destacadas consideraban que el libro merecía el premio, pero una plataforma online logró ensombrecer su decisión en tan solo dos semanas. Es cierto que las normas prohíben expresamente el uso de inteligencia artificial; infringirlas es mentir y puede acarrear la descalificación. Pero esto no resuelve las cuestiones literarias. ¿Ha empeorado la calidad del libro tras pasar por Pangram? ¿Han perdido profundidad los personajes? ¿Se ha vuelto ilógica la trama? ¿Ya no funcionan las metáforas? ¿O es que simplemente hemos dejado de leer libros y hemos empezado a leer porcentajes?
La semana pasada, en la segunda edición del Coloquio de Editores Europeos de Formentor, se reunieron veintiocho editores, agentes y cazatalentos literarios en torno al futuro de la lectura bajo el sugerente título de «El crepúsculo de la inteligencia colectiva». Como era de esperar el debate acabó centrándose en la inteligencia artificial y los destrozos editoriales de nuestro querido Pangram. Gianluca Foglia, director general de Feltrinelli, señaló que al final todos usaremos la inteligencia artificial, y que lo que de verdad importa es «con qué idea en la cabeza» la usa cada uno; advirtió que convertir a los editores en detectives de manuscritos es una batalla perdida. Por su parte, Gustavo Guerrero, de la editorial Gallimard, confirmó que su editorial revisará todos los manuscritos a través del capitán general de los censores actuales, aunque admitió enseguida que esta herramienta será superado en cuestión de meses y que se trata de una carrera sin fin. Es un plan realmente prometedor: pagar a un portero que, según tú mismo reconoces, no podrá detener a los malhechores del futuro. Y es que, hipocresía aparte, a las editoriales les importa poco si un texto está hecho o no con IA; lo importante es lo que venda y, puestos a ser sinceros, les jode mucho pagar Pangram. Juan Cerezo, de la editorial Tusquets, arrancó con una frase tan sincera que desmonta: «el detector de fraudes nos ha puesto en evidencia». Y el ingenioso hidalgo Basilio Baltasar, director de la Fundación Formentor, afirmó que la inteligencia artificial es la encarnación del diablo; esta opinión tiene al menos una ventaja: devuelve el debate al ámbito que le corresponde, la teología.
Pangram, por otro lado, tiene que cobrar: su plan profesional cuesta 65 dólares al mes, el individual 20, y las consultas a través de la API se cobran por palabra. En esencia, su modelo de negocio consiste en certificar, a lo AENOR, que una novela no está infectada con el virus de la IA. Qué buen negosi. Y qué estúpido que las grandes editoriales se gasten dinero en esta tecnológica americana a la vez que silenciosamente se desprenden de maquetadores, correctores y traductores. Habría que ver el año que viene cuánto de más se ha gastado Gallimard and company en IA y cuánto de menos en trabajadores y colaboradores externos. Por no hablar de la escalada armamentística entre el algoritmo de Pangram y las empresas con utilidades despangramizadoras que se están haciendo de oro a costa de la ingenuidad y desesperación de los no escritores.
Yo me pregunto —retóricamente— desde cuándo, exactamente, la industria editorial se avergüenza de cómo se fabrican los libros que vende. Durante décadas venimos viendo autobiografías escritas por «escritores fantasma», novelas de suspense en las que el departamento de marketing idea la trama para que cuadre con los balances financieros, novelas tan voluminosas que agotan al autor, al lector e incluso al propio papel, y libros escritos por famosos cuya única misión es aparecer en la portada e ir a ferias varias, disimulando que han leído el contenido. Mientras el dinero siga fluyendo sin parar, todo esto es comprensible. Y ahora, parece que hemos descubierto la pureza creativa humana… que certifica una inteligencia artificial luterana.
3
Pero bajo toda esta charla sobre la reputación de los autores, hay una verdad que no se puede ocultar. Los vagos. Por mucho que yo critique la falibilidad de Pangram, la editorial canadiense de Thélyson Orélien acabó reconociendo que su autor había usado inteligencia artificial en la novela que lo llevó a la primera lista del Goncourt, y rompió con él; y sobre Jamir Nazir, ganador del Commonwealth Short Story Prize, y sobre el propio Silva Rojas siguen pesando sospechas que ambos niegan. A los que pillan, los pillan porque no se han molestado ni siquiera en revisar lo que entregan. Son del tipo de personas que se creen capaces de improvisar una novela mientras ven Netflix, y que ni siquiera se molestan en leerla entera antes de enviarla a una editorial. No pulen el texto, no reescriben, no eliminan los clichés manidos. Escriben unas cuantas instrucciones pensando en el jurado al que se dirigen y voilà, premio al canto. Son los descendientes digitales de aquellos que siempre prefirieron ser escritores antes que dedicarse al aburrido trabajo de escribir; y también de aquellos que siempre prefirieron ser lectores antes que dedicarse al aburrido trabajo de leer. La inteligencia artificial no ha creado a estos impostores; solo ha reducido el coste de la creación al nivel de una cuota mensual de suscripción a un chatbot de frontera.
Lo interesante es que no se diferencian mucho de otros escritores de verdad. Marta Peirano lo resume de la forma más certera que he leído al respecto y que os comparto para vuestro disfrute:
Buscamos Blade Runners cazarreplicantes capaces de distinguir lo mecánico de lo artesanal, pretendiendo que lo sintético no es el espejo de nuestro propio contenido barato, derivativo, repetitivo, intercambiable y banal. El chiste es que, al hacerlo, traspasamos esa misma autoridad a la IA. Que puede salir mal.
La literatura mediocre ya existía antes de la irrupción de ChatGPT en nuestras pantallas y, a juzgar por la promoción de los nuevos libros, está teniendo un éxito inesperado. Estos libros son todos iguales: historias divididas en tres actos con dos grandes conflictos, tramas en las que se adivina el final con solo ver la portada y un estilo de escritura que parece sacado de un manual de instrucciones de electrodomésticos. La inteligencia artificial ha aprendido a producir este estilo con una facilidad asombrosa, en parte porque cuenta con una enorme cantidad de ejemplos de los que aprender, muchos de los cuales han ganado premios; los que más, me atrevería a decir. La originalidad —la verdadera originalidad— siempre ha sido algo raro y maravilloso, y por eso damos por hecho que las máquinas, auténticas plagiadoras, no tienen capacidad de crear desde cero, olvidando que esa originalidad también es difícil de encontrar en muchas historias modernas.
4
Cuando salimos del ámbito del papel, esta hipocresía se hace aún más grande. El 22 de octubre, la revista Science publicó un artículo titulado «Sequential diagnosis with language models» —un estudio de Microsoft en el que un sistema de inteligencia artificial diagnosticó correctamente el 83,2 % de una serie de casos médicos complicados publicados en el New England Journal of Medicine; mientras que los médicos generalistas que participaron en el ensayo, aunque tenían a su disposición libros de referencia e internet, solo pudieron diagnosticar el 36,1 % de los casos. El ensayo se llevó a cabo de forma controlada; los quince autores son empleados de Microsoft y tienen acciones de la empresa; pero eso no significa que debamos sustituir a los médicos por un ordenador. Sin embargo, sí demuestra que, en ciertas tareas, este tipo de sistemas pueden rendir mejor que los expertos, y una revista científica de primer nivel incluso lo ha considerado noticia de portada.
Me encantaría conocer a ese autor: cuando reciba unos resultados médicos preocupantes, ¿se negará a pedir una segunda opinión a este tipo de sistemas para defender la «pureza artesanal» de su diagnóstico? «No, doctor, prefiero que mi plan para salvarme la vida se base únicamente en una inteligencia humana. No permitiré bajo ningún concepto que una máquina se entrometa en mi cáncer, que es un tema profundamente humano». Lo lógico sería que exigiera utilizar todas las herramientas disponibles, incluso aquellas que aún no se han inventado. Pero cuando nos ponemos a escribir una novela sobre un profesor universitario con depresión y los secretos familiares que desvela, cualquier intervención de un ordenador parece casi un insulto a la civilización occidental.
Claro, son dos situaciones totalmente diferentes: el diagnóstico de un médico no es una novela, y la responsabilidad médica exige unas garantías que la literatura no necesita. Por eso precisamente esta comparación resulta tan absurda. Estamos dispuestos a estudiar cómo confiar las decisiones sobre nuestra salud a las máquinas, pero, al mismo tiempo, hay quien considera que usar máquinas para corregir un diálogo es una especie de fraude intelectual, como si la literatura fuera más sagrada que el páncreas.
5
Nosotros, los lectores, también formamos parte de esta farsa. Nos gusta presumir de tener esa inteligencia humana capaz de distinguir los textos auténticos entre tanta falsedad, aunque en realidad compramos libros porque han ganado premios, seguimos recomendaciones publicitarias disfrazadas de «lecturas refinadas» y, a menudo, confundimos la reputación del autor con la calidad de su obra. Hoy en día necesitamos que un detector nos diga si podemos seguir disfrutando del libro que tenemos entre manos. Es realmente curioso: hemos conseguido desarrollar una aplicación capaz de arruinar retrospectivamente la maravillosa experiencia de la lectura —algo que, hasta ahora, solo lograban las reseñas halagadoras, valga la redundancia—.
Al fin y al cabo, lo importante no es cuánto se haya esforzado el autor para terminar este libro. Puede que haya tardado diez años en escribir una obra decepcionante, o que haya escrito una obra maestra en diez días, pero esa lucha creativa —aunque se comente a bombo y platillo en las entrevistas— es difícil de compartir con el lector. La falta de herramientas no es señal de genialidad, a menos que consideremos la pluma de ganso como la «edad de oro» de la escritura. La clave está en si una obra nos aporta algo que antes no teníamos: una perspectiva totalmente nueva, una estructura inesperada, una idea sorprendente o un sentimiento que sigue rondándonos por la cabeza incluso después de leer la última página. Algo que te haga disfrutar, te conmueva o incluso te transforme profundamente.
La inteligencia artificial puede ayudar a conseguirlo, pero también puede generar una cantidad ingente de basura a una velocidad inimaginable; la diferencia depende totalmente de la inteligencia, el gusto, el espíritu innovador y el esfuerzo de quien la maneja. Los escritores pueden usarla para investigar, explorar tramas alternativas, hacer una lluvia de ideas o editar textos, y nada de eso los convierte en farsantes —al igual que pulsar un botón no convierte a quien lo hace en escritor, por muy guay que salga en la foto con la boina—.
Antes de terminar, quiero hacer una pequeña confesión. Este artículo se ha escrito con ayuda de la inteligencia artificial. La he usado para recopilar información, contrastar datos, mejorar el estilo de redacción, inspirarme, buscar mejores expresiones y corregir el texto. No he ocultado su uso, ni creo que ocultarlo me diera ningún mérito; al contrario, creo que explicar cómo trabajo es más honesto que recurrir a ese truco tan manido del «creador solitario»: ese en el que uno dice estar inspirado por las musas mientras se queda mirando la página en blanco y, con el rabillo del ojo, echa un vistazo a la pestaña de ChatGPT.
Lo más divertido es que, aplicando mi método, nada tecnológico, para despangramizar este artículo, todos los lectores pueden comprobar que es 100 % humano. En cualquier caso y llegados a este punto ¿a quién le importa?
1Si algún periodista conocedor que trabaje seriamente este asunto quiere saber que tres idiomas son y en qué orden (en el inverso en lugar de 20% te da el 70%) quiere chequearlo que me contacte.
