Versión en inglés aquí.
Desde la reciente publicación de la última encíclica del papa León XIV se han multiplicado las reacciones en la prensa y las redes sociales, en su mayoría positivas. Para facilitar su comprensión, la Santa Sede acompañó dicha publicación con una carta en la que se destacaban los puntos más relevantes (entre ellos, la llamada a «desarmar la inteligencia artificial» que tantos elogios ha concitado) e incluso una lista de diez puntos básicos para difundir entre los miembros de la Iglesia católica. A decir verdad, hay pocas cosas con las que la mayoría no estemos de acuerdo: la desigualdad va en aumento, y eso es lógicamente negativo; las generaciones jóvenes parecen atontadas (¡ay, la dulce nostalgia de los mayores, siempre recordando un pasado idílico!); algunos están amasando fortunas estratosféricas con nuestros datos; y, a la postre, parece que nadie es capaz de poner coto a todo ello.
Cualquiera que trabaje con inteligencia artificial (ese gran oxímoron de nuestro tiempo) ha escuchado estas quejas antes. Muchos llevamos años explicándolo en clase: sí, los criptobros existen porque comercian con una mercancía que les proporcionamos de manera gratuita —nuestros datos— a cambio de aplicaciones y contenidos que a menudo utilizamos para perder el tiempo y, en ocasiones, hasta nuestra dignidad, a cambio de hacernos adictos a ellos.
Es como si cultiváramos la adormidera de forma gratuita, se la regaláramos a los traficantes para que la procesaran y estos nos la revendieran por un precio desorbitado, reportándoles de paso un margen de beneficio enorme; básicamente, es casi todo ganancia con mínima inversión. Esto es lo que llevamos haciendo durante décadas con nuestros datos para acceder, bien a redes sociales, en las que la participación se ha convertido en una obligación, bien a dispositivos que prometen facilitarnos la vida. Al final, hemos vendido nuestras almas a cambio de nada y ahora estamos despertando, poco a poco. Mientras tanto, nos hemos dado cuenta de nuevo de que la única capacidad inagotable de los seres humanos no es el amor, sino la estupidez.
Las palabras de León XIV resuenan en todo el mundo por muchas razones: porque apuntan a un antagonismo con el actual inquilino de la Casa Blanca —uno de los líderes más controvertidos de nuestro tiempo—, porque la gente siente simpatía por los David que se enfrentan a los Goliat, y porque abordan un tema que pocos comprenden, pero muchos temen.
La teología católica puede contribuir al análisis de las consecuencias de la inteligencia artificial (IA) desde muchas perspectivas, pero Robert Prevost ha optado por poner el foco en la doctrina social de la Iglesia. Su interpretación, y la idea que impregna todo el documento, es que la IA está contribuyendo de forma drástica a una dependencia rayana en la esclavitud que conlleva una miseria espiritual y económica, mientras beneficia exclusivamente a unos pocos. Para explicar esta visión, recurre a dos imágenes bíblicas: la torre de Babel, tal y como se narra en el Génesis, y la reconstrucción de las murallas de Jerusalén tras el exilio babilónico, según la describe el profeta Nehemías. La primera simboliza el egoísmo y la autoafirmación humana sin Dios; la segunda representa la cooperación entre seres humanos por el bien común y la glorificación de ese mismo Dios. Para León XIV, la IA es una cuestión social porque es nuestra Babel actual y está socavando la dignidad humana.
Como historiadora, me cuesta creer que nada de esto represente una novedad. Los seres humanos han sido maltratados a manos de otros seres humanos desde que empezaron a pelearse en las cuevas. También llevan ayudándose y cooperando, tal y como se describe en el Libro de Nehemías, desde ese mismo momento. El afán de someter a los débiles no es una novedad de la era de la IA. El papa compara el fenómeno actual de la dependencia forzada de la IA con los siglos de esclavitud legal que hicieron florecer todos los imperios, desde la Antigüedad hasta el siglo XIX, pero se podrían citar muchos otros ejemplos de injusticias y sufrimiento a manos de otros seres humanos: el trabajo infantil (que fue legal en Europa hasta el siglo XIX y todavía existe en amplias zonas del planeta, sea legal o no); la segregación racial en muchos países del primer mundo hasta bien entrado el siglo XX, entre ellos Estados Unidos; la negación a las mujeres de su derecho al voto, que silenció hasta hace apenas décadas a la mitad del planeta, y todavía hoy no está universalmente reconocido; o la persecución, histórica y todavía presente, a millones de personas por su orientación sexual. El mundo siempre ha sido un lugar cruel en el que vivir. Lo que es radicalmente diferente, al menos para muchos observadores, es que esta nueva herramienta está aparentemente fuera de control. Esto es lo que más miedo da.
Frente a otras innovaciones desarrolladas y auspiciadas por distintos gobiernos, como la energía nuclear, esta nueva tecnología la hemos nutrido nosotros, con nuestros datos, y la hemos cedido a particulares, al parecer con poco o ningún escrúpulo. Nadie nos forzó ni nos obliga a ello, y por eso llamar a esta nueva situación esclavitud me parece en gran medida una falta enorme de respeto hacia aquellos a los que históricamente sí se compró y vendió por dinero, sacándolos de sus casas, de sus vidas y hasta de sus continentes. Esta dependencia, que no esclavitud, la hemos consentido nosotros, en muchos casos sin darnos cuenta o sin ser capaces de evitarlo (ese momento fatídico en el que aceptamos las cookies), y luego se ha visto forzada por cualquier compañía, desde bancos hasta gasolineras, que prefiere ahorrarse salarios de empleados en cosas que podemos hacer nosotros con el móvil. Y las consecuencias también las sufrimos todos. Lo más preocupante para algunos es que parece que las personas que administran esta tecnología están fuera de control y cuentan con suficiente dinero y recursos para silenciar a quienes denuncien sus prácticas inmorales. Sin embargo, es conveniente recordar que los algoritmos pueden entrenarse y que la persona que crea un algoritmo para concluir si conceder o denegar un seguro de salud podría haberlo programado con otro propósito. Es al propósito —que de momento sigue siendo humano—, y no al algoritmo, al que hay que culpar. El algoritmo concluye datos o patrones, no la decisión moral de dejar a alguien sin una póliza. La IA es una herramienta y, como tal, la responsabilidad moral no le corresponde a ella. Al calificar los males actuales como resultado del desarrollo de la IA, como concepto abstracto, se omite la responsabilidad moral de los actores que toman las decisiones que hacen funcionar la herramienta, tanto los desarrolladores como los usuarios. En mi opinión, ahí reside el verdadero problema.
La IA se basa en un modelo de desarrollo diferente a otros vistos anteriormente en la historia de la innovación humana, cuyo crecimiento exponencial ha invadido y cambiado nuestras vidas como ningún otro antes y mucho más rápido que nunca. En efecto, a pesar de los grandes esfuerzos emprendidos por los legisladores, los gobiernos nacionales y las organizaciones internacionales, se ha generalizado la impresión de que no podemos seguir el ritmo del cambio y de que sus promotores pueden seguir haciendo lo que les venga en gana. Habiendo llegado a este punto, su «desarme», como propone el pontífice, me parece casi imposible. Y tampoco estoy segura de que la gente fuera a aceptar vivir sin ella. Si mañana, de repente, decidiéramos cerrar todas las aplicaciones que manejan nuestros datos, la tiranía se acabaría. Pero eso, por supuesto, no lo vamos a hacer, porque los criptobros pueden ser malos, pero no tontos, y han creado un producto que funciona, vende y gusta, a veces demasiado. Para empezar, ha democratizado contenidos y el acceso a ellos como nunca, y no solo en Eurasia, sino también en el llamado Sur Global. Facilita las tareas cotidianas a muchas personas y contribuye a diario a la comunicación y el empleo de millones de personas. La época de la pandemia de COVID puso en evidencia cómo podemos seguir haciendo girar el mundo con tecnologías que hasta ese momento no se habían desarrollado plenamente.
El segundo elemento que las herramientas de IA han aportado a nuestras vidas, como bien dice el papa, es la eficiencia: un aspecto que podría ser moralmente incorrecto si se convierte en un fin en sí mismo o se utiliza con fines equivocados, pero que resulta muy atractivo en la medida en que ayuda a los seres humanos a luchar contra lo único que no se puede comprar con dinero: el tiempo. Las personas que quieren vivir más tiempo y mejor, o lograr más cosas en menos tiempo, tienen la sensación de que pueden hacer más con menos; y ahí está la IA para ayudarlas, o al menos eso creen. En todo caso, pese a las buenas intenciones del papa o de cualquier otro líder social y a las numerosas reacciones positivas en la prensa de estos días, me temo que la IA ha llegado para quedarse y que seguirá en manos privadas, a menos que los gobiernos cambien de actitud, porque hasta el momento no han invertido decididamente para romper su monopolio. Las razones para no hacerlo solo ellos las conocen, pero ¿se imaginan que el desarrollo de la energía nuclear hubiera estado desde un primer momento en manos privadas, dispuesta a vender las patentes al mejor postor? Así que sí, realmente estamos metidos en un buen lío.
Ante dicho predicamento, el papa solo puede apelar a la moral de quienes controlan el negocio, frente a los cuales nosotros, pobres mortales regala-datos, hemos perdido toda influencia. Aquí es donde la imagen de Nehemías propuesta por León XIV cobra importancia por varias razones. En el relato, se explica cómo el protagonista pidió a todas y cada una de las familias de Jerusalén que se hicieran responsables de reconstruir una parte de las murallas de la ciudad, pensando en el bien común y en la creencia de que, si todos aportaban su granito de arena, la nueva construcción se mantendría en pie, a diferencia de la torre de Babel. Podemos estar de acuerdo o no con la ingenuidad de tal afirmación, en apariencia muy socialista, o bien encontrarla alarmante o reconfortante, pero hay en ella un elemento que no debemos dejar pasar: la centralidad de Dios como elemento inspirador de la cooperación humana. Y es ahí donde la Iglesia católica quiere dar la batalla: sin Dios, afirma el máximo pontífice, los humanos somos incapaces de cooperar.
En la hipótesis que propone el papa subyacen ciertas críticas vertidas anteriormente en la historia de la humanidad, cada vez que se ha producido un cambio en los modelos de comunicación. En 1492, Johannes Trithemius, por entonces abad de Sponheim, escribió su tratado De laude scriptorium (Elogio de los escribas), en el que alababa las numerosas ventajas de copiar un texto en un scriptorium, frente al uso de una de esas modernas imprentas. Unos años después, la expansión de la república de las letras trajo consigo el auge del público lector y eso, a su vez, condujo a lo que Elizabeth L. Eisenstein llamó hace años «el desplazamiento del púlpito por la imprenta». La Iglesia —en realidad, todas ellas— no tardó en reaccionar ante esta nueva herramienta de difusión de la información. Por primera vez en la historia, habían perdido el control del mensaje, que ahora estaba al alcance de cualquiera que dispusiera de los fondos suficientes para pagar a un impresor que publicara su obra, tal y como hizo Cervantes con El Quijote. La Iglesia católica tildó la lectura individual y en silencio de peligrosa, individualista e incluso pecaminosa, y reaccionó, como el resto de las confesiones cristianas, publicando índices de libros prohibidos, imponiendo la obligatoriedad del «nihil obstat imprimatur» («se imprime sin objeciones») y, en el caso de la Iglesia católica, otorgando a la Inquisición la facultad de registrar las bibliotecas privadas con el fin de controlar el mensaje que llegaba a la sociedad. La última novela de Miguel Delibes, El hereje (1998), describe perfectamente ese momento.
Como resultado, en la Europa del Renacimiento y la Edad Moderna murieron más personas por orden de los tribunales eclesiásticos —no solo católicos— acusadas de escribir, imprimir o poseer libros prohibidos que de cualquier otro delito, incluidos la brujería y el infanticidio. El enemigo al que había que derrotar había sido claramente identificado y los argumentos aducidos (peligros de exposición a determinadas ideas, deshumanización o propagación del caos) nos resultan sorprendentemente familiares.
No obstante, en sus esfuerzos por controlar la difusión del mensaje, todas las iglesias cristianas de Europa y sus colonias contaban con el apoyo incondicional de los gobiernos a los que servían o con los que colaboraban. Si damos crédito a Marshall McLuhan (La galaxia Gutenberg, 1962) y a otros autores, fue precisamente gracias a la llegada de la imprenta como las sociedades medievales pudieron evolucionar hacia democracias participativas modernas y, de paso, acabar con la esclavitud, conceder el voto a las mujeres, establecer sindicatos que reconocieran derechos a los trabajadores, incluidos los niños, y acabar con la segregación racial. En resumen, consiguió que la movilización ciudadana creara en los últimos cinco siglos la sociedad más igualitaria que la historia ha visto jamás. Y todo ello sin ayuda de ninguna iglesia, que en casi todos estos casos, cuando no atacó o tomó partido por los gobiernos que mantenían el statu quo, calló o no utilizó los medios de influencia que tenía frente a los gobiernos que la pagaban.
Así pues, el papa León XIV tiene, por supuesto, razón al denunciar la desigualdad y la deshumanización que podría traer consigo la IA, porque el mundo en sí mismo es desigual, inhumano y brutalmente cruel con los más vulnerables. Y por supuesto debemos mantenernos firmes y esperanzados para hacer del mundo un lugar mejor. Pero también debemos tener cuidado de no librar la batalla correcta por las razones equivocadas, ni tomando partido por los que, todavía hoy, niegan la mínima representación a la mujer o la condición de matrimonio a parejas del mismo sexo.
