Todo indica que el papa León XIV ha leído (o ha sido bien asesorado por quienes han leído) a algunos autores centrales en la filosofía de la tecnología. Lo primero que hace su encíclica Magnifica humanitas, dedicada al impacto de la inteligencia artificial, es desechar, como hicieron hace décadas Ortega y Heidegger, entre otros, la concepción meramente instrumental de la tecnología, es decir, la idea según la cual las tecnologías son solo instrumentos neutrales y toda calificación moral que quepa hacer dependerá del uso que se haga de ellas. Si se utilizan para el bien, no hay nada que objetar. La censura ha de recaer entonces solo en los seres humanos que las utilicen para el mal, sin que quepa más profundidad en el análisis. El papa, como la mayoría de los filósofos que han escrito sobre esta cuestión, no lo ve así. “En abstracto –nos dice León XIV–, esta [la tecnología] […] no es neutral, porque toma el rostro de quien la concibe, la financia, la regula, la utiliza”. La tecnología, en suma, al menos cuando alcanza cierta complejidad, lleva inserta inevitablemente en su diseño ciertos valores y estos merecen cualificación moral. No es, pues, el uso que podamos hacer de la IA, una tecnología ciertamente poderosa, el problema que debería ocuparnos de forma preeminente (aunque, como es obvio, usos militares, delincuenciales, explotadores o políticamente inaceptables, como la vigilancia masiva, sean un problema), sino el modo en que se está generando la IA y en manos de quien ha quedado su control.
Hay, por otra parte, pasajes en la encíclica que recuerdan el análisis que hizo Ortega en los años 30 de los peligros de lo que él llamó “la hipertrofia de la técnica”, sin que quiera decir con esto, claro está, que el papa ha tenido que leer a Ortega (nadie lee ya por ahí fuera a Ortega). Uno de esos peligros, y no el menor, era para él la caída en una “crisis de los deseos”, que en última instancia viene a ser una crisis de los fines. El enorme poder de la tecnología dificulta, según Ortega, el proceso de elegir bien qué desear y con qué objetivos justificables. La tecnología no nos proporciona fines, por eso a la persona que pone todas sus esperanzas en ella se le vacía la vida. El papa escribe aquí algo muy parecido: “Hoy en día, el deseo de plenitud del ser humano corre el riesgo de desviarse hacia metas engañosas: la ilusión de una tecnología que promete liberarnos de toda fragilidad o modelos de bienestar que «dejan atrás» a pueblos enteros. No es raro que pongamos nuestra esperanza en un potencial ilimitado, en formas de progreso que pueden agudizar las desigualdades, en soluciones inmediatas incapaces de sanar las heridas de los pueblos”. Y casi al final, en el mismo espíritu orteguiano, hablando sobre los ingenieros, nos recuerda: “Cuando uno se limita a mirar sólo a su propio sector, se engaña a sí mismo creyendo que realiza una tarea moralmente neutra y evita las preguntas sobre los fines últimos que orientan determinados experimentos: así se corre el riesgo de cooperar, tal vez sin quererlo, en proyectos oscuros que alimentan nuevas formas de violencia, manipulación y dominio”.
Otros pasajes, en cambio, tienen claras resonancias heideggerianas, como cuando afirma que “la técnica no es un simple instrumento y […], cuando se vuelve criterio, termina por establecer qué cuenta y qué puede descartarse, reduciendo la creación a un objeto de explotación y a las personas a engranajes de un sistema que sea cada vez más eficaz”.
La encíclica pone el énfasis en la noción de dignidad humana y en su protección, como cabía esperar dada la posición de la iglesia en cuestiones tecnológicas desde hace décadas, especialmente en lo que se refiere al desarrollo de las biotecnologías que pueden afectar al ser humano. Esta noción ha sido discutida ampliamente en la bioética y no goza de una aceptación unánime, dada su vaguedad y el uso abusivo que se ha hecho de ella, pero lo cierto es que, cuando se realiza el esfuerzo por concretar su significado en contextos concretos, sigue sirviendo para señalar algunas de las líneas rojas que la tecnología no debe saltarse. El precepto fundamental que se deriva de ella sigue siendo el que ya estableció Kant: no debe instrumentalizarse jamás a un ser humano. Esta dignidad, como subraya la encíclica, no puede hacerse depender de la eficiencia o productividad de una persona. Es igual para todo ser humano y reclama el mismo respeto, sea cual sea su condición o su conducta. Es una dignidad “ontológica” que tiene todo ser humano por el hecho de serlo y que nada puede disminuir. En esta dignidad ontológica, basada en la naturaleza humana, están fundados a su vez los derechos humanos. La IA, según la encíclica, puede atentar contra esta dignidad en la medida en que se constituya en una nueva forma de instrumentalización del ser humano, tratando a las personas como meros datos o sometiéndolas a explotación laboral en países pobres. Entre las violaciones de la dignidad, como es sabido, la iglesia incluye el aborto y la eutanasia, y aquí también se nos recuerda, insistiendo así en una posición que encuentra mucho menos apoyo social del que probablemente encontrará el análisis que se lleva a cabo sobre los peligros de la IA. Pero hay otra forma en que la IA, en el modo en que se está desarrollando, atenta contra la dignidad humana: cuando las nuevas formas de propiedad (“patentes, algoritmos, plataformas digitales, infraestructuras tecnológicas, datos”) se concentran en las manos de un pequeño número de empresas privadas y esto impide que se pongan al servicio del bien común y aumenten así las desigualdades sociales.
Sería ingenuo pensar que esta encíclica va a servir para que los magnates de la IA (o algún católico con poder, como J.D. Vance) caigan del caballo y empiecen a actuar de otro modo, pero seguramente contribuirá en el empeño de lograr una regulación internacional más efectiva. Su mensaje afectará tanto a creyentes como a no creyentes, porque su petición no depende en exclusiva de la fe, sino de un análisis humanista, si bien el interlocutor al que va dirigida es ante todo el creyente. Puede decirse que es una llamada de atención contra el tecnooptimismo ingenuo sin dejarse llevar por un espíritu neoludita, que parece estar de moda.
Hay indicaciones concretas aprovechables, aunque no novedosas. De lo que se trata, por el momento, es de potenciar la “planificación responsable, evaluaciones del impacto humano y social, inclusión de los más frágiles, alfabetización digital, investigación e industria orientadas a la justicia y la paz”. Y, al mismo tiempo, fomentar la participación ciudadana en el desarrollo de la IA mediante, por ejemplo, “auditorías independientes, transparencia en los algoritmos, acceso equitativo a los datos [y] herramientas de apelación”. Todo esto se ha dicho ya muchas veces y no parece que los magnates de Silicon Valley se hayan sentido especialmente concernidos.
Cierto que la encíclica sostiene que no basta con la regulación de la IA, sino que hay que “desarmarla y hacerla acogedora”, en el sentido de que debe impedírsele “el dominio sobre todo lo humano”, “sustraerla de los monopolios”, hacerla “habitable”. Aquí, en este concepto de “desarme”, sí hay algo novedoso. Pero para empezar a desarmar la IA, si es que se puede, lo primero que hay que hacer es regularla.
Encontramos también una referencia al transhumanismo y al posthumanismo como ideología que sustenta buena parte del pensamiento y de las decisiones de la élite tecnológica. Frente a ellos, el papa reivindica la vulnerabilidad del ser humano, que hace posible la manifestación de la solidaridad, de la relacionalidad y de la compasión, y, por ello, no debe ser vista como un defecto a corregir, tal como pretenden los transhumanistas. “El ser humano –nos dice– no florece a pesar del límite, sino a menudo a través del límite”. Hay aquí también un grave peligro encerrado: ver al ser humano como algo que debe ser tecnológicamente mejorado podría llevar con facilidad a considerar a los que no lo fueran como seres menos dignos o valiosos.
Con toda seguridad, habrá a quien esta encíclica decepcione porque esperaba mucho más, mayor beligerancia o radicalidad, por ejemplo, y, por supuesto, habrá también quien la considere tecnófoba y reaccionaria, sobre todo entre tecnófilos, que identifican cualquier análisis crítico de la tecnología con un ataque desnortado, y entre transhumanistas, largoplacistas, singularistas y otros miembros de las diversas variantes filosóficas tecno-obsesas. Probablemente, recibirá críticas destructivas en los próximos días; se dice ya incluso que ha sido escrita con la IA. Sin embargo, creo que esta encíclica es una pieza de gran importancia en lo que podríamos llamar el inicio de la resistencia contra el modo de proceder de los magnates de Silicon Valley, es decir, cabe la posibilidad de que se convierta en un referente obligado en los incipientes intentos de los ciudadanos y de ciertas instituciones por contener o frenar lo que allí se nos anuncia como inevitable, tal como demanda el título del último libro de Gary Marcus, un crítico bien informado de la ideología que se está fraguando en el temido y a la vez idolatrado valle y sus alrededores.
Ha habido ya otras iniciativas que han comenzado a mover el terreno, como el movimiento AI4SG, esto es, Artificial Intelligence for the Social Good (Inteligencia Artificial para el bien social), que trata de promover los 17 objetivos que estableció en 2015 la Asamblea General de la ONU encaminados a lograr el desarrollo sostenible. Hay más de un centenar de proyectos de investigación en IA en todo el mundo que se adhieren a este propósito. El objetivo central es desarrollar una IA que sirva para resolver o paliar los problemas más acuciantes que nos aquejan y para favorecer el bienestar de los seres humanos y el desarrollo compatible con el cuidado del planeta.
Más recientemente, bajo los auspicios de Karen Hao, la autora del bestseller El imperio de la IA, en el que se narran las peripecias de Sam Altman y los otros para conseguir el dominio de la IA, ha surgido La lista de Resistencia ante la IA (The AI Resist List), con el sano propósito de que los investigadores o simplemente las personas interesadas imaginen “alternativas radicales” que conduzcan a una IA diferente a la que nos están planificando un puñado de grandes empresas lideradas por multimillonarios con poca sensibilidad social, por decirlo suavemente. Y hay más ejemplos de resistencia, que no van tanto contra la IA en sí misma –repitámoslo– como contra el modo en que se la está diseñando y ejecutado, un modo que, como esta encíclica subraya, no solo no es neutral, sino que está ideológicamente cargado. Las encuestas vienen mostrando cada vez con más claridad que la opinión pública empieza a ver esta IA como un problema. Buena parte de la investigación que se hace en universidades nos indica, sin embargo, que otra IA es posible.
Muchas gracias por el contrapunto Antonio.