Todo indica que el papa León XIV ha leído (o ha sido bien asesorado por quienes han leído) a algunos autores centrales en la filosofía de la tecnología. Lo primero que hace su encíclica Magnifica humanitas, dedicada al impacto de la inteligencia artificial, es desechar, como hicieron hace décadas Ortega y Heidegger, entre otros, la concepción meramente instrumental de la tecnología, es decir, la idea según la cual las tecnologías son solo instrumentos neutrales y toda calificación moral que quepa hacer dependerá del uso que se haga de ellas. Si se utilizan para el bien, no hay nada que objetar. La censura ha de recaer entonces solo en los seres humanos que las utilicen para el mal, sin que quepa más profundidad en el análisis. El papa, como la mayoría de los filósofos que han escrito sobre esta cuestión, no lo ve así. “En abstracto –nos dice León XIV–, esta [la tecnología] […] no es neutral, porque toma el rostro de quien la concibe, la financia, la regula, la utiliza”. La tecnología, en suma, al menos cuando alcanza cierta complejidad, lleva inserta inevitablemente en su diseño ciertos valores y estos merecen cualificación moral. No es, pues, el uso que podamos hacer de la IA, una tecnología ciertamente poderosa, el problema que debería ocuparnos de forma preeminente (aunque, como es obvio, usos militares, delincuenciales, explotadores o políticamente inaceptables, como la vigilancia masiva, sean un problema), sino el modo en que se está generando la IA y en manos de quien ha quedado su control.
Hay, por otra parte, pasajes en la encíclica que recuerdan el análisis que hizo Ortega en los años 30 de los peligros de lo que él llamó “la hipertrofia de la técnica”, sin que quiera decir con esto, claro está, que el papa ha tenido que leer a Ortega (nadie lee ya por ahí fuera a Ortega). Uno de esos peligros, y no el menor, era para él la caída en una “crisis de los deseos”, que en última instancia viene a ser una crisis de los fines. El enorme poder de la tecnología dificulta, según Ortega, el proceso de elegir bien qué desear y con qué objetivos justificables. La tecnología no nos proporciona fines, por eso a la persona que pone todas sus esperanzas en ella se le vacía la vida. El papa escribe aquí algo muy parecido: “Hoy en día, el deseo de plenitud del ser humano corre el riesgo de desviarse hacia metas engañosas: la ilusión de una tecnología que promete liberarnos de toda fragilidad o modelos de bienestar que «dejan atrás» a pueblos enteros. No es raro que pongamos nuestra esperanza en un potencial ilimitado, en formas de progreso que pueden agudizar las desigualdades, en soluciones inmediatas incapaces de sanar las heridas de los pueblos”. Y casi al final, en el mismo espíritu orteguiano, hablando sobre los ingenieros, nos recuerda: “Cuando uno se limita a mirar sólo a su propio sector, se engaña a sí mismo creyendo que realiza una tarea moralmente neutra y evita las preguntas sobre los fines últimos que orientan determinados experimentos: así se corre el riesgo de cooperar, tal vez sin quererlo, en proyectos oscuros que alimentan nuevas formas de violencia, manipulación y dominio”.
Otros pasajes, en cambio, tienen claras resonancias heideggerianas, como cuando afirma que “la técnica no es un simple instrumento y […], cuando se vuelve criterio, termina por establecer qué cuenta y qué puede descartarse, reduciendo la creación a un objeto de explotación y a las personas a engranajes de un sistema que sea cada vez más eficaz”.
La encíclica pone el énfasis en la noción de dignidad humana y en su protección, como cabía esperar dada la posición de la iglesia en cuestiones tecnológicas desde hace décadas, especialmente en lo que se refiere al desarrollo de las biotecnologías que pueden afectar al ser humano. Esta noción ha sido discutida ampliamente en la bioética y no goza de una aceptación unánime, dada su vaguedad y el uso abusivo que se ha hecho de ella, pero lo cierto es que, cuando se realiza el esfuerzo por concretar su significado en contextos concretos, sigue sirviendo para señalar algunas de las líneas rojas que la tecnología no debe saltarse. El precepto fundamental que se deriva de ella sigue siendo el que ya estableció Kant: no debe instrumentalizarse jamás a un ser humano. Esta dignidad, como subraya la encíclica, no puede hacerse depender de la eficiencia o productividad de una persona. Es igual para todo ser humano y reclama el mismo respeto, sea cual sea su condición o su conducta. Es una dignidad “ontológica” que tiene todo ser humano por el hecho de serlo y que nada puede disminuir. En esta dignidad ontológica, basada en la naturaleza humana, están fundados a su vez los derechos humanos. La IA, según la encíclica, puede atentar contra esta dignidad en la medida en que se constituya en una nueva forma de instrumentalización del ser humano, tratando a las personas como meros datos o sometiéndolas a explotación laboral en países pobres. Entre las violaciones de la dignidad, como es sabido, la iglesia incluye el aborto y la eutanasia, y aquí también se nos recuerda, insistiendo así en una posición que encuentra mucho menos apoyo social del que probablemente encontrará el análisis que se lleva a cabo sobre los peligros de la IA. Pero hay otra forma en que la IA, en el modo en que se está desarrollando, atenta contra la dignidad humana: cuando las nuevas formas de propiedad (“patentes, algoritmos, plataformas digitales, infraestructuras tecnológicas, datos”) se concentran en las manos de un pequeño número de empresas privadas y esto impide que se pongan al servicio del bien común y aumenten así las desigualdades sociales.
Sería ingenuo pensar que esta encíclica va a servir para que los magnates de la IA (o algún católico con poder, como J.D. Vance) caigan del caballo y empiecen a actuar de otro modo, pero seguramente contribuirá en el empeño de lograr una regulación internacional más efectiva. Su mensaje afectará tanto a creyentes como a no creyentes, porque su petición no depende en exclusiva de la fe, sino de un análisis humanista, si bien el interlocutor al que va dirigida es ante todo el creyente. Puede decirse que es una llamada de atención contra el tecnooptimismo ingenuo sin dejarse llevar por un espíritu neoludita, que parece estar de moda.
Hay indicaciones concretas aprovechables, aunque no novedosas. De lo que se trata, por el momento, es de potenciar la “planificación responsable, evaluaciones del impacto humano y social, inclusión de los más frágiles, alfabetización digital, investigación e industria orientadas a la justicia y la paz”. Y, al mismo tiempo, fomentar la participación ciudadana en el desarrollo de la IA mediante, por ejemplo, “auditorías independientes, transparencia en los algoritmos, acceso equitativo a los datos [y] herramientas de apelación”. Todo esto se ha dicho ya muchas veces y no parece que los magnates de Silicon Valley se hayan sentido especialmente concernidos.
Cierto que la encíclica sostiene que no basta con la regulación de la IA, sino que hay que “desarmarla y hacerla acogedora”, en el sentido de que debe impedírsele “el dominio sobre todo lo humano”, “sustraerla de los monopolios”, hacerla “habitable”. Aquí, en este concepto de “desarme”, sí hay algo novedoso. Pero para empezar a desarmar la IA, si es que se puede, lo primero que hay que hacer es regularla.
Encontramos también una referencia al transhumanismo y al posthumanismo como ideología que sustenta buena parte del pensamiento y de las decisiones de la élite tecnológica. Frente a ellos, el papa reivindica la vulnerabilidad del ser humano, que hace posible la manifestación de la solidaridad, de la relacionalidad y de la compasión, y, por ello, no debe ser vista como un defecto a corregir, tal como pretenden los transhumanistas. “El ser humano –nos dice– no florece a pesar del límite, sino a menudo a través del límite”. Hay aquí también un grave peligro encerrado: ver al ser humano como algo que debe ser tecnológicamente mejorado podría llevar con facilidad a considerar a los que no lo fueran como seres menos dignos o valiosos.
Con toda seguridad, habrá a quien esta encíclica decepcione porque esperaba mucho más, mayor beligerancia o radicalidad, por ejemplo, y, por supuesto, habrá también quien la considere tecnófoba y reaccionaria, sobre todo entre tecnófilos, que identifican cualquier análisis crítico de la tecnología con un ataque desnortado, y entre transhumanistas, largoplacistas, singularistas y otros miembros de las diversas variantes filosóficas tecno-obsesas. Probablemente, recibirá críticas destructivas en los próximos días; se dice ya incluso que ha sido escrita con la IA. Sin embargo, creo que esta encíclica es una pieza de gran importancia en lo que podríamos llamar el inicio de la resistencia contra el modo de proceder de los magnates de Silicon Valley, es decir, cabe la posibilidad de que se convierta en un referente obligado en los incipientes intentos de los ciudadanos y de ciertas instituciones por contener o frenar lo que allí se nos anuncia como inevitable, tal como demanda el título del último libro de Gary Marcus, un crítico bien informado de la ideología que se está fraguando en el temido y a la vez idolatrado valle y sus alrededores.
Ha habido ya otras iniciativas que han comenzado a mover el terreno, como el movimiento AI4SG, esto es, Artificial Intelligence for the Social Good (Inteligencia Artificial para el bien social), que trata de promover los 17 objetivos que estableció en 2015 la Asamblea General de la ONU encaminados a lograr el desarrollo sostenible. Hay más de un centenar de proyectos de investigación en IA en todo el mundo que se adhieren a este propósito. El objetivo central es desarrollar una IA que sirva para resolver o paliar los problemas más acuciantes que nos aquejan y para favorecer el bienestar de los seres humanos y el desarrollo compatible con el cuidado del planeta.
Más recientemente, bajo los auspicios de Karen Hao, la autora del bestseller El imperio de la IA, en el que se narran las peripecias de Sam Altman y los otros para conseguir el dominio de la IA, ha surgido La lista de Resistencia ante la IA (The AI Resist List), con el sano propósito de que los investigadores o simplemente las personas interesadas imaginen “alternativas radicales” que conduzcan a una IA diferente a la que nos están planificando un puñado de grandes empresas lideradas por multimillonarios con poca sensibilidad social, por decirlo suavemente. Y hay más ejemplos de resistencia, que no van tanto contra la IA en sí misma –repitámoslo– como contra el modo en que se la está diseñando y ejecutado, un modo que, como esta encíclica subraya, no solo no es neutral, sino que está ideológicamente cargado. Las encuestas vienen mostrando cada vez con más claridad que la opinión pública empieza a ver esta IA como un problema. Buena parte de la investigación que se hace en universidades nos indica, sin embargo, que otra IA es posible.
Muchas gracias por el contrapunto Antonio.
Un monarca absoluto de una teocracia del planeta gobernada solo por hombres y que cree que el ser humano fue creado por un ser imaginario escribe sobre una tecnología nueva citando a Tolkien y doscientas veces a la Biblia. Pero como se mete con los villanos de la época, los ricos, el pueblo asustadizo y los que ven peligrar sus trabajos le hace la ola, y una serie de académicos sacan del polvo de la historia nada menos que a Kant, Heidegger y Ortega, superados hace décadas, para asustar a las viejas con que viene Vance y que hay que resistir. El normal que estéis asustados porque la IA os va a quitar el trabajo, pero eso es porque vuestro trabajo lo puede hacer una máquina. No aportáis nada. Solo copiais las ideas de otro, como en este artículo. De todas formas, os va a dar igual, porque esto es imparable. Si no lo hace EE.UU. y Europa lo hará China, que es un país a quien se la pela lo que diga el Papa o una legión de filósofos inútiles que ya nadie lee. Es cuestión de elegir si quieres que los chinos lleven ventaja o si prefieres llevarla tú.
Qué gracioso, y cínico, lo de decir que el trabajo de millones de personas lo puede hacer una máquina y acusar a los demás de copiar las ideas de otros, cuando resulta que si la IA es capaz de hacer el trabajo de toda esa gente, es solamente porque ha sido entrenada precisamente con los textos creados por esa gente, sin pedir permiso ni ofrecer compensación alguna, literalmente un robo a escala gigantesca y totalmente impune. La premisa de los magnates de la IA es clara: ahora que nuestra herramienta ya ha robado todo el conocimiento y la creatividad humana, es nuestra herramienta la que merece compensación y premio, y no la mente humana, que ha quedado obsoleta y ya no nos es útil.
Acabaremos yéndonos todos al paro, y todo ese dinero que antes recibían los trabajadores, ahora irá a parar a la cuenta de resultados de una oligarquía empresarial liderada por una serie de megalómanos que quieren controlarlo todo. Pero según usted, esto es imparable (mentira) y de lo que hay que preocuparse es de la nacionalidad de los ladrones megalómanos; si son chinos, mal, si son europeos, entonces todo correcto.
El Papa se pregunta si la tecnologia es neutral ¿lo es la Iglesia?
Obviamente la Iglesia no es neutral. Lo que ocurre con la tecnología es que hay quienes han creído que sí lo es.
Ostras y la iglesia ¿sabe quiénes son?. Sus seguidores se puede creer en cualquier cosa?
no debe instrumentalizarse jamás a un ser humano. La exhibición que se realizó durante los entierros de los dos ultimos papas, apuntan en direccion contraria
En realidad, la tematización de la dignidad humana que hace la Iglesia Católica no es idéntica a la de Kant, sino que queda mejor expresada en los términos de Spaemann: la pregunta central es cuáles son los límites de la inevitable instrumentalización del otro. En cierto modo, pedirle a alguien que te acerque el salero en la mesa es instrumentalizarlo, pero no es un problema ético. El problema comienza cuando se trata al otro como MERO instrumento, es decir, se viola la dignidad humana no cuando se trata a otro como instrumento, sino cuando nuestro trato a otros se reduce o agota en su consideración como instrumento. El famoso dilema del trolley muestra con claridad el problema.
Si se piensa bien, no fue el mismo Dios que instrumentalizó a su hijo? Segun la rae
instrumento
Definición
Del lat. instrumentum.
m. Cosa o persona de que alguien se sirve para hacer algo o conseguir un fin
Cuando las nuevas formas de propiedad (“patentes, algoritmos, plataformas digitales, infraestructuras tecnológicas, datos”) se concentran en las manos de un pequeño número de empresas privadas y esto impide que se pongan al servicio del bien común
Cabe suponer que la iglesia, no es una empresa privada, y por tanto, sus propiedades, no se ven afectadas. Recordemos el uso histórico de las immatriculaciones, por parte de esta institució
Que grandes sois!!
Los comentarios precedentes indican que León XIV apuntó, y lo hizo muy bien. Hay mucha gente molesta -¡muy molesta!- por las advertencias de los peligros que supone el desarrollo de la IA en manos de una elite de plutócratas, y de los tecnócratas que les sirven. Roma (el Vaticano) ha cometido muchos errores en su larga historia, pero eso no desmerece el hecho de que representa la conciencia de la comunidad católica. La Encíclica ha llegado en el momento adecuado, con el tono adecuado.
Harar dijo lo mismo, mejor, pero claro no tiene tanto marqueting
¿Dónde colocar a China aquí? He estado leyendo sobre la encíclica desde su publicación y no encuentro a China. Tengo entendido que van a la par en esto y su camino parece otro aunque no mejor. Es como la amplísima difusión que se da sobre los logros espaciales de EEUU cuando no sabemos casi nada de los avances chinos. Lo mismo nos sorprenden y llegan los chinos antes a la Luna.
¿Y ahora Ernesto Castro? Voy a hacer lo propio. Reconozco que viajar para dar conferencias exclusivamente en universidades de Cuba y Venezuela y como mucho en Nicaragua y Uruguay te deja olor a sudorina.
Veo en muchos comentarios una limitación de mirada: como quien lanza el mensaje —la Iglesia— no merece respeto o tiene un historial cuestionable, todo lo que aporte carece de valor. Este mismo mecanismo lo reproducimos con obras de cine, novelas, autores cancelados… La tendencia a descartar el mensaje por la identidad del mensajero nos hace perder el foco de lo que realmente importa. Para estar a la altura de Jot Down diría que esto es la falacia ad hominem… Pero ahora no importa.
Y lo que importa aquí es el contenido: una advertencia sobre los riesgos reales a los que como ciudadanía estamos expuestos frente al avance de la IA, la concentración de poder en pocas manos privadas y la pérdida, nuevamente, del bien común. Mientras señalamos con el dedo al interlocutor, esos riesgos siguen avanzando sin control. Ya sabéis, seguro, que vamos tarde.
Y sí, también implica preguntarse qué intereses tiene la Iglesia en este mensaje. La Iglesia los tiene, como cualquier actor con poder e influencia, en este caso, esto es un análisis adicional, no una razón para descartar el argumento. Se pueden hacer las dos cosas a la vez: tomar en serio el contenido y tener actitud crítica sobre quien lo emite.
Interesante. Quizás sea falacia ad hominem. Pero me queda una duda, y estaré encantado de que me la aclare. Si la razón de ser de cualquier Papa, es la existencia de Dios, y ese argumento es una premisa cuestionable, ya que si no existiera Dios, cabe imaginar que no existirían Papas, ¿sigue vigente la falacia ad hominem?
Y lo pregunto, repito, por qué me pierdo. Y lo pido aquí, que seguro que encontraré respuesta. Gracias por adelantado
Es que quizás escucharía con agrado los comentarios de Robert Francis Prevost. Es matemático y su opinión es, sin duda, interesante. Me queda claro que, si lo atacara a él sería argumento “ad hominem”.
Antonio, me parece extremadamente difícil demostrar que una tecnología de computación de datos sea intrínsecamente inmoral, o que conlleve un peligro moral, o siquiera que no sea neutral moralmente. Todas las tecnologías hacen siempre lo mismo: manipular la materia y la naturaleza para conseguir algo que es de interés de los seres humanos, desde la piedra originaria del paleolítico hasta el programa de inteligencia artificial (que maneja energía para calcular y computar datos). Las únicas tecnologías que podrían ser manifiestamente inhumanas o inmorales serían aquellas que han sido diseñadas específicamente para destruir la naturaleza y a otros seres humanos por la destrucción misma, pero incluso en este caso, como es el de la bomba atómica, la moralidad es dependiente del lado en el que nos encontremos, pues el lado del que las usa no puede considerar nunca que está actuando inmoralmente al atacar a sus enemigos y defenderse de sus ataques. La moralidad es un asunto muy complicado.
La inteligencia artificial es una herramienta que parece que no cambia mucho la situación en la que estamos porque son programas de computación en los que la diferencia fundamental es la potencia, derivada de un hardware más potente, y unos programas que han dado un cambio en su programación y son capaces de hacer cálculos estadísticos, probabilísticos, e incluso de diseñar sus propios sistemas para calcular algo. En las redes sociales, la IA es un buscador de información como los preexistente pero más potente. En la robótica, sucede lo mismo, es un programa que hace procedimientos y movimientos pero más potente que lo que ya se estaba haciendo. En puridad, no hay nada especialmente inmoral o amoral en la IA.
Otra cosa es el acceso a esta tecnología y la capacidad para producir IA. En el futuro, las empresas, los gobiernos y cualquier corporación u organización que sea capaz de utilizar la IA para mejorar sus productos, servicios, procedimientos, incluidos los sistemas de comunicación con clientes, afiliados, creyentes y en general sus clientes, tendrán más éxito en su entorno político, económico y social. Además,, por supuesto, algunos trabajos cambiarán (como cambio el trabajo de sastre cuando empezó la industrialización y la mecánica). La nueva tecnología empezará siendo usada por una minoría, pero después se expandirá a toda la población, lentamente y con toda clase de crisis económicas sociales y políticas (como sucedió con la industrialización y las tecnologías del siglo XX).
Desde el punto de vista del diseño de la IA, si finalmente una sola corporación se hace con el monopolio, entonces todos tendremos serios problemas, pero eso se puede evitar.
No veo la moralidad en nada de esto.
Te recomiendo la lectura de mi libro «Pensar la tecnología». Contesto allí por extenso a estas consideraciones acerca de la neutralidad de la técnica. Gracias, en todo caso, por el comentario.