Jot Down para la Universidad Pontificia Comillas
En enero de 2021 el Gobierno de Mark Rutte dimitió en bloque tras destaparse uno de los mayores escándalos administrativos de la historia reciente de los Países Bajos. Se descubrió que, durante años, la Hacienda neerlandesa había acusado injustamente a decenas de miles de familias de defraudar en las ayudas al cuidado infantil, apoyándose, entre otros instrumentos, en un sistema algorítmico de evaluación de riesgos que utilizaba la nacionalidad como criterio. Las consecuencias de esta metedura de pata administrativa con ideología subyacente fue que muchas de estas familias tuvieran que devolver cantidades que no debían llegando en algunos casos a provocar la pérdida de sus viviendas y la separación de sus progenitores. La máquina no había decidido sola, detrás estaban las normas, los funcionarios y los responsables políticos que validaron los resultados. Los políticos consiguieron que decisiones humanas profundamente injustas adquirieran apariencia de una evaluación objetiva.
En Aragón se levantan estos meses algunos de los mayores centros de datos de Europa, con inversiones anunciadas por decenas de miles de millones de euros, y el debate público —cuando lo hay— se concentra en los megavatios, en los hectómetros cúbicos de agua para refrigeración que se consumirán a la par que los tokens y en las expropiaciones de suelo que serán «necesarias» para alojar estas infraestructuras que tendrán que realizarse. Para los aragoneses la nube ha dejado de ser una abstracción para convertirse por arte de birlibirloque en algo muy tangible: territorio, red eléctrica y acuíferos. Las decisiones sobre qué se construye y a cambio de qué se toman a la velocidad del sonido dejando poco tiempo para que nos preguntemos a quién se beneficia y quién se deja fuera. Es necesario cuestionar este acelerado despliegue de la inteligencia artificial desde un enfoque diferente: quién está pensando lo que se da por inevitable.
Cristina Sanjuan, directora del Máster en Filosofía de la Inteligencia Artificial de la Facultad de Ciencias Humanas y Sociales (Comillas CIHS) de la Universidad Pontificia Comillas, lleva tiempo insistiendo en que el problema de fondo tiene forma de desencuentro. «Este máster nace para juntar dos mundos que han crecido de espaldas —explica—, el de quienes construyen la tecnología y el de quienes tienen las herramientas para pensarla». A primera vista parece que esos mundos ya se han reconciliado, porque las grandes tecnológicas están contratando filósofos y especialistas en ética para garantizar que sus productos estén «al servicio de la humanidad». Sanjuan reconoce el valor del gesto y a continuación señala su límite, que es el marco en el que ocurre, el de una empresa con sus objetivos y sus tiempos, donde el riesgo evidente es que «el pensamiento llegue después, como una capa de justificación sobre algo que ya se ha decidido».
Lo que ella reclama es un cuerpo de pensamiento anterior, hecho de conceptos, distinciones y preguntas que permitan entender qué está pasando antes de aceptarlo como un hecho consumado, porque casi todo lo que hoy parece inevitable fue en algún momento una decisión. El obstáculo es tanto de dinero como de ritmo, ya que las inversiones se cuentan por miles de millones y los avances técnicos se encadenan a un ritmo vertiginoso, mientras que el pensamiento avanza más despacio, «y no por torpeza», matiza Sanjuan, sino porque es de todos, se genera en común y se comparte sin que nadie le destine presupuestos comparables.
Esa brecha está produciendo, en tiempo real, una demanda de perfiles que hace cinco años apenas estaban definidos. El Reglamento Europeo de Inteligencia Artificial, que ya aplica parte de sus disposiciones y desplegará las principales obligaciones sobre sistemas de alto riesgo entre 2027 y 2028, está obligando a empresas y administraciones a revisar cómo evalúan, supervisan y justifican el uso de estas tecnologías, aunque no se trata únicamente de cumplimiento normativo. Gobernar la IA, en palabras de Sanjuan, no consiste solo en poner límites sino en decidir hacia dónde queremos ir, y para eso hacen falta personas capaces de distinguir lo que un sistema hace de lo que se dice que hace, de detectar qué decisiones se están delegando sin que nadie haya decidido delegarlas, de traducir entre el lenguaje técnico y el de las consecuencias humanas y de preguntarse quién recogió los datos y bajo qué criterio ordenó el mundo. No sabemos todavía cómo se llamarán muchos de esos puestos; sí sabemos qué capacidades exigirán.
Para cubrir todos esos puestos se necesita formar a nuevos profesionales. Sanjuán recalca que el Máster en Filosofía de la Inteligencia Artificial es uno de los primeros en hacerlo en España. “Se articula en tres módulos que se necesitan mutuamente. El primero enseña cómo funcionan de verdad los sistemas de IA, lo suficiente para saber dónde mirar y qué preguntar sin pretender convertir a nadie en ingeniero. El segundo aporta los conceptos filosóficos para pensar qué significa comprender, decidir o conocer cuando una parte de esas operaciones la ejecuta una máquina. El tercero se ocupa de las consecuencias sociales, éticas y políticas, de quién responde cuando delegamos una decisión y de qué ocurre con la libertad en una sociedad cada vez más vigilada”.
Todo ello desemboca en un proyecto integrador en el que los alumnos aplican lo aprendido a un caso real, como los de Países Bajos o Aragón de los que se hablaba al principio. Sin embargo, queda la pregunta que Sanjuan considera más difícil de responder. Los sistemas de IA aprenden del pasado y tienden a proyectar el futuro como una prolongación de lo que ya hicimos, de modo que la duda relevante ya no es si las máquinas llegarán a pensar como nosotros, sino si nosotros acabaremos pensando como ellas, mirando hacia atrás. Pensar la IA es, al cabo, defender nuestra capacidad de imaginar un futuro que no está en los datos.
