Las decisiones más graves de una sociedad rara vez se adoptan sobre certezas absolutas. Se adoptan, más bien, sobre relatos que consideramos suficientemente fiables. Ninguna gran potencia moviliza a sus fuerzas armadas porque tenga la certeza matemática de que su adversario prepara una agresión; lo hace porque un conjunto de indicios, informes y análisis convergen en una conclusión que, sin ser definitiva, resulta lo bastante verosímil como para justificar la acción. Ese delicado equilibrio entre certeza y conjetura es el que sostiene la convivencia internacional, y es precisamente el equilibrio que la inteligencia artificial ha comenzado a perturbar.
La tecnología ha irrumpido en ese espacio de confianza con una promesa seductora: procesar volúmenes ingentes de información y ofrecer conclusiones en cuestión de segundos, con una apariencia de solidez que invita a confiar. Pero cuando esa promesa se deposita en manos de quien debe decidir si se aborda o no una embarcación sospechosa, el margen entre la eficiencia y la catástrofe se vuelve peligrosamente estrecho.
Un episodio reciente, conocido a través de fuentes militares y periodísticas, ilustra hasta qué punto hemos delegado en sistemas opacos la construcción de la realidad sobre la que después actuamos. Al parecer, un analista del Mando de Operaciones Especiales del Pacífico consultó a un chatbot sobre el manifiesto de carga de un buque chino que navegaba por una región vigilada. La herramienta procesó simultáneamente datos procedentes de fuentes abiertas e información secreta de inteligencia de señales del Gobierno estadounidense, y al fusionar ambas bases concluyó, de forma errónea, que la embarcación transportaba material relacionado con un programa de armas nucleares.
El analista, lejos de contrastar el resultado con otras fuentes, volvió a servirse de la inteligencia artificial para redactar un informe militar que recogiera aquellos hallazgos. Ese documento circuló por canales oficiales sin pasar por una verificación humana suficiente. El resultado fue una movilización de unidades navales y aéreas, planes específicos de interceptación, tropas armadas preparadas para subir al buque y varias aeronaves sobrevolando la zona.
La operación se abortó en el último instante, cuando se descubrió que todo el edificio se sostenía sobre una alucinación algorítmica, es decir, sobre uno de esos fallos conceptuales que los modelos de lenguaje producen con una naturalidad desconcertante. Una de las fuentes consultadas calificó el informe de completamente falso y aseguró que el incidente casi inició una guerra. Ello me lleva a pensar que no estamos ante un simple fallo técnico, sino ante una fractura en los cimientos epistémicos sobre los que se asienta la autoridad.
Tradicionalmente, la cadena de mando militar se ha sostenido sobre principios de responsabilidad, jerarquía y contraste de fuentes. Cada eslabón de esa cadena sabe a quién responde y por qué. La irrupción de herramientas generativas introduce, en cambio, un eslabón que no responde a ninguno de esos principios. El algoritmo no jura lealtad a una constitución, no asume consecuencias jurídicas, no puede ser interpelado en un consejo de guerra ni experimenta el peso moral de una decisión que puede costar vidas.
Sin embargo, su output adquiere la apariencia de un informe oficial, con formato, lenguaje técnico y aparente respaldo documental. ¿Quién responde entonces? ¿El analista que confió en la máquina, el programador que la diseñó, el mando que autorizó la operación o el sistema mismo, incapaz por definición de rendir cuentas? Esta pregunta, que en el ámbito civil ya resulta incómoda, en el terreno militar adquiere una gravedad existencial, porque de ella depende que la responsabilidad por un error catastrófico pueda seguir atribuyéndose a alguien concreto.
Hay un factor adicional que agrava el problema: la velocidad. La llamada estrategia de aceleración de inteligencia artificial impulsada desde el Pentágono persigue precisamente eliminar barreras burocráticas y democratizar el acceso a estos modelos en todos los niveles de clasificación, con el objetivo declarado de poner los modelos estadounidenses directamente en manos de sus tres millones de civiles y militares. La lógica es comprensible en un contexto de competencia geopolítica, donde cada mes de retraso puede traducirse en una desventaja estratégica.
No obstante, acelerar la adopción de sistemas probabilísticos en entornos donde un error puede desencadenar un conflicto armado supone asumir un riesgo que ninguna doctrina militar clásica habría tolerado. Los protocolos tradicionales de verificación, contraste y autorización escalonada existían precisamente para compensar la falibilidad humana; sustituirlos por la confianza en una máquina que yerra con la misma seguridad con la que acierta equivale a desmantelar esos diques sin construir otros. Ello me obliga a deducir que la eficiencia, cuando se convierte en valor supremo, puede erosionar los mecanismos de prudencia que durante décadas han evitado lo peor.
Se ha señalado, además, que buena parte de las herramientas internas utilizadas en el ámbito de la defensa son adaptaciones de modelos comerciales, con ajustes superficiales. Un antiguo alto cargo estadounidense lo describió con una expresión reveladora: las herramientas internas son, en su mayoría, copias del material comercial con pintalabios. Si el sistema que asesora a un analista comparte arquitectura, sesgos y limitaciones con el que cualquier ciudadano usa para redactar un correo o resumir un documento, la frontera entre información verificada y alucinación se difumina peligrosamente.
No se trata solo de que la máquina yerre, sino de que lo haga con la misma seguridad con la que acierta, sin señales externas que permitan al usuario distinguir un caso del otro. Esa confianza injustificada, especialmente entre usuarios jóvenes formados en la cultura digital y acostumbrados a interactuar con estas herramientas como si fueran oráculos, constituye un caldo de cultivo para decisiones equivocadas adoptadas a gran velocidad. La inteligencia artificial, como se ha dicho, permite llegar más rápido a una idea errónea.
La cuestión de fondo trasciende el incidente concreto. Si las grandes potencias integran la inteligencia artificial en sus procesos de inteligencia y mando sin establecer controles humanos robustos, el riesgo de escalada accidental deja de ser una hipótesis de laboratorio y se convierte en una posibilidad estadísticamente probable. La historia de la Guerra Fría está llena de momentos en los que un fallo técnico o una interpretación errónea estuvo a punto de desencadenar lo irreparable, desde falsas alertas de radar hasta errores de traducción en comunicaciones críticas.
Ha de reseñarse que la diferencia ahora es que entonces los sistemas eran opacos pero auditables; ahora son opacos y, en muchos casos, inescrutables incluso para quienes los diseñan. La velocidad a la que se adoptan estas tecnologías en el ámbito militar multiplica las ocasiones de error, mientras que la complejidad de los modelos reduce las posibilidades de detectarlo a tiempo.
En resumidas cuentas, el episodio del informe falso no debería leerse como una anécdota desafortunada, sino como una advertencia estructural. La inteligencia artificial puede amplificar nuestra capacidad de análisis, pero también nuestra capacidad de errar con consecuencias devastadoras.
Si queremos que la tecnología sirva a la seguridad y no la socave, habrá que reconstruir con urgencia los diques de verificación, responsabilidad y prudencia que la velocidad promete derribar. La paz, a veces, depende de que alguien se detenga a comprobar si lo que la máquina afirma es cierto. Y ese alguien, por ahora, solo puede ser humano.
