Llevo un tiempo trabajando con modelos de inteligencia artificial en local. Comencé haciéndolo por cuestiones de censura, todos los modelos actuales, tanto americanos como chinos son unos mojigatos o incorporan guardarraíles políticos e ideológicos que acaban dulcificando o directamente censurando contenidos. Empecé descargando esas decenas de gigas con denominaciones como Q4_K_M, IQ3_XS, que suenan a androides en la saga de Star Wars, para ver cómo funcionaban. Mis primeros «éxitos» eran desesperantes. Suelo pedirles a los modelos que me hagan las recetas del «Pollo en pepitoria» y no hay ninguno que lo haga correctamente, aunque se muestren muy coherentes en sus respuestas. El problema es que en un ordenador particular hay que descargar modelos muy recortados para que funcionen.
Los modelos completos en los que se basan estos otros que uso, aunque no están a la altura de los de vanguardia, ya pueden realizar muchas funciones administrativas corrientes como clasificar documentos, resumir expedientes, buscar información en bases de datos internas, redactar correos, preparar informes, revisar código o automatizar procesos repetitivos sin que cada operación tenga que pasar por un servidor externo ni generar una nueva factura por tokens. Esto para las empresas y los usuarios particulares es estupendo por dos razones principalmente: la cool que es la privacidad y la «buena» que es la económica. Entonces uno se puede preguntar: ¿por qué instalar en local un modelo «recortado» en vez del modelo completo?
La razón es de primero de economía doméstica: se necesita un ordenador muy caro para hacerlo. Concretamente, tiene que tener una tarjeta gráfica de 24 GB de memoria VRAM. ¡Ojo! No necesitamos un centro de datos, ni siquiera un servidor, solo una tarjeta gráfica de alta gama que antes se usaban para jugar al Fortnite. Estas tarjetas ahora cuestan unos 3.500€ cuando hace cuatro años costaban 1.500€. Sí, menos de la mitad. Y aquí aparece una de las paradojas de la burbuja de la inteligencia artificial: la propia IA está encareciendo el hardware que podría independizarnos de sus proveedores. Si no hubiera esta demanda loca de VRAM por parte de los centros de datos y extrapolando la reducción de precios del sector, el precio de estas tarjetas en 2026 sería de aproximadamente 750 €. Con ese hardware ya seríamos capaces de ejecutar con soltura los modelos sin recortar.
No obstante, si la mejora algorítmica continúa al ritmo reciente, ni siquiera será necesario que el hardware baje tanto. Por otro lado, Apple ha buscado otro camino con el que va a ganar mucho dinero. Sus procesadores no eliminan mágicamente la necesidad de memoria gráfica, pero permiten que CPU y GPU compartan la misma memoria física. AMD está haciendo algo parecido con procesadores pensados para inteligencia artificial. Su Ryzen AI Max+ 395 puede montar hasta 128 GB de memoria compartida y dedicar una parte muy grande de ella a tareas gráficas; la siguiente generación apunta ya a 192 GB. Esto permite ejecutar modelos grandes sin necesidad de comprar una tarjeta gráfica profesional con una cantidad enorme de VRAM. En estas máquinas, Qwen3.8-27B puede moverse ya a velocidades perfectamente utilizables. Al final, la pregunta deja de ser cuánta RAM o cuánta VRAM tiene el ordenador por separado y pasa a ser cuánta memoria total tiene disponible, lo rápida que es y cuánto cuesta.
Ahí es donde está el verdadero peligro para OpenAI y Anthropic. No creo que en septiembre de 2029 ambas estén necesariamente presentando concurso de acreedores. Anthropic ha comunicado a inversores dos trimestres consecutivos de beneficio operativo ajustado y márgenes brutos superiores al 80 % antes de determinadas partidas. OpenAI es un caso bastante más inquietante: una presentación interna conocida este mes prevé 278.000 millones de dólares de flujo de caja libre negativo entre 2026 y 2030, 856.000 millones de gasto en computación e infraestructura y que los 122.000 millones captados este año podrían agotarse en 2028. Pero una empresa capaz de captar 122.000 millones no quiebra automáticamente cuando se acaba el dinero: busca otros 122.000. Lo que sí puede quebrar en tres años es la justificación económica de pagar por cada token.
Supongamos una pequeña empresa que en 2029 pueda comprar por 800 euros una máquina específica para IA, amortizarla durante tres años y mantenerla trabajando ocho horas diarias. Son unos 22 euros mensuales de hardware. Incluso añadiendo electricidad, almacenamiento y mantenimiento, podemos estar hablando de 30 o 40 euros al mes por inferencia prácticamente ilimitada. En ese momento resultará difícil explicar por qué la contabilidad, el RAG interno, las traducciones, el primer borrador, buena parte de la programación o diez agentes rutinarios deben cruzar medio planeta y encender un centro de datos cada vez que necesitan completar una frase.
No desaparecerá la nube. Tampoco desaparecieron los restaurantes cuando inventamos la cocina doméstica. Quedará aquello que justifique salir de casa: el modelo incomparablemente mejor, el entrenamiento gigantesco, la investigación de frontera, servicios multimodales imposibles de reproducir localmente, la infraestructura empresarial, la actualización permanente y tareas en las que un 5 % adicional de inteligencia vale mucho dinero. Mi apuesta es que entre un 20 % y un 40 % del gasto que hoy hacemos en inferencia de propósito general podría migrar a dispositivos locales antes de terminar la década si el hardware vuelve a una curva normal de precios. No es una predicción publicada por nadie; es mi estimación a partir de la velocidad a la que están convergiendo modelo, cuantización y memoria.
OpenAI que está viendo las orejas del lobo se ha puesto las pilas mucho antes que el resto y en febrero comenzó a introducir publicidad en ChatGPT. En agosto anunció que esa actividad ya había alcanzado 1000 millones de dólares de ingresos anualizados. Es decir, empieza a parecerse precisamente a Google, Facebook y X —incluso en sus paneles de control de anuncios— y está dispuesta a regalar suficiente inteligencia para conservar la audiencia y cobrar a quienes necesitan llegar hasta ella. Anthropic ha elegido, por ahora, exactamente lo contrario: ha prometido que Claude seguirá sin publicidad y dice que pretende financiarse mediante empresas, desarrolladores y suscripciones. Puede que ahí esté la equivocación de mi propia profecía. Quizá OpenAI y Anthropic no vayan a quebrar y solo hagan lo que ya hicieron muchas otras grandes compañías tecnológicas: abandonar discretamente el negocio que creíamos que tenían. Porque el enemigo de una empresa que vende inteligencia no tiene por qué ser otra empresa que venda una inteligencia mejor. Puede ser un ordenador de 800 euros colocado debajo de la mesa que, después de comprado, no vuelve a pasar una factura.
Interesante, pero es idea de que los restaurantes pudieron existir antes que la cocina doméstica…
Aqui se suma además otra guerra.. computación en la nube vs computación en el edge…
China que va a controlar y domina la fabricación y la venta de HW apuesta por edge/local por que vende HW, por eso publica modelos libres.. además empresas como la Vasca Multiverse desarrollan modelo comprimidos.. que no es optimizado a un ámbito, literalmente es cortar el 50% de las ramas que aportan el 5% del conocimiento (que se pierde).
Por el otro lado USA que perdió la guerra del HW y apostó por el cloud. Su súper modelos pueden ser claves en discovery de moléculas, medicamento, no lo dudo pero es lo que dices, no son rentables para tarifas planas del 20€ mes para programar, o pequeños agentes especializados…
Y de ahí la segunda lectura.. los centros de datos y las inversiones que se están mezclando como bonos AAA como hicieron con las hipotecas subprime y que nos comeremos…
Así que lo importante no es si quebraran, es si lo pagaremos con nuestro dinero.
Lo de la cocina y el restaurante no queda muy claro, yo habría dicho algo más como que los servicios de comida a domicilio no acabaron con los restaurantes, pero bueno, yo venía a comentar mi experiencia.
Hace unas semanas me regalaron un Mac Mini M4 con 16GB de RAM. No es lo último, no es lo mejor, pero me está permitiendo juguetear con la IA a nivel doméstico sin gastarme dinero en tokens. Por ejemplo, he creado un pequeño programa que ejecuta el modelo qwen2.5vl:3b en local y lo estoy usando para que me analice mi biblioteca de fotos. Me está creando un índice con una descripción de lo que sale en cada foto y una serie de palabras claves de cada uno… y directamente en español. Gracias a esto tengo puedo hacer búsquedas por temas o conceptos concretos, algo impensable antiguamente. Antes había que clasificar cada foto a mano. Y ahora, en todo caso, hay que revisar lo que no termine de cuadrar, pero la verdad es que la calidad de la primera criba es impresionante.
Yo coincido bastante con la predicción de Ángel, los grandes modelos de IA, los modelos de frontera, no están pensados para el gran público. Ya tenemos que decidir entre si pagar la suscripción de Filmin o la de Disney Plus, como para ahora tener que añadir una suscripción más a servicios como Anthropic, OpenAI o la próximamente extinta Perplexity. El público general utilizará servicios capados y llenos de publicidad para tareas sencillas, y los que tengan un mínimo de conocimientos se montarán su equipo en local. La «miérdificación» es el camino, tal y como describe el libro de Cory Doctorow.
En cualquier caso, la burbuja tiene que reventar y acabar reorganizando todo el tablero de juego. Quizás no desaparezcan las grandes fundadoras (quién pega primero, pega dos veces), pero todo no puede seguir creciendo al ritmo que lo hace a día de hoy. Ni las empresas de IA, ni los centros de datos.
Tarde o temprano, el pueblo llano empezará a quejarse de que ya no puede comprarse un móvil, un ordenador o una nevera porque la RAM no ha parado de subir. Llegará ese día en el que el «Hype» de la IA se acabe y la gente vuelva la mirada a su vida y sus problemas de siempre: vivienda, salarios, corrupción política…
Preparad las palomitas, y el kit de supervivencia… por si acaso.
Si deepseek fue un cañonazo a la línea de flotación, el próximo lanzamiento chino es hundimiento seguro.
OpenAI y Antropic no aportan nada en la parte de hardware, al final nos alquilaran licencias de sus modelos, que usaremo en local y pagaremos un parte minima.
O… prohibirán todo los modelos locales por:
Contener programas de vigilancia Chinos (o de EEUU, o de Samoa, país de gordos agresivos);
Por que los utilizarán los carteles para diseñar nuevas drogas de diseño (¿Es que nadie piensa en los niños?);
Porque la guerra más barata de todas es la química (no la biológica, chavales) y los modelos locales permitirán diseños de gas sarin++ en la cocina de casa;
Porque… no se me ocurre nada más, ahora mismo, pero hay un puñado de Think Thank preparando excusas; mas o menos las mismas que usaron para prohibir sistemas criptográficos de alta potencia, ¿Recordáis la movida? ¿Eran los Intel Atom los que llevaban el modulo cripto integrado en el hardware? ¿O me estoy liando?
Quizás ahora se entienda mejor la cosa esta de que pidan las mismas majors la limitación de la IA. Lo que quieren limitar es el acceso a los particulares.
¿No os parece una posibilidad?
Saludos.
Excelente artículo. Gracias. Tan solo echo de menos que en las predicciones también se incluya el hecho de que los modelos evolucionarán y cada vez serán mejores, precisamente a costa de exigir más recursos. Aunque baje el precio del hardware, necesitaremos cada vez más para poder ejecutar los modelos más recientes. Que será los que querremos ejecutar porque serán más precisos, más rápidos, más «inteligentes»…
Prohibir los modelos locales sería cruzar líneas rojas. Os comparto un artículo de Linkedin sobre lo que ha montado un profesor de secundaria en un Instituto valenciano. Es muy relevante, echadle un ojo: https://www.linkedin.com/pulse/un-instituto-p%C3%BAblico-con-ia-propia-la-plataforma-capa-edu-torregrosa-adgae/
Interesantísimo trabajo el de este profesor. Las posibilidades son casi infinitas. Pero soy pesimista, auguro que las Comunidades Autónomas llegarán a un acuerdo educativo con Google, que les dejará usar Gemini por un «módico» precio y una oferta de puertas giratorias que no podrán rechazar. Y se acabará la veleidad de ser autosuficientes en IA.
Muy interesante. Añadiría una dimensión que suele quedar fuera de este debate: nube o local no es solo una cuestión de coste, sino de estructura de costes.
Con APIs en la nube, el coste de la IA es variable y depende del precio de la inferencia, que no controla la empresa. Ese precio ha bajado mucho con cada generación de modelos, pero también puede subir cuando falta capacidad. En un working paper reciente lo llamo la “beta de cómputo”: cuánto se mueve el margen de una empresa cuando cambia el precio de la IA. Dos compañías con el mismo margen hoy pueden tener riesgos muy distintos según cuánto dependan de la nube.
La inferencia local cambia esa exposición por otra: menos dependencia del proveedor, pero más coste fijo, inversión en hardware y riesgo de que se quede obsoleto. Probablemente la respuesta correcta no sea una u otra, sino saber medir cuánta exposición se está asumiendo en cada caso. ( paper: https://zenodo.org/records/23081880)