LLMs On-Premise: Cuándo Tiene Sentido en la Empresa

Desde el 2 de agosto de 2026, una empresa que opere un modelo de IA de propósito general en la Unión Europea puede recibir una multa de hasta 35 millones de euros o el 7% de su facturación global, lo que sea mayor, por prácticas prohibidas — y hasta 15 millones o 3% por incumplir las nuevas obligaciones de transparencia (Comisión Europea). No es una amenaza teórica: la Oficina de IA de la Comisión Europea ya tiene poder de fiscalización activo sobre estos modelos.

La pregunta que esa fecha instaló en cada comité de tecnología no es si cumplir, sino dónde vive el modelo que procesa los datos de la empresa. Esa pregunta —nube pública o infraestructura propia— dejó de ser una decisión de arquitectura y pasó a ser una decisión de exposición legal.

El gasto ya cambió de dirección

Gartner proyecta que el gasto mundial en IA llegará a US$2.59 billones en 2026, un alza de 47% respecto al año anterior — y de ese total, la infraestructura (servidores optimizados para IA, redes, semiconductores) sola suma US$401 mil millones. Los servidores optimizados para IA superaron a los servidores tradicionales en ventas en 2025 y Gartner proyecta que crecerán otro 49% en 2026, hasta cerca de US$300 mil millones (Gartner).

El dato importante no es el tamaño del gasto — es hacia dónde se mueve. Gartner describe 2026 como el "año de inflexión" donde el gasto en IA deja de estar liderado por los hyperscalers (los proveedores de nube) y pasa a estar liderado por las propias empresas. Eso es, en la práctica, más organizaciones comprando o alquilando su propia capacidad de cómputo en vez de pagar por token a un proveedor externo.

Desplegar no es lo mismo que capturar valor

McKinsey reporta que 72% de las empresas ya tenían al menos una carga de trabajo de IA en producción para el primer trimestre de 2026 — frente a 55% en 2024 y apenas 20% en 2020. El despliegue dejó de ser el cuello de botella.

Pero solo 6% de las organizaciones califica como "alto desempeño" en IA — el estándar que McKinsey usa es que más del 5% del EBIT de la empresa sea atribuible directamente a IA. El resto despliega modelos sin capturar el retorno. McKinsey encuentra que los que sí lo logran comparten un patrón: rediseñaron procesos completos (no solo insertaron un chatbot), midieron resultados con rigor, e invirtieron en infraestructura pensada para escalar — no en un experimento aislado corriendo sobre una API externa sin control de costos ni de datos.

Tener el modelo desplegado en la nube o en infraestructura propia no determina por sí solo si una empresa captura valor. Pero si los datos que entrenan y alimentan ese modelo no están bajo control de la organización, es más difícil auditar, medir, y rediseñar el proceso con la rigurosidad que McKinsey asocia al alto desempeño.

El cálculo de costo real

Migrar a infraestructura propia no es gratis ni rápido. Los análisis de costo total de propiedad disponibles para 2026 coinciden en un rango: una inversión inicial de entre US$50,000 y más de US$500,000 en hardware, dependiendo de la escala, con costos operativos anuales adicionales. A cambio, el costo por inferencia cae entre 40% y 60% frente a pagar por token en una API externa, una vez amortizada la inversión.

El punto de equilibrio depende del volumen de uso: equipos con consumo moderado suelen recuperar la inversión entre 6 y 12 meses; equipos con volúmenes menores pueden tardar 18 a 24 meses en cruzar ese punto. Por debajo de cierto volumen, la nube sigue siendo la opción matemáticamente correcta — no hay forma de que la infraestructura propia gane si el uso es esporádico.

El análisis de Primaris

Este es el terreno donde tenemos más experiencia directa, y la postura no es "todo on-premise" ni "todo nube" — es que la mayoría de empresas está resolviendo la pregunta equivocada.

Cuándo recomendamos on-premise:

1. Cuando el dato es el activo, no el modelo. Si lo que procesa el sistema son documentos legales, financieros o de clientes que no pueden salir del perímetro de la empresa por regulación o por riesgo reputacional, la conversación sobre costo es secundaria — es una decisión de gobernanza primero.
2. Cuando el volumen es predecible y alto. Un proceso que corre todos los días, a la misma escala, es exactamente el caso donde el cálculo de costo por inferencia favorece infraestructura propia con el tiempo.
3. Cuando la latencia importa de verdad. Sistemas que necesitan respuesta casi instantánea (no un chatbot de atención al cliente, sino un proceso operativo en tiempo real) rinden mejor sin la vuelta de red hacia un proveedor externo.

Cuándo recomendamos quedarse en la nube:

1. Cuando el uso es intermitente o impredecible. Pagar por token sigue siendo más barato que mantener hardware ocioso la mayor parte del tiempo.
2. Cuando se necesita el modelo más capaz disponible, no uno suficientemente bueno. Los modelos de frontera siguen apareciendo primero en la nube — replicar esa capacidad on-premise tiene un costo de oportunidad real.
3. Cuando la empresa no tiene aún la disciplina operativa para sostener infraestructura propia. Migrar a on-premise sin el proceso de gobernanza de datos ya maduro es la forma más común de convertir una decisión de ahorro en un proyecto de infraestructura descontrolado.

El error que vemos con más frecuencia en el mercado peruano no es elegir mal entre nube y on-premise — es no tener, todavía, la claridad operativa para saber cuál de las dos opciones responde a su propio caso.