La mayoría de los equipos de TI europeos que integraron herramientas de IA en 2025 tomaron la misma decisión arquitectónica por omisión: llamar a una API de modelo, lanzar una funcionalidad y seguir adelante. El costo por token era visible, el despliegue era rápido y la infraestructura parecía intacta. Lo que cambió silenciosamente fue todo lo que había debajo: el crecimiento del almacenamiento, las facturas de egreso, la latencia de red y el ajuste de cuentas inevitable cuando el uso escaló. La planificación de capacidad de infraestructura para IA no es un problema que aparece en la fase de prototipo; es el problema que llega seis meses después de entrar en producción.
El gasto global en infraestructura cloud alcanzó los 399.600 millones de dólares en el año completo 2025, un 24% más interanual, y Omdia señaló explícitamente que la demanda de IA ya no se limita al cómputo con GPU. Está impulsando una carga de infraestructura más amplia en CPUs, almacenamiento y redes. El gasto empresarial en IA generativa saltó de unos 11.500 millones de dólares estimados en 2024 a 37.000 millones en 2025. Solo los costos de las API de modelos se duplicaron hasta los 8.400 millones de dólares. El dinero se mueve rápido, pero la medición no sigue el ritmo: solo el 51% de las organizaciones puede evaluar con confianza si sus inversiones en IA están generando retornos.
Esa brecha entre el gasto y la visibilidad es donde vive el verdadero riesgo de infraestructura.
La factura de inferencia no es la factura de infraestructura
Presupuestar la IA en función del precio de inferencia por token es como presupuestar un vehículo según el precio de etiqueta. El costo de inferencia es real, pero en la mayoría de los entornos productivos representa solo una fracción del costo total de infraestructura de IA. El cómputo con GPU en sí representa apenas entre el 30 y el 40% de la inversión real en infraestructura. El resto son tarifas de recuperación en bases de datos vectoriales, generación de embeddings, crecimiento del almacenamiento, egreso entre regiones, reintentos de agentes, capacidad GPU ociosa y herramientas de desarrollo que nadie rastrea de forma centralizada.
Los presupuestos promedio de IA empresarial alcanzaron los 85.521 dólares mensuales en 2025, un 36% más que el año anterior. Sin embargo, los costos ocultos que multiplican esa cifra rara vez aparecen en la página de precios del LLM. Los pipelines de RAG gestionados tienen tarifas mínimas mensuales elevadas por almacenamiento dedicado y bases de datos vectoriales. Los costos de consulta escalan con el tamaño del índice, por lo que la misma búsqueda puede costar diez veces más cuando los datos crecen de 10 GB a 100 GB. Los embeddings, el reranking, las copias de seguridad y la reindexación pueden duplicar el gasto real en producción antes de que alguien lo note.
El precio por token es lo que se cita en cada decisión arquitectónica. A menudo no es el costo dominante una vez que se opera a escala.
Amplificación agéntica: cuando un flujo de trabajo se convierte en un evento de costos
Los costos de inferencia representan ahora entre el 80 y el 90% del gasto total en IA, pero los flujos agénticos cuestan entre 5 y 25 veces más que las interacciones de chat estándar. El mecanismo es el fan-out de subagentes: un agente de IA genera múltiples subtareas, cada una consumiendo tokens y cómputo, a menudo sin un límite fijo. Un incidente empresarial documentado produjo una factura de 47.000 dólares a partir de un único flujo agéntico que se expandió más allá de su alcance previsto. Eso no es una anomalía de facturación; es el comportamiento esperado de una arquitectura sin controles de gasto.
Las cargas de trabajo agénticas también cambian el perfil de red del despliegue. Una sola solicitud de usuario que desencadena una cadena de llamadas a herramientas, pasos de recuperación e invocaciones de subagentes genera mucho más tráfico de ida y vuelta que una simple completación de chat. Si el endpoint de inferencia y el almacén vectorial están en zonas de disponibilidad diferentes o en regiones cloud distintas, se pagan tarifas de transferencia de datos en cada salto de esa cadena, con independencia del egreso hacia internet.
La capa de red que nadie está vigilando
El movimiento de datos es donde los costos de infraestructura de IA se vuelven genuinamente difíciles de predecir. Mover ventanas de contexto grandes entre regiones cloud genera tarifas de egreso elevadas, típicamente entre 0,08 y 0,12 dólares por GB en redes de los principales proveedores cloud. La transferencia de datos entre zonas de disponibilidad en AWS cobra 0,01 dólares por GB en cada dirección; en un despliegue de inferencia multi-AZ con alto tráfico, esto se acumula con independencia del tráfico externo. Las discrepancias de rendimiento entre almacenamiento y cómputo dejan las GPU ociosas durante la carga de datos, inflando el costo por token sin ningún aumento en la producción útil.
Aquí es donde la arquitectura de red importa para medir el impacto en la infraestructura de IA, no solo para el rendimiento. Operamos 44 puntos de presencia en Europa y Oriente Medio, con peering directo a AWS, Azure, GCP, Oracle y Cloudflare en cada sitio. Para cargas de trabajo que abarcan una API de proveedor cloud e infraestructura on-premises o en colocation, esa topología de peering acorta el camino físico y reduce la superficie de egreso donde se acumulan los cargos. La consecuencia es medible: menos saltos implica menor latencia en cadenas agénticas y una factura de transferencia entre regiones más baja.
Carga de trabajo GPU vs. llamadas a API: el umbral del autoalojamiento
Para los equipos que evalúan los costos de API de LLM frente a la inferencia autoalojada, la economía es ahora razonablemente clara. La inferencia autoalojada amortizada en GPU modernas ha caído a aproximadamente entre 0,02 y 0,11 dólares por millón de tokens. Las API cloud de nivel medio y frontera rondan entre 3 y 30 dólares por millón de tokens. El punto de equilibrio para el autoalojamiento se produce alrededor de los mil millones de tokens mensuales; a esa escala, el margen de las API de 10 a 30 veces se vuelve prohibitivo.
Pero la inferencia autoalojada no es solo una compra de GPU. Los requisitos de hardware escalan con el tamaño del modelo: los modelos de 7.000 millones de parámetros necesitan aproximadamente 3,5 GB de VRAM con cuantización de 4 bits, mientras que los modelos de 70.000 millones requieren 35 GB o una configuración multi-GPU. La H100 SXM es el estándar de producción actual para inferencia de LLM, con 80 GB de HBM3 y 3,35 TB/s de ancho de banda de memoria. La GPU es un componente; el resto del stack, incluyendo orquestación, API gateway, balanceador de carga, monitoreo y lógica de autoescalado, tiene su propio overhead operativo.
También existe un umbral de número de usuarios, entre aproximadamente 500 y 5.000 usuarios activos, donde las API de inferencia cloud compartida dejan de ser viables y la infraestructura autoalojada se vuelve necesaria. En ese punto de inflexión, los costos de infraestructura pueden multiplicarse entre 3 y 5 veces de la noche a la mañana si el equipo no lo ha planificado. La ineficiencia en la utilización de GPU es la mayor fuga de costos en el lado del autoalojamiento: una GPU funcionando al 10% de carga infla el costo por token diez veces, y la capacidad autoalojada debe aprovisionarse para la demanda pico, dejando recursos costosos ociosos durante los períodos de baja actividad.
Cómo es realmente la planificación de capacidad para IA
La planificación de capacidad de infraestructura para IA requiere tratar el stack de IA como un sistema distribuido, no como una línea de servicio de terceros. Eso implica instrumentar el throughput de tokens y la latencia en la capa de aplicación, rastrear el egreso por separado según el destino (misma región, entre zonas de disponibilidad, entre regiones, hacia internet), monitorear la utilización de GPU frente a una banda objetivo en lugar de simplemente vigilar errores, y establecer límites de gasto fijos en los flujos agénticos antes de que lleguen a producción.
También implica decidir con anticipación si la trayectoria de la carga de trabajo apunta hacia la inferencia autoalojada. Si te estás acercando a los mil millones de tokens mensuales, la economía de las API ya no juega a tu favor. Si los flujos agénticos generan un fan-out impredecible, se necesitan limitación de tasa y controles de costo antes de que la arquitectura quede fijada. Ninguna de estas decisiones tiene que ver principalmente con el modelo de IA; ambas son decisiones de infraestructura que deben tomarse con el mismo rigor que aplicarías a una migración de base de datos o a un cambio de nivel de almacenamiento.
Los equipos que gestionarán eficazmente los costos cloud de IA en 2026 no serán los que tengan la mejor selección de modelos. Serán los que trataron la adopción de IA como un problema de planificación de capacidad desde el primer despliegue en producción, no después de la primera factura sorpresa.
