El mercado de IA agéntica crece a un ritmo tal que las decisiones de dimensionamiento que tomes hoy serán críticas el próximo año. Fortune Business Insights sitúa el mercado de 2025 en torno a 7.300 millones de dólares, con Europa representando 2.310 millones; Grand View Research proyecta una tasa de crecimiento anual compuesto del 49,6% hasta 2033. Las cifras varían según el analista, pero la dirección es inequívoca. Lo que los titulares ocultan es que solo el 2% de las organizaciones han desplegado IA agéntica a escala y, según el informe anual de IA 2025 de McKinsey, la razón más frecuente de estancamiento no fue la calidad del modelo, sino una infraestructura de datos que no podía soportar las exigencias de sistemas autónomos y de múltiples pasos en producción.
Esa brecha de infraestructura es el verdadero problema. La lógica de dimensionamiento de GPU, networking y planificación que funciona bien para la inferencia por lotes colapsa bajo cargas de trabajo agénticas, y los equipos lo descubren cuando ya se han comprometido con un modelo de despliegue. Entender por qué exige ser precisos sobre lo que cada tipo de carga de trabajo demanda realmente del cómputo.
Para qué está optimizada realmente la inferencia por lotes
La inferencia por lotes acumula entradas y las procesa en bloque según un calendario, optimizando el rendimiento en lugar de la latencia. La economía es atractiva cuando el caso de uso encaja: un trabajo por lotes offline bien estructurado puede costar entre 5 y 10 veces menos por token procesado que un endpoint de servicio siempre activo con una utilización media del 20 al 30%. Con un 25% de utilización media estás pagando por cuatro GPU para hacer el trabajo de una. La inferencia por lotes puede reducir los picos de carga de GPU y los gastos de infraestructura en la nube hasta en un 40%.
La limitación es igual de clara: la inferencia por lotes solo es apropiada cuando la latencia no importa. No es el modelo adecuado para chatbots, asistentes interactivos ni cualquier caso en que un usuario o un proceso posterior esté esperando una respuesta. La guía de optimización de Triton de NVIDIA enmarca la latencia mínima y el máximo rendimiento como objetivos de ajuste fundamentalmente distintos; rara vez se maximizan ambos al mismo tiempo. Una planificación agresiva mantiene las GPU ocupadas, pero retrasa las solicitudes interactivas, y lo que parece una optimización en un entorno por lotes se convierte en un cuello de botella en uno de tiempo real.
Por qué la infraestructura de IA agéntica es un problema completamente distinto
Un agente no es un par pregunta-respuesta ejecutándose en bucle. Es un ciclo de razonamiento que puede incluir recuperación de información, llamadas a herramientas, validación, reintentos, lecturas y escrituras en memoria, comunicación entre agentes y rutas de escalado, todo ello antes de producir un resultado sobre el que pueda actuar otro agente o una persona. El error de infraestructura más habitual es dimensionar el cómputo en torno a una única llamada al modelo. Hay que dimensionarlo en torno al bucle completo del agente.
El cuello de botella de infraestructura ya no es solo la inferencia. Es la inferencia más la orquestación, el movimiento de datos, la memoria, la ejecución de herramientas y la gobernanza funcionando de forma simultánea.
El consumo de tokens refleja esto directamente. Con IA agéntica, el consumo de tokens se multiplica entre 20 y 30 veces en comparación con la IA generativa estándar, lo que exige proporcionalmente más cómputo. La infraestructura que soporta un chatbot o una aplicación de inferencia única no puede escalar para soportar agentes autónomos que operan de forma continua en sistemas empresariales. Los benchmarks de Carnegie Mellon muestran que los agentes líderes completan solo entre el 30 y el 35% de las tareas de múltiples pasos, lo que significa que la ingeniería de fiabilidad no es un lujo: es el factor diferenciador entre un piloto y un sistema en producción.
La medición de costes también debe cambiar. Los costes de la IA agéntica deben medirse por objetivo completado, no por prompt. Una única tarea de negocio puede desencadenar decenas de llamadas al modelo, operaciones de recuperación, ejecuciones de herramientas y entradas de registro. Los equipos que presupuestan por recuento de tokens para cargas por lotes y aplican la misma lógica a los agentes subestiman sistemáticamente los costes en un orden de magnitud.
Los supuestos de planificación y networking que dejan de funcionar
Las cargas de trabajo por lotes toleran la profundidad de cola porque el solicitante no está esperando. Las cargas de trabajo agénticas no pueden permitírselo. Cuando un agente está en medio de una tarea y necesita llamar a una herramienta, validar una salida o transferir el control a un subagente especializado, cualquier retraso en la cola se acumula a lo largo del bucle. Una penalización de planificación de 200 ms en una única llamada de inferencia se convierte en varios segundos de latencia adicional a lo largo de una cadena de razonamiento de diez pasos.
Los sistemas multiagente amplifican esto aún más. Los despliegues de agente único concentran actualmente alrededor del 59% del mercado, pero se proyecta que las arquitecturas multiagente crezcan a una CAGR del 48,5% entre 2025 y 2030, a medida que las empresas despliegan enjambres coordinados de agentes. Esos enjambres necesitan networking este-oeste de baja latencia entre los procesos de los agentes, no solo rendimiento norte-sur del cliente al modelo. Un clúster de GPU optimizado para el rendimiento por lotes, con almacenamiento de alto ancho de banda y latencia entre nodos relajada, tiene la forma equivocada para un sistema en el que los agentes intercambian constantemente contexto y resultados parciales entre sí.
La arquitectura de memoria es un punto de presión relacionado. Los agentes necesitan memoria persistente a lo largo de conversaciones y tareas, lo que significa que la capa de almacenamiento debe servir tanto lecturas aleatorias de baja latencia (para recuperación durante una tarea activa) como escrituras secuenciales de mayor rendimiento (para registro y persistencia de estado). Diseñar para una sin considerar la otra crea cuellos de botella que solo se manifiestan bajo carga real de producción.
Cómo hacer coincidir el modelo de infraestructura con el tipo de carga de trabajo
El marco de decisión práctico es más sencillo de lo que sugiere la complejidad subyacente. La inferencia por lotes tiene su lugar en tu arquitectura donde el solicitante pueda tolerar un retraso: pipelines de procesamiento de documentos, ejecuciones de puntuación nocturnas, generación de embeddings offline, colas de moderación de contenido. Planifícala, dimensiónala para el rendimiento y deja que la utilización de GPU suba.
La arquitectura de despliegue de IA agéntica necesita capacidad de GPU dedicada y de baja latencia con planificación predecible, networking rápido entre nodos y almacenamiento que pueda servir tanto recuperación como persistencia de forma simultánea. La inferencia en tiempo real siempre activa requiere capacidad de GPU de reserva durante los períodos más tranquilos para poder absorber aumentos repentinos de carga; desde la perspectiva contable de infraestructura esa capacidad parece infrautilizada, pero desde la perspectiva del producto es el margen que mantiene el bucle del agente con capacidad de respuesta cuando la demanda se dispara.
Gartner predice que más del 40% de los proyectos de IA agéntica serán cancelados antes de finales de 2027 debido a costes crecientes, valor de negocio poco claro o controles de riesgo inadecuados. Una parte significativa de esas desviaciones de costes tendrá su origen en equipos que ejecutan cargas de trabajo agénticas sobre infraestructura diseñada para lotes y luego escalan el gasto en GPU de forma reactiva para compensar el desajuste, en lugar de corregir la arquitectura.
El cómputo GPU soberano como requisito estructural
Para las empresas europeas, la cuestión de infraestructura tiene una dimensión jurisdiccional que no afecta a los equipos que construyen en nubes con sede en Estados Unidos. Los sistemas agénticos procesan datos de forma autónoma a lo largo de múltiples pasos por definición, lo que significa que las preguntas sobre residencia y localización del procesamiento de datos que se aplican a una única llamada de inferencia se aplican a cada paso del bucle, incluidos el estado intermedio, las salidas de herramientas y la comunicación entre agentes. Ejecutar esa carga de trabajo sobre infraestructura sujeta a jurisdicción extranjera genera una exposición difícil de auditar y aún más difícil de remediar a posteriori.
Ejecutamos cargas de trabajo de inferencia y entrenamiento de GPU para despliegues en producción en nuestra infraestructura europea, con cómputo que no cruza fronteras jurisdiccionales y capacidad que puede dimensionarse para uso agéntico dedicado en lugar de pools de lotes compartidos. La arquitectura que aprovisionamos para cargas de trabajo de IA agéntica refleja lo descrito anteriormente: capacidad de GPU dedicada, networking entre nodos de baja latencia y almacenamiento diseñado tanto para recuperación como para persistencia de estado, todo ello operando bajo legislación europea sin ninguna empresa matriz extranjera en la cadena.
El punto de partida correcto no es elegir un número de GPU; es mapear el bucle del agente de extremo a extremo, medir dónde importan realmente la latencia y el rendimiento, y luego adaptar la infraestructura a ese mapa. La inferencia por lotes es una herramienta potente y económica para las cargas de trabajo que le corresponden. La IA agéntica no es una de ellas.
