Los agentes de IA pueden consumir 1,000 veces más tokens que una sola consulta de chatbot, lo que obliga a replantearse las proporciones de chips, la arquitectura del servidor y los presupuestos de energía.
NurPhoto / Getty Images
Una sola consulta de chatbot golpea una GPU, genera una respuesta y el cálculo termina. Un agente de IA haciendo el mismo trabajo podría funcionar durante horas, generando sub-agentes, llamando APIs, consultando bases de datos y volviendo al modelo docenas de veces antes de producir un resultado.
Un estudio publicado en abril por investigadores del Laboratorio de Economía Digital de Stanford encontró que las tareas de codificación agente consumen 1,000 veces más tokens que el razonamiento estándar de código y chat, un hallazgo que pone números concretos a un problema de costos que la industria de la IA apenas está comenzando a enfrentar.
La mecánica es estructural, no incidental. A diferencia de los modelos de razonamiento estáticos, los agentes de IA planifican continuamente, invocan herramientas externas, observan resultados y refinan su razonamiento, a menudo realizando docenas de llamadas de inferencia para satisfacer una sola solicitud de usuario. Cada llamada relee todo el historial de conversaciones acumulado hasta el momento, de modo que un agente lee la tarea, obtiene una respuesta, luego debe releer todo antes de la siguiente acción, y vuelve a leer todo eso más la nueva respuesta antes de la siguiente acción. El resultado es que el contexto crece con cada paso.
En los flujos de trabajo agentivos, las cachés de clave-valor nunca se restablecen sino que se acumulan a lo largo de cadenas de razonamiento de múltiples pasos, lo que significa que lo que podría ser una caché de 10 GB para una sola inferencia se convierte en un piso de ancho de banda móvil que se compone con cada interacción del agente, según análisis de la firma de redes Ciena. Esto no es un aumento marginal. Investigadores del Instituto Avanzado de Ciencia y Tecnología de Corea encontraron que los agentes de IA "introducen gastos generales de energía sustanciales que son órdenes de magnitud más altos que la inferencia LLM convencional de un solo turno," según un artículo publicado en arXiv que presentó lo que los autores describieron como la primera caracterización a nivel de sistema de los costos de infraestructura de agentes. Sin innovaciones a nivel de sistema, advirtieron los autores, los costos computacionales por solicitud podrían aumentar en órdenes de magnitud, haciendo que el despliegue a gran escala sea "económicamente y ambientalmente prohibitivo."
Durante los últimos años, los centros de datos de IA se diseñaron alrededor de una arquitectura simple: una CPU actuando como nodo anfitrión para cuatro a ocho GPUs. La GPU hacía el cálculo. La CPU gestionaba el tráfico. La IA agéntica rompe ese modelo.
Las cargas de trabajo de IA agéntica están remodelando los requisitos de computación de los centros de datos al desplazar los cuellos de botella de rendimiento de la inferencia centrada en GPU a la orquestación pesada en CPU, introduciendo una demanda considerable de CPU y convirtiendo la capacidad de la CPU en un factor crítico en el rendimiento del sistema, según un análisis publicado por SemiWiki. AMD $AMD ahora informa que, a diferencia de la relación CPU-GPU de uno a cuatro o uno a ocho vista con la IA de chatbot, la IA agéntica se está moviendo hacia una relación de uno a uno, y en algunos casos hacia relaciones más altas del lado de la CPU. La compañía duplicó su pronóstico para el mercado de CPU de servidores en menos de seis meses.
Donde AMD anteriormente proyectaba un crecimiento del mercado de CPU de servidores del 18% anual, el aumento estructural en la computación impulsado por los agentes llevó a la compañía a revisar esa expectativa a un crecimiento anual de más del 35%, con un mercado total direccionable que supera los $120 mil millones para 2030, según un artículo de blog de Dan McNamara, vicepresidente senior de computación y AI empresarial en AMD. Morgan Stanley $MS llegó a una conclusión similar en un informe de abril, pronosticando que la IA agentic podría añadir de $32.5 mil millones a $60 mil millones en nueva demanda para CPUs de centros de datos para 2030, argumentando que "a medida que la IA pasa de la generación a la acción autónoma, el cuello de botella computacional se está desplazando hacia la CPU y la memoria." En el evento AMD Advancing AI en junio de 2025, la CEO Lisa Su describió la IA agentic como "una nueva clase de usuario," añadiendo que "lo que realmente estamos viendo es que estamos añadiendo el equivalente a miles de millones de nuevos usuarios virtuales a la infraestructura computacional global."
Goldman Sachs $GS puso proyecciones concretas sobre la trayectoria de la demanda en un informe publicado este mes. El banco espera que el consumo de tokens crezca 24 veces para 2030 en comparación con los niveles de 2026, ya que las consultas de IA aumentan de cinco mil millones a 23 mil millones por día, impulsadas por agentes no humanos. Goldman Sachs proyecta que la IA agentic representará alrededor del 30% de esas consultas para 2030.
El gasto en infraestructura para apoyar esto ya está en marcha. Los cinco proveedores más grandes de infraestructura en la nube y de IA de EE.UU. se han comprometido colectivamente a gastar entre $660 mil millones y $690 mil millones en gastos de capital en 2026, cerca del doble de los niveles de 2025, según Futurum Group. Pero el gasto por sí solo no garantiza que la infraestructura coincida con la carga de trabajo. Gartner predice que más del 40% de los proyectos de IA agentic serán cancelados para finales de 2027, debido a costos crecientes, valor comercial poco claro o controles de riesgo inadecuados.
Las sorpresas de costos son reales: el estudio de Stanford encontró que el uso de tokens en tareas agénticas es "altamente variable e inherentemente estocástico", con ejecuciones en la misma tarea que difieren hasta 30 veces en el total de tokens consumidos.
La trayectoria computacional tiene implicaciones directas para la cuestión energética que se cierne sobre la industria de la IA. Como la computación cuántica se integra en la infraestructura del centro de datos junto con procesadores clásicos, el modelo híbrido emergente de CPUs, GPUs y unidades de procesamiento cuántico trabajando juntas promete mucho para cargas de trabajo científicas y financieras específicas. Pero las máquinas cuánticas consumen alrededor de 30 kilovatios cada una, mientras que un solo rack de chips de entrenamiento de IA de Nvidia $NVDA consume de 120 a 140 kilovatios, con sistemas de próxima generación proyectados para superar los 200 kilovatios. La computación cuántica está diseñada para un tipo diferente de problema. No va a absorber la carga que la IA agéntica está creando.
La matemática honesta es que la IA agéntica empeora el problema de consumo de energía del centro de datos, no lo mejora. Cada agente que funciona durante horas en lugar de segundos, cada sub-agente que genera, cada bucle que ejecuta es un cómputo que el hardware clásico debe servir. Goldman Sachs Research proyecta que el consumo de energía del centro de datos aumentará un 175% para 2030 desde los niveles de 2023, y el aumento de los agentes es un impulsor principal.
Para los compradores empresariales y los planificadores de centros de datos, la conclusión práctica es que la infraestructura dimensionada para la IA de estilo chatbot no soportará implementaciones agenticas. Las cargas de trabajo son diferentes en naturaleza, no en grado. Planificar para agentes significa planificar para más CPU, más memoria, más energía y arquitecturas que la mayoría de las organizaciones aún no han construido.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
