El análisis más reciente de Gartner advierte que los costos de inferencia de la inteligencia artificial en flujos de trabajo “agénticos” —es decir, aquellos que requieren múltiples pasos de razonamiento autónomo— se incrementarán más de cinco veces hacia 2028. La consultora describe este fenómeno como la “paradoja de la inferencia”: aunque el costo por token de los modelos fundacionales está disminuyendo, la complejidad creciente de las aplicaciones hace que el gasto total aumente de manera acelerada. En otras palabras, la eficiencia por unidad no se traduce en menores costos globales, ya que los agentes consumen muchos más recursos que los chatbots tradicionales.
El aumento de la complejidad de la IA sobrepasa la caída en los costos de los tokens:
Según Gartner, cada nueva generación de capacidades de IA exige más —y más costosos— tokens, lo que obliga a las empresas a diseñar ecosistemas multimodelo capaces de asignar tareas a modelos distintos según su nivel de complejidad. Un chatbot básico procesa una consulta y responde con rapidez, mientras que un agente debe razonar, negociar y cuestionar sus propias conclusiones, lo que multiplica el consumo de cómputo. El resultado es que la interacción con un modelo de razonamiento puede costar al menos cinco veces más que con un chatbot, y mucho más en tareas complejas.
El informe subraya que la gestión de costos de inferencia se ha convertido en una prioridad para los líderes de producto. Gartner recomienda estrategias como el “tiering” de inferencia, el enrutamiento y la orquestación, que permiten calibrar qué modelo se utiliza en cada etapa de un flujo de trabajo para evitar gastos desproporcionados. De lo contrario, advierte, la adopción indiscriminada de inteligencia autónoma podría generar costos sin límite, muy superiores a los de ecosistemas optimizados.
Analistas del sector señalan que esta advertencia llega en un momento en que grandes proveedores como Nvidia y otros promueven agentes de IA como la siguiente ola tecnológica. Sin embargo, la presión sobre los márgenes y la falta de un modelo universal económico podrían frenar proyectos ambiciosos. De hecho, Gartner ha anticipado que una parte significativa de las organizaciones podría reducir o incluso abandonar iniciativas de agentes de IA debido a problemas de costos y arquitectura.
La paradoja de la inferencia plantea un desafío estratégico: el avance en eficiencia de los modelos abre la puerta a aplicaciones más sofisticadas, pero esas mismas aplicaciones consumen más tokens y elevan el gasto. Para las empresas, el retorno de inversión dependerá de su capacidad para optimizar la arquitectura y justificar el costo adicional con beneficios tangibles. En este contexto, la discusión sobre la economía de la IA se desplaza del precio de los tokens al diseño de los flujos de trabajo y la selección de modelos adecuados para cada tarea.
Fuente: Gartner | Editar CDOL
