Gartner ha presentado proyecciones que exponen una paradoja financiera en el desarrollo de la inteligencia artificial. De acuerdo con el informe divulgado por la consultora, los costos de inferencia por cada flujo de trabajo basado en agentes autónomos se multiplicarán por más de cinco para el año 2028. Este incremento sostenido ocurrirá de manera paralela a una caída acentuada en el precio unitario de cada token, creando un escenario en el que la ejecución individual resulta más económica, pero la operación global deviene más costosa.
Esta dinámica, denominada por Gartner como la paradoja de la inferencia, plantea un desafío directo para las decisiones presupuestarias corporativas que asumían una reducción directa de gastos basada únicamente en la baja de los precios por unidad de procesamiento. Will Sommer, analista de Gartner, señaló que los modelos de razonamiento orientados a agentes incrementan los costos de inferencia del proveedor en al menos cinco veces en comparación con las interacciones convencionales a través de asistentes conversacionales simples. En tareas con mayor grado de complejidad, el requerimiento de múltiples pasos de razonamiento, llamadas a herramientas externas y ejecuciones encadenadas puede elevar la factura operativa a niveles entre 5 y 30 veces superiores a los de una consulta estándar.
Las estimaciones de la firma también ubican los costos de entrenamiento para este tipo de modelos avanzados en un aproximado de 2,5 veces más altos en comparación con las arquitecturas previas, afectando la estructura financiera tanto en la etapa de desarrollo como en la de implementación. La firma identifica tres factores que impulsan esta tendencia: la mejora en la economía de las unidades de tokens que incentiva la creación de aplicaciones complejas previamente inviables por costo, el despliegue de modelos de mayor capacidad y precio para atender tareas complejas, y el aumento considerable en el volumen de tokens consumidos por flujo de trabajo.
Este pronóstico complementa proyecciones previas de Gartner donde se contemplaba una caída superior al 90% en el valor de los tokens de modelos de gran tamaño para el año 2030. No obstante, el nuevo análisis concluye que dicha reducción tarifaria queda neutralizada por el volumen de consumo de los nuevos sistemas. Analistas de mercado y firmas de consultoría como McKinsey y Forrester coinciden en que la transición desde aplicaciones conversacionales hacia plataformas operativas automatizadas exige un control más riguroso de la arquitectura, ya que el retorno de inversión depende del equilibrio entre la capacidad del modelo y la eficiencia en el uso de recursos.
Para gestionar este escenario, la firma de analistas sugiere implementar esquemas de escalonamiento de inferencia para canalizar tareas sencillas hacia modelos de menor costo, coordinar sistemas orquestados multimodales y establecer mecanismos de monitoreo continuo sobre el gasto operativo.
Fuente: Gartner
