El costo de inferencia por flujo de trabajo basado en agentes de inteligencia artificial se multiplicará por más de cinco para el año 2028.
Esta proyección de la firma de análisis tecnológico Gartner pone de manifiesto que el descenso continuado en las tarifas unitarias del procesamiento de datos, conocidas como economía de tokens, no logrará frenar el incremento en los presupuestos generales de las organizaciones a medida que estas migran desde asistentes conversacionales simples hacia sistemas autónomos de ejecución compleja.
El análisis difundido por la consultora describe el fenómeno denominado como Paradoja de la Inferencia, una dinámica según la cual la mejora en la eficiencia de los modelos fundacionales abarata la unidad de cómputo, pero fomenta de manera paralela el despliegue de aplicaciones más sofisticadas que consumen un volumen significativamente mayor de recursos. De este modo, los ahorros conseguidos por la reducción de precios en la infraestructura son absorbidos por la mayor demanda operativa de los sistemas agénticos.
A diferencia de un asistente conversacional convencional, diseñado para interpretar una consulta y ofrecer una respuesta directa, un agente de inteligencia artificial lleva a cabo procesos continuos de razonamiento, negociación, cuestionamiento interno y ejecución de tareas en múltiples pasos.
De acuerdo con las estimaciones de Gartner, el enrutamiento de una tarea hacia un modelo de razonamiento agéntico incrementa los costos de inferencia para los proveedores en al menos cinco veces en comparación con una interacción básica, una brecha que tiende a ensancharse conforme aumenta la complejidad del trabajo asignado.
Will Sommer, director analista de Gartner, señaló que los responsables de producto no pueden confiar únicamente en el rendimiento económico de los tokens para justificar los gastos. El especialista explicó que cada generación de capacidades requerirá una cantidad superior de tokens y habitualmente de mayor valor. Asimismo, advirtió que no existe un modelo económico único y estandarizado en el horizonte, por lo que el desarrollo de productos competitivos exigirá la creación y mantenimiento de ecosistemas multimodales complejos.
Reportes recientes de la industria y análisis del sector de software convergen en que la transición de esquemas de cobro por licencias fijas hacia esquemas basados en el consumo real intensifica la variabilidad del gasto corporativo. En este escenario, la recomendación de los expertos apunta a implementar modelos de orquestación, jerarquización de inferencias y enrutamiento inteligente. Estas técnicas permiten derivar tareas sencillas hacia modelos de menor escala y reservar las arquitecturas más costosas únicamente para procesos que generen un retorno de inversión sustancial.
Fuente: Gartner
