Google Cloud publicó su informe State of AI Infrastructure, en el que analiza cómo las organizaciones están adaptando sus sistemas para responder a la nueva generación de aplicaciones de inteligencia artificial. El estudio, basado en una encuesta a más de 1.400 líderes de TI, revela que el 83% de las empresas considera necesario actualizar su infraestructura para soportar lo que denomina agentic AI: sistemas capaces de ejecutar tareas complejas de manera autónoma, más allá de la interacción conversacional tradicional.
El informe destaca que esta transición está generando tensiones en arquitecturas heredadas, incapaces de sostener cargas de trabajo que requieren ventanas de contexto masivas y bucles de razonamiento continuo. Un 62% de los encuestados reporta un “impuesto de inferencia” derivado de costos ocultos como tarifas de salida de datos, almacenamiento excesivo e ineficiencia de hardware especializado. Para mitigar estos problemas, se plantea la necesidad de “fluid compute”, es decir, la capacidad de asignar dinámicamente el silicio adecuado a cada tarea. Google menciona sus nuevos aceleradores TPU 8t para entrenamiento de gran escala y TPU 8i para inferencia de baja latencia, junto con CPUs Arm de la familia Axion para operaciones de orquestación.
Otro desafío identificado es el “agent sprawl”, la proliferación de agentes autónomos en distintas plataformas sin un control centralizado. El 79% de los líderes señala la gobernanza y la seguridad como principales obstáculos para escalar. En este contexto, herramientas como Agent Gateway buscan ofrecer un plano de control único para permisos, auditorías y supervisión humana en acciones críticas.
La gestión de datos también aparece como un factor decisivo. Los agentes requieren acceso a información unificada para razonar con contexto. Soluciones como Smart Storage y Cross-Cloud Lakehouse permiten que los agentes lean y comprendan datos sin necesidad de duplicarlos ni crear canalizaciones personalizadas. Esta tendencia se complementa con la adopción de arquitecturas híbridas multicloud: el 52% de las organizaciones ya combina nubes públicas y entornos locales, impulsadas por requisitos de soberanía digital y cumplimiento normativo.
El informe subraya la importancia del despliegue en el borde. Nueve de cada diez organizaciones consideran esencial llevar la IA a dispositivos locales para reducir latencia, garantizar resiliencia operativa y mejorar la eficiencia de costos. En paralelo, la energía emerge como un factor estratégico: el 91% de los líderes incorpora el consumo eléctrico en sus decisiones de hardware, y regulaciones en países europeos ya imponen límites estrictos de eficiencia en centros de datos.
Google Cloud plantea que la respuesta a estos retos pasa por infraestructuras co-diseñadas y unificadas, donde hardware, redes y software se integren de manera nativa. Su propuesta, denominada AI Hypercomputer, busca ofrecer un sistema optimizado de extremo a extremo, capaz de sostener tanto la inferencia continua como la simulación de agentes físicos en entornos industriales o de servicios.
En conjunto, el informe refleja un cambio de paradigma: la inteligencia artificial ya no se limita a responder preguntas, sino que actúa de manera autónoma en procesos críticos. Para que esta evolución sea sostenible, las organizaciones deberán invertir en arquitecturas resilientes, eficientes y gobernadas desde el inicio.
Fuente: Google Cloud | Editado por CDOL
