Google libera TorchTPU como código abierto para integrar PyTorch de forma nativa en sus aceleradores

La nueva pila de software permite entrenar y desplegar modelos utilizando interfaces estándar sin modificar la lógica principal del código.

0
7

Google ha anunciado la disponibilidad de TorchTPU como código abierto en GitHub, integrando formalmente a sus unidades de procesamiento tensorial (TPU) como una opción nativa para el ecosistema de PyTorch, a la par de las unidades de procesamiento gráfico (GPU) y las unidades centrales de procesamiento (CPU). Desarrollada en colaboración con el equipo de PyTorch en Meta, la pila de software permite a los desarrolladores ejecutar cargas de trabajo existentes en infraestructura de Google Cloud utilizando las interfaces de programación de aplicaciones y las primitivas distribuidas habituales, con modificaciones mínimas en el código fuente.

La iniciativa busca simplificar el entrenamiento, la puesta a punto y la inferencia de modelos de inteligencia artificial mediante el uso de flujos de trabajo estándar. El diseño del software incorpora un enfoque centrado en la ejecución ágil, facilitando la depuración interactiva en modo dinámico antes de transicionar hacia el rendimiento de nivel de producción mediante la interfaz de compilación del framework. Asimismo, la arquitectura se conecta directamente con el compilador XLA para traducir los operadores hacia representaciones intermedias estables orientadas a optimizar el uso de los núcleos de hardware y reducir la sobrecarga de memoria.

En el ámbito de la inferencia a gran escala, la integración abarca motores de uso generalizado como vLLM y SGLang, además de marcos de orquestación basados en Kubernetes para enrutar flujos de trabajo de manera eficiente entre diferentes tipos de aceleradores. Analistas del sector tecnológico han señalado que este movimiento responde a una demanda persistente de los desarrolladores por minimizar las fricciones operativas y diversificar las opciones de infraestructura computacional sin quedar limitados a un ecosistema de hardware específico.

Representantes de empresas colaboradoras en el ecosistema de código abierto destacaron que la apertura del código facilita la interoperabilidad con repositorios de modelos y herramientas de servicio existentes. Por su parte, la compañía indicó que el proyecto forma parte de una estrategia más amplia para consolidar un entorno operativo unificado y abierto, permitiendo que tanto investigadores como ingenieros desplieguen cargas complejas de aprendizaje automático con mayor flexibilidad en la asignación de recursos y optimización del costo operativo.

Fuente Google Cloud | Editado por CDOL

Custom Text
Artículo anteriorKaspersky lanza una herramienta gratuita de evaluación para identificar riesgos de ciberseguridad en las empresas