Procesamiento de contexto extenso: NVIDIA presenta Rubin CPX

La nueva GPU busca optimizar tareas como generación de código, búsqueda en video y agentes autónomos.

0
33
Nvida Rubin CPX - Foto Nvidia

En el marco del recien celebrado AI Infra Summit, NVIDIA anunció Rubin CPX, una nueva clase de procesador gráfico diseñada específicamente para abordar tareas de inferencia con contextos de gran escala. Esta arquitectura se orienta a aplicaciones que requieren procesar millones de tokens, como la codificación de software a gran escala y la generación de video de larga duración.

Rubin CPX forma parte de la plataforma integrada Vera Rubin NVL144 CPX, que combina CPUs Vera, GPUs Rubin y el nuevo procesador CPX en un sistema MGX capaz de ofrecer hasta 8 exaflops de rendimiento en inteligencia artificial. Según la compañía, esta configuración supera en 7,5 veces el rendimiento de los sistemas NVIDIA GB300 NVL72, e incorpora 100 TB de memoria rápida con un ancho de banda de 1,7 petabytes por segundo.

La arquitectura Rubin CPX se basa en un diseño monolítico optimizado para eficiencia energética y rendimiento en tareas de inferencia. Incluye recursos NVFP4 que permiten alcanzar hasta 30 petaflops de cómputo con precisión especializada, junto con 128 GB de memoria GDDR7. Además, mejora en tres veces la capacidad de atención de los modelos respecto a generaciones anteriores, lo que facilita el procesamiento de secuencias contextuales extensas sin pérdida de velocidad.

Una de las características distintivas de Rubin CPX es su capacidad para integrar codificadores y decodificadores de video junto con procesamiento de inferencia en un solo chip. Esto permite abordar aplicaciones como búsqueda en video y generación de contenido audiovisual de alta calidad, donde los modelos pueden requerir hasta un millón de tokens para analizar una hora de material.

Empresas como Cursor, Runway y Magic ya están explorando el potencial de Rubin CPX en sus respectivos campos. Cursor, especializada en edición de código asistida por IA, busca mejorar la productividad de los desarrolladores mediante generación inteligente de código. Runway, enfocada en herramientas creativas basadas en IA, planea utilizar Rubin CPX para acelerar flujos de trabajo cinematográficos. Por su parte, Magic trabaja en agentes autónomos capaces de comprender grandes bases de código y documentación sin necesidad de ajuste fino, aprovechando ventanas de contexto de hasta 100 millones de tokens.

Rubin CPX será compatible con la pila completa de software de NVIDIA, incluyendo la plataforma Dynamo para escalado eficiente de inferencia, los modelos multimodales Nemotron y el entorno empresarial NVIDIA AI Enterprise. También podrá integrarse con redes InfiniBand Quantum-X800 o Ethernet Spectrum-XGS, según las necesidades de despliegue.

La disponibilidad comercial de Rubin CPX está prevista para finales de 2026. Con esta propuesta, NVIDIA amplía su ecosistema de desarrollo CUDA-X, que ya cuenta con más de seis millones de desarrolladores y cerca de seis mil aplicaciones basadas en CUDA.

Fuente: nota de prensa Nvidia | Editado por CDOL

Custom Text
Artículo anteriorAcuerdo preliminar entre OpenAI y Microsoft para la siguiente fase de su alianza
Artículo siguiente«Ransomware» como servicio (RaaS). Parte 1