Nvidia lanza el superchip GH200 para acelerar las cargas de trabajo de IA generativa

0
88
Nvidia GH200 Superchip (Foto Nvidia)

Nvidia Corp. anunció a primera hora del lunes que su chip de inteligencia artificial más potente hasta la fecha, el GH200 Grace Hopper Superchip, ya está en plena producción.

El Nvidia GH200 Superchip se ha diseñado para alimentar sistemas que ejecutarán algunas de las cargas de trabajo de IA más sofisticadas y complejas hasta la fecha, incluido el entrenamiento de la próxima generación de modelos generativos de IA.

Jensen Huang, Consejero Delegado de Nvidia, lo anunció en el evento COMPUTEX 2023 celebrado en Taiwán, donde también desveló los primeros sistemas informáticos que utilizarán el Superchip. Huang explicó que el GH200 combina las arquitecturas de unidad central de procesamiento Grace y unidad de procesamiento gráfico Hopper de Nvidia, basadas en Arm, en un único chip que utiliza la tecnología de interconexión NVLink-C2C de Nvidia.

El nuevo chip cuenta con un ancho de banda total de 900 gigabytes por segundo, siete veces superior al de los carriles PCIe Gen5 estándar que se encuentran en los sistemas de cálculo acelerado más avanzados de la actualidad. Según Nvidia, el Superchip también consume cinco veces menos energía, lo que le permite abordar con mayor eficiencia las exigentes aplicaciones de IA y computación de alta potencia.

El Superchip GH200 de Nvidia es especialmente prometedor para las cargas de trabajo de IA generativa personificadas por ChatGPT de OpenAI LP, que ha arrasado en la industria tecnológica gracias a su capacidad casi humana de generar nuevos contenidos a partir de instrucciones.

«La IA generativa está transformando rápidamente los negocios, desbloqueando nuevas oportunidades y acelerando el descubrimiento en sanidad, finanzas, servicios empresariales y muchas más industrias», afirma Ian Buck, vicepresidente de Computación Acelerada de Nvidia. «Con los Superchips Grace Hopper en plena producción, los fabricantes de todo el mundo pronto proporcionarán la infraestructura acelerada que las empresas necesitan para crear y desplegar aplicaciones de IA generativa que aprovechen sus datos exclusivos.»

Uno de los primeros sistemas en integrar el GH200 Superchip será el propio superordenador de IA de próxima generación y gran memoria de Nvidia, el Nvidia DGX GH200. Según Nvidia, el nuevo sistema utiliza el sistema de conmutación NVLink para combinar 256 superchips GH200, lo que les permite funcionar como una única GPU que proporciona 1 exaflops de rendimiento, o 1 quintillón de operaciones en coma flotante por segundo, y 144 terabytes de memoria compartida.

Esto significa que tiene casi 500 veces más memoria que la generación anterior del superordenador DGX A100 de Nvidia, que se lanzó en 2020. También es mucho más potente, ya que el DGX A100 combina solo ocho GPU en un único chip.

«Los superordenadores de IA DGX GH200 integran las tecnologías de redes y cálculo acelerado más avanzadas de Nvidia para ampliar las fronteras de la IA», afirma Huang.

Según Nvidia, los superordenadores de IA DGX GH200 también incluirán una completa pila de software para ejecutar cargas de trabajo de IA y análisis de datos. Por ejemplo, cuentan con el software Base Command de Nvidia, que proporciona gestión de flujos de trabajo de IA, gestión de clústeres, bibliotecas para acelerar la computación y el almacenamiento, además de infraestructura de red y software de sistema. Por su parte, Nvidia AI Enterprise es una capa de software que contiene más de 100 marcos de IA, modelos preentrenados y herramientas de desarrollo para agilizar la producción de IA generativa, visión por ordenador, IA de voz y otros tipos de modelos.

Nvidia afirma que algunos de los primeros clientes que tendrán en sus manos los nuevos superordenadores de IA DGX GH200 serán Google Cloud, Meta Platforms Inc. y Microsoft Corp. También proporcionará el diseño de DGX GH200 como un modelo para los proveedores de servicios en la nube que deseen personalizarlo para su propia infraestructura.

«Tradicionalmente, el entrenamiento de grandes modelos de IA es una tarea que consume muchos recursos y tiempo», afirma Girish Bablani, vicepresidente corporativo de Azure Infrastructure en Microsoft. «El potencial de DGX GH200 para trabajar con conjuntos de datos de tamaño terabyte permitiría a los desarrolladores llevar a cabo investigaciones avanzadas a mayor escala y a velocidades aceleradas.»

Nvidia dijo que también construirá su propio superordenador de IA basado en DGX GH200 para sus propios equipos de investigación y desarrollo. Esa máquina se llamará Nvidia Helios, y combinará la potencia de cuatro sistemas DGX GH200, interconectados mediante la tecnología de red Quantum-2 Infiniband de Nvidia. Helios incluirá un total de 1.024 superchips GH200 cuando entre en funcionamiento a finales de año.

Por último, pero no por ello menos importante, los socios de Nvidia en materia de servidores tienen previsto crear sus propios sistemas basados en el nuevo superchip GH200. Uno de los primeros en lanzarse será el sistema S74G-2U de Quanta Computer Inc., que se ha anunciado hoy y estará disponible a finales de este año.

Otros socios, como ASUSTek Computer Inc, Aetina Corp, AAEON Technology Inc, Cisco Systems Inc, Dell Technologies Inc. GIGA-BYTE Technology Co., Hewlett Packard Enterprise Co., Inventec Corp. y Pegatron Corp. también lanzarán sistemas equipados con la GH200.

Nvidia afirma que sus socios de servidores han adoptado la nueva especificación de servidores Nvidia MGX, anunciada también el lunes. Según Nvidia, MGX es una arquitectura de referencia modular que permite a los socios crear de forma rápida y sencilla más de 100 variaciones de servidores basados en su última arquitectura de chips para adaptarse a una amplia gama de cargas de trabajo de IA, computación de alto rendimiento y otros tipos. Al utilizar NGX, los fabricantes de servidores pueden esperar reducir los costes de desarrollo hasta en tres cuartas partes, con un tiempo de desarrollo reducido en dos tercios, hasta unos seis meses.

Fuente WEB | Editado por CambioDigital OnLine

Custom Text
Artículo anterior71% de directores de marketing creen que carecen de presupuesto suficiente para ejecutar su estrategia en 2023
Artículo siguienteDe nuestra inteligencia depende el control del futuro