Celestial AI Inc, una empresa emergente que desarrolla tecnología de chips ópticos para acelerar los modelos de inteligencia artificial, ha anunciado hoy que ha obtenido 100 millones de dólares de financiación.
La ronda incluyó aportaciones de las ramas de capital riesgo de Samsung Electronics Co. Ltd. y Porsche AG. IMEC, uno de los mayores laboratorios de investigación nanoelectrónica del mundo, también ha participado junto con media docena de patrocinadores.
Los modelos avanzados de IA desplegados en centros de datos no siempre funcionan tan rápido como podrían. La razón es un problema de rendimiento conocido comúnmente como el reto del muro de memoria. Celestial AI ha desarrollado una tecnología de interconexión óptica, denominada Photonic Fabric, que, según afirma, resuelve el problema.
El problema del muro de memoria tiene que ver con el hecho de que la velocidad de los procesadores, y en particular de las unidades de procesamiento gráfico, ha aumentado a un ritmo mayor que el rendimiento de los chips de memoria. Como resultado, los chips de memoria tienen dificultades para seguir el ritmo de los requisitos de los centros de datos. Este fenómeno está empezando a afectar negativamente a la velocidad a la que los modelos de IA procesan la información.
Si una tarjeta gráfica puede procesar teóricamente 2 gigabytes de datos por segundo, pero sólo puede recuperar 800 megabytes de datos de la memoria en ese lapso de tiempo, sólo procesará esos 800 megabytes. En otras palabras, la capacidad de procesamiento de la GPU no puede aprovecharse al máximo. Esto impide que los modelos de IA utilicen de forma óptima el rendimiento de las GPU y, por tanto, limita la velocidad de procesamiento.
La respuesta de Celestial AI a este reto consiste en aumentar la velocidad a la que los procesadores pueden recuperar datos de la memoria y enviar información de vuelta. La interconexión Optical Fabric de la startup transfiere los datos entre los chips de memoria y los procesadores no en forma de electricidad, que es lo habitual, sino utilizando la luz. Como la luz viaja más rápido que la electricidad, la velocidad de la red aumenta.
Celestial AI afirma que Optical Fabric puede proporcionar velocidades de conectividad de ordenador a memoria de varios terabits por segundo. Además, promete latencias del orden de los nanosegundos. No es la única empresa que utiliza métodos ópticos para acelerar el movimiento de datos de ordenador a memoria, pero afirma que su tecnología proporciona hasta 25 veces más ancho de banda que los métodos de la competencia.
Algunas interconexiones ópticas transfieren datos a los procesadores a través de los denominados frentes de playa o laterales de los procesadores. El tejido óptico de Celestial AI no se conecta a los frentes de playa de un chip, sino que está pensado para desplegarse bajo el chip como una especie de capa base. Esto aumenta la superficie del chip por la que puede circular la información, que es en parte la razón por la que la tecnología de la startup promete un rendimiento más rápido.
La aceleración de los modelos de IA no es la única ventaja que promete la empresa. Según Celestial AI, Optical Fabric también puede ayudar a los operadores de centros de datos a reducir los costos de hardware.
Debido a ciertas limitaciones técnicas, añadir más memoria a un clúster de IA suele requerir añadir más procesadores. Según Celestial AI, Optical Fabric permite a las empresas suministrar memoria adicional sin tener que comprar necesariamente nuevos procesadores. Como resultado, los requisitos de hardware disminuyen, lo que reduce los costes del centro de datos.
«Esta nueva ola de infraestructuras de centros de datos se está diseñando para ofrecer enormes avances en la eficiencia de las cargas de trabajo de IA, como resultado de la desagregación de los recursos de memoria y computación que permite la interconectividad óptica», afirma Dave Lazovsky, fundador y consejero delegado de AI.
La startup afirma que su tecnología también admite otros casos de uso. Celestial AI afirma que Optical Fabric puede utilizarse para mover datos no solo entre chips de memoria y procesadores, sino también entre procesadores. Además, afirma que la tecnología puede gestionar el flujo de datos dentro de cada procesador.
Celestial AI planea conceder licencias de su tecnología a empresas como fabricantes de chips. Según la empresa, Optical Fabric puede integrarse en productos como GPU y unidades centrales de procesamiento. Sus planes para rentabilizar su tecnología también incluyen un chip acelerador de IA desarrollado internamente, Orion, que utiliza Optical Fabric para gestionar el movimiento de datos.
Fuente WEB | Editado por CambioDigital OnLine
