HPE lanza una solución de supercomputación para IA generativa potenciada por Nvidia

  • Estrategias digitales

HPE hardware

Esta herramienta llave en mano, que integra software, hardware, redes y servicios de IA/ML, y que cuenta con la configuración de cuatro superchips Grace Hopper GH200 de Nvidia, ha sido diseñada para su uso en centros de investigación de IA y grandes empresas con el fin de mejorar el tiempo de obtener valor y acelerar el entrenamiento entre dos y tres veces.

Hewlett Packard Enterprise (HPE) ha lanzado una solución de supercomputación para inteligencia artificial (IA) generativa, diseñada para que grandes empresas, compañías de investigación y organizaciones gubernamentales puedan acelerar el entrenamiento y ajuste de modelos de IA utilizando conjuntos de datos privados. Esta solución integra un paquete de software que permite a los clientes entrenar y afinar modelos, así como desarrollar aplicaciones de IA. La solución también incluye superordenadores de refrigeración líquida, computación acelerada, redes, almacenamiento y servicios para ayudar a las organizaciones a desbloquear el valor de la IA con mayor rapidez.

“Las principales compañías y empresas de investigación del mundo están entrenando y ajustando modelos de IA para impulsar la innovación y desbloquear avances en investigación. Pero, para hacerlo de manera eficaz y eficiente, necesitan soluciones específicas”, afirma Justin Hotard, vicepresidente ejecutivo y director general de HPC, IA y Labs en HPE. "Estamos encantados de ampliar nuestra colaboración con Nvidia con el fin de ofrecer una solución nativa de inteligencia artificial llave en mano que ayudará a nuestros clientes a acelerar significativamente el entrenamiento y los resultados de los modelos de IA".

Ian Buck, vicepresidente de Hiperescala y HPC en Nvidia, añade que "la colaboración de Nvidia con HPE en el desarrollo de esta solución llave en mano de entrenamiento y simulación de IA, basada en los superchips Nvidia GH200 Grace Hopper, proporcionará a los clientes el rendimiento necesario para lograr grandes avances en sus iniciativas de IA generativa".

Una solución de IA integrada

Las herramientas de software para crear aplicaciones de inteligencia artificial, personalizar modelos predefinidos y desarrollar y modificar código son componentes clave de esta solución de supercomputación para IA generativa. El software está integrado con la tecnología de supercomputación HPE Cray, basada en la misma arquitectura potente que utiliza en el superordenador más rápido del mundo y potenciada por los superchips Grace Hopper GH200 de Nvidia.

En conjunto, esta solución ofrece a las organizaciones una escala y rendimiento sin precedentes necesarios para grandes cargas de trabajo de IA, como el entrenamiento de grandes modelos de lenguaje (LLM) y modelos de recomendación de aprendizaje profundo (DLRM). Al utilizar HPE Machine Learning Development Environment, el modelo de código abierto de 70.000 millones de parámetros, Llama 2, se ajustó en menos de 3 minutos, lo que se traduce directamente en un tiempo de creación de valorización más rápido para los clientes. Las avanzadas capacidades de supercomputación de HPE, respaldadas por la tecnología Nvidia, mejoran el rendimiento del sistema entre dos y tres veces.

Al integrar HPE Cray EX2500 e incorporar los superchips de Nvidia la solución puede escalar hasta miles de unidades de procesamiento gráfico (GPU) con la posibilidad de dedicar toda la capacidad de los nodos a soportar una única carga de trabajo de IA para acelerar el tiempo de valorización. Es la primera solución que incorpora la configuración de cuatro superchips conectados GH200 de Nvidia (quad GH200) dentro de un solo nodo de cómputo.

HPE Slingshot Interconnect ofrece una red abierta de alto rendimiento basada en Ethernet y diseñada para admitir cargas de trabajo a exaescala. Basada en la tecnología HPE Cray, esta interconexión ajustable aumenta el rendimiento de todo el sistema al permitir una velocidad de conexión en red extremadamente alta.

La solución se complementa con los servicios HPE Complete Care, que proporcionan especialistas globales para la configuración, la instalación y el soporte durante todo el ciclo de vida con el fin de simplificar la adopción de la IA.

La solución de supercomputación para IA generativa estará disponible en diciembre a través de HPE en más de 30 países.