El proveedor de nube Vultr ha agregado el GH200 Grace Hopper de Nvidia a su oferta de GPU en la nube para entrenamiento e inferencia de IA.

Los chips Nvidia GH200, una combinación de CPU y GPU que utiliza la arquitectura Nvidia Grace y Hopper, estarán disponibles en las 32 ubicaciones de la nube de Vultr. El GH200 está diseñado para cargas de trabajo de IA y computación de alto rendimiento (HPC) a escala gigante, y es hasta siete veces más rápido que el PCle Gen5.

Esta última incorporación de Nvidia a la oferta de GPU de Vultr se une a las GPU HGX H100, A100 Tensor Core, L40S, A40 y A16.

“El superchip Nvidia GH200 Grace Hopper ofrece un rendimiento y un coste total de propiedad inigualables para ampliar la inferencia de IA. Estamos entusiasmados de ser uno de los primeros proveedores de nube en brindar acceso global a esta tecnología esencial”, dijo JJ Kardwell, director ejecutivo de la empresa matriz de Vultr, Constant.

"Con nuestro lanzamiento global del Superchip Nvidia GH200 Grace Hopper, los innovadores en IA ahora tienen acceso a la GPU más potente para la inferencia de IA y la capacidad de acceder a ella en todo el mundo para respaldar sus objetivos de latencia en el mercado local, soberanía de datos, cumplimiento y privacidad".

“El Superchip Nvidia GH200 Grace Hopper fue diseñado específicamente para enfrentar de frente los problemas con mayor uso intensivo de datos de hoy y del mañana”, dijo Matt McGrigg, director de desarrollo de negocios globales de Nvidia Cloud Partners.

Las GPU de Nvidia están integradas con Kubernetes administrado de Vultr, computación en la nube virtualizada y ofertas bare metal.

Nvidia anunció la GH200 actualizada en agosto de 2023 y es la primera GPU que incluye memoria HBM3e. Consta de un único servidor con 144 núcleos Arm Neoverse, ocho petaflops de rendimiento de IA y 282 GB de memoria HBM3e.

Nvidia también ha revelado recientemente sus placas de servidor GPU HGX H200, su última GPU de gama alta con 141 GB de HBM3e y un ancho de banda de memoria de 4,8 TBps. Cada placa de servidor estará disponible en configuraciones de cuatro y ocho vías. Vultr implementará instancias H200 a partir del próximo año.

Vultr es un proveedor de nube con presencia en instalaciones de colocación en 32 ubicaciones repartidas en América del Norte, América Latina, Europa, Asia, Australia y África.