La plataforma de datos de IA Vast Data ha presentado una arquitectura de IA para centros de datos, desarrollada en colaboración con Nvidia.
El proveedor asegura que el nuevo sistema ofrecerá un rendimiento mejorado y una mayor calidad de servicio, así como una seguridad de confianza cero mejorada. Construida sobre la tecnología de la unidad de procesamiento de datos (DPU) BlueField-3 de Nvidia, la arquitectura "permite desagregar la totalidad del sistema operativo de Vast de manera nativa en maquinaria de cómputo de IA, transformando supercomputadoras en motores de datos de IA", dijo la empresa.
El sistema de Vast permite a los usuarios entrenar modelos de IA almacenando y sintetizando grandes cantidades de datos. El año pasado lanzó su plataforma de datos que ofrece servicios de almacenamiento, bases de datos y motores de cómputo para apoyar la investigación habilitada para la IA.
Jeff Denworth, cofundador de Vast Data, dijo: "Esta nueva arquitectura es el escaparate perfecto para expresar el paralelismo de la Plataforma de Datos de Vast. Con los DPU BlueField-3 de Nvidia, ahora podemos realizar todo el potencial de nuestra visión para centros de datos desagregados hacia los que hemos estado trabajando desde que se fundó la empresa".
La empresa dijo que el nuevo diseño de arquitectura incrusta servicios de procesamiento de almacenamiento y base de datos directamente en los servidores de IA y ofrece lo que describe como "verdaderos servicios de datos lineales diseñados para escalar a cientos de miles de GPUs". También elimina múltiples capas de hardware x86 y redes de la infraestructura de la plataforma de datos de Vast, algo que cree que puede reducir drásticamente el costo, la huella y el consumo de energía asociados con los servicios de datos de IA.
De hecho, afirma que la arquitectura puede reducir el consumo de energía y la huella del centro de datos para implementar la infraestructura de Vast en un 70 por ciento.
El nuevo sistema está siendo probado por el proveedor de nube GPU CoreWeave. Las empresas tienen una asociación existente, habiendo lanzado una nube de IA dedicada el año pasado.
Peter Salanki, vicepresidente de ingeniería de CoreWeave, dijo que la arquitectura ha sido "un cambio de juego" para su empresa, lo que le permite "desagregar completamente" sus centros de datos.
"Estamos integrando sin problemas el software avanzado de Vast directamente en nuestros clústeres de GPU", dijo Salanki. "Aprovechando los DPU BlueField de Nvidia, hemos estado a la vanguardia de la creación de abstracciones de centro de datos definidas por software sofisticadas.
"Ahora, al incorporar nativamente servicios de almacenamiento y bases de datos en BlueField, no solo estamos optimizando nuestra infraestructura sino que también estamos mejorando la experiencia del usuario para nuestros clientes al eliminar cuellos de botella en la tubería de cómputo de datos de IA".
Vast lanzó su nueva arquitectura antes de la conferencia GTC de Nvidia, que se llevará a cabo en San José la próxima semana. También ha revelado que está trabajando con otro proveedor, SuperMicro, en una nueva colaboración para ofrecer una solución de IA de extremo a extremo y de pila completa destinada a simplificar la creación y expansión de implementaciones de IA a gran escala.
Las dos compañías "ofrecerán a proveedores de servicios, hyperscalers y grandes empresas centradas en datos una solución de IA altamente eficiente y resistente, impulsada por sistemas certificados por Nvidia", según un comunicado conjunto.
"Colaborando con Supermicro, estamos entregando una plataforma de datos hiperescala unificada que facilitará que los proveedores de servicios y las empresas sean competitivos en la carrera de la IA", dijo Renen Hallak, CEO y cofundador de Vast.