Acerca de este documento

En este documento se describen los requisitos de diseño y la implementación de una infraestructura de clúster de IA que incluye compatibilidad con multitenencia de GPU en la estructura backend de GPU mediante EVPN/VXLAN. Esta estructura está construida en base a conmutadores de la serie Juniper Data Center QFX5240 optimizados para IA. El clúster incluye Nvidia H100 DGX, así como servidores GPU AMD MI300X y sistemas Vast Storage.

Todas las pruebas de validación se realizaron en el Laboratorio de Innovación de IA de Juniper en Sunnyvale, California, EE. UU. En este laboratorio abierto, Juniper colabora estrechamente con clientes y socios tecnológicos para desarrollar soluciones de IA y probar implementaciones para una variedad de aplicaciones y modelos de IA.

El AI Innovation Lab permite a los clientes ver el entrenamiento y la inferencia de IA en acción. Juniper realiza estas pruebas ejecutando modelos específicos del cliente y los de MLCommons para la evaluación comparativa y las comparaciones del rendimiento de MLPerf.