关于本文档

本文档介绍 AI 群集基础架构的设计要求和实施，其中包括使用 EVPN/VXLAN 在 GPU 后端交换矩阵中支持 GPU 多租户。该交换矩阵基于经过AI优化的 瞻博网络 Data Center QFX5240 系列交换机构建。该群集包括 Nvidia H100 DGX 以及 AMD MI300X GPU 服务器和 Vast Storage 系统。

所有验证测试均在美国加州森尼维尔的瞻博网络 AI 创新实验室证书颁发机构进行。在这个开放实验室中，瞻博网络与客户和技术合作伙伴密切合作，共同开发 AI 解决方案，并针对一系列 AI 应用和模型测试部署。

通过 AI 创新实验室，客户可以看到 AI 训练和推理的实际应用。瞻博网络运行客户特定的模型以及来自 MLCommons 的模型来执行这些测试，以进行 MLPerf 性能基准测试和比较。