AI-ML 数据中心的负载平衡

当 AI-ML 数据中心处理大象流时，会出现巨大的负载平衡挑战。如果“大象流”在网络中没有正确均衡负载，则可能会导致流量拥塞。确实发生流量拥塞时，无效的负载平衡可能会无意中将流量引导至已经拥塞的链路，从而使问题更加复杂。Junos OS 演化版提供了多种类型的负载平衡配置，这些配置针对“大象流”的挑战进行了优化。

作为网络管理员，您可以在网络上配置三种主要类型的负载平衡：

• 静态负载平衡 （SLB） — 在 SLB 中，您可以将某些类型的流量配置为始终使用某些链路。SLB 是最基本的负载平衡类型。

• 动态负载平衡 （DLB） — DLB 根据流量队列的大小和本地链路带宽利用率动态选择流量的链路。DLB 还会在重新路由流量之前检查链路的运行状况。DLB 在避免流量拥塞方面比 SLB 更有效。

  DLB 有多种允许自定义的模式和类型，包括：

  • 选择性 DLB — 为某些按数据包的场景选择性地启用 DLB，而对其他场景使用 SLB。

  • Flowlet 模式 — 在 Flowlet 模式下，DLB 使用非活动计时器跟踪流量状态。当特定流量的非活动计时器到期时，DLB 会重新检查该链路是否仍适合该流量。如果链路不再处于最佳状态，DLB 会选择新的出口链路。

  • 被动路径重新平衡 — 即使启用了 流模式 ，也可以使用对 DLB 的此增强功能将流量移动到质量更好的链路。

• 全局负载平衡 （GLB） — GLB 是对 DLB 的改进。DLB 仅考虑本地链路带宽利用率，而 GLB 可以查看下一跳 （NNH） 级别链路的带宽利用率。GLB 可以重新路由流量，以避免流量拥塞在网络中比 DLB 检测到的范围更远的地方。

您可以在 AI-ML 数据中心交换矩阵中并行使用这些不同的负载平衡技术。

表 1：动态负载平衡

主题	用例
动态负载平衡 （DLB） 概述	了解为什么 DLB 在处理大象流时特别有用。
选择性动态负载平衡 （DLB）	当大象流遇到对于整个数据流而言太小的链路时，选择性 DLB 非常有用。在这种情况下，选择性 DLB 可以计算数据中心交换矩阵中链路可用带宽的最佳利用情况。
自定义 DLB 的出口端口链路质量指标	您（网络管理员）可以自定义 DLB 分配出口端口质量指标的方式，以便 DLB 选择最佳链路。
在 DLB Flowlet 模式下配置流集表大小	在必须处理大量流的 AI-ML 数据中心等环境中，DLB 使用更大的流集表特别有用。当每个 ECMP 组都可以容纳大量流量时，DLB 可以在 ECMP 成员链路上实现更好的流量分配。
被动式路径再平衡	响应式路径再平衡使用户能够将流量移动到质量更好的链路，即使启用了流模式，也解决了 DLB 的局限性。

表 2：GLB

主题	用例
全局负载平衡 （GLB）	在大规模 AI/ML 数据中心部署中，GLB 用于多级 Clos 拓扑，以支持不断增长的设备和 GPU。这些拓扑引入了额外的路径分集，使 GLB 能够跨多个网络层做出更有效的负载平衡决策。
在使用多链路的 3-CLOS IP 交换矩阵上配置 GLB	在 Clos 网络中，前两个下一跃点的拥塞会影响本地节点和前一个跃点节点的负载平衡决策，并触发全局负载平衡 （GLB）。在主干交换机和架顶式交换机之间使用多链路的 3 级 Clos 拓扑上的 GLB 缓解了拥塞。

表 3：其他负载平衡功能

主题	用例
RDMA 流的队列对散列	您可以通过在哈希计算中包含目标队列对来增强 AI-ML 训练网络上的负载平衡。这称为队列对哈希。
CLOS 网络中的 BGP 确定性路径转发	BGP DPF 会根据指定的逻辑交换矩阵选择路径，以确保最佳链路利用率。
加权包装喷雾	加权数据包喷射 （WPS） 是一种负载平衡技术，可根据配置的链路带宽值在多个链路上不均匀地分配流量。