Help us improve your experience.

Let us know what you think.

Do you have time for a two-minute survey?

 
 

AI-MLデータセンターのロードバランシング

AI-MLデータセンターがエレファントフローを処理する際には、ロードバランシングの大きな課題が発生します。エレファントフローがネットワーク全体で適切にロードバランシングされていない場合、トラフィックの混雑を引き起こす可能性があります。トラフィックの輻輳が発生した場合、非効率的なロードバランシングが、すでに輻輳しているリンクにトラフィックを誤って誘導し、問題を悪化させる可能性があります。Junos OS Evolvedには、エレファントフローの課題に合わせて最適化されたロードバランシング設定がいくつか用意されています。

ネットワーク管理者は、ネットワーク上で 3 つの主なタイプのロードバランシングを構成できます。

  • 静的ロードバランシング(SLB)—SLBでは、常に特定のリンクを使用するように特定のタイプのトラフィックを設定します。SLB は、最も基本的なタイプのロードバランシングです。

  • ダイナミックロードバランシング(DLB)—DLBは、トラフィックキューのサイズとローカルリンク帯域幅の使用率に基づいて、トラフィックフローのリンクを動的に選択します。DLBはまた、トラフィックを再ルーティングする前にリンクの健全性をチェックします。DLBは、SLBよりもトラフィックの輻輳を回避するのに効果的です。

    DLBには、カスタマイズを可能にするいくつかのモードとタイプがあります。

    • 選択的DLB—特定のパケットごとのシナリオではDLBを選択的に有効にし、その他のシナリオではSLBを使用します。

    • フローレットモード— フローレットモードでは、DLBは非アクティブタイマーを使用してフローのステータスを追跡します。特定のフローの非アクティブタイマーが期限切れになると、DLBはそのリンクがまだそのフローに対して最適であるかどうかを再チェックします。リンクが最適でなくなった場合、DLBは新しいエグレスリンクを選択します。

    • リアクティブ パス リバランス - DLB のこの拡張機能を使用して、 フローレット モード が有効になっている場合でも、トラフィックをより高品質のリンクに移動します。

  • グローバルロードバランシング(GLB)—GLBはDLBを改良したものです。DLBはローカルリンクの帯域幅使用率のみを考慮に入れますが、GLBはネクストツーネクストホップ(NNH)レベルでリンクの帯域幅使用率を可視化します。GLBは、トラフィックフローを再ルーティングすることで、DLBが検出できる範囲よりもネットワーク内のさらに外側でのトラフィック輻輳を回避できます。

これらのさまざまなロードバランシング手法は、AI-MLデータセンターファブリック内で並行して使用できます。

表1:動的ロードバランシング
トピック ユースケース
動的ロードバランシング(DLB)の概要

エレファントフローの処理にDLBが特に役立つ理由をご覧ください。
選択的動的ロードバランシング(DLB)

選択的DLBは、エレファントフローがデータフロー全体に対して小さすぎるリンクに遭遇した場合に便利です。このシナリオでは、選択的DLBが、データセンターファブリックにおけるリンクの利用可能な帯域幅の最適使用を計算できます。
DLB のエグレス ポート リンク品質メトリックのカスタマイズ

ネットワーク管理者は、DLBが最適なリンクを選択できるように、DLBがエグレスポートの品質メトリックを割り当てる方法をカスタマイズできます。
DLBフローレットモードでのフローセットテーブルサイズの設定

大量のフローを処理する必要がある AI-ML データ センターなどの環境では、DLB でより大きなフローセット テーブル サイズを使用することが特に便利です。各 ECMP グループが多数のフローに対応できる場合、DLB は ECMP メンバー リンク全体のフロー分散を改善します。
リアクティブ パス リバランス

リアクティブパスリバランスは、フローレットモードが有効になっている場合でも、ユーザーがトラフィックをより高品質のリンクに移動できるようにすることで、DLBの制限に対処します。
表2:GLB
トピック ユースケース
グローバルロードバランシング(GLB)

大規模なAI/MLデータセンターの導入では、GLBは多段階Closトポロジーで使用され、増え続けるデバイスとGPUをサポートします。これらのトポロジーによりパスの多様性が高まり、GLBが複数のネットワーク層にわたってより効果的なロードバランシングの決定を下すことができます。
マルチリンク付き3-CLOS IPファブリックでGLBを設定

Closネットワークでは、最初の2つのネクストホップの輻輳は、ローカルノードと前のホップノードのロードバランシングの決定に影響を与え、グローバルロードバランシング(GLB)をトリガーします。スパインスイッチとトップオブラックスイッチ間のマルチリンクを備えた3ステージClosトポロジー上のGLBが輻輳を緩和します。
表3:その他のロードバランシング機能
トピック ユースケース
RDMA フローのキューペア ハッシュ

ハッシュ計算に宛先キューのペアを含めることで、AI-ML トレーニング ネットワークのロードバランシングを強化できます。これはキューペアハッシュと呼ばれます。
CLOSネットワークにおけるBGP決定論的パスフォワーディング

BGP DPFは、指定された論理ファブリックに基づいてパスを選択し、最適なリンク利用を確保します。
加重パケットスプレー

WPS(Weighted Packet Spray)は、設定されたリンク帯域幅値に基づいて、複数のリンクにトラフィックを不均一に分散するロードバランシング技術です。