동적 로드 밸런싱(DLB)

선택적 DLB를 사용하면 더 이상 디바이스를 통과하는 모든 트래픽에 대해 DLB와 SLB 중에서 선택할 필요가 없습니다. 글로벌 수준에서 선호하는 DLB 모드를 구성하고, 기본 유형의 로드 밸런싱을 구성한 다음, 특정 종류의 트래픽에 대해 DLB를 선택적으로 활성화 또는 비활성화할 수 있습니다.

선택적 DLB는 엘리펀트 플로우라고도 하는 매우 큰 데이터 플로우가 전체 데이터 플로우에 비해 너무 작은 링크를 발견할 때도 유용합니다. 이 시나리오에서 선택적 DLB는 데이터센터 패브릭에서 링크의 사용 가능한 대역폭의 최적 사용을 계산할 수 있습니다. 엘리펀트 플로우에 대해 패킷당 선택적 DLB를 활성화하면 알고리즘이 패킷을 최고 품질의 링크에 먼저 전달합니다. 링크 품질이 변경되면 알고리즘은 후속 패킷을 다음으로 우수한 품질의 링크로 보냅니다.

기능 탐색기를 사용하여 특정 기능에 대한 플랫폼 및 릴리스 지원을 확인하십시오.

AI-ML 워크로드에서 대부분의 애플리케이션 트래픽은 전송을 위해 RoCEv2(Remote Direct Memory 액세스 over Converged Ethernet version 2)를 사용합니다. 동적 로드 밸런싱(DLB)은 RoCEv2 네트워크에서 효율적인 로드 밸런싱을 달성하고 혼잡을 방지하는 데 이상적입니다. 그러나 정적 로드 밸런싱(SLB)은 일부 트래픽 유형에 더 효과적일 수 있습니다. 선택적 DLB는 이 문제를 해결합니다.

플로우당 또는 패킷당 두 가지 방법으로 로드 밸런싱을 활성화할 수 있습니다. 플로우당 로드 밸런싱은 한 번에 가장 많은 수의 패킷을 처리하기 때문에 가장 널리 사용되었습니다. 디바이스는 동일한 5-튜플 패킷 헤더를 가진 패킷을 단일 플로우로 분류합니다. 디바이스는 플로우의 모든 패킷에 동일한 로드 밸런싱 처리를 제공합니다. 플로우 기반 로드 밸런싱은 트래픽이 모든 링크를 상당히 균등하게 활용하기 때문에 일반 TCP 및 UDP 트래픽에 적합합니다. 그러나 패킷당 로드 밸런싱은 일부 패킷의 순서를 변경할 수 있으며, 이는 성능에 영향을 미칠 수 있습니다.

많은 AI 클러스터는 잘못된 패킷을 처리할 수 있는 스마트 네트워크 인터페이스 카드(SmartNIC)를 통해 애플리케이션을 네트워크에 연결합니다. 성능을 개선하려면 네트워크에서 패킷당 DLB를 사용하도록 설정합니다. 그런 다음 순서가 잘못된 패킷을 처리할 수 있는 엔드포인트 서버에 대해서만 DLB를 사용하도록 설정합니다. 디바이스는 이러한 패킷의 BTH+ 헤더에 있는 RDMA 작동 코드(opcode)를 실시간으로 확인합니다. 방화벽 필터 일치 조건을 사용하여 이러한 opcode에 따라 DLB를 선택적으로 활성화 또는 비활성화할 수 있습니다. 다른 플로우는 SLB라고도 하는 기본 해시 기반 로드 밸런싱을 계속 사용합니다.

동적 로드 밸런싱(DLB)은 트래픽 플로우가 네트워크 전체에 균등하게 분산되도록 링크 품질을 기반으로 최적의 링크를 선택합니다. 사용자(네트워크 관리자)는 DLB가 최적의 링크를 선택하도록 DLB가 송신 포트의 품질 메트릭을 할당하는 방식을 사용자 정의할 수 있습니다.

DLB는 ECMP(Equal-Cost 다중 경로)의 일부인 각 송신 포트를 품질 대역에 할당합니다. 품질 밴드는 0에서 7까지 번호가 매겨지며, 0은 가장 낮은 품질이고 7은 최고 품질입니다. DLB는 각 포트에서 두 개의 메트릭을 추적하고 다음 메트릭을 사용하여 링크 품질을 계산합니다.

• 포트 로드 메트릭: 각 ECMP 링크를 통해 최근에 전송된 트래픽의 양(바이트 단위)입니다.

• 포트 대기열 메트릭: 셀 수로 측정된 전송을 위해 각 ECMP 링크에 대기열에 추가된 트래픽 양.

멤버 포트 로드 및 대기열 크기를 기반으로 DLB는 품질 밴드 중 하나를 멤버 포트에 할당합니다. 포트-품질 대역 매핑은 즉각적인 포트 로드 및 대기열 크기 메트릭에 따라 변경됩니다.

기본적으로 DLB는 링크 품질을 평가할 때 포트 로드 메트릭과 포트 대기열 메트릭에 균등하게 가중치를 부여합니다. 포트 대기열보다 포트 부하에 더 많은 링크 품질을 기반으로 하거나 그 반대의 경우도 가능하도록 DLB를 구성할 수 있습니다. 계층 수준에서 문을 rate-weightage 사용하여 DLB가 포트 로드에 부여하는 가중치를 구성합니다 [edit forwarding-options enhanced-hash-key ecmp-dlb egress-quantization] . DLB는 포트 대기열에 나머지 가중치 비율을 할당합니다. 예를 들어, 값을 80으로 구성 rate-weightage 하면 DLB는 링크 품질을 평가할 때 포트 로드에 80%의 가중치를 부여하고 포트 대기열에 20%의 가중치를 부여합니다.

또한 상한 및 하한 품질 대역을 결정하는 포트 로드 임계값을 구성할 수 있습니다. 임계값은 및 max 옵션을 사용하여 구성하는 총 포트 로드의 백분율입니다.min DLB는 포트 로드가 이 최소값 이하로 떨어지는 송신 포트를 최고 품질 대역(7)에 할당합니다. 최대 임계값보다 큰 포트 로드는 가장 낮은 품질 대역(0)에 속합니다. DLB는 품질 대역 1에서 6까지 나머지 포트 로드량을 나눕니다.

예를 들어, 최소값을 10으로 구성하고 최대값을 70으로 구성하는 경우, DLB는 전체 포트 로드의 10%(%) 미만을 차지하는 포트 로드가 있는 모든 송신 포트를 품질 대역 7에 할당합니다. DLB는 포트 로드가 전체 포트 로드의 70% 이상을 차지하는 모든 송신 포트를 품질 대역 0에 할당합니다. 그런 다음 DLB는 전체 포트 로드의 10%에서 70%를 차지하는 포트 로드가 있는 송신 포트를 품질 대역 1에서 6까지 할당합니다.

기능 탐색기를 사용하여 특정 기능에 대한 플랫폼 및 릴리스 지원을 확인하십시오.

동적 로드 밸런싱(DLB)은 트래픽 흐름이 균등하게 분산되도록 링크 품질을 기반으로 최적의 송신 링크를 선택하는 로드 밸런싱 기법입니다. 사용자(네트워크 관리자)는 플로우렛 모드에서 DLB를 구성할 수 있습니다.

플로우렛 모드에서 DLB는 최적 링크 품질을 기반으로 DLB가 선택한 마지막으로 본 타임스탬프와 송신 인터페이스를 기록하여 플로우를 추적합니다. DLB는 각 ECMP 그룹에 할당된 플로우셋 테이블에 이 정보를 기록합니다. DLB 알고리즘은 마지막으로 표시된 타임스탬프가 비활성 타이머를 초과할 때까지 특정 링크에서 지정된 흐름을 유지합니다. 특정 플로우에 대해 비활성 타이머가 만료되면 DLB는 해당 링크가 여전히 해당 플로우에 최적인지 여부를 다시 확인합니다. 링크가 더 이상 최적이 아닌 경우, DLB는 새 송신 링크를 선택하고 플로우 세트 테이블을 새 링크와 플로우의 마지막으로 알려진 타임스탬프로 업데이트합니다. 링크가 계속해서 최적이 유지되면 플로우셋 테이블은 동일한 송신 링크를 계속 사용합니다.

사용자(네트워크 관리자)는 플로우 세트 테이블 크기를 늘려 ECMP 그룹 간 플로우 세트 테이블 항목의 배포를 변경할 수 있습니다. ECMP 그룹의 플로우셋 테이블에 더 많은 항목이 있을수록 ECMP 그룹이 수용할 수 있는 플로우도 더 많습니다. 많은 수의 흐름을 처리해야 하는 AI-ML 데이터 센터와 같은 환경에서는 DLB가 더 큰 흐름 집합 테이블 크기를 사용하는 것이 특히 유용합니다. 각 ECMP 그룹이 많은 수의 흐름을 수용할 수 있는 경우 DLB는 ECMP 멤버 링크 전반에 걸쳐 더 나은 흐름 분배를 달성합니다.

플로우셋 테이블은 총 32,768개의 항목을 보유하며, 이러한 항목은 DLB ECMP 그룹 간에 균등하게 나뉩니다. 각 ECMP 그룹에 대한 플로우셋 테이블 크기의 범위는 256에서 32,768까지입니다. 다음 공식을 사용하여 ECMP 그룹의 수를 계산합니다.

기본적으로 플로우 세트 크기는 256개 항목이므로 기본적으로 128개의 ECMP 그룹이 있습니다.

기능 탐색기를 사용하여 특정 기능에 대한 플랫폼 및 릴리스 지원을 확인하십시오.

동적 로드 밸런싱(DLB)은 AI-ML 데이터센터 패브릭에 내재된 대규모 데이터 플로우(엘리펀트 플로우라고도 함)를 처리하는 데 중요한 도구입니다. 반응형 경로 재조정 은 기존 DLB 기능의 개선입니다.

DLB의 플로우렛 모드에서 네트워크 관리자는 비활성 간격을 구성합니다. 트래픽은 플로우가 비활성 타이머보다 더 오래 일시 중지될 때까지 할당된 발신(송신) 인터페이스를 사용합니다. 발신 링크 품질이 점진적으로 저하되는 경우, 플로우 내의 일시 중지는 구성된 비활성 타이머를 초과하지 않을 수 있습니다. 이 경우 클래식 플로우렛 모드는 트래픽을 다른 링크에 재할당하지 않으므로 트래픽이 더 나은 품질의 링크를 활용할 수 없습니다. 반응형 경로 재조정은 플로우렛 모드가 활성화된 경우에도 사용자가 트래픽을 더 나은 품질의 링크로 이동할 수 있도록 하여 이러한 제한을 해결합니다.

디바이스는 링크를 통해 흐르는 트래픽을 기반으로 각 ECMP(Equal-Cost 다중 경로) 송신 멤버 링크에 품질 대역을 할당합니다. 품질 대역은 포트 로드 및 대기열 버퍼에 따라 다릅니다. 포트 로드는 전송된 송신 바이트 수입니다. 대기열 버퍼는 송신 포트에서 전송되기를 기다리는 바이트 수입니다. ECMP를 통해 흐르는 트래픽 패턴을 기반으로 이러한 속성을 사용자 지정할 수 있습니다.

기능 탐색기를 사용하여 특정 기능에 대한 플랫폼 및 릴리스 지원을 확인하십시오.