AI-ML 데이터센터 개요

인공지능(AI) 및 머신러닝(ML) 애플리케이션이 확장됨에 따라 이러한 AI-ML 애플리케이션을 지원하는 네트워크는 대규모 데이터 플로우를 처리하기 위한 더 많은 용량이 필요합니다. 이 요구 사항은 특히 AI-ML 데이터 세트를 저장하는 데이터센터에 해당됩니다. Junos® OS Evolved는 AI-ML 데이터센터를 위한 일련의 혁신적인 기능을 제공합니다. 네트워크 관리자는 이 가이드를 사용하여 이러한 기능을 구성하여 AI-ML 데이터센터 패브릭 내부의 운영을 최적화하는 방법을 배울 수 있습니다.

대규모 언어 모델(LLM)과 같은 생성형 AI 및 ML 애플리케이션은 데이터 세트의 통계 분석을 기반으로 하며, 계산 모델이 데이터에서 패턴을 더 자주 찾을수록 출력에서 해당 패턴을 더욱 강화합니다. 이러한 반복적인 패턴 찾기를 통해 이러한 모델은 인간의 말을 설득력 있게 모방하는 것과 같은 작업을 수행할 수 있습니다. 그러나 생성형 AI 애플리케이션은 학습된 데이터 세트만큼만 우수합니다. 데이터 세트가 클수록 모델이 감지할 수 있는 패턴이 더 많아집니다. 이러한 이유로 AI 및 ML 애플리케이션에는 대규모 데이터 세트가 필요합니다. 이러한 데이터 세트는 데이터 센터에 저장됩니다.

학습 속도를 높이기 위해 데이터 센터 네트워크 내에서 병렬 컴퓨팅을 통해 AI 및 ML 모델을 학습하는 경우가 많습니다. 그래픽 처리 장치(GPU)는 함께 클러스터링되어 데이터 센터 전체에 분산된 서버 노드에서 호스팅됩니다. 이러한 GPU 클러스터에서 복잡한 계산이 동시에 발생합니다. 네트워크는 완전히 학습된 모델을 생성하기 위해 클러스터 내의 GPU 출력을 동기화해야 합니다. 이러한 동기화를 위해서는 네트워크의 백엔드에서 대규모 데이터 플로우(이하 엘리펀트 플로우라고 함)가 지속적으로 이동해야 합니다.

AI-ML 데이터센터의 코끼리 플로우에는 강력한 네트워크가 필요합니다. 엘리펀트 플로우를 처리할 때 네트워크가 충분하지 않으면 트래픽 혼잡, 패킷 손실, 링크 장애와 같은 문제가 빠르게 발생합니다. 이러한 네트워크 문제는 높은 수준의 정확도가 요구되는 데이터를 처리할 때 특히 용납할 수 없습니다. AI-ML 데이터센터에 이상적인 강력한 네트워크 설계 중 하나는 레일 최적화 스트라이프(Rail-Optimized Stripe)입니다. 이 AI 클러스터 아키텍처는 대상과 동일한 레일에 있는 GPU로 데이터를 이동하여 네트워크 중단을 최소화합니다. IP Clos 아키텍처는 또 다른 기능적인 AI-ML 데이터센터 패브릭 설계입니다.

Junos OS Evolved를 실행하는 주니퍼 네트웍스® QFX 시리즈 스위치은 레일 최적화 스트라이프 아키텍처와 IP Clos 네트워크 설계 모두에 이상적인 후보입니다. 예를 들어, QFX5220-32CD, QFX5230-64CD, QFX5240-64OD, QFX5240-QD 스위치는 리프, 스파인, 슈퍼스파인 디바이스와 같은 두 네트워크 유형 모두에서 잘 작동합니다. 이러한 스위치는 또한 POD(Point of Distribution)라고 하는 리프-스파인 스위치 그룹으로도 잘 작동합니다. 데이터센터에 더 큰 규모의 AI-ML 클러스터를 구축하려면 슈퍼스파인 레이어를 사용하여 서로 다른 POD를 상호 연결할 수 있습니다. 이러한 스위치를 단일 POD 또는 다중 POD로 구축하여 유연성과 네트워크 중복을 극대화할 수 있습니다. 또한 이러한 디바이스는 AI-ML 데이터센터에서 흔히 발생하는 많은 로드 밸런싱 및 트래픽 관리 문제를 해결하는 고급 AI-ML 기능을 지원합니다.