Réseau de datacenter dédié à l'IA

La demande en matière d'IA pousse les hyperscalers, les fournisseurs de cloud, les entreprises, les administrations publiques et les établissements d'enseignement à intégrer l'IA dans leurs systèmes afin d'automatiser les opérations, de générer du contenu et des communications, et d'améliorer le service client.

es modèles d'IA sont développés en utilisant des ensembles de données soigneusement élaborés pendant la phase d’entraînement, qui fait appel à plusieurs dizaines, centaines ou même milliers de GPU dans un cluster. Ils sont tous reliés au sein d'un réseau et échangent en permanence des données les uns avec les autres. Après cette phase d’entraînement, le modèle est plus ou moins complet. Au cours de la phase d'inférence, les utilisateurs interagissent avec le modèle qui peut identifier ou produire des images ou du texte pour répondre aux questions des utilisateurs. L’entraînement se déroule généralement hors ligne, à l’inverse de l'inférence.

Le traitement des ensembles de données massifs de l'IA doit nécessairement s’appuyer sur des capacités de calcul renforcées, un stockage plus rapide et un réseau à haute capacité et faible latence. Juniper vous aide à répondre à ces exigences comme suit.

• Calcul : les clusters de calcul d'IA/ML pèsent lourdement sur le réseau entre les nœuds. Il faut donc réduire les délais de traitement des jobs (JCT) au maximum, car l’efficacité du cluster dépend fortement du réseau Juniper propose des commutateurs hautes performances non bloquants, dotés d'une large mémoire tampon et capables de gérer les encombrements. Dans une conception de réseau optimale, ils éliminent tout goulot d'étranglement.
• Stockage : en matière de clusters d'IA/ML et de calcul hautes performances, il est rare qu'un ensemble ou qu'un modèle de données puisse être stocké en intégralité sur les nœuds de calcul. Un réseau de stockage hautes performances est donc nécessaire. Les commutateurs QFX Series de Juniper peuvent être utilisés pour la connectivité du stockage IP, étant entièrement compatibles avec les réseaux RDMA (Remote Direct Memory Access), y compris avec NVMe/RoCE (Non-Volatile Memory Express/RDMA sur Ethernet convergé) et NFS (Network File System)/RDMA.
• Réseau : les modèles d’entraînement d'IA reposent sur des calculs volumineux et intenses, répartis sur des centaines ou des milliers de CPU, GPU et TPU. Ces calculs exigent des réseaux de haute capacité, évolutifs sur le plan horizontal et sans erreurs. Les commutateurs QFX et les routeurs PTX Series de Juniper prennent en charge ces calculs volumineux dans et entre les datacenters grâce à un débit de commutation et de routage de premier ordre et à des capacités d'interconnexion de datacenters (DCI).

Nos commutateurs de datacenter hautes performances et non bloquants intègrent une mémoire tampon profonde et assurent la gestion des encombrements afin d'éliminer les goulots d'étranglement du réseau. L'équilibrage de charge dynamique et le routage adaptatif équilibrent les charges de trafic. Pour gérer les encombrements, Juniper prend entièrement en charge les mécanismes DCQCN (Data Center Quantized Congestion Notification), PFC (Priority Flow Control) et ECN (Explicit Congestion Notification). Enfin, pour réduire la latence dans son architecture dorsale, Juniper utilise les meilleurs circuits du marché, des architectures ASIC personnalisées qui maximisent les tampons selon les besoins, mais aussi le Virtual Output Queueing (VOQ) et des fabrics cellulaires.

Notre portefeuille comprend des commutateurs ouverts et standardisés dotés d’une connectivité de stockage IP via les protocoles NVMe/RoCE ou NFS/RDMA (voir question précédente). Notre solution de réseau de stockage IP s'étend d'une configuration à quatre nœuds, à des centaines ou des milliers de nœuds de stockage.