Réseau de datacenter dédié à l'IA

La demande en matière d'IA pousse les hyperscalers, les fournisseurs de cloud, les entreprises, les administrations publiques et les établissements d'enseignement à intégrer l'IA dans leurs systèmes afin d'automatiser les opérations, de générer du contenu et des communications, et d'améliorer le service client.

Les modèles d'IA sont développés en utilisant des jeux de données soigneusement élaborés pendant la phase d'entraînement. Ce processus fait appel à plusieurs dizaines, centaines ou même milliers de GPU dans un cluster. Ils sont tous reliés au sein d'un réseau et échangent en permanence des données les uns avec les autres. Une fois le traitement terminé, le modèle est plus ou moins complet. Au cours de la phase d'inférence, les utilisateurs interagissent avec le modèle qui peut identifier ou produire des images ou du texte pour répondre aux questions des utilisateurs. L'entraînement se déroule généralement hors ligne, à l'inverse de l'inférence.

Le traitement des jeux de données massifs de l'IA doit nécessairement s'appuyer sur des capacités de calcul renforcées, un stockage plus rapide et un réseau à haute capacité et faible latence. Juniper vous aide à répondre à ces exigences comme suit :

• Calcul : les clusters de calcul d'IA/ML pèsent lourdement sur le réseau entre les nœuds. Il faut donc réduire les délais de traitement des jobs (JCT) au maximum, car l'efficacité du cluster dépend fortement du réseau Juniper propose des commutateurs hautes performances non bloquants, dotés d'une large mémoire tampon et capables de gérer la congestion. Dans une conception de réseau optimale, ils éliminent tout goulot d'étranglement.
• Stockage : en matière de clusters d'IA/ML et de calcul haute performance, il est rare qu'un ensemble ou qu'un modèle de données puisse être stocké en intégralité sur les nœuds de calcul. Un réseau de stockage hautes performances est donc nécessaire. Les commutateurs QFX Series de Juniper peuvent être utilisés pour la connectivité du stockage IP, étant entièrement compatibles avec les réseaux RDMA (Remote Direct Memory Access), y compris avec NVMe/RoCE (Non-Volatile Memory Express/RDMA sur Ethernet convergé) et NFS (Network File System)/RDMA.
• Réseau : les modèles d'entraînement de l'IA reposent sur des calculs volumineux et intenses, répartis sur des centaines ou des milliers de CPU, GPU et TPU. Ces calculs exigent des réseaux de haute capacité, évolutifs sur le plan horizontal et sans erreurs. Les commutateurs QFX et les routeurs PTX Series de Juniper prennent en charge ces calculs volumineux dans et entre les datacenters grâce à un débit de commutation et de routage optimal et à des capacités d'interconnexion de datacenters (DCI).

Apstra est la plateforme de pointe de Juniper dédiée à l'automatisation et à la fiabilisation des datacenters.   Elle automatise l'ensemble du cycle de vie du réseau, de la conception jusqu'aux opérations quotidiennes, dans les datacenters multifournisseurs. De plus, elle assure une validation continue, offre des analyses puissantes et identifie les causes racines pour garantir la fiabilité.L'assistant réseau virtuel Marvis pour le datacenter transfère les informations d'Apstra vers Juniper Mist Cloud. Celles-ci sont ensuite présentées sur un tableau de bord VNA commun pour fournir des informations complètes.L'assistant réseau virtuel Marvis pour le datacenter offre une interface conversationnelle robuste qui s'appuie sur l'IA générative pour faciliter considérablement les recherches dans la base de connaissances.  

Nos commutateurs de datacenter hautement performants et sans blocage, équipés d'une mémoire tampon étendue, gèrent efficacement la congestion pour supprimer les goulots d'étranglement dans le réseau. L'équilibrage de charge dynamique et le routage adaptatif équilibrent les charges de trafic. Pour gérer la congestion, Juniper prend entièrement en charge les mécanismes DCQCN (Data Center Quantized Congestion Notification), PFC (Priority Flow Control) et ECN (Explicit Congestion Notification). Enfin, pour réduire la latence dans son architecture dorsale, Juniper utilise les meilleurs circuits du marché, des architectures ASIC personnalisées qui maximisent les tampons selon les besoins, mais aussi le Virtual Output Queueing (VOQ) et des fabrics cellulaires.

Notre portefeuille comprend des commutateurs ouverts et basés sur les normes, dotés d'une connectivité de stockage IP via les protocoles NVMe/RoCE ou NFS/RDMA (voir question précédente). Notre solution de réseau de stockage IP s'étend d'une configuration à quatre nœuds, à des centaines ou des milliers de nœuds de stockage.