Datacenters pour les fournisseurs de services cloud d'IA

Les fournisseurs de services et les fournisseurs de néocloud déploient des datacenters d'IA spécialement conçus pour offrir des services d'IA personnalisés, abordables et rapides à mettre sur le marché aux entreprises, aux administrations publiques et aux établissements d'enseignement. Les services d'IA hébergés dans le cloud offrent aux utilisateurs finaux des capacités de calcul, de stockage et de réseau virtualisées et sécurisées, tout en ouvrant de nouvelles sources de revenus avec une efficacité accrue et un coût total de possession réduit.  

Un neocloud est un nouveau type de fournisseur de cloud computing IA qui propose des capacités de calcul GPU virtualisées avec stockage et mise en réseau sécurisée. Ces pure players des clouds GPU offrent des performances et une flexibilité de pointe aux clients tout en amortissant le coût de leur infrastructure cloud d'IA auprès d'une large clientèle. Grâce aux outils cloud et à l'automatisation, les néocloud gagnent en efficacité dans leur infrastructure IA sous-jacente et l'agilité du cloud leur permet de s'étendre horizontalement et verticalement pour répondre à la demande des clients.

Les modèles d'IA sont développés en utilisant des jeux de données soigneusement élaborés pendant la phase d'entraînement. Ce processus fait appel à plusieurs dizaines, centaines ou même milliers de GPU dans un cluster. Ils sont tous reliés au sein d'un réseau et échangent en permanence des données les uns avec les autres. Une fois le traitement terminé, le modèle est plus ou moins complet. Au cours de la phase d'inférence, les utilisateurs interagissent avec le modèle qui peut identifier ou produire des images ou du texte pour répondre aux questions des utilisateurs. L'entraînement se déroule généralement hors ligne, à l'inverse de l'inférence.

Le traitement des jeux de données massifs de l'IA doit nécessairement s'appuyer sur des capacités de calcul renforcées, un stockage plus rapide et un réseau à haute capacité et faible latence. Juniper vous aide à répondre à ces exigences comme suit :

• Calcul : les clusters de calcul d'IA/ML pèsent lourdement sur le réseau entre les nœuds. Il faut donc réduire les délais de traitement des jobs (JCT) au maximum, car l'efficacité du cluster dépend fortement du réseau Juniper propose des commutateurs hautes performances non bloquants, dotés d'une large mémoire tampon et capables de gérer la congestion. Dans une conception de réseau optimale, ils éliminent tout goulot d'étranglement.
• Stockage : en matière de clusters d'IA/ML et de calcul haute performance, il est rare qu'un ensemble de données ou un modèle puisse être stocké en totalité sur les nœuds de calcul. Un réseau de stockage haute performance est donc nécessaire. Les commutateurs QFX Series de Juniper peuvent être utilisés pour la connectivité de stockage IP. Ils sont entièrement compatibles avec les réseaux RDMA (Remote Direct Memory Access), y compris NVMe/RoCE (Non-Volatile Memory Express/RDMA sur Ethernet convergé) et NFS (Network File System)/RDMA.
• Réseau : les modèles d'entraînement de l'IA reposent sur des calculs volumineux et intenses, répartis sur des centaines ou des milliers de CPU, GPU et TPU. Ces calculs exigent des réseaux de haute capacité, évolutifs sur le plan horizontal et sans erreurs. Les commutateurs QFX et les routeurs PTX Series de Juniper prennent en charge ces calculs volumineux dans les datacenters et entre eux grâce à un débit de commutation et de routage de premier ordre et à des capacités d'interconnexion de datacenters (DCI).

Juniper Apstra est la plate-forme de pointe de Juniper pour l'automatisation et l'assurance des datacenters. Elle automatise l'ensemble du cycle de vie du réseau, de la conception aux opérations quotidiennes, dans les datacenters multifournisseurs, grâce à une validation continue, des analyses puissantes et l'identification des causes racines pour garantir la fiabilité.Avec l'assistant réseau virtuel Marvis pour le datacenter, les informations sont transférées d'Apstra vers Juniper Mist Cloud et présentées sur un tableau de bord Marvis commun qui vous éclaire de bout en bout. L'assistant réseau virtuel Marvis pour le datacenter dispose également d'une interface conversationnelle robuste qui s'appuie sur l'IA générative pour faciliter considérablement les recherches dans la base de connaissances.  

Nos commutateurs de datacenter hautement performants et sans blocage, équipés d'une mémoire tampon étendue, gèrent efficacement la congestion pour supprimer les goulots d'étranglement dans le réseau. L'équilibrage de charge dynamique et le routage adaptatif équilibrent les charges de trafic. Pour gérer la congestion, Juniper prend entièrement en charge les mécanismes DCQCN (Data Center Quantized Congestion Notification), PFC (Priority Flow Control) et ECN (Explicit Congestion Notification). Enfin, pour réduire la latence dans son architecture dorsale, Juniper utilise les meilleurs circuits du marché, des architectures ASIC personnalisées qui maximisent les tampons selon les besoins, mais aussi le Virtual Output Queueing (VOQ) et des fabrics cellulaires.

Notre portefeuille comprend des commutateurs ouverts et basés sur les normes, dotés d'une connectivité de stockage IP via les protocoles NVMe/RoCE ou NFS/RDMA (voir question précédente). Nos solutions de réseaux de stockage IP peuvent évoluer d'une petite configuration à quatre nœuds à des centaines ou des milliers de nœuds de stockage.