Datacenters pour les fournisseurs de services cloud d'IA

Les fournisseurs de services et les néo-clouds déploient des datacenters IA dédiés pour proposer aux entreprises, aux gouvernements et aux établissements d’enseignement des services d’IA personnalisés, accessibles et rapidement commercialisables. Les services d'IA hébergés dans le cloud offrent aux utilisateurs finaux des capacités de calcul, de stockage et de réseau virtualisées et sécurisées, tout en ouvrant de nouvelles sources de revenus avec une efficacité accrue et un coût total de possession réduit.  

Un néo-cloud désigne une nouvelle génération de fournisseurs de cloud spécialisés dans le calcul IA, qui proposent des ressources GPU virtualisées, accompagnées de solutions de stockage et de connectivité sécurisée. Ces clouds 100 % GPU offrent à leurs clients des performances de pointe et une grande flexibilité, tout en permettant d’amortir l'infrastructure IA sur un vaste portefeuille de clients. Grâce aux outils cloud et à l’automatisation, les néo-clouds optimisent leur infrastructure IA sous-jacente et bénéficient de l’agilité nécessaire pour évoluer rapidement, aussi bien en capacité qu’en envergure, selon la demande.

Les modèles d'IA sont développés en utilisant des jeux de données soigneusement élaborés pendant la phase d'entraînement. Ce processus fait appel à plusieurs dizaines, centaines voire milliers de GPU dans un cluster. Ils sont tous reliés au sein d'un réseau et échangent en permanence des données les uns avec les autres. Une fois le traitement terminé, le modèle est plus ou moins complet. Au cours de la phase d'inférence, les utilisateurs interagissent avec le modèle, qui peut identifier ou produire des images ou du texte pour répondre aux questions des utilisateurs. L'entraînement se déroule généralement hors ligne, à l'inverse de l'inférence.

Le traitement des jeux de données massifs de l'IA doit nécessairement s'appuyer sur des capacités de calcul renforcées, un stockage plus rapide et un réseau à haute capacité et faible latence. Juniper vous aide à répondre à ces exigences comme suit :

• Calcul : les clusters de calcul d'IA/de ML pèsent lourdement sur le réseau entre les nœuds. Il faut donc réduire les délais de traitement des jobs (JCT) au maximum, car l'efficacité du cluster dépend fortement du réseau Juniper propose des commutateurs hautes performances non bloquants, dotés d'une large mémoire tampon et capables de gérer la congestion. Dans une conception de réseau optimale, ils éliminent tout goulot d'étranglement.
• Stockage : en matière de clusters d'IA/de ML et de calcul haute performance, il est rare qu'un ensemble de données ou un modèle puisse être stocké en totalité sur les nœuds de calcul. Un réseau de stockage haute performance est donc nécessaire. Les commutateurs QFX Series de Juniper peuvent être utilisés pour la connectivité de stockage IP. Ils sont entièrement compatibles avec les réseaux RDMA (Remote Direct Memory Access), y compris NVMe/RoCE (Non-Volatile Memory Express/RDMA sur Ethernet convergé) et NFS (Network File System)/RDMA.
• Réseau : les modèles d'entraînement de l'IA reposent sur des calculs volumineux et intenses, répartis sur des centaines ou des milliers de CPU, GPU et TPU. Ces calculs exigent des réseaux de haute capacité, évolutifs sur le plan horizontal et sans erreurs. Les commutateurs QFX et les routeurs PTX Series de Juniper prennent en charge ces calculs volumineux dans les datacenters et entre eux grâce à un débit de commutation et de routage de premier ordre et à des capacités d'interconnexion de datacenters (DCI).

Apstra Data Center Director est la plateforme de pointe de Juniper conçue pour automatiser et assurer le bon fonctionnement des datacenters. Elle automatise l'ensemble du cycle de vie du réseau, de la conception aux opérations quotidiennes, dans les datacenters multifournisseurs, grâce à une validation continue, des analyses puissantes et l'identification des causes racines pour garantir la fiabilité. Avec l'assistant IA Marvis pour datacenter, ces informations sont transférées de Data Center Director vers Juniper Mist Cloud, et présentées sur un tableau de bord commun fournissant des informations de bout en bout.  L'assistant IA Marvis pour datacenter dispose également d'une interface conversationnelle robuste qui s'appuie sur l'IA générative pour faciliter considérablement les recherches dans la base de connaissances.

Nos commutateurs hautes performances non bloquants, dotés d'une large mémoire tampon, gèrent efficacement la congestion pour supprimer les goulots d'étranglement sur le réseau. L'équilibrage de charge dynamique et le routage adaptatif équilibrent les charges de trafic. Pour gérer la congestion, Juniper prend entièrement en charge les mécanismes DCQCN (Data Center Quantized Congestion Notification), PFC (Priority Flow Control) et ECN (Explicit Congestion Notification). Enfin, pour réduire la latence dans son architecture dorsale, Juniper utilise les meilleurs circuits du marché, des architectures ASIC personnalisées qui maximisent les tampons selon les besoins, mais aussi le Virtual Output Queueing (VOQ) et des fabrics cellulaires dans les architectures Spine.

Notre portefeuille comprend des commutateurs ouverts et standardisés, dotés d'une connectivité de stockage IP via les protocoles NVMe/RoCE ou NFS/RDMA (voir question précédente). Notre solution de réseau de stockage IP s’adapte aussi bien à des configurations à quatre nœuds qu’à des infrastructures comptant des centaines ou des milliers de nœuds de stockage.