Networking di data center con AI

Esperienze semplici e integrate per gli operatori che fanno risparmiare tempo e denaro

I recenti progressi nell'intelligenza artificiale (AI) generativa hanno catturato l'immaginazione di centinaia di milioni di persone in tutto il mondo e hanno catapultato l'AI e il machine learning (ML) sotto i riflettori delle aziende. I data center sono i motori alla base dell'AI e le reti di data center svolgono un ruolo fondamentale nell'interconnettere e massimizzare l'utilizzo di costosi server GPU.

L'addestramento AI, misurato dai tempi di completamento delle operazioni (JCT), è un problema di elaborazione parallela massiva. Per ottenere il massimo dalle costose GPU, è necessario un fabric di rete veloce e affidabile. Una rete adeguata è l'elemento chiave per ottimizzare il ROI e la formula è semplice: progettare la rete giusta e ottenere risparmi consistenti sulle applicazioni AI.

ai-data-center-network-solution

AI: per data center proprio come vuoi tu

Scopri di più sulle tecnologie di networking e sulle soluzioni per i data center in grado di potenziare al massimo la crescita dell'ecosistema multivendor AI. Con la partecipazione di figure leader da AMD, Juniper, Broadcom e altre aziende.

 

Guarda ora

Come può aiutarti Juniper

La soluzione Juniper per il data center AI rappresenta un modo rapido di implementare reti di inferenza e addestramento AI ad alte prestazioni, che sono le più flessibili da progettare e le più facili da gestire con risorse IT limitate. Integriamo una AIOps leader del settore e tecnologie di networking di prim'ordine per aiutare i clienti a costruire facilmente fabric di rete ad alta capacità e di semplice gestione, che garantiscono i JCT più rapidi, massimizzano l'utilizzo delle GPU e si avvalgono di risorse IT limitate.

Business intelligence analyst dashboard on virtual screen. Big data Graphs Charts.

Operazioni semplificate per una riduzione dell'OPEX legato al networking fino al 90%

Il nostro approccio orientato alle operazioni permette di risparmiare tempo e denaro evitando il vendor lock-in.L'esclusiva automazione basata sugli intenti di Juniper Apstra protegge gli operatori dalle complessità della rete e accelera il deployment. Le nuove funzionalità AIOps nel data center con Marvis Virtual Network Assistant for Data Center migliorano ulteriormente le esperienze degli operatori e degli utenti finali, consentendo ai clienti di individuare e risolvere rapidamente i problemi in modo proattivo. Il risultato è una riduzione dei tempi di deployment fino all'85% quando si utilizza Juniper per il networking di data center con AI.

Forrester ha effettuato uno studio sull'impatto economico totale di Juniper Apstra e ha rilevato che una comune azienda registra un ROI del 320% e un ritorno dell'investimento in meno di sei mesi.

Modern high rise building with sky view

Interoperabilità al 100% con tutte le principali GPU, fabric e switch

Le soluzioni proprietarie che vincolano le aziende possono soffocare l'innovazione dell'AI. La soluzione di Juniper garantisce la massima innovazione, massimizza la flessibilità di progettazione ed evita il vendor lock-in per le reti AI di backend, frontend e storage. La nostra soluzione Ethernet, aperta e ottimizzata per l'AI, garantisce rapidità nelle funzioni e risparmio sui costi, mentre Apstra è l'unica opzione per le operazioni e l'assurance dei data center in tutte le reti multivendor. Con Juniper, puoi scegliere liberamente qualsiasi GPU, fabric e switch per soddisfare al meglio le specifiche esigenze di networking di data center.

Vuoi leggere l'ultima ricerca di IDC su come il passaggio alla cosiddetta “AI ovunque” stia influenzando l'infrastruttura del data center e come le grandi aziende stiano ospitando le applicazioni AI?

Top down aerial view of Chicago Downtown skyscrapers. Urban grid with streets and tall buildings. Late afternoon light

Le soluzioni chiavi in mano garantiscono un'affidabilità fino a 10 volte superiore

Le soluzioni chiavi in mano di Juniper permettono di implementare data center AI ad alte prestazioni con flessibilità e facilità, dallo switching e dal routing alle operazioni e alla sicurezza. I design convalidati di Juniper (JVD) semplificano i processi di deployment e risoluzione dei problemi, consentendo di creare il prossimo grande modello AI in modo rapido e sicuro. La diversità di silicio nei nostri prodotti favorisce la scalabilità, le prestazioni e la flessibilità per i clienti, mentre la sicurezza integrata protegge i carichi di lavoro AI e le infrastrutture dagli attacchi informatici.

Vuoi scoprire in dettaglio come la soluzione di data center AI di Juniper può aiutarti ad aumentare l'efficienza, abbassare l'OpEx e ridurre i JCT? Scarica il nostro White Paper “Il networking di data center AI”.

AdobeStock_432104296

La soluzione di Juniper Networks e WEKA

Juniper Networks e WEKA collaborano per fornire soluzioni di data center scalabili, ad alte prestazioni e ottimizzate per l'AI, al fine di migliorare le prestazioni e l'efficienza delle GPU e accelerare l'addestramento e l'inferenza AI/ML.

AdobeStock_372231814

Scopri in prima persona le nostre soluzioni

Verifica che la nostra soluzione sia quella giusta per accelerare il time-to-value. I clienti e i partner qualificati possono visitare il nostro Ops4AI Lab a Sunnyvale, in California, per testare i propri carichi di lavoro AI utilizzando le più avanzate capacità di calcolo delle GPU, tecnologie di storage e operazioni automatizzate, il tutto su fabric di rete basati su Ethernet. Prova modelli AI all'avanguardia su hardware di Juniper, Broadcom, Intel, Nvidia, WEKA e altre aziende.

Esplora il networking per l'AI

Esamina come le soluzioni Ethernet sono in grado di superare gli ostacoli più comuni nelle reti di data center AI con flessibilità e facilità. Guarda il video per scoprire come la soluzione Ethernet aperta e ottimizzata per l'AI di Juniper garantisce una rapidità nelle funzioni pari a quella di InfiniBand, senza i costi e gli svantaggi di una tecnologia proprietaria.

Soluzioni correlate

Reti per il data center

Semplifica le operazioni e garantisci l'affidabilità con data center moderni e automatizzati. Juniper ti aiuta ad automatizzare e convalidare continuamente l'intero ciclo di vita della rete per facilitare la progettazione, il deployment e le operazioni.

Interconnessione del data center

Le soluzioni DCI di Juniper consentono un’interconnettività perfetta che supera i tradizionali limiti di scalabilità, il vendor lock-in e i problemi di interoperabilità.

Architettura di routing ottico convergente (CORA)

CORA è una soluzione estensibile, sostenibile e automatizzata per la convergenza IP-ottica. Offre gli elementi essenziali di cui gli operatori hanno bisogno per implementare strategie di trasformazione IP-over-DWDM per le reti 400G e oltre nelle reti metro, edge e core.

Networking di storage IP

Semplifica lo storage dei dati e migliora le prestazioni dei data center con reti di storage all-IP. Utilizza le tecnologie più recenti, come l'NVMe/RoCEv2 con switching 100G/400G o NVMe/TCP, per creare storage ad alte prestazioni o far convergere storage e dati in un'unica rete.

STORIE DI SUCCESSO DEI CLIENTI

SambaNova makes high performance and compute-bound machine learning easy and scalable

AI promises to transform healthcare, financial services, manufacturing, retail, and other industries, but many organizations seeking to improve the speed and effectiveness of human efforts have yet to reach the full potential of AI.

To overcome the complexity of building complex and compute-bound machine learning (ML), SambaNova engineered DataScale. Designed using SambaNova Systems’ Reconfigurable Dataflow Architecture (RDA) and built using open standards and user interfaces, DataScale is an integrated software and hardware systems platform optimized from algorithms to silicon. Juniper switching moves massive volumes of data for SambaNova’s Datascale systems and services.  

SambaNova Image

Centro risorse

Domande frequenti sul networking dei data center con AI

Oggi quali tipi di aziende stanno dando priorità al deployment di soluzioni AI/ML nei propri data center?

La domanda di AI sta spingendo gli hyperscaler, i cloud provider, le imprese, i governi e le istituzioni educative a integrare l'AI nei propri sistemi aziendali per automatizzare le operazioni, generare contenuti e comunicazioni e migliorare il servizio clienti.

Qual è la differenza tra la fase di addestramento e quella di inferenza dell'AI?

I modelli AI vengono costruiti utilizzando set di dati attentamente elaborati durante la fase di addestramento. L'addestramento avviene su più GPU, con decine, centinaia e persino migliaia di esse in un cluster, tutte connesse in rete e in costante scambio di dati tra loro. Dopo questa fase di addestramento, il modello è sostanzialmente completo. Durante la fase di inferenza, gli utenti interagiscono con il modello, che è in grado di riconoscere immagini o generare immagini e testo per fornire risposte alle loro domande. L'addestramento è di solito un'operazione offline, mentre l'inferenza avviene in genere online.

Quali sono i componenti di una soluzione di infrastruttura di rete di data center AI e come li implementa Juniper?

Enormi set di dati AI stanno creando la necessità di una maggiore potenza di calcolo, uno storage più veloce e un networking ad alta capacità e a bassa latenza. Juniper contribuisce a soddisfare questi requisiti nei seguenti modi:

  • Elaborazione: i cluster di elaborazione AI/ML richiedono requisiti elevati per la rete internodo. La riduzione dei tempi di completamento delle operazioni (JCT) è essenziale e la rete svolge un ruolo chiave nel funzionamento efficiente del cluster. Juniper offre una gamma di switch non bloccanti e ad alte prestazioni con capacità di buffer profondo e gestione della congestione che, se progettati in modo ottimale, eliminano qualsiasi collo di bottiglia della rete.
  • Storage: nei cluster AI/ML e nel calcolo ad alte prestazioni, raramente un intero set di dati o modello può essere memorizzato sui nodi di calcolo, quindi è necessaria una rete di storage ad alte prestazioni. Gli Switch serie QFX di Juniper possono essere utilizzati per la connettività di storage IP; offrono il supporto completo per il networking RDMA (Remote Direct Memory Access), tra cui Non-Volatile Memory Express/RDMA over Converged Ethernet (NVMe/RoCE) e File system di rete (NFS)/RDMA.
  • Rete: i modelli di addestramento AI richiedono calcoli intensi e di grandi dimensioni, distribuiti su centinaia o migliaia di processori CPU, GPU e TPU. Questi calcoli necessitano di reti ad alta capacità, scalabili orizzontalmente e prive di errori. Gli switch QFX e i router Serie PTX di Juniper supportano questi calcoli di grandi dimensioni all'interno e tra i data center, grazie al throughput di routing e switching e alle funzionalità di Interconnessione del data center (DCI) leader del settore.

In che modo il data center AI di Juniper semplifica le operazioni nel data center?

Apstra è la piattaforma leader di Juniper per l'automazione e l'assurance dei data center.   Automatizza l'intero ciclo di vita della rete, dalla progettazione alle operazioni quotidiane, in tutti i data center multivendor con una convalida continua, analisi potenti e l'identificazione della causa radice per garantire l'affidabilità.  Con Marvis VNA per i data center, queste informazioni vengono trasferite da Apstra al Juniper Mist Cloud e presentate in una dashboard VNA comune per approfondimenti end-to-end.  Marvis VNA per i data center fornisce anche una solida interfaccia di conversazione (utilizzando l'AI generativa) per semplificare notevolmente le query della knowledge base.  

In che modo la soluzione di networking di data center con AI di Juniper soddisfa i requisiti di gestione della congestione, bilanciamento del carico e latenza per massimizzare le prestazioni dell'AI?

Gli switch per i data center di Juniper, non bloccanti e ad alte prestazioni, forniscono un buffering profondo e una gestione della congestione per eliminare i colli di bottiglia della rete. Per bilanciare i carichi di traffico, supportiamo il bilanciamento dinamico del carico e il routing adattivo. Per la gestione della congestione, Juniper supporta pienamente la notifica di congestione quantizzata del data center (DCQCN), il controllo del flusso di priorità (PFC) e la notifica esplicita della congestione (ECN). Infine, per ridurre la latenza, Juniper utilizza il migliore silicio commerciale e architetture ASIC personalizzate che massimizzano i buffer dove necessario, l'accodamento virtuale basato sull'output (VOQ) e fabric basati su celle all'interno delle proprie architetture spine.

Cosa offre Juniper per lo storage IP?

Il nostro portfolio include switch aperti e basati su standard che forniscono connettività di storage basata su IP utilizzando NVMe/RoCE o NFS/RDMA (vedere le FAQ precedenti). I nostri progetti di soluzioni di networking per lo storage IP possono scalare da una piccola configurazione a quattro nodi a centinaia o migliaia di nodi di storage.