Datencenter für KI-Cloud-Service Provider

Service Provider (SPs) und Neocloud-Anbieter stellen speziell entwickelte KI-Datencenter bereit, um maßgeschneiderte, erschwingliche und schnell auf den Markt kommende KI-Services für Unternehmen, Behörden und Bildungseinrichtungen anzubieten. Cloud-gehostete KI-Services bieten Endbenutzern virtualisierte und sichere Rechen-, Speicher- und Netzwerkfunktionen und ermöglichen gleichzeitig neue Einnahmequellen mit erhöhter Effizienz und niedrigeren Gesamtbetriebskosten.  

Eine Neocloud ist eine neue Art von KI-Cloud-Computing-Anbietern, die sich auf das Angebot von virtualisierten GPU-Computing mit unterstützendem Speicher und sicheren Netzwerken konzentrieren. Diese Pure-Play-GPU-Clouds bieten ihren Kunden hochmoderne Leistung und Flexibilität und ermöglichen es ihnen, die Kosten ihrer KI-Cloud-Infrastruktur für einen großen Kundenstamm zu amortisieren. Durch den Einsatz von Cloud-Tools und Automatisierung steigern Neoclouds die Effizienz ihrer zugrunde liegenden KI-Infrastruktur mit der Agilität der Cloud, die nach oben und unten skaliert werden kann, um die Kundennachfrage zu erfüllen.

KI-Modelle werden während der Trainingsphase mit sorgfältig gestalteten Datensätzen erstellt. Das Training erfolgt auf mehreren GPUs, die sich auf Dutzende, Hunderte oder sogar Tausende von GPUs in einem Cluster verteilen – alle sind über ein Netzwerk verbunden und tauschen ständig Daten miteinander aus. Nach dieser Trainingsphase ist das Modell im Wesentlichen fertig. Während der Inferenzphase interagieren die Benutzer mit dem Modell, das Bilder erkennen oder Bilder und Text generieren kann, um auf Benutzerfragen zu antworten. Das Training wird in der Regel offline durchgeführt, während die Inferenz online ist.

Massive KI-Datensätze erfordern eine größere Rechenleistung, schnellere Speicherung sowie Netzwerke mit hoher Kapazität und niedriger Latenz. Juniper hilft Ihnen wie folgt dabei, diese Anforderungen zu erfüllen:

• Compute: KI/ML-Compute-Cluster stellen hohe Anforderungen an das Internode-Netzwerk. Die Job-Abschlusszeit (JCT) ist von entscheidender Bedeutung und das Netzwerk spielt eine wichtige Rolle beim effizienten Betrieb des Clusters. Juniper bietet eine Reihe leistungsstarker, nicht-blockierender Switches mit tiefer Pufferfunktion und Überlastungsmanagement, die, wenn sie optimal gestaltet sind, jeden Netzwerkengpass beseitigen.
• Speicherung: In KI/ML-Clustern und Hochleistungs-Computing kann selten ein gesamter Datensatz oder ein Modell auf den Compute-Knoten gespeichert werden, sodass ein leistungsstarkes Speichernetzwerk erforderlich ist. Switches der QFX-Serie von Juniper können für IP-Speicherkonnektivität verwendet werden. Sie bieten volle Unterstützung für Remote Direct Memory Access (RDMA)-Netzwerke, einschließlich Non-Volatile Memory Express/RDMA über konvergiertes Ethernet (NVMe/RoCE) und Network File System (NFS)/RDMA.
• Netzwerk: KI-Trainingsmodelle umfassen umfangreiche, intensive Berechnungen, die auf Hunderten oder Tausenden CPU-, GPU- und TPU-Prozessoren verteilt sind. Diese Berechnungen benötigen horizontal skalierbare und fehlerfreie Netzwerke mit hoher Kapazität. QFX-Switches und Router der PTX-Serie von Juniper unterstützen diese umfangreichen Berechnungen in und über Datencenter hinweg mit branchenführendem Switching- und Routing-Durchsatz und Funktionen für Data Center Interconnect (DCI, Vernetzung von Datencentern).

Juniper Apstra ist die führende Plattform für Datencenter-Automatisierung und -Assurance von Juniper. Sie automatisiert den gesamten Lebenszyklus des Netzwerks, vom Design bis zum täglichen Betrieb, in anbieterunabhängigen Datencentern mit kontinuierlicher Validierung, leistungsstarken Analysen und Ursachenidentifizierung, um Zuverlässigkeit zu gewährleisten. Mit Marvis VNA für Datencenter geht diese Information von Apstra in die Juniper Mist Cloud und wird in einem gemeinsamen VNA-Dashboard für End-to-End-Einblicke angezeigt. Marvis VNA für Datencenter bietet außerdem eine robuste Konversationsschnittstelle (unter Verwendung von GenAI), die Wissensdatenbankabfragen erheblich simplifiziert.  

Die nicht blockierenden Datencenter-Switches von Juniper bieten tiefgehendes Buffering- und Überlastungsmanagement. Zum Ausgleich von Datenverkehrslasten unterstützen wir dynamisches Load Balancing und adaptives Routing. Juniper bietet Überlastungsmanagement und unterstützt Data Center Quantized Congestion Notification (DCQCN), Priority Flow Control (PFC) und Explicit Congestion Notification (ECN).Juniper bietet Überlastungsmanagement und unterstützt Um die Latenz zu reduzieren, setzt Juniper erstklassige Merchant-Siliziumtechnologie und benutzerdefinierte ASIC-Architekturen ein, die gegebenenfalls Puffer, die virtuelle Ausgabe-Warteschlange (VOQ) und zellbasierte Fabrics in unseren Spine-Architekturen maximieren.

Unser Portfolio inkludiert offene, standardbasierte Switches für IP-basierte Speicherkonnektivität mittels NVMe/RoCE oder NFS/RDMA (siehe FAQ). Unsere Lösungsdesigns für IP-Speichernetzwerke eignen sich für die Skalierung von einer kleinen Konfiguration mit vier Knoten bis hin zu Hunderten oder Tausenden von Speicherknoten.