Redes de data center com IA

A demanda por IA está levando os hiperescaladores, provedores de nuvem, empresas, governos e instituições educacionais a incorporar a IA em seus sistemas empresariais para automatizar operações, gerar conteúdo e comunicações, além de melhorar o atendimento ao cliente.

Os modelos de IA são criados com base em conjuntos de dados cuidadosamente preparados durante o estágio de treinamento. O treinamento acontece em várias GPUs, abrangendo dezenas, centenas e até milhares de GPUs em um cluster — todas conectadas em uma rede e trocando dados constantemente umas com as outras. Após esse estágio de treinamento, o modelo está essencialmente completo. Durante o estágio de inferência, os usuários interagem com o modelo, que pode reconhecer imagens ou gerar figuras e texto para fornecer respostas às perguntas dos usuários. O treinamento é tipicamente uma operação off-line, enquanto a inferência geralmente é on-line.

Os conjuntos de dados de IA massivos estão criando a necessidade de maior poder de processamento, armazenamento mais rápido e redes de alta capacidade e baixa latência. A Juniper ajuda a atender a esses requisitos das seguintes maneiras:

• Computação: os clusters de computação de IA/ML exigem muito da rede entre nós. Reduzir o tempo de conclusão de trabalho (JCT) é essencial, e a rede desempenha um papel fundamental na operação eficiente do cluster. A Juniper oferece uma variedade de switches de alto desempenho e sem bloqueio com capacidade de buffer profundo e gerenciamento de congestionamento que, quando arquitetados de forma ideal, eliminam qualquer gargalo de rede.
• Armazenamento: em clusters de IA/ML e em computação de alto desempenho, raramente um conjunto ou modelo de dados inteiro pode ser armazenado nos nós de computação, portanto, uma rede de armazenamento de alto desempenho é necessária. Os switches da Série QFX da Juniper podem ser usados para conectividade de armazenamento de IP; eles oferecem suporte completo para redes de acesso direto à memória (RDMA), incluindo memória não volátil expressa/RDMA sobre Ethernet convergente (NVMe/RoCE) e sistema de arquivos de rede (NFS)/RDMA.
• Rede: os modelos de treinamento de IA envolvem computações grandes e intensas distribuídas em centenas ou milhares de processadores de CPU, GPU e TPU. Esses processadores exigem redes de alta capacidade, escaláveis horizontalmente e livres de erros. Os switches QFX e os roteadores da Série PTX da Juniper oferecem suporte a essas grandes operações de computação nos data centers e entre eles, com taxa de transferência de comutação e roteamento líder do setor e as capacidades de interconexão de data center (DCI).

O Apstra é a plataforma líder da Juniper para automação e segurança de data center. Ele automatiza todo o ciclo de vida da rede, desde o projeto até as operações diárias, em datacenters de vários fornecedores com validação contínua, análises poderosas e identificação da causa raiz para garantir confiabilidade. Com o Marvis VNA para o data center, essa informação é levada do Apstra para o Juniper Mist Cloud e exibida em um painel de controle comum do VNA para insights de ponta a ponta. O Marvis VNA para data center também oferece uma interface de conversação robusta (usando GenAI) para simplificar significativamente as consultas da base de conhecimento.

Os switches de data center de alto desempenho e sem bloqueio da Juniper oferecem buffer profundo e gerenciamento de congestionamento para eliminar os gargalos de rede. Para equilibrar as cargas de tráfego, oferecemos suporte ao balanceamento de carga dinâmico e ao roteamento adaptativo. Para o gerenciamento de congestionamento, a Juniper oferece suporte total à notificação de congestionamento quantificado no data center (DCQCN), ao controle de fluxo prioritário (PFC) e à notificação explícita de congestionamento (ECN). Por fim, para reduzir a latência, a Juniper usa o melhor silício comercial da categoria e arquiteturas ASIC personalizadas que maximizam os buffers, quando necessário, o enfileiramento de saída virtual (VOQ) e as malhas baseadas em células em nossas arquiteturas de spine.

Nosso portfólio inclui switches abertos e baseados em padrões que oferecem conectividade de armazenamento baseada em IP usando NVMe/RoCE ou NFS/RDMA (veja as perguntas frequentes anteriores). Nossos projetos de solução de rede de armazenamento de IP podem ser escalados de uma configuração pequena de quatro nós para centenas ou milhares de nós de armazenamento.