SambaNova는 고성능 및 컴퓨팅 기반 머신러닝을 쉽고 확장 가능하게 만듭니다

AI는 의료기관, 금융 서비스, 제조업, 유통 및 기타 업계를 혁신할 것이지만 인간 노력의 속도와 효과를 개선하려는 많은 조직은 아직 AI의 완전한 잠재력에 도달하지 못했습니다.

복잡한 컴퓨팅 기반 머신러닝(ML) 구축의 복잡성을 극복하기 위해 SambaNova는 DataScale을 설계했습니다. SambaNova 시스템의 RDA(가변구조형 데이터 플로우 아키텍처)를 사용하고 개방형 표준 및 사용자 인터페이스를 사용하여 구축된 DataScale은 알고리즘에서 실리콘까지 최적화된 통합 소프트웨어 및 하드웨어 시스템 플랫폼입니다. 주니퍼 스위칭은 SambaNova의 Datascale 시스템 및 서비스에 필요한 방대한 양의 데이터를 처리합니다.  

개요


회사 SambaNova
업계 기술
사용 제품 QFX5200
지역 미주 지역
SambaNova 이미지
고객 성과 요약

고객이 몇 달이 아닌 며칠 동안 AI 구축 가능

AI 시스템의 가치 가속화

사내 ML 전문 지식 확대

과제

업계 전반에 걸쳐 고성능 ML 모델 구축 가속화

컴퓨터 비전, 자연어 처리 시스템, 권장 시스템 및 기타 AI 기반 애플리케이션의 전체 가치를 가장 많은 자원과 인력으로 적용하는 것으로 제한되었습니다.                        

또한 대부분의 조직은 AI 시스템 개발, 교육 및 실행에 집중하면서, GPU와 클러스터를 사용하는 것을 포함하는 ML 인프라 구축에 참여하기 위해 종종 참여했습니다. 하드웨어와 소프트웨어의 완벽한 조합을 이루려면 몇 달 간의 힘든 수고, 전문가의 작업 및 AI 이니셔티브에 대한 시간 단축이 필요합니다

SembaNova는 AI 기반 애플리케이션 개발 및 개발 게임을 변화시키겠다고 시작했습니다. 

1223181973
솔루션

SembaNova는 DIY 계산 바운딩 AI에 경계를 배치합니다.

SembaNova는 ML 인프라 구축의 부담을 늘리고 ML 모델 교육, 환경 및 고성능 컴퓨팅에 더 뛰어난 기능과 효율성을 제공합니다.

SembaNova DataScale은 최적화된 알고리즘과 차세대 프로세스를 갖춘 소프트웨어 및 하드웨어 시스템 플랫폼입니다. 핵심에는 SembaNova 재구성하는 데이터 플로우 유닛(RDU)이 전통적인 컴퓨팅 모델을 방해할 수 있는 시스템 병목 없이 ML 모델을 자유롭게 실행할 수 있도록 설계되었습니다.

Juniper QFX5200 스위치는 데이터 스케일형 패브릭 기능을 통해 서버 및 인트라 패브릭 연결을 위한 100Gbps의 인터페이스를 제공합니다.

궁극적으로, SembaNova는 ML 작업량에 대한 엄청난 컴퓨팅 계산을 촉발시켰습니다. 쿼크 랙 시스템은 수백 개의 페플라프를 제공할 수 있습니다. 클라우드 서비스를 선호하는 조직의 경우 SembaNova의 클라우드 서비스 프로바이더 파트너십을 통해 사용할 수 있는 SembaNova의 데이터 플로우로서 서비스가 있습니다. 

결과

차세대 ML 워크로드를 위한 준비

암을 감지하는 컴퓨터 비전 모델을 교육하려면 수천 개의 고해상도 이미지 처리가 필요합니다. 대규모 대역폭 준비 이용 가능과, 이미지 품질 없이는 AI 모델 정확도는 감소합니다. AI가 유방암에 대한 환자 스캔을 판독하거나 응급실 의사가 신속하게 무기폐를 진단하는 것을 도울 때, 질적인 작은 감소는 환자 치료에 큰 영향을 미칠 수 있다.  

과학자와 연구진은 SembaNova의 목적 기반 AI 인프라의 이점을 처음으로 경험했지만, 제조 및 금융 서비스를 포함한 산업 전반에 걸쳐 채택이 증가하고 있습니다.

로렌스 리버모어 국립 연구소와 로스 앨러모스 국립 연구소는 SembaNova를 통해 코로나 슈퍼 컴퓨터를 사용하여 코로나19 약물 발견에 대한 AI 및 고성능 컴퓨팅 부하를 가속화합니다. 놀랍게도, 팀은 한 주 동안 SembaNova을 실행했으며, 기존 GPU 아키텍처보다 성능이 5배 이상 개선되었습니다.

또 다른 SembaNova의 고객인 Argonne National Labs는 45분 만에 SembaNova에서 AI 모델을 처음으로 가동했습니다. 또한 개별 GPU보다 더 높은 성능을 확인하고, 성장을 위한 많은 공간을 확보하게 되었습니다.  

"AI에서는 플로우 데이터가 최고입니다. 우리는 가장 낮은 지연 시간과 가능한 가장 높은 대역폭이 필요했고, Juniper QFX5200 스위치 성능은 놀라웠습니다."
Vijay Tatkar SembaNova의 제품 관리 이사

2021년 10월 게시