SambaNova macht hochleistungsfähiges und rechenintensives maschinelles Lernen einfach und skalierbar

KI verspricht, das Gesundheitswesen, die Finanzdienstleistungen, die Fertigung, den Einzelhandel und andere Branchen zu verändern. Allerdings müssen viele Unternehmen, die die Geschwindigkeit und Effektivität menschlicher Arbeit verbessern wollen, erst noch das volle Potenzial von KI ausschöpfen.

Zur Überwindung der Komplexität beim Aufbau von komplexem und rechenintensivem maschinellem Lernen (ML) hat SambaNova DataScale entwickelt. DataScale ist eine integrierte Software- und Hardware-Systemplattform, die auf der rekonfigurierbaren Dataflow-Architektur (RDA) von SambaNova Systems basiert. Sie wurde unter Verwendung offener Standards und Benutzerschnittstellen entwickelt und ist von den Algorithmen bis zum Silizium optimiert. Juniper Switching bewegt riesige Datenmengen für die Datascale-Systeme und -Services von SambaNova.  

Überblick


Unternehmen SambaNova
Branche Technologie
Verwendete Produkte QFX5200
Region Nord-, Mittel- und Südamerika
SambaNova – Bild
Kundenerfolge im Überblick

Ermöglicht Kunden die Implementierung von KI innerhalb von Tagen, nicht Monaten

Beschleunigung der Wertschöpfung von KI-Systemen

Verstärkung der internen ML-Expertise

Die Herausforderung

Beschleunigung der Erstellung leistungsstarker ML-Modelle in verschiedenen Branchen

Die vollständige Nutzung von Computer Vision, natürlicher Sprachverarbeitung, Empfehlungssystemen und anderen KI-gesteuerten Anwendungen war bisher auf die Unternehmen mit den meisten Ressourcen und Talenten beschränkt.                        

Und während sich die meisten Unternehmen eher auf die Entwicklung, das Training und den Betrieb ihrer KI-Systeme konzentrieren möchten, wählen sie häufig einen DIY-Ansatz für den Aufbau der ML-Infrastruktur, der den Einsatz von GPUs und Clustern beinhaltet. Die Integration der perfekten Mischung aus Hardware und Software kann Monate mühsamer, fachkundiger Arbeit in Anspruch nehmen, wodurch sich die Wertschöpfung für ihre KI-Initiativen verzögert.

SambaNova hat sich zum Ziel gesetzt, die Entwicklung und Bereitstellung von KI-gesteuerten Anwendungen zu verändern. 

1223181973
LÖSUNG

SambaNova macht Schluss mit rechnergestützter KI in Eigenregie

SambaNova erleichtert den Aufbau einer ML-Infrastruktur und bietet mehr Möglichkeiten und Effizienz für ML-Modelltraining, Inferenz und Hochleistungs-Computing.

SambaNova DataScale ist eine integrierte Software- und Hardware-Systemplattform mit optimierten Algorithmen und Prozessen der nächsten Generation. Das Herzstück ist die SambaNova Reconfigurable Dataflow Unit (RDU), ein Chip, der dafür ausgelegt ist, ML-Modelle frei und ohne die Systemengpässe laufen zu lassen, die herkömmliche Berechnungsmodelle behindern können.

Die QFX5200-Switches von Juniper bilden die Netzwerk-Fabric von DataScale und bieten 100-Gbps-Schnittstellen für server- und netzwerkinterne Konnektivität.

Letztendlich setzt SambaNova riesige Mengen an Rechenleistung für ML-Workloads frei. Ein System mit einem Viertelrack kann Hunderte von Petaflops an Rechenleistung liefern. Und für Unternehmen, die einen Cloud-Service bevorzugen, gibt es SambaNova Dataflow-as-a-Service, der über SambaNovas Cloud-Service-Provider-Partnerschaft verfügbar ist. 

ERGEBNIS

Bereit für ML-Workloads der nächsten Generation und darüber hinaus

Das Training eines Computer-Vision-Modells zur Krebserkennung kann die Verarbeitung von Tausenden von hochauflösenden Bildern erfordern. Wenn keine große Bandbreite zur Verfügung steht, sinkt die Bildqualität und damit die Genauigkeit der KI-Modelle. Wenn die KI Radiologen beim Lesen von Brustkrebs-Scans für Patienten oder Ärzte in der Notaufnahme bei der schnellen Diagnose einer kollabierten Lunge unterstützt, können winzige Qualitätsverbesserungen enorme Auswirkungen auf die Patientenversorgung haben.  

Wissenschaftler und Forscher gehören zu den ersten, die die Vorteile der speziell entwickelten KI-Infrastruktur von SambaNova nutzen, aber die Akzeptanz wächst in allen Branchen, einschließlich Fertigung und Finanzdienstleistungen.

Das Lawrence Livermore National Laboratory und das Los Alamos National Laboratory nutzen den Corona-Supercomputer mit angeschlossenem SambaNova, um KI- und Hochleistungsrechenlasten für die COVID-19-Arzneimittelforschung zu beschleunigen. Unglaublich, dass das Team SambaNova an einem Wochenende zum Laufen gebracht hat, wobei interne Tests eine fünfmal bessere Leistung als eine herkömmliche GPU-Architektur aufzeigen. 

Argonne National Labs, ein weiterer Kunde von SambaNova, konnte sein erstes KI-Modell in nur 45 Minuten auf SambaNova zum Laufen bringen. Und die Leistung ist um ein Vielfaches höher als bei einzelnen GPUs und bietet noch viel Spielraum für weiteres Wachstum.  

„Bei der KI ist der Datenstrom entscheidend. Wir benötigen die niedrigste Netzwerklatenz und die höchstmögliche Bandbreite, und die Leistung der QFX5200-Switches von Juniper ist phänomenal.“
Vijay Tatkar Director of Product Management, SambaNova

Veröffentlicht im Oktober 2021