Neousys Rugged Edge AI Inference und GPU-unterstützte Plattformen

Die Artificial Intelligence (AI) -Technologie findet sich in vielen fortschrittlichen Anwendungen wie maschinellem Lernen, autonomem Fahren, intelligenter Videoanalyse, Gesichtsbild- und Spracherkennung mit tiefgreifenden Lerndurchbrüchen. Da GPUs bei parallelen Workloads natürlich großartig sind, können sie den AI-Lernprozess dramatisch beschleunigen.

Neousys bietet robuste und skalierbare Computerplattformen, die verschiedene GPU-Grafikkarten (siehe unten) unterstützen, die als GPU-unterstützte Edge-Computing-Plattform fungieren und die Entwicklung / Implementierung verwandter Anwendungen unterstützen können.

NEOUSYS GPU-Computer NVIDIA®-GPU-Karte
Nuvo-7160GC Series Unterstützt 120W TDP Karten
Nuvo-6108GC Series Bis zu 250W TDP GPU Karten
+ 2x PCIe x8 slots@ Gen3
Nuvo-7164GC Series Tesla T4/P4
Nuvo-7166GC Series Tesla T4/P4
+ 1x PCIe x16 slot @ Gen

Bei maschinellen Lernanwendungen gibt es zwei verschiedene Phasen: AI-Training und Inferenz. Das KI-Training erfordert intensive Rechenleistung, um ein neuronales Netzwerkmodell zu entwickeln, während sich die KI-Inferenz auf die Analyse und Vorhersage im Feld (Edge-Computing) konzentriert, basierend auf dem trainierten Modell.

Tesla-GPUs sind besonders gut für die Bereitstellung von Echtzeit-Inferenzen geeignet, da sie von Tensorkernen angetrieben werden, einer revolutionären Technologie, die große Matrixoperationen beschleunigen und Matrixberechnungen mit gemischter Genauigkeit durchführen kann. Die 130 TOPS der Tesla T4-GPU in INT8 bieten eine bis zu 40-mal schnellere Leistung. Mit nur 75 W eignet es sich ideal für das Neousys-Kassettendesign und macht den Nuvo-7164GC / 7166GC zu einer erschwinglichen Lösung für Inferenzentscheidungsanwendungen.

Was unterscheidet den Nuvo-7164GC / 7166GC vom Rest?

Das patentierte Kassetten- und Lufttunneldesign von Neousys leitet die Ansaugluft durch den passiven Kühlkörper des Tesla T4 / P4, um die von der GPU erzeugte Wärme effektiv abzuleiten. Das Design ermöglicht den Betrieb des Systems bei einer Umgebungstemperatur von unter 60 ° C und einer anhaltenden GPU-Belastung von 100%.

Nuvo-7164GC unterstützt eine PCIe-Kassette, während Nuvo-7166GC über zwei PCIe-Erweiterungssteckplätze für Tesla T4 / P4 sowie einen weiteren PCIe-Steckplatz für Zusatzkarten wie die 10G-NIC-Karte verfügt. Als neue Bündeleinheit kann Neousys Edge-Geräte mit Hochgeschwindigkeitsübertragung für die Inferenzbeschleunigung anbieten.

Nuvo-7160GC, 7164GC und 7166GC basieren auf derselben Plattform mit dedizierten Kassettenmodulen als einzigem Unterschied. Sie können eine Plattform mit anderen Kassettenmodulen kaufen, um die Vorteile der verschiedenen GPUs zu nutzen!

Ersten Kommentar schreiben

Antworten

Deine E-Mail-Adresse wird nicht veröffentlicht.


Um einen Kommentar zu veröffentlichen müssen Sie die Datenschutzbedingungen akzeptieren.

*