Die Artificial Intelligence (AI) -Technologie findet sich in vielen fortschrittlichen Anwendungen wie maschinellem Lernen, autonomem Fahren, intelligenter Videoanalyse, Gesichtsbild- und Spracherkennung mit tiefgreifenden Lerndurchbrüchen. Da GPUs bei parallelen Workloads natürlich großartig sind, können sie den AI-Lernprozess dramatisch beschleunigen.
Neousys bietet robuste und skalierbare Computerplattformen, die verschiedene GPU-Grafikkarten (siehe unten) unterstützen, die als GPU-unterstützte Edge-Computing-Plattform fungieren und die Entwicklung / Implementierung verwandter Anwendungen unterstützen können.
| NEOUSYS GPU-Computer | NVIDIA®-GPU-Karte |
| Nuvo-7160GC Series | Unterstützt 120W TDP Karten |
| Nuvo-6108GC Series | Bis zu 250W TDP GPU Karten + 2x PCIe x8 slots@ Gen3 |
| Nuvo-7164GC Series | Tesla T4/P4 |
| Nuvo-7166GC Series | Tesla T4/P4 + 1x PCIe x16 slot @ Gen |
Bei maschinellen Lernanwendungen gibt es zwei verschiedene Phasen: AI-Training und Inferenz. Das KI-Training erfordert intensive Rechenleistung, um ein neuronales Netzwerkmodell zu entwickeln, während sich die KI-Inferenz auf die Analyse und Vorhersage im Feld (Edge-Computing) konzentriert, basierend auf dem trainierten Modell.
Tesla-GPUs sind besonders gut für die Bereitstellung von Echtzeit-Inferenzen geeignet, da sie von Tensorkernen angetrieben werden, einer revolutionären Technologie, die große Matrixoperationen beschleunigen und Matrixberechnungen mit gemischter Genauigkeit durchführen kann. Die 130 TOPS der Tesla T4-GPU in INT8 bieten eine bis zu 40-mal schnellere Leistung. Mit nur 75 W eignet es sich ideal für das Neousys-Kassettendesign und macht den Nuvo-7164GC / 7166GC zu einer erschwinglichen Lösung für Inferenzentscheidungsanwendungen.
Was unterscheidet den Nuvo-7164GC / 7166GC vom Rest?
Das patentierte Kassetten- und Lufttunneldesign von Neousys leitet die Ansaugluft durch den passiven Kühlkörper des Tesla T4 / P4, um die von der GPU erzeugte Wärme effektiv abzuleiten. Das Design ermöglicht den Betrieb des Systems bei einer Umgebungstemperatur von unter 60 ° C und einer anhaltenden GPU-Belastung von 100%.
Nuvo-7164GC unterstützt eine PCIe-Kassette, während Nuvo-7166GC über zwei PCIe-Erweiterungssteckplätze für Tesla T4 / P4 sowie einen weiteren PCIe-Steckplatz für Zusatzkarten wie die 10G-NIC-Karte verfügt. Als neue Bündeleinheit kann Neousys Edge-Geräte mit Hochgeschwindigkeitsübertragung für die Inferenzbeschleunigung anbieten.
Nuvo-7160GC, 7164GC und 7166GC basieren auf derselben Plattform mit dedizierten Kassettenmodulen als einzigem Unterschied. Sie können eine Plattform mit anderen Kassettenmodulen kaufen, um die Vorteile der verschiedenen GPUs zu nutzen!
Antworten