NeuRTX 3050 dediziert, unter Linux freigeschaltet
Gleiche RTX 3050, gleiche Leistung, deutlich mehr KI pro Sekunde
Unsere RTX 3050-Desktops verlassen das Rack jetzt mit freigeschaltetem Tensor-Durchsatz der Karte. Es ist die Karte, die Sie kennen, mit 6 GB GDDR6 und einem 70 W-Limit. Was sich ändert, ist, wie schnell sie die Halbpräzisions-Matrixberechnungen hinter Inferenz, Feinabstimmung und Bilderzeugung abarbeitet. Sie mieten die gesamte Maschine: Intel Core i5-9500, 32 GB RAM, 256 GB NVMe SSD, in Bucharest.
01Werk ab Werk gegen entsperrt
Die Zahlen von unserem Prüfstand, in allen vier Genauigkeiten
Wir haben dieselbe RTX 3050 zweimal aus dem ausgeschalteten Zustand gestartet, einmal ab Werk und einmal entsperrt, und jeweils denselben PyTorch-Job gestoppt: zwei 8192 mit 8192-Matrizen multiplizieren, immer wieder. Treiber, Kernel und die 70 W-Begrenzung blieben zwischen den Läufen unverändert.
TFLOPS pro Genauigkeit, höher ist schneller
PyTorch-Matrixmultiplikation, NVIDIA-Treiber 595, Durchschnitt aus fünf Läufen
- Ab Werk
- Entsperrt
- 14.0 21.3
- 14.2 22.0
- 6.9 10.8
- 3.7 3.7
Die rohe Tensor-Rate ist doppelt so hoch wie der Wert ab Werk: 36.1 statt 17.9 Billionen FP16-Operationen pro Sekunde mit FP32-Akkumulation. Eine Multiplikation in voller Größe landet bei ungefähr dem Eineinhalbfachen, da die Karte bereits bei 70 W am Anschlag läuft und die schnelleren Kerne dasselbe Leistungsbudget teilen.
Ergebnisse als Tabelle lesen
| Genauigkeit | Ab Werk | Entsperrt | Unterschied |
|---|---|---|---|
| FP16, TFLOPS | 14.0 | 21.3 | +52% |
| BF16, TFLOPS | 14.2 | 22.0 | +54% |
| TF32, TFLOPS | 6.9 | 10.8 | +56% |
| FP32, TFLOPS | 3.7 | 3.7 | keine Änderung |
| Spitzen-Tensor-Rate, FP32-Akkumulation, TF/s | 17.9 | 36.1 | 2x |
Das sind unsere Messungen auf einer Karte. Eine echte Arbeitslast verbringt auch Zeit außerhalb der Tensor-Kerne, daher wird Ihr eigener Gewinn irgendwo unter diesen Werten liegen.
02Wird Ihre Arbeit schneller?
Prüfen Sie Ihren Auftrag anhand dieser Liste, bevor Sie bestellen
Die Freischaltung ist bewusst schmal gehalten. Sie betrifft nur die Tensor-Kerne und sonst nichts, daher hilft sie KI-Arbeit in halber Genauigkeit und lässt den Rest der Karte unverändert.
Lange Prompts und Dokumente für ein Sprachmodell
Das Modell liest Ihre Eingabe als einen großen Stapel Matrixberechnungen, bevor es ein Wort schreibt.
SchnellerLoRA und andere kleine Feinabstimmungen
Trainingsschritte in BF16 oder FP16 auf einem Modell, das in 6 GB GDDR6 passt.
SchnellerStable Diffusion und andere Bildmodelle
Jeder Entrauschungsschritt ist Tensor-Arbeit in halber Genauigkeit.
SchnellerStapelverarbeitung: Embeddings, Tagging, Transkription
Viele Eingaben, die gleichzeitig durch ein Modell geschickt werden, halten die Tensor-Kerne ausgelastet.
SchnellerEin Chatbot, der seine Antwort Wort für Wort schreibt
Die Generierungsgeschwindigkeit hängt davon ab, wie schnell die Karte ihren Speicher liest.
GleichVideokodierung mit NVENC
Der Encoder ist ein eigener Block auf dem Chip und behält seine Werksgeschwindigkeit.
GleichSpiele, Rendering und FP32-CUDA
Nichts davon läuft über den freigeschalteten Pfad.
Gleich03Von der Bestellung bis zum ersten Start
Sie wählen das System, wir kümmern uns um die Freischaltung
- Bestellung
Wählen Sie Ubuntu oder Debian
Die Maschine wird mit dem NVIDIA-Treiber und bereits aktivierter Freischaltung eingerichtet und geht etwa 30 Minuten nach der Freigabe online.
- Bei jedem Start
Frisch gesetzt, dann geprüft
Die Einstellung liegt im Arbeitsspeicher, nicht in der Firmware der Karte. Sie wird beim Systemstart angewendet und jedes Mal verifiziert.
- Fallback
Werksgeschwindigkeit, nie defekt
Bei einem Start, bei dem sie nicht angewendet werden kann, läuft die Karte einfach mit ihrer Standardrate bis zum nächsten Neustart.
Freigeschaltet geliefert, mit Root-Zugriff, um CUDA, PyTorch und den Rest Ihres Stacks hinzuzufügen.
Auf derselben Maschine ebenfalls verfügbar, mit der Karte in Werksgeschwindigkeit: Die Freischaltung ist nur unter Linux möglich.
04Lab-Notizen
Was wir geprüft haben, bevor wir es für Kunden freigeschaltet haben
Einer dieser Desktops verbrachte einen Nachmittag auf unserem Prüfstand in Bucharest mit Ubuntu 24.04 und NVIDIA-Treiber 595. Das sind die Ergebnisse, die für uns zählten.
- 5 / 5Starts kamen entsperrt hoch, kalt und warm
- 45 minunter Volllast ohne einen einzigen GPU-Fehler
- 0Ergebnisse, die vom ersten Lauf abwichen, Bit für Bit geprüft
- 70 WLeistungslimit, in beiden Zuständen gleich
- 2xdie Spitzen-Tensorrate mit FP32-Akkumulation
- 3.7FP32 TFLOPS, unverändert, wie erwartet
05Häufig gefragt
Freigeschalteter RTX-3050-Server: kurze Antworten
Ist das eine andere Karte als eine normale RTX 3050?
Nein. Es ist dieselbe RTX 3050 6GB mit demselben 6 GB GDDR6 und 70 W-Limit. Die Freischaltung ändert beim Start eine Einstellung: die Rate, mit der ihre Tensor-Kerne in FP16, BF16 und TF32 multiplizieren, während in FP32 addiert wird.
Wie viel schneller ist sie wirklich?
In unserem PyTorch-Test +52% in FP16, +54% in BF16 und +56% in TF32, bei unverändertem FP32. Ein kompletter KI-Job profitiert weniger, weil ein Teil seiner Zeit auf Arbeit entfällt, die die Tensor-Kerne nicht übernehmen.
Welche Betriebssysteme erhalten die freigeschaltete Karte?
Ubuntu und Debian. Wenn Sie die Maschine mit Windows bestellen, läuft die Karte mit Werksgeschwindigkeit.
Wird etwas auf die Karte geschrieben?
Nein. Es wird nichts geflasht. Die Einstellung wird bei jedem Start der Maschine angewendet und verschwindet beim Ausschalten, weshalb sie bei jedem Booten geprüft wird.
Was, wenn ich das Werksverhalten zurückhaben möchte?
Fragen Sie den Support oder entfernen Sie die eine Boot-Option selbst und schalten Sie die Maschine dann aus und wieder ein. Ab dann startet die Karte mit ihrer Standardrate.
Was kostet das?
Keinen Aufpreis auf die Maschine: €89.00 pro Monat für den Desktop mit freigeschalteter Karte, 32 GB RAM, 256 GB NVMe SSD, eine IPv4-Adresse und einen ungedrosselten 1 Gbps-Port.
Nutzen Sie die freigeschaltete RTX 3050 für nur €89.00 im Monat
Ein dedizierter Desktop in Bucharest, Tensor-Kerne mit voller Leistung unter Ubuntu oder Debian, Root-Zugriff und unbegrenztes 1 Gbps.
NVIDIA, GeForce und RTX sind Marken der NVIDIA Corporation. Die Compute-Freischaltung wird von uns eingerichtet und ist kein NVIDIA-Produkt.