GPU-Server · RTX-40-Serie
RTX-4090-Dedicated-Server und die darin verbaute GPU ist die RTX 4090D
Unser RTX-4090-Dedicated-Server trägt die RTX 4090D, die Ausgabe, die NVIDIA für China entwickelt hat: dieselben 24 GB GDDR6X und dieselbe Speichergeschwindigkeit, mit rund 11% weniger CUDA-Kernen. Sie mieten die gesamte Maschine monatlich, die volle GPU wird an Ihr eigenes System durchgereicht, und der Port ist unlimitiert.
| Wert | RTX 4090 | RTX 4090D |
|---|---|---|
| CUDA-Kerne | 16,384 | 14,592 |
| Tensor-Kerne | 512 | 456 |
| Speicher | 24 GB GDDR6X | 24 GB GDDR6X |
| Bandbreite | 1,008 GB/s | 1,008 GB/s |
| Boost-Takt | 2.52 GHz | 2.52 GHz |
| AV1-Encoder | 2 | 2 |
| Leistungsaufnahme | 450 W | 425 W |
Haben Sie eine RTX-40-Serie-GPU ungenutzt herumliegen?
Stellen Sie die Maschine auf den Primcast-Marktplatz, legen Sie Ihren eigenen Monatspreis fest und vermieten Sie sie an Leute, die die Rechenleistung brauchen.
00Marktplatz
Oder mieten Sie eine RTX-40-Serie-GPU von ihrem Besitzer
Besitzer listen diese Maschinen auf unserem Marktplatz und nennen ihren eigenen Preis. Ein Angebot unseres Schwesterunternehmens Server Room wird auf serverroom.net vermietet, nicht hier.
01RTX 4090D vs. RTX 4090
Was das D in RTX 4090D für Ihre Arbeit bedeutet
Ende 2023 setzte eine US-Exportregel die RTX 4090 über die Grenze für den Verkauf in China. NVIDIA antwortete mit der RTX 4090D, veröffentlicht am 28 December 2023, mit 14,592 CUDA-Kernen, wo die volle GPU 16,384 hat.
Was gleich bleibt
Der Speicher ist unangetastet: 24 GB GDDR6X auf einem 384-Bit-Bus mit 1,008 GB/s. Ebenso der 2.52 GHz Boost-Takt und das Paar AV1-Encoder. Alles, was durch Speichergröße oder Speichergeschwindigkeit begrenzt ist, verhält sich exakt wie auf einer vollen 4090: Ein Modell, das in 24 GB passt, passt weiterhin, und es liest genauso schnell.
Treiber und Software bemerken nichts. Es ist eine Ada-Lovelace-GeForce-GPU, sie nimmt den normalen GeForce-Treiber, und jede CUDA-Version, jedes Framework und jeder Renderer, der auf einer 4090 läuft, läuft auch auf ihr.
Was Sie aufgeben
Etwa 11% der Shader und Tensor-Kerne. NVIDIA bezifferte den realen Abstand auf etwa 5% in Spielen und Kreativ-Apps, weil Taktraten und Speicher einen Großteil der Last tragen. Bei Arbeit, die jeden Shader auslastet, wie einem langen Rendering oder einem Trainingslauf, planen Sie bis zu einem Zehntel weniger als bei einer vollen 4090 ein.
Wir sagen Ihnen das vor der Bestellung, statt “RTX 4090” zu drucken und Sie es später selbst herausfinden zu lassen. Wenn Ihre Aufgabe wirklich die volle GPU braucht, fragen Sie im Chat, und wir sagen Ihnen, ob wir eine beschaffen können und wie lange es dauert.
02Wofür sie gedacht ist
Was ein 4090-GPU-Server gut kann und wo er an seine Grenzen stößt
Dies ist eine Consumer-GPU im Rack. Das hält den Preis niedrig, und genau dort liegen auch ihre Grenzen.
01Rechenleistung pro Euro
Viel Rechenleistung fürs Geld
GeForce-Silizium ist eine der günstigsten Möglichkeiten, so viel Rechenleistung zu mieten. Es passt zu Arbeiten, bei denen ein schlechtes Ergebnis einen neuen Durchlauf bedeutet, keine Katastrophe: Batch-Rendering, Game-Server, Feintuning kleiner Modelle, Inferenz, die Sie wiederholen können.
02Video
Sie encodiert Video, die Beschleuniger nicht
Zwei Hardware-Encoder mit AV1 plus ein Decoder, damit kann sie den ganzen Tag transcodieren. Die A100 und H100 weiter oben in unserem Katalog haben überhaupt keinen Video-Encoder. Für alles mit Video ist diese GPU die richtige Wahl, nicht der Kompromiss. Siehe unsere Transcoding-Server für Live-Kanal-Arbeit.
03Speicher
Die Grenze liegt bei 24 GB
Ein Modell mit 13 Milliarden Parametern passt mit 8-Bit, dasselbe Modell mit 16-Bit nicht, und ein Modell mit 70 Milliarden passt bei keiner Präzision. Die Größentabelle weiter unten ist hier exakt.
04Lange Läufe
Kein fehlerkorrigierender Speicher
Es gibt kein ECC und keinen zertifizierten professionellen Treiber. Für einen Lauf, der wochenlang ohne Checkpoints dauert, oder Software, deren Lizenz eine professionelle GPU verlangt, sehen Sie sich stattdessen die L40S mit 48 GB und ECC an.
03Technische Daten
NVIDIA RTX 4090D – Technische Daten
Die Werte für die von uns verbaute GPU, aus NVIDIAs Dokumentation zur RTX-40-Serie und NVIDIAs Encode- und Decode-Unterstützungsmatrix.
RTX 4090D
Ada Lovelace
24 GB GDDR6X
14,592
1,008 GB/s
425 W
PCIe Gen 4 x16
2 NVENC, 1 NVDEC, AV1
No
04Die Wahl
RTX-4090-Server, RTX 3090 oder RTX 5090?
Alle drei stehen heute in unserem Regal und kommen in dieselben Maschinen. Die Frage ist also nicht, welche die neueste ist, sondern welche den Aufpreis für Ihre Aufgabe wert ist.
| GPU | GPU memory | The GPU | Cheapest complete machine |
|---|---|---|---|
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
| RTX 4090D | 24 GB GDDR6X | $299 | $372.47 |
| RTX 5090 | 32 GB GDDR7 | $399 | $472.47 |
Die RTX 3090 hat dieselben 24 GB und ist der ältere, langsamere Weg dorthin. Wenn Speichergröße das ist, was Sie brauchen, und Geschwindigkeit weniger zählt, lesen Sie zuerst die Seite zu den RTX-30-Serie-Servern. Die RTX 5090 geht auf 32 GB GDDR7 hoch. Sie ist eine PCIe-Gen-5-GPU, die in Gen-3- und Gen-4-Plattformen kommt – lesen Sie also den nächsten Abschnitt und die Seite zu den RTX-5090-Servern, bevor Sie annehmen, neuer bedeute hier schneller.
05Die Maschine
In welche Maschine die RTX 4090D kommt und ihre PCIe-Anbindung
Die 4090D ist eine PCIe-Gen-4-GPU. Jede Plattform unten zeigt den Steckplatz, den sie bekommt, und was das in der Praxis bedeutet.
Intel Xeon E5-2600 v3/v4
Intel Xeon Silver / Gold
AMD EPYC
Wir haben einen Kunden erlebt, der auf eine neuere GPU auf einer älteren Plattform umgestiegen ist und langsamer gerendert hat als zuvor. Sobald die Szene oder die Gewichte im GPU-Speicher liegen, ist der Steckplatz ruhig, und seine Generation spielt keine Rolle mehr. Sie zählt, wenn Ihre Aufgabe bei jedem Schritt Daten über den Steckplatz schiebt. Sagen Sie uns, was Sie ausführen werden, und wir zeigen Ihnen die richtige Maschine.
06Größenbestimmung
Was in 24 GB GPU-Speicher passt
Nur Gewichte. Lassen Sie Platz für Kontext und Laufzeit obendrauf.
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB, fits | 8 GB, fits | 5 GB, fits |
| 13-14 billion parameters | 28 GB, does not fit | 14 GB, fits | 8 GB, fits |
| 30-34 billion parameters | 68 GB, does not fit | 34 GB, does not fit | 19 GB, tight |
| 70 billion parameters | 140 GB, does not fit | 70 GB, does not fit | 38 GB, does not fit |
Die andere Grenze ist die Leistung. Eine 4090D zieht bis zu 425 W, weshalb mehr als eine in einer Maschine eine Konfiguration ist, die wir anbieten, kein Kästchen zum Ankreuzen. Um die Frage andersherum anzugehen, von Ihrem Modell zur benötigten GPU, nutzen Sie die LLM-Speichergrößen-Seite.
07Preise
RTX-4090D-Serverpreise, mit der Maschine
Die GPU ist eine Zeile auf Ihrer Rechnung und der Server eine andere. Beide stammen aus dem Bestellkatalog, den die Kasse verwendet, daher gehört jeder Preis unten zur Maschine daneben.
| GPU | The machine it goes in | The GPU | Complete, per month |
|---|---|---|---|
| RTX 4090D | Intel Xeon E5-2600 v3/v4 | $299 | $372.47 Configure this build → |
| RTX 4090D | Intel Xeon Silver / Gold | $299 | $382.67 Configure this build → |
| RTX 4090D | AMD EPYC | $299 | $516.59 Configure this build → |
Der Port ist in beide Richtungen unlimitiert, ohne Egress-Gebühr. Eine IPv4-Adresse gehört zum Server, es gibt keinen Vertrag, und Sie zahlen jeweils einen Monat. Um jede von uns verbaute GPU zu vergleichen, gleich bepreist, siehe alle GPU-Server mit Preisen.
08Lieferung und Hilfe
Wie schnell Sie sie bekommen und wer antwortet
Es hängt davon ab, wo die GPU bei Ihrer Bestellung ist. Sie erfahren vor dem Bezahlen, welcher dieser Fälle zutrifft.
- Etwa 30 Minuten
Bereits im Rack
Eine Maschine mit eingebauter GPU steht im Rack. Sie gehört Ihnen etwa 30 Minuten nach Bestellfreigabe.
- 4 bis 24 Stunden
In unserem Regal
Wir bauen eine GPU, die wir bereits vorrätig haben, in den von Ihnen gewählten Server ein.
- 5 bis 10 Werktage
Zugekauft
Wir bestellen die GPU für Sie bei einem Distributor und bauen sie dann in Ihren Server ein.
Fragen vor oder nach der Bestellung gehen an unseren Chat. Ein KI-Assistent antwortet in Sekunden und kann Ihr Konto und Ihren Server nachschlagen, und ein Mensch aus unserem Team kommt hinzu, wann immer Sie es wünschen. Maschinen, die jetzt im Rack stehen und bereit sind, finden Sie unter Sofort-Server.
09Fragen
Fragen zum Mieten eines RTX-4090-Servers
01Ist die RTX 4090D dasselbe wie eine RTX 4090?
Nicht ganz. Es ist derselbe AD102-Chip mit denselben 24 GB GDDR6X, derselben 1.008 GB/s und demselben Boost-Takt, aber mit 14.592 CUDA-Kernen statt 16.384. NVIDIA hat sie für China gefertigt, nachdem eine US-Exportregel die vollwertige 4090 erfasste. Es ist eine echte NVIDIA-GPU, kein umetikettiertes Produkt.
02Wie viel langsamer ist die RTX 4090D?
NVIDIA beziffert den Unterschied in Spielen und Kreativ-Apps auf etwa 5 %. Bei Workloads, die jeden Shader auslasten, kann der Abstand den 11 % Unterschied in der Kernanzahl erreichen. Alles, was durch Speichergröße oder Speichergeschwindigkeit begrenzt ist, läuft genauso wie auf einer vollwertigen 4090.
03Kann ich stattdessen eine vollwertige RTX 4090 bekommen?
Nicht über diese Seite. Wir verbauen die 4090D, und das sagen wir von vornherein. Wenn Ihre Arbeit wirklich die zusätzlichen Shader benötigt, teilen Sie uns im Chat mit, was Sie ausführen möchten, und wir sagen Ihnen, ob wir eine vollwertige 4090 beschaffen können und wie lange es dauern würde.
04Funktioniert die 4090D mit CUDA, PyTorch und den normalen Treibern?
Ja. Sie meldet sich als Ada-Lovelace-GeForce-GPU und verwendet den Standard-GeForce-Treiber. Jede CUDA-Version, jeder Framework-Build und jeder Renderer, der auf einer 4090 läuft, läuft auch auf ihr. Der Unterschied liegt in der Kernanzahl, nicht in der Architektur.
05Wird die GPU mit jemand anderem geteilt?
Nein. Sie erhalten die vollständige GPU auf einer Maschine, die niemand sonst nutzt, direkt durchgereicht an Ihr eigenes Betriebssystem. Es gibt keinen Hypervisor, keine vGPU-Aufteilung und kein Time-Sharing. Sie installieren und pinnen Ihren eigenen Treiber und Ihre eigene CUDA-Version, und nichts wird hinter Ihrem Rücken aktualisiert.
06Sollte ich für 24 GB eine RTX 4090D oder eine RTX 3090 mieten?
Wenn es Ihnen nur um die Speichergröße geht, ist die RTX 3090 oft die bessere Wahl: gleiche 24 GB, älter und in der Regel günstiger pro Monat, wie die Vergleichstabelle zeigt. Die 4090D ist deutlich schneller und bietet zusätzlich AV1-Encoding, das der 3090 fehlt. Wählen Sie sie, wenn Ihre Läufe nahtlos aufeinanderfolgen oder Sie mit Video arbeiten.
07Kann ich zwei RTX-4090D-GPUs in einen Server einbauen?
Ja, als individuell kalkulierte Konfiguration statt als Checkout-Option. Jede zieht bis zu 425 W, und es gibt kein NVLink, daher sind zwei davon zwei getrennte 24 GB-Pools. Teilen Sie uns mit, was Sie ausführen möchten, und wir melden uns mit der Maschine zurück – oder sehen Sie sich Multi-GPU-Server an.
08Wie schnell kann ich einen dedizierten RTX-4090-Server haben?
Etwa 30 Minuten nach Freigabe, wenn eine gerackte Maschine die GPU bereits trägt, 4 bis 24 Stunden, wenn wir eine auf Lager haben, und 5 bis 10 Werktage, wenn wir sie erst beschaffen müssen. Sie erfahren vor der Bezahlung, welcher Fall zutrifft. Gerackte Maschinen finden Sie unter Sofort-Server.
Wählen Sie Ihre RTX-4090D-Konfiguration und sehen Sie den Gesamtpreis
Jede Konfiguration ist oben mit ihrem Server bepreist. Wählen Sie eine aus, konfigurieren Sie sie, und die Bestellung zeigt Ihre monatliche Summe, bevor Sie bezahlen.