GPU-Server · RTX-50-Serie
RTX-5090-Dedicated-Server mit 32 GB für Ihre Modelle und Renderings
Ein RTX-5090-Dedicated-Server ist eine komplette Maschine, die Sie monatlich mieten, mit NVIDIAs RTX 5090 im Inneren: 32 GB GDDR7, direkt an Ihr eigenes Betriebssystem durchgereicht. Niemand sonst nutzt die GPU oder den Server, der Port ist unlimitiert und es gibt keinen Vertrag. Wenn 16 GB für Ihre Aufgabe ausreichen, kommt die RTX 5080 in dieselben Racks – für weniger Geld.
| Wert | RTX 5090 | RTX 5080 |
|---|---|---|
| GPU-Speicher | 32 GB GDDR7 | 16 GB GDDR7 |
| Speicherbus | 512-bit | 256-bit |
| CUDA-Kerne | 21.760 | 10.752 |
| Boost-Takt | 2,41 GHz | 2,62 GHz |
| AV1-Encoder | 3 | 2 |
| Leistungsaufnahme | 575 W | 360 W |
| GPU-Schnittstelle | PCIe Gen 5 | PCIe Gen 5 |
Besitzen Sie eine ungenutzte Maschine der RTX-50-Serie?
Stellen Sie sie auf dem Primcast-Marktplatz ein, legen Sie Ihren eigenen Monatspreis fest und lassen Sie sie von Leuten mieten, die die Rechenleistung brauchen.
00Marktplatz
Oder mieten Sie eine RTX-50-GPU von der Person, der sie gehört
Besitzer stellen ihre Maschinen der RTX-50-Serie auf unseren Marktplatz und legen den Monatspreis selbst fest. Ein Angebot, das als von unserem Schwesterunternehmen Server Room gehalten markiert ist, wird auf serverroom.net statt hier gemietet.
01Wofür er gedacht ist
Was Sie auf einem RTX-5090-KI-Server ausführen können
Das ist NVIDIAs größte Consumer-GPU, eingebaut in ein Rack. Sie bekommen viel Rechenleistung und Speicher für Ihr Geld – und die Grenzen, die Consumer-Hardware mit sich bringt.
01KI-Modelle
Inferenz und Feinabstimmung in 32 GB
Ein Modell mit 30 Milliarden Parametern bei 4-Bit passt mit Luft nach oben, ebenso ein Modell mit 13 Milliarden Parametern bei 8-Bit. Dasselbe 13-Milliarden-Modell in vollem 16-Bit lässt nicht genug Platz, um es bereitzustellen. Die Größentabellen unten zeigen jeden Fall.
02Rendering
Große Szenen, die im GPU-Speicher bleiben
GPU-Renderer sind schnell, solange die Szene auf die GPU passt. 32 GB fassen weit mehr Geometrie und Texturen als die 24 GB-GPUs eine Stufe darunter, und ein Stapel Frames kann über Nacht laufen, während Ihre eigene Workstation frei bleibt.
03Video
Drei AV1-Encoder auf einer GPU
Die RTX 5090 hat drei Hardware-Video-Encoder und zwei Decoder und kann daher mehrere Streams gleichzeitig transkodieren. Die Beschleuniger A100 und H100 haben überhaupt keinen Encoder. Für Live-Kanäle sehen Sie sich unsere Transcoding-Server an.
04Grenzen
Kein fehlerkorrigierender Speicher
GeForce-GPUs haben kein ECC und keinen zertifizierten professionellen Treiber. Das ist in Ordnung, wenn ein schlechtes Ergebnis eine Wiederholung bedeutet. Für Läufe, die wochenlang ohne Checkpoints dauern, oder Software, die nur auf professionellen GPUs lizenziert ist, sehen Sie sich die RTX PRO 6000 mit 96 GB und ECC an.
02Technische Daten
Technische Daten der NVIDIA RTX 5090 und RTX 5080
Die Zahlen, die NVIDIA für die beiden von uns verbauten GPUs der RTX-50-Serie veröffentlicht. Beide nutzen die Blackwell-Architektur mit Tensor Cores der fünften Generation und RT Cores der vierten Generation.
RTX 5090
Blackwell
32 GB GDDR7
21,760
512-bit
2.41 GHz
575 W
PCIe Gen 5 x16
3 NVENC (9th generation), 2 NVDEC, AV1
No
RTX 5080
Blackwell
16 GB GDDR7
10,752
256-bit
2.62 GHz
360 W
PCIe Gen 5 x16
2 NVENC (9th generation), 2 NVDEC, AV1
No
03Bevor Sie bestellen
Der PCIe-Slot, den Ihre RTX 5090 in jeder Maschine bekommt
Beide GPUs sind für PCIe Gen 5 gebaut. Jede Plattform, in die wir sie einsetzen, ist Gen 3 oder Gen 4, daher läuft die Verbindung zwischen GPU und Server unter dem, wofür die GPU ausgelegt wurde. Hier sehen Sie, was jede Maschine ihr bietet.
Intel Xeon E5-2600 v3/v4
Intel Xeon Silver / Gold
AMD EPYC
Wir sagen das im Voraus, weil es schon einmal einen Kunden erwischt hat: Eine RTX 5090 auf einer Gen-3-Plattform rendert langsamer als die RTX 4090, die sie ersetzt hat. Ein langsamerer Slot schadet nur, wenn Ihre Aufgabe ständig Daten darüber bewegt, etwa eine Trainingsschleife, die bei jedem Schritt einen neuen Batch vom Host lädt. Inferenz, Transcoding und Game-Server berühren ihn kaum, sobald alles geladen ist. Nicht sicher, welcher Fall auf Sie zutrifft? Sagen Sie uns im Chat, was Sie ausführen möchten, und wir zeigen Ihnen die richtige Maschine.
04Die kleinere Variante
RTX-5080-Server: dieselbe Generation mit 16 GB
Die RTX 5080 hat dasselbe Blackwell-Design, dieselbe Generation von AV1-Encodern und dieselbe PCIe-Gen-5-Schnittstelle, mit etwa der Hälfte der CUDA-Kerne und der Hälfte des Speichers der RTX 5090.
Wann die RTX 5080 ausreicht
Ihr Modell passt in 16 GB mit Luft nach oben: ein 7-Milliarden-Modell bei 8-Bit oder ein 13-Milliarden-Modell bei 4-Bit. Oder die Aufgabe ist Video, wo ihre zwei AV1-Encoder die Arbeit erledigen, oder ein Game-Server, der den GPU-Speicher nie füllt.
Wann Sie für die RTX 5090 zahlen sollten
Ihr Modell oder Ihre Szene ist größer als 16 GB, oder Sie möchten den zusätzlichen Speicher für längere Kontexte und mehr gleichzeitige Nutzer. Doppelter Speicher auf einem doppelt so breiten Bus ist der eigentliche Unterschied; die Taktraten liegen nah beieinander.
05Größenbestimmung
Was in 32 GB und in 16 GB GPU-Speicher passt
Nur Gewichte. Lassen Sie oben Platz für Kontext und Laufzeit.
RTX 5090, 32 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB: fits | 8 GB: fits | 5 GB: fits |
| 13-14 billion parameters | 28 GB: does not fit | 14 GB: fits | 8 GB: fits |
| 30-34 billion parameters | 68 GB: does not fit | 34 GB: does not fit | 19 GB: fits |
| 70 billion parameters | 140 GB: does not fit | 70 GB: does not fit | 38 GB: does not fit |
RTX 5080, 16 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB: does not fit | 8 GB: fits | 5 GB: fits |
| 13-14 billion parameters | 28 GB: does not fit | 14 GB: does not fit | 8 GB: fits |
| 30-34 billion parameters | 68 GB: does not fit | 34 GB: does not fit | 19 GB: does not fit |
| 70 billion parameters | 140 GB: does not fit | 70 GB: does not fit | 38 GB: does not fit |
Die Leistungsaufnahme ist die andere Grenze. Eine RTX 5090 zieht bis zu 575 W, weshalb eine zweite in derselben Maschine eine Konfiguration ist, die wir auf Anfrage anbieten, und keine Option an der Kasse. Um von Ihrem Modell auszugehen und die benötigte GPU zu finden, nutzen Sie die LLM-Speichergrößen-Seite.
06Auswahl
RTX-5090-Server, RTX 4090D oder RTX 3090?
Diese GPUs kommen in dieselben Maschinen, daher ist neuer nicht automatisch besser für Sie. Vergleichen Sie Speicher und Monatspreis für Ihre Aufgabe.
| GPU | GPU memory | GPU alone | Cheapest complete machine |
|---|---|---|---|
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
| RTX 5080 | 16 GB GDDR7 | $229 | $312.67 |
| RTX 4090D | 24 GB GDDR6X | $299 | $372.47 |
| RTX 5090 | 32 GB GDDR7 | $399 | $472.47 |
Die RTX 4090D und die RTX 3090 haben beide 24 GB. Sie sind PCIe-Gen-4-GPUs, daher kostet sie der Slot weniger als die RTX-50-Serie. Wenn Ihre Arbeit in 24 GB passt, lesen Sie die Seite zum RTX-4090-Dedicated-Server und die Seite zu den Servern der RTX-30-Serie, bevor Sie sich entscheiden.
07Preise
Preise für RTX-5090- und RTX-5080-Server, inklusive Maschine
Ihre Rechnung zeigt die GPU in einer Zeile und den Server in einer anderen. Beide stammen aus demselben Bestellkatalog, den auch die Kasse verwendet, und jeder Preis unten gehört zu der Maschine daneben.
| GPU | The machine it goes in | GPU alone | Complete, per month |
|---|---|---|---|
| RTX 5080 | Intel Xeon Silver / Gold | $229 | $312.67 Configure this build → |
| RTX 5090 | Intel Xeon E5-2600 v3/v4 | $399 | $472.47 Configure this build → |
| RTX 5090 | Intel Xeon Silver / Gold | $399 | $482.67 Configure this build → |
| RTX 5090 | AMD EPYC | $399 | $616.59 Configure this build → |
Traffic wird in keiner Richtung gemessen und es gibt keine Egress-Gebühr. Jeder Server kommt mit einer IPv4-Adresse, Sie zahlen monatlich und können am Ende jedes Monats gehen. Um jede von uns verbaute GPU mit denselben Preisangaben zu sehen, gehen Sie zu alle GPU-Server mit Preisen.
08Lieferung und Hilfe
Wann Ihr RTX-5090-Server bereit ist und wer Ihnen hilft
Die Lieferung hängt davon ab, wo die GPU bei Ihrer Bestellung ist. Fragen Sie vor der Zahlung im Chat nach, und wir sagen Ihnen, welcher dieser Fälle auf Ihre Konfiguration zutrifft.
- Etwa 30 Minuten
Bereits im Rack
Wenn eine gerackte Maschine die GPU bereits eingebaut hat, erhalten Sie sie etwa 30 Minuten nach Genehmigung Ihrer Bestellung.
- 4 bis 24 Stunden
Auf unserem Regal
Wir haben die GPU vorrätig und bauen sie in den von Ihnen gewählten Server ein.
- 5 bis 10 Werktage
Für Sie bestellt
Wir kaufen die GPU bei einem Distributor und bauen sie ein, sobald sie eintrifft.
Fragen Sie alles in unserem Chat, vor oder nach Ihrer Bestellung. Ein KI-Assistent antwortet in Sekunden und kann Ihr Konto und Ihren Server prüfen, und eine Person aus unserem Team übernimmt, wann immer Sie es wünschen. Maschinen, die jetzt gerackt und bereit sind, finden Sie unter Sofort-Server.
09Fragen
Fragen zum Mieten eines RTX-5090-Servers
01Was bekomme ich bei einem dedizierten RTX-5090-Server?
Einen vollständigen physischen Server mit einer RTX 5090 darin, monatlich gemietet. Die gesamte GPU wird an Ihr eigenes Betriebssystem durchgereicht – ohne Hypervisor, ohne vGPU-Aufteilung und ohne Time-Sharing. Sie installieren den Treiber und die CUDA-Version, die Sie möchten, und nichts ändert sie hinter Ihrem Rücken.
02Gibt es eine RTX-5090-Server-Edition?
Nein. NVIDIA stellt keine Server-Edition der RTX 5090 her. Die passiv gekühlte Blackwell-GPU für Server ist die RTX PRO 6000 Blackwell Server Edition mit 96 GB Speicher und ECC. Auch die RTX PRO 6000 verbauen wir: siehe die Seite für dedizierte RTX-PRO-6000-Server. Die RTX 5090, die wir vermieten, ist NVIDIAs GeForce-Modell und läuft in einem Rack-Server.
03Läuft eine RTX 5090 in Ihren Servern mit voller Geschwindigkeit?
Ihre PCIe-Verbindung nicht. Die RTX 5090 ist eine PCIe-Gen-5-GPU, und unsere Plattformen sind Gen 3 und Gen 4, daher läuft der Bus je nach Maschine mit der Hälfte oder einem Viertel seiner Auslegungsgeschwindigkeit. Das verlangsamt Training, das bei jedem Schritt Daten vom Host streamt. Für Inferenz, Transkodierung oder Rendering macht es kaum einen Unterschied, sobald die Arbeit in den GPU-Speicher geladen ist. Der Steckplatz, den jede Maschine bietet, ist auf dieser Seite aufgeführt.
04Wie groß kann ein KI-Modell sein, das ein RTX-5090-Server ausführen kann?
Mit 32 GB passt ein Modell mit 30 Milliarden Parametern in 4-Bit und ein Modell mit 13 Milliarden Parametern in 8-Bit, jeweils mit Platz für den Kontext. Ein Modell mit 70 Milliarden Parametern passt nicht auf eine einzelne RTX 5090, nicht einmal in 4-Bit. Für größere Modelle siehe die Seite zur LLM-Speicherdimensionierung.
05RTX 5090 oder RTX 5080: Welche sollte ich mieten?
Mieten Sie die RTX 5080, wenn Ihr Modell oder Ihre Szene mit Luft nach oben in 16 GB passt oder wenn die Aufgabe überwiegend Video ist. Mieten Sie die RTX 5090, wenn Sie mehr als 16 GB benötigen oder Spielraum für längere Kontexte und mehr Nutzer möchten. Die Preistabelle oben zeigt, was jede mit ihrer Maschine kostet.
06Kann ich eine RTX 5070 oder RTX 5060 bekommen?
Nein. Die RTX 5090 und die RTX 5080 sind die einzigen GPUs der RTX-50-Serie in unserem Bestellkatalog, und der Konfigurator bietet keine anderen an. Für eine kleinere, günstigere GPU vergleichen Sie die übrigen auf alle GPU-Server mit Preisen.
07Kann ich zwei RTX-5090-GPUs in einen Server einbauen lassen?
Ja, als Build, den wir individuell anbieten, nicht als Checkout-Option. Jede zieht bis zu 575 W, und GeForce-RTX-50-GPUs haben kein NVLink, daher sind zwei davon zwei getrennte 32 GB-Pools. Sagen Sie uns, was Sie ausführen möchten, oder sehen Sie Multi-GPU-Server.
08Wie schnell kann ich einen RTX-5090-Server haben?
Etwa 30 Minuten nach Freigabe, wenn eine gerackte Maschine die GPU bereits enthält, 4 bis 24 Stunden, wenn wir die GPU auf Lager haben, und 5 bis 10 Werktage, wenn wir sie erst beschaffen müssen. Fragen Sie vor der Zahlung im Chat nach, dann sagen wir Ihnen, welcher Fall zutrifft.
Wählen Sie Ihren RTX-5090-Build und sehen Sie die monatliche Gesamtsumme
Jeder Build oben ist mit seinem Server bepreist. Wählen Sie einen aus, richten Sie ihn nach Ihren Wünschen ein, und die Bestellung zeigt Ihren vollständigen Monatspreis, bevor Sie zahlen.