GPU-Server · RTX-50-Serie

RTX-5090-Dedicated-Server mit 32 GB für Ihre Modelle und Renderings

Ein RTX-5090-Dedicated-Server ist eine komplette Maschine, die Sie monatlich mieten, mit NVIDIAs RTX 5090 im Inneren: 32 GB GDDR7, direkt an Ihr eigenes Betriebssystem durchgereicht. Niemand sonst nutzt die GPU oder den Server, der Port ist unlimitiert und es gibt keinen Vertrag. Wenn 16 GB für Ihre Aufgabe ausreichen, kommt die RTX 5080 in dieselben Racks – für weniger Geld.

blackwell / gddr7Direktvergleich
Technische Daten der RTX 5090 und RTX 5080 im Vergleich, basierend auf den Produktseiten von NVIDIA.
WertRTX 5090RTX 5080
GPU-Speicher32 GB GDDR716 GB GDDR7
Speicherbus512-bit256-bit
CUDA-Kerne21.76010.752
Boost-Takt2,41 GHz2,62 GHz
AV1-Encoder32
Leistungsaufnahme575 W360 W
GPU-SchnittstellePCIe Gen 5PCIe Gen 5
RTX 5090, komplette Maschine pro Monat, ab$472.47 RTX 5080, komplette Maschine pro Monat, ab$312.67

Besitzen Sie eine ungenutzte Maschine der RTX-50-Serie?

Stellen Sie sie auf dem Primcast-Marktplatz ein, legen Sie Ihren eigenen Monatspreis fest und lassen Sie sie von Leuten mieten, die die Rechenleistung brauchen.

Auf dem Marktplatz einstellen

01Wofür er gedacht ist

Was Sie auf einem RTX-5090-KI-Server ausführen können

Das ist NVIDIAs größte Consumer-GPU, eingebaut in ein Rack. Sie bekommen viel Rechenleistung und Speicher für Ihr Geld – und die Grenzen, die Consumer-Hardware mit sich bringt.

01KI-Modelle

Inferenz und Feinabstimmung in 32 GB

Ein Modell mit 30 Milliarden Parametern bei 4-Bit passt mit Luft nach oben, ebenso ein Modell mit 13 Milliarden Parametern bei 8-Bit. Dasselbe 13-Milliarden-Modell in vollem 16-Bit lässt nicht genug Platz, um es bereitzustellen. Die Größentabellen unten zeigen jeden Fall.

02Rendering

Große Szenen, die im GPU-Speicher bleiben

GPU-Renderer sind schnell, solange die Szene auf die GPU passt. 32 GB fassen weit mehr Geometrie und Texturen als die 24 GB-GPUs eine Stufe darunter, und ein Stapel Frames kann über Nacht laufen, während Ihre eigene Workstation frei bleibt.

03Video

Drei AV1-Encoder auf einer GPU

Die RTX 5090 hat drei Hardware-Video-Encoder und zwei Decoder und kann daher mehrere Streams gleichzeitig transkodieren. Die Beschleuniger A100 und H100 haben überhaupt keinen Encoder. Für Live-Kanäle sehen Sie sich unsere Transcoding-Server an.

04Grenzen

Kein fehlerkorrigierender Speicher

GeForce-GPUs haben kein ECC und keinen zertifizierten professionellen Treiber. Das ist in Ordnung, wenn ein schlechtes Ergebnis eine Wiederholung bedeutet. Für Läufe, die wochenlang ohne Checkpoints dauern, oder Software, die nur auf professionellen GPUs lizenziert ist, sehen Sie sich die RTX PRO 6000 mit 96 GB und ECC an.

02Technische Daten

Technische Daten der NVIDIA RTX 5090 und RTX 5080

Die Zahlen, die NVIDIA für die beiden von uns verbauten GPUs der RTX-50-Serie veröffentlicht. Beide nutzen die Blackwell-Architektur mit Tensor Cores der fünften Generation und RT Cores der vierten Generation.

RTX 5090

Architecture

Blackwell

GPU memory

32 GB GDDR7

CUDA cores

21,760

Memory interface

512-bit

Boost clock

2.41 GHz

Total graphics power

575 W

GPU interface

PCIe Gen 5 x16

Video engines

3 NVENC (9th generation), 2 NVDEC, AV1

Error-correcting memory

No

RTX 5080

Architecture

Blackwell

GPU memory

16 GB GDDR7

CUDA cores

10,752

Memory interface

256-bit

Boost clock

2.62 GHz

Total graphics power

360 W

GPU interface

PCIe Gen 5 x16

Video engines

2 NVENC (9th generation), 2 NVDEC, AV1

Error-correcting memory

No

03Bevor Sie bestellen

Der PCIe-Slot, den Ihre RTX 5090 in jeder Maschine bekommt

Beide GPUs sind für PCIe Gen 5 gebaut. Jede Plattform, in die wir sie einsetzen, ist Gen 3 oder Gen 4, daher läuft die Verbindung zwischen GPU und Server unter dem, wofür die GPU ausgelegt wurde. Hier sehen Sie, was jede Maschine ihr bietet.

Intel Xeon E5-2600 v3/v4

RTX 5090

Slot: PCIe 3.0, 40 lanes per socket. GPU: PCIe Gen 5.

A quarter of the bus the GPU was built for. Avoid it for jobs that cross the slot all the time. For inference, transcoding or rendering a scene that is already loaded, it makes little difference.

Intel Xeon Silver / Gold

RTX 5090, RTX 5080

Slot: PCIe 3.0, 48 lanes per socket. GPU: PCIe Gen 5.

A quarter of the bus the GPU was built for. Avoid it for jobs that cross the slot all the time. For inference, transcoding or rendering a scene that is already loaded, it makes little difference.

AMD EPYC

RTX 5090

Slot: PCIe 4.0, 128 lanes per socket. GPU: PCIe Gen 5.

Half the bus the GPU was built for. You feel it when every training step pulls a new batch from the host. You do not feel it once the model or the scene sits in GPU memory.

Wir sagen das im Voraus, weil es schon einmal einen Kunden erwischt hat: Eine RTX 5090 auf einer Gen-3-Plattform rendert langsamer als die RTX 4090, die sie ersetzt hat. Ein langsamerer Slot schadet nur, wenn Ihre Aufgabe ständig Daten darüber bewegt, etwa eine Trainingsschleife, die bei jedem Schritt einen neuen Batch vom Host lädt. Inferenz, Transcoding und Game-Server berühren ihn kaum, sobald alles geladen ist. Nicht sicher, welcher Fall auf Sie zutrifft? Sagen Sie uns im Chat, was Sie ausführen möchten, und wir zeigen Ihnen die richtige Maschine.

04Die kleinere Variante

RTX-5080-Server: dieselbe Generation mit 16 GB

Die RTX 5080 hat dasselbe Blackwell-Design, dieselbe Generation von AV1-Encodern und dieselbe PCIe-Gen-5-Schnittstelle, mit etwa der Hälfte der CUDA-Kerne und der Hälfte des Speichers der RTX 5090.

Wann die RTX 5080 ausreicht

Ihr Modell passt in 16 GB mit Luft nach oben: ein 7-Milliarden-Modell bei 8-Bit oder ein 13-Milliarden-Modell bei 4-Bit. Oder die Aufgabe ist Video, wo ihre zwei AV1-Encoder die Arbeit erledigen, oder ein Game-Server, der den GPU-Speicher nie füllt.

Wann Sie für die RTX 5090 zahlen sollten

Ihr Modell oder Ihre Szene ist größer als 16 GB, oder Sie möchten den zusätzlichen Speicher für längere Kontexte und mehr gleichzeitige Nutzer. Doppelter Speicher auf einem doppelt so breiten Bus ist der eigentliche Unterschied; die Taktraten liegen nah beieinander.

05Größenbestimmung

Was in 32 GB und in 16 GB GPU-Speicher passt

Nur Gewichte. Lassen Sie oben Platz für Kontext und Laufzeit.

RTX 5090, 32 GB

Weights only, rounded up. Fits means the GPU’s 32 GB holds the weights 1.5× over: room for the KV cache, the activations and the runtime, and the only verdict the LLM sizing page recommends a GPU on. Tight clears 1.25× only: the model loads, and a long context or a second user runs the GPU out of memory.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB: fits8 GB: fits5 GB: fits
13-14 billion parameters28 GB: does not fit14 GB: fits8 GB: fits
30-34 billion parameters68 GB: does not fit34 GB: does not fit19 GB: fits
70 billion parameters140 GB: does not fit70 GB: does not fit38 GB: does not fit

RTX 5080, 16 GB

Weights only, rounded up. Fits means the GPU’s 16 GB holds the weights 1.5× over: room for the KV cache, the activations and the runtime, and the only verdict the LLM sizing page recommends a GPU on. Tight clears 1.25× only: the model loads, and a long context or a second user runs the GPU out of memory.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB: does not fit8 GB: fits5 GB: fits
13-14 billion parameters28 GB: does not fit14 GB: does not fit8 GB: fits
30-34 billion parameters68 GB: does not fit34 GB: does not fit19 GB: does not fit
70 billion parameters140 GB: does not fit70 GB: does not fit38 GB: does not fit

Die Leistungsaufnahme ist die andere Grenze. Eine RTX 5090 zieht bis zu 575 W, weshalb eine zweite in derselben Maschine eine Konfiguration ist, die wir auf Anfrage anbieten, und keine Option an der Kasse. Um von Ihrem Modell auszugehen und die benötigte GPU zu finden, nutzen Sie die LLM-Speichergrößen-Seite.

06Auswahl

RTX-5090-Server, RTX 4090D oder RTX 3090?

Diese GPUs kommen in dieselben Maschinen, daher ist neuer nicht automatisch besser für Sie. Vergleichen Sie Speicher und Monatspreis für Ihre Aufgabe.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
GPUGPU memoryGPU aloneCheapest complete machine
RTX 309024 GB GDDR6X$239$309.93
RTX 508016 GB GDDR7$229$312.67
RTX 4090D24 GB GDDR6X$299$372.47
RTX 509032 GB GDDR7$399$472.47

Die RTX 4090D und die RTX 3090 haben beide 24 GB. Sie sind PCIe-Gen-4-GPUs, daher kostet sie der Slot weniger als die RTX-50-Serie. Wenn Ihre Arbeit in 24 GB passt, lesen Sie die Seite zum RTX-4090-Dedicated-Server und die Seite zu den Servern der RTX-30-Serie, bevor Sie sich entscheiden.

07Preise

Preise für RTX-5090- und RTX-5080-Server, inklusive Maschine

Ihre Rechnung zeigt die GPU in einer Zeile und den Server in einer anderen. Beide stammen aus demselben Bestellkatalog, den auch die Kasse verwendet, und jeder Preis unten gehört zu der Maschine daneben.

Read from the order catalogue when this page was served. The GPU is a separate line; the machine does not get dearer because of what is plugged into it.
GPUThe machine it goes inGPU aloneComplete, per month
RTX 5080Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$229$312.67
Configure this build →
RTX 5090Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$399$472.47
Configure this build →
RTX 5090Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$399$482.67
Configure this build →
RTX 5090AMD EPYC
AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0
$399$616.59
Configure this build →

Traffic wird in keiner Richtung gemessen und es gibt keine Egress-Gebühr. Jeder Server kommt mit einer IPv4-Adresse, Sie zahlen monatlich und können am Ende jedes Monats gehen. Um jede von uns verbaute GPU mit denselben Preisangaben zu sehen, gehen Sie zu alle GPU-Server mit Preisen.

08Lieferung und Hilfe

Wann Ihr RTX-5090-Server bereit ist und wer Ihnen hilft

Die Lieferung hängt davon ab, wo die GPU bei Ihrer Bestellung ist. Fragen Sie vor der Zahlung im Chat nach, und wir sagen Ihnen, welcher dieser Fälle auf Ihre Konfiguration zutrifft.

  1. Etwa 30 Minuten

    Bereits im Rack

    Wenn eine gerackte Maschine die GPU bereits eingebaut hat, erhalten Sie sie etwa 30 Minuten nach Genehmigung Ihrer Bestellung.

  2. 4 bis 24 Stunden

    Auf unserem Regal

    Wir haben die GPU vorrätig und bauen sie in den von Ihnen gewählten Server ein.

  3. 5 bis 10 Werktage

    Für Sie bestellt

    Wir kaufen die GPU bei einem Distributor und bauen sie ein, sobald sie eintrifft.

Fragen Sie alles in unserem Chat, vor oder nach Ihrer Bestellung. Ein KI-Assistent antwortet in Sekunden und kann Ihr Konto und Ihren Server prüfen, und eine Person aus unserem Team übernimmt, wann immer Sie es wünschen. Maschinen, die jetzt gerackt und bereit sind, finden Sie unter Sofort-Server.

09Fragen

Fragen zum Mieten eines RTX-5090-Servers

01Was bekomme ich bei einem dedizierten RTX-5090-Server?

Einen vollständigen physischen Server mit einer RTX 5090 darin, monatlich gemietet. Die gesamte GPU wird an Ihr eigenes Betriebssystem durchgereicht – ohne Hypervisor, ohne vGPU-Aufteilung und ohne Time-Sharing. Sie installieren den Treiber und die CUDA-Version, die Sie möchten, und nichts ändert sie hinter Ihrem Rücken.

02Gibt es eine RTX-5090-Server-Edition?

Nein. NVIDIA stellt keine Server-Edition der RTX 5090 her. Die passiv gekühlte Blackwell-GPU für Server ist die RTX PRO 6000 Blackwell Server Edition mit 96 GB Speicher und ECC. Auch die RTX PRO 6000 verbauen wir: siehe die Seite für dedizierte RTX-PRO-6000-Server. Die RTX 5090, die wir vermieten, ist NVIDIAs GeForce-Modell und läuft in einem Rack-Server.

03Läuft eine RTX 5090 in Ihren Servern mit voller Geschwindigkeit?

Ihre PCIe-Verbindung nicht. Die RTX 5090 ist eine PCIe-Gen-5-GPU, und unsere Plattformen sind Gen 3 und Gen 4, daher läuft der Bus je nach Maschine mit der Hälfte oder einem Viertel seiner Auslegungsgeschwindigkeit. Das verlangsamt Training, das bei jedem Schritt Daten vom Host streamt. Für Inferenz, Transkodierung oder Rendering macht es kaum einen Unterschied, sobald die Arbeit in den GPU-Speicher geladen ist. Der Steckplatz, den jede Maschine bietet, ist auf dieser Seite aufgeführt.

04Wie groß kann ein KI-Modell sein, das ein RTX-5090-Server ausführen kann?

Mit 32 GB passt ein Modell mit 30 Milliarden Parametern in 4-Bit und ein Modell mit 13 Milliarden Parametern in 8-Bit, jeweils mit Platz für den Kontext. Ein Modell mit 70 Milliarden Parametern passt nicht auf eine einzelne RTX 5090, nicht einmal in 4-Bit. Für größere Modelle siehe die Seite zur LLM-Speicherdimensionierung.

05RTX 5090 oder RTX 5080: Welche sollte ich mieten?

Mieten Sie die RTX 5080, wenn Ihr Modell oder Ihre Szene mit Luft nach oben in 16 GB passt oder wenn die Aufgabe überwiegend Video ist. Mieten Sie die RTX 5090, wenn Sie mehr als 16 GB benötigen oder Spielraum für längere Kontexte und mehr Nutzer möchten. Die Preistabelle oben zeigt, was jede mit ihrer Maschine kostet.

06Kann ich eine RTX 5070 oder RTX 5060 bekommen?

Nein. Die RTX 5090 und die RTX 5080 sind die einzigen GPUs der RTX-50-Serie in unserem Bestellkatalog, und der Konfigurator bietet keine anderen an. Für eine kleinere, günstigere GPU vergleichen Sie die übrigen auf alle GPU-Server mit Preisen.

07Kann ich zwei RTX-5090-GPUs in einen Server einbauen lassen?

Ja, als Build, den wir individuell anbieten, nicht als Checkout-Option. Jede zieht bis zu 575 W, und GeForce-RTX-50-GPUs haben kein NVLink, daher sind zwei davon zwei getrennte 32 GB-Pools. Sagen Sie uns, was Sie ausführen möchten, oder sehen Sie Multi-GPU-Server.

08Wie schnell kann ich einen RTX-5090-Server haben?

Etwa 30 Minuten nach Freigabe, wenn eine gerackte Maschine die GPU bereits enthält, 4 bis 24 Stunden, wenn wir die GPU auf Lager haben, und 5 bis 10 Werktage, wenn wir sie erst beschaffen müssen. Fragen Sie vor der Zahlung im Chat nach, dann sagen wir Ihnen, welcher Fall zutrifft.

Wählen Sie Ihren RTX-5090-Build und sehen Sie die monatliche Gesamtsumme

Jeder Build oben ist mit seinem Server bepreist. Wählen Sie einen aus, richten Sie ihn nach Ihren Wünschen ein, und die Bestellung zeigt Ihren vollständigen Monatspreis, bevor Sie zahlen.