Διακομιστές GPU · Σειρά RTX 50

Αποκλειστικός διακομιστής RTX 5090 με 32 GB για τα μοντέλα και τις αποδόσεις σας

Ένας αποκλειστικός διακομιστής RTX 5090 είναι ένα ολόκληρο μηχάνημα που νοικιάζετε μηνιαία με την RTX 5090 της NVIDIA μέσα: 32 GB GDDR7, περασμένα απευθείας στο δικό σας λειτουργικό σύστημα. Κανείς άλλος δεν χρησιμοποιεί την GPU ή τον διακομιστή, η θύρα είναι χωρίς μέτρηση και δεν υπάρχει συμβόλαιο. Αν τα 16 GB αρκούν για τη δουλειά σας, η RTX 5080 μπαίνει στα ίδια rack με χαμηλότερο κόστος.

Δείτε κάθε σύνθεση με τιμή Ελέγξτε πρώτα τη σύνδεση PCIe

blackwell / gddr7Δίπλα δίπλα

Σύγκριση προδιαγραφών RTX 5090 και RTX 5080, από τις σελίδες προϊόντων της NVIDIA.
Μέγεθος	RTX 5090	RTX 5080
Μνήμη GPU	32 GB GDDR7	16 GB GDDR7
Δίαυλος μνήμης	512-bit	256-bit
Πυρήνες CUDA	21,760	10,752
Ρολόι boost	2.41 GHz	2.62 GHz
Κωδικοποιητές AV1	3	2
Ισχύς	575 W	360 W
Διεπαφή GPU	PCIe Gen 5	PCIe Gen 5

RTX 5090, πλήρες μηχάνημα ανά μήνα, από$472.47 RTX 5080, πλήρες μηχάνημα ανά μήνα, από$312.67

Έχετε ένα μηχάνημα σειράς RTX 50 που δεν χρησιμοποιείτε;

Καταχωρίστε το στην αγορά του Primcast, ορίστε τη δική σας μηνιαία τιμή και αφήστε όσους χρειάζονται υπολογιστική ισχύ να το νοικιάσουν από εσάς.

Καταχωρίστε το στην αγορά

01Σε τι χρησιμεύει

Τι μπορείτε να τρέξετε σε έναν διακομιστή AI RTX 5090

Αυτή είναι η μεγαλύτερη καταναλωτική GPU της NVIDIA, σε rack. Παίρνετε πολλή υπολογιστική ισχύ και μνήμη για τα χρήματά σας, μαζί με τους περιορισμούς που συνοδεύουν το καταναλωτικό υλικό.

01Μοντέλα AI

Συμπερασμός και fine-tuning σε 32 GB

Ένα μοντέλο 30 δισεκατομμυρίων παραμέτρων σε 4-bit χωράει με άνεση, όπως και ένα μοντέλο 13 δισεκατομμυρίων σε 8-bit. Το ίδιο μοντέλο 13 δισεκατομμυρίων σε πλήρη 16-bit δεν αφήνει αρκετό χώρο για να το εξυπηρετήσετε. Οι πίνακες διαστασιολόγησης παρακάτω δείχνουν κάθε περίπτωση.

02Απόδοση

Μεγάλες σκηνές που μένουν στη μνήμη της GPU

Οι GPU renderers είναι γρήγοροι όσο η σκηνή χωράει στη GPU. Τα 32 GB χωρούν πολύ περισσότερη γεωμετρία και υφές από τις GPUs των 24 GB ένα σκαλοπάτι πιο κάτω, και μια παρτίδα καρέ μπορεί να τρέξει όλη τη νύχτα ενώ ο δικός σας σταθμός εργασίας μένει ελεύθερος.

03Βίντεο

Τρεις κωδικοποιητές AV1 σε μία GPU

Η RTX 5090 έχει τρεις κωδικοποιητές βίντεο υλικού και δύο αποκωδικοποιητές, οπότε μπορεί να μετατρέψει πολλές ροές ταυτόχρονα. Οι επιταχυντές A100 και H100 δεν έχουν καθόλου κωδικοποιητή. Για ζωντανά κανάλια, δείτε τους διακομιστές transcoding μας.

04Περιορισμοί

Χωρίς μνήμη διόρθωσης σφαλμάτων

Οι GPUs GeForce δεν έχουν ECC ούτε πιστοποιημένο επαγγελματικό οδηγό. Αυτό είναι εντάξει όταν ένα κακό αποτέλεσμα σημαίνει επανεκτέλεση. Για εκτελέσεις που διαρκούν εβδομάδες χωρίς σημεία ελέγχου, ή λογισμικό με άδεια μόνο για επαγγελματικές GPUs, δείτε την RTX PRO 6000 με 96 GB και ECC.

02Προδιαγραφές

Προδιαγραφές NVIDIA RTX 5090 και RTX 5080

Τα στοιχεία που δημοσιεύει η NVIDIA για τις δύο GPUs σειράς RTX 50 που τοποθετούμε. Και οι δύο χρησιμοποιούν την αρχιτεκτονική Blackwell, με πυρήνες Tensor πέμπτης γενιάς και πυρήνες RT τέταρτης γενιάς.

RTX 5090

Architecture

Blackwell

GPU memory

32 GB GDDR7

CUDA cores

21,760

Memory interface

512-bit

Boost clock

2.41 GHz

Total graphics power

575 W

GPU interface

PCIe Gen 5 x16

Video engines

3 NVENC (9th generation), 2 NVDEC, AV1

Error-correcting memory

RTX 5080

Architecture

Blackwell

GPU memory

16 GB GDDR7

CUDA cores

10,752

Memory interface

256-bit

Boost clock

2.62 GHz

Total graphics power

360 W

GPU interface

PCIe Gen 5 x16

Video engines

2 NVENC (9th generation), 2 NVDEC, AV1

Error-correcting memory

03Πριν παραγγείλετε

Η υποδοχή PCIe που παίρνει η RTX 5090 σας σε κάθε μηχάνημα

Και οι δύο GPUs είναι φτιαγμένες για PCIe Gen 5. Κάθε πλατφόρμα στην οποία τις βάζουμε είναι Gen 3 ή Gen 4, οπότε η σύνδεση μεταξύ GPU και διακομιστή λειτουργεί κάτω από αυτό για το οποίο σχεδιάστηκε η GPU. Να τι δίνει κάθε μηχάνημα.

Intel Xeon E5-2600 v3/v4

RTX 5090

Slot: PCIe 3.0, 40 lanes per socket. GPU: PCIe Gen 5.

A quarter of the bus the GPU was built for. Avoid it for jobs that cross the slot all the time. For inference, transcoding or rendering a scene that is already loaded, it makes little difference.

Intel Xeon Silver / Gold

RTX 5090, RTX 5080

Slot: PCIe 3.0, 48 lanes per socket. GPU: PCIe Gen 5.

A quarter of the bus the GPU was built for. Avoid it for jobs that cross the slot all the time. For inference, transcoding or rendering a scene that is already loaded, it makes little difference.

AMD EPYC

RTX 5090

Slot: PCIe 4.0, 128 lanes per socket. GPU: PCIe Gen 5.

Half the bus the GPU was built for. You feel it when every training step pulls a new batch from the host. You do not feel it once the model or the scene sits in GPU memory.

Το λέμε εξαρχής γιατί έχει πιάσει πελάτη στο παρελθόν: μια RTX 5090 σε πλατφόρμα Gen 3 απέδωσε πιο αργά από την RTX 4090 που αντικατέστησε. Μια πιο αργή υποδοχή βλάπτει μόνο όταν η δουλειά σας μετακινεί δεδομένα μέσα από αυτήν συνεχώς, όπως ένας βρόχος εκπαίδευσης που φορτώνει μια νέα παρτίδα από τον host σε κάθε βήμα. Το συμπερασμό, το transcoding και οι διακομιστές παιχνιδιών σχεδόν δεν την αγγίζουν μόλις φορτωθούν όλα. Δεν είστε σίγουροι ποια είναι η δική σας; Πείτε μας στο chat τι θα τρέξετε και θα σας υποδείξουμε το σωστό μηχάνημα.

04Το μικρότερο

Διακομιστής RTX 5080: η ίδια γενιά με 16 GB

Η RTX 5080 έχει τον ίδιο σχεδιασμό Blackwell, την ίδια γενιά κωδικοποιητών AV1 και την ίδια διεπαφή PCIe Gen 5, με περίπου τους μισούς πυρήνες CUDA και τη μισή μνήμη της RTX 5090.

Πότε αρκεί η RTX 5080

Το μοντέλο σας χωράει στα 16 GB με περιθώριο: ένα μοντέλο 7 δισεκατομμυρίων σε 8-bit, ή ένα μοντέλο 13 δισεκατομμυρίων σε 4-bit. Ή η δουλειά είναι βίντεο, όπου οι δύο κωδικοποιητές AV1 κάνουν τη δουλειά, ή ένας διακομιστής παιχνιδιού που δεν γεμίζει ποτέ τη μνήμη της GPU.

Πότε να πληρώσετε για την RTX 5090

Το μοντέλο ή η σκηνή σας είναι μεγαλύτερη από 16 GB, ή θέλετε την επιπλέον μνήμη για μεγαλύτερα συμφραζόμενα και περισσότερους χρήστες ταυτόχρονα. Η διπλάσια μνήμη σε δίαυλο διπλάσιου πλάτους είναι η πραγματική διαφορά· οι ταχύτητες ρολογιού είναι κοντά.

05Διαστασιολόγηση

Τι χωράει σε 32 GB και σε 16 GB μνήμης GPU

Μόνο βάρη. Αφήστε χώρο από πάνω για το context και το runtime.

RTX 5090, 32 GB

Weights only, rounded up. **Fits** means the GPU’s 32 GB holds the weights 1.5× over: room for the KV cache, the activations and the runtime, and the only verdict the LLM sizing page recommends a GPU on. **Tight** clears 1.25× only: the model loads, and a long context or a second user runs the GPU out of memory.
Model	16-bit	8-bit	4-bit
7-8 billion parameters	16 GB: fits	8 GB: fits	5 GB: fits
13-14 billion parameters	28 GB: does not fit	14 GB: fits	8 GB: fits
30-34 billion parameters	68 GB: does not fit	34 GB: does not fit	19 GB: fits
70 billion parameters	140 GB: does not fit	70 GB: does not fit	38 GB: does not fit

RTX 5080, 16 GB

Weights only, rounded up. **Fits** means the GPU’s 16 GB holds the weights 1.5× over: room for the KV cache, the activations and the runtime, and the only verdict the LLM sizing page recommends a GPU on. **Tight** clears 1.25× only: the model loads, and a long context or a second user runs the GPU out of memory.
Model	16-bit	8-bit	4-bit
7-8 billion parameters	16 GB: does not fit	8 GB: fits	5 GB: fits
13-14 billion parameters	28 GB: does not fit	14 GB: does not fit	8 GB: fits
30-34 billion parameters	68 GB: does not fit	34 GB: does not fit	19 GB: does not fit
70 billion parameters	140 GB: does not fit	70 GB: does not fit	38 GB: does not fit

Η ισχύς είναι το άλλο όριο. Μία RTX 5090 τραβάει έως 575 W, γι' αυτό μια δεύτερη στο ίδιο μηχάνημα είναι σύνθεση που κοστολογούμε, όχι επιλογή στο ταμείο. Για να ξεκινήσετε από το μοντέλο σας και να βρείτε τη GPU που χρειάζεται, χρησιμοποιήστε τη σελίδα διαστασιολόγησης μνήμης LLM.

06Επιλογή

Διακομιστής RTX 5090, RTX 4090D ή RTX 3090;

Αυτές οι GPUs μπαίνουν στα ίδια μηχανήματα, οπότε το νεότερο δεν είναι αυτόματα καλύτερο για εσάς. Συγκρίνετε τη μνήμη και τη μηνιαία τιμή για τη δουλειά σας.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
GPU	GPU memory	GPU alone	Cheapest complete machine
RTX 3090	24 GB GDDR6X	$239	$309.93
RTX 5080	16 GB GDDR7	$229	$312.67
RTX 4090D	24 GB GDDR6X	$299	$372.47
RTX 5090	32 GB GDDR7	$399	$472.47

Η RTX 4090D και η RTX 3090 έχουν και οι δύο 24 GB. Είναι GPUs PCIe Gen 4, οπότε η υποδοχή τους κοστίζει λιγότερο από ό,τι στη σειρά RTX 50. Αν η δουλειά σας χωράει στα 24 GB, διαβάστε τη σελίδα αποκλειστικού διακομιστή RTX 4090 και τη σελίδα διακομιστών σειράς RTX 30 πριν αποφασίσετε.

07Τιμές

Τιμές διακομιστών RTX 5090 και RTX 5080, με το μηχάνημα

Το τιμολόγιό σας δείχνει τη GPU σε μία γραμμή και τον διακομιστή σε άλλη. Και τα δύο προέρχονται από τον ίδιο κατάλογο παραγγελιών που χρησιμοποιεί το ταμείο, και κάθε τιμή παρακάτω ανήκει στο μηχάνημα δίπλα της.

Read from the order catalogue when this page was served. The GPU is a separate line; the machine does not get dearer because of what is plugged into it.
GPU	The machine it goes in	GPU alone	Complete, per month
RTX 5080	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$229	$312.67 Configure this build →
RTX 5090	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$399	$472.47 Configure this build →
RTX 5090	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$399	$482.67 Configure this build →
RTX 5090	AMD EPYC AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0	$399	$616.59 Configure this build →

Η κίνηση δεν μετράται σε καμία κατεύθυνση και δεν υπάρχει χρέωση egress. Κάθε διακομιστής έρχεται με διεύθυνση IPv4, πληρώνετε μήνα με μήνα και μπορείτε να φύγετε στο τέλος οποιουδήποτε μήνα. Για να δείτε κάθε GPU που τοποθετούμε, με τιμή με τον ίδιο τρόπο, πηγαίνετε σε όλους τους διακομιστές GPU με τιμές.

08Παράδοση και βοήθεια

Πότε είναι έτοιμος ο διακομιστής RTX 5090 σας και ποιος σας βοηθά

Η παράδοση εξαρτάται από το πού βρίσκεται η GPU όταν παραγγείλετε. Ρωτήστε στο chat πριν πληρώσετε και θα σας πούμε ποιο από αυτά ισχύει για τη σύνθεσή σας.

Περίπου 30 λεπτά
Ήδη σε rack
Αν ένα μηχάνημα σε rack έχει ήδη τη GPU τοποθετημένη, το παίρνετε περίπου 30 λεπτά μετά την έγκριση της παραγγελίας σας.
4 έως 24 ώρες
Στο ράφι μας
Έχουμε τη GPU στα χέρια μας και την τοποθετούμε στον διακομιστή που επιλέξατε.
5 έως 10 εργάσιμες ημέρες
Παραγγελία για εσάς
Αγοράζουμε τη GPU από διανομέα και την τοποθετούμε μόλις φτάσει.

Ρωτήστε οτιδήποτε στο chat μας, πριν ή μετά την παραγγελία. Ένας βοηθός AI απαντά σε δευτερόλεπτα και μπορεί να ελέγξει τον λογαριασμό και τον διακομιστή σας, και ένα άτομο από την ομάδα μας παρεμβαίνει όποτε το ζητήσετε. Μηχανήματα που είναι σε rack και έτοιμα τώρα βρίσκονται στους άμεσους διακομιστές.

09Ερωτήσεις

Ερωτήσεις σχετικά με την ενοικίαση διακομιστή RTX 5090

01Τι παίρνω με έναν αποκλειστικό διακομιστή RTX 5090;

Έναν ολόκληρο φυσικό διακομιστή με μία RTX 5090 μέσα, με μηνιαία μίσθωση. Η πλήρης GPU περνάει στο δικό σας λειτουργικό σύστημα, χωρίς hypervisor, χωρίς διαχωρισμό vGPU και χωρίς καταμερισμό χρόνου. Εγκαθιστάτε τον οδηγό και την έκδοση CUDA που θέλετε, και τίποτα δεν τα αλλάζει πίσω από την πλάτη σας.

02Υπάρχει έκδοση RTX 5090 Server Edition;

Όχι. Η NVIDIA δεν κατασκευάζει έκδοση διακομιστή της RTX 5090. Η παθητικά ψυχόμενη GPU Blackwell για διακομιστές είναι η RTX PRO 6000 Blackwell Server Edition, με 96 GB μνήμης και ECC. Τοποθετούμε και την RTX PRO 6000: δείτε τη σελίδα αποκλειστικού διακομιστή RTX PRO 6000. Η RTX 5090 που νοικιάζουμε είναι το εξάρτημα GeForce της NVIDIA, που λειτουργεί σε διακομιστή rack.

03Θα λειτουργεί μια RTX 5090 σε πλήρη ταχύτητα στους διακομιστές σας;

Η σύνδεση PCIe της δεν θα λειτουργεί. Η RTX 5090 είναι GPU PCIe Gen 5 και οι πλατφόρμες μας είναι Gen 3 και Gen 4, οπότε ο δίαυλος λειτουργεί στη μισή ή στο ένα τέταρτο της σχεδιασμένης ταχύτητάς του, ανάλογα με το μηχάνημα. Αυτό επιβραδύνει την εκπαίδευση που μεταφέρει δεδομένα από τον κεντρικό υπολογιστή σε κάθε βήμα. Κάνει μικρή διαφορά στην εξαγωγή συμπερασμάτων, τη μετακωδικοποίηση ή την απόδοση μόλις η εργασία φορτωθεί στη μνήμη της GPU. Η υποδοχή που δίνει κάθε μηχάνημα αναφέρεται σε αυτή τη σελίδα.

04Πόσο μεγάλο μοντέλο τεχνητής νοημοσύνης μπορεί να τρέξει ένας διακομιστής RTX 5090;

Με 32 GB, ένα μοντέλο 30 δισεκατομμυρίων παραμέτρων χωράει σε 4-bit και ένα μοντέλο 13 δισεκατομμυρίων χωράει σε 8-bit, και τα δύο με χώρο για το πλαίσιο. Ένα μοντέλο 70 δισεκατομμυρίων δεν χωράει σε μία RTX 5090, ούτε καν σε 4-bit. Για μεγαλύτερα μοντέλα, δείτε τη σελίδα υπολογισμού μνήμης LLM.

05RTX 5090 ή RTX 5080: ποια πρέπει να νοικιάσω;

Νοικιάστε την RTX 5080 αν το μοντέλο ή η σκηνή σας χωράει σε 16 GB με περιθώριο, ή αν η εργασία είναι κυρίως βίντεο. Νοικιάστε την RTX 5090 όταν χρειάζεστε περισσότερα από 16 GB, ή θέλετε περιθώριο για μεγαλύτερα πλαίσια και περισσότερους χρήστες. Ο πίνακας τιμών παραπάνω δείχνει τι κοστίζει η καθεμία με το μηχάνημά της.

06Μπορώ να πάρω μια RTX 5070 ή RTX 5060;

Όχι. Η RTX 5090 και η RTX 5080 είναι οι μόνες GPU της σειράς RTX 50 στον κατάλογο παραγγελιών μας, και ο διαμορφωτής δεν προσφέρει άλλες. Για μια μικρότερη, φθηνότερη GPU, συγκρίνετε τις υπόλοιπες στη σελίδα όλοι οι διακομιστές GPU με τιμές.

07Μπορώ να βάλω δύο GPU RTX 5090 σε έναν διακομιστή;

Ναι, ως κατασκευή που κοστολογούμε αντί για επιλογή ολοκλήρωσης αγοράς. Η καθεμία καταναλώνει έως 575 W, και οι GPU GeForce RTX 50 δεν έχουν NVLink, οπότε δύο από αυτές είναι δύο ξεχωριστές δεξαμενές 32 GB. Πείτε μας τι σκοπεύετε να τρέξετε, ή δείτε διακομιστές πολλαπλών GPU.

08Πόσο σύντομα μπορώ να έχω έναν διακομιστή RTX 5090;

Περίπου 30 λεπτά μετά την έγκριση αν ένα μηχάνημα rack έχει ήδη τη GPU, 4 έως 24 ώρες αν έχουμε τη GPU στο ράφι, και 5 έως 10 εργάσιμες ημέρες αν πρέπει να την αγοράσουμε. Ρωτήστε στη συνομιλία πριν πληρώσετε και σας λέμε ποια περίπτωση ισχύει.

Επιλέξτε τη διαμόρφωση RTX 5090 και δείτε το μηνιαίο σύνολο

Κάθε διαμόρφωση παραπάνω κοστολογείται με τον διακομιστή της. Διαλέξτε μία, ρυθμίστε την όπως θέλετε, και η παραγγελία δείχνει την πλήρη μηνιαία τιμή σας πριν πληρώσετε.

Επιλέξτε διαμόρφωση Συγκρίνετε κάθε GPU