Will I get a full RTX 4090 rather than a 4090 D?

Not from this page. What Primcast fits is the 4090 D, and the page says so rather than printing 'RTX 4090' and hoping. If your work genuinely needs the extra eleven per cent of shaders, say what it is and we will tell you whether the part can be sourced and what the lead time would be, rather than shipping the D and calling it a 4090.

Does the D affect CUDA, drivers or software compatibility?

No. It reports as an Ada Lovelace GeForce card, takes the ordinary GeForce driver, and every CUDA release, framework build and renderer that runs on a 4090 runs on it. The difference is a shader count, not an architecture.

Is the graphics card shared with anyone else?

No. One tenant per physical machine, and the card is passed straight through to your own operating system -- no hypervisor, no partition, no time-slicing. You install and pin your own driver and CUDA release, and nothing upgrades underneath you.

RTX 4090 D or RTX 3090, if I only care about the 24 GB?

The RTX 3090 is very likely the better buy. Both carry 24 GB, and the 3090 costs less every month. The 4090 D is meaningfully faster and adds AV1 encoding the 3090 does not have; if the model fits either way and the runs are not back to back, the older card wins on arithmetic per pound.

How soon can I have an RTX 4090 D server?

It depends on whether the card is already fitted, already on the shelf, or has to be bought in, and you are told which before you pay rather than after. Machines racked and ready right now are listed at https://primcast.com/instant.

GeForce RTX 4090 D · 24 GB GDDR6X

RTX 4090D — και γιατί δεν είναι RTX 4090

Η κάρτα που τοποθετούμε είναι η 4090 D, η έκδοση συμμόρφωσης με τους εξαγωγικούς κανονισμούς που κατασκεύασε η NVIDIA για την κινεζική αγορά. Δεν είναι rebadge ούτε απομίμηση: είναι μια γνήσια κάρτα AD102 με λιγότερους shaders και την ίδια μνήμη 24 GB. Αν ήρθατε εδώ αναζητώντας έναν server με 4090, αυτή η σελίδα υπάρχει για να σας εξηγήσει τη διαφορά πριν πληρώσετε.

24 GB GDDR6X Δύο encoders, AV1 Χωρίς ECC

Πόσο κοστίζει, μαζί με το μηχάνημα

Μετατρέψτε τις GPU σας σε παθητικό μηνιαίο εισόδημα

Έχετε αδρανείς server ή desktop διατάξεις GPU; Καταχωρίστε τις σήμερα στο marketplace της Primcast και κερδίστε σταθερά μηνιαία ενοίκια από ομάδες τεχνητής νοημοσύνης, προγραμματιστές και επιχειρήσεις που χρειάζονται υπολογιστική ισχύ επιπέδου παραγωγής.

Μετάβαση στο Marketplace

Ή νοικιάστε μια RTX 40-series από τον ιδιοκτήτη της

Οι ιδιοκτήτες καταχωρίζουν τα μηχανήματά τους με RTX 40-series στο marketplace μας και ορίζουν οι ίδιοι τη μηνιαία τιμή. Μια κάρτα που αναφέρει ότι καταχωρίζεται μέσω της αδελφής μας εταιρείας, Server Room, νοικιάζεται στο serverroom.net και όχι εδώ.

Δείτε όλες τις καταχωρίσεις του marketplace →

Τι σημαίνει το D

Τον Δεκέμβριο του 2023, το Υπουργείο Εμπορίου των Ηνωμένων Πολιτειών έθεσε ένα όριο εξαγωγών που η RTX 4090 υπερέβαινε. Η NVIDIA περιόρισε μια έκδοση για να το καλύψει και την πούλησε στην Κίνα: την RTX 4090 D. Κυκλοφόρησε στις 28 Δεκεμβρίου 2023 και διαθέτει 14.592 πυρήνες CUDA έναντι των 16.384 της πλήρους κάρτας — περίπου έντεκα τοις εκατό λιγότερους shaders.

Όλα τα υπόλοιπα είναι η ίδια κάρτα. Είκοσι τέσσερα gigabyte GDDR6X σε δίαυλο 384-bit, το ίδιο εύρος ζώνης μνήμης 1.008 GB/s, το ίδιο boost clock 2,52 GHz, οι ίδιοι πυρήνες ray-tracing τρίτης γενιάς και tensor τέταρτης γενιάς, οι ίδιοι δύο AV1 encoders. Τίποτα που εξαρτάται από τη χωρητικότητα ή την ταχύτητα μνήμης δεν αλλάζει καθόλου, και αυτό καλύπτει το μεγαλύτερο μέρος όσων ζητούνται από μια ενοικιαζόμενη κάρτα: τα μοντέλα που χωρούν σε 24 GB εξακολουθούν να χωρούν, και τα καρέ που μεταδίδονται εξακολουθούν να μεταδίδονται.

Εκεί που σας κοστίζει είναι η ακατέργαστη αριθμητική απόδοση σε εργασίες που κορεσμώνουν τους shaders — ένα μεγάλο render, μια ομαδική εκπαίδευση. Υπολογίστε περίπου ένα δέκατο λιγότερο από μια πλήρη 4090 και δεν θα εκπλαγείτε. Το λέμε εδώ αντί να τυπώσουμε “RTX 4090” στη σελίδα και να σας αφήσουμε να το ανακαλύψετε, όπως κάνουν οι περισσότερες καταχωρίσεις.

Across the 57 cards in the catalogue: RTX 4090D holds 24 GB, 13 cards we fit hold more, and 11 cost more per month. Read the whole ladder on the whole catalogue, priced.

Οι προδιαγραφές, όπως δημοσιεύονται

Ada Lovelace. Στοιχεία από την επίσημη τεκμηρίωση της σειράς RTX 40 της NVIDIA, που αναφέρονται στον πηγαίο κώδικα αυτής της σελίδας.

RTX 4090D

Architecture

Ada Lovelace

Card memory

24 GB GDDR6X

CUDA cores

14,592

Memory bandwidth

1,008 GB/s

Board power

425 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

2 NVENC, 1 NVDEC, AV1

Error-correcting memory

Σε τι είναι καλή και σε τι όχι

Πρόκειται για μια καταναλωτική κάρτα σε rack. Αυτό είναι ολόκληρο το πλεονέκτημά της και ολόκληρος ο περιορισμός της, και αξίζει να ειπωθούν και τα δύο ξεκάθαρα.

Καλή σε: αριθμητική ανά λίρα

Το πυρίτιο GeForce είναι ο φθηνότερος τρόπος να αγοράσετε τόση υπολογιστική ισχύ. Δεν υπάρχει άδεια επαγγελματικού driver στην τιμή ούτε περιθώριο datacentre, οπότε για εργασίες όπου ένα λάθος bit σημαίνει επανάληψη και όχι καταστροφή — batch rendering, game servers, ερασιτεχνική εκπαίδευση, inference που μπορείτε να ξανατρέξετε — είναι πολύ δύσκολο να την ξεπεράσετε.

Καλή σε: βίντεο, σε αντίθεση με τους επιταχυντές

Δύο hardware encoders με AV1 και ένας decoder. Μια 4090 D θα κάνει transcoding όλη μέρα. Οι A100 και H100 ψηλότερα στον κατάλογο δεν μπορούν να κωδικοποιήσουν ούτε ένα καρέ σε hardware — δεν έχουν καθόλου encoder — οπότε για οτιδήποτε περιέχει βίντεο αυτή η κάρτα δεν είναι ο συμβιβασμός, είναι η σωστή απάντηση.

Κακή σε: οτιδήποτε χρειάζεται πάνω από 24 GB

Τα είκοσι τέσσερα gigabyte είναι ο τοίχος, και έρχεται νωρίτερα απ' ό,τι περιμένει κανείς: ένα μοντέλο δεκατριών δισεκατομμυρίων παραμέτρων σε ακρίβεια οκτώ bit χωράει, το ίδιο μοντέλο σε δεκαέξι bit δεν χωράει, και ένα μοντέλο εβδομήντα δισεκατομμυρίων δεν χωράει σε καμία ακρίβεια. Ο παρακάτω πίνακας είναι ακριβής σχετικά.

Κακή σε: εργασίες που δεν ανέχονται ούτε ένα flipped bit

Χωρίς μνήμη διόρθωσης σφαλμάτων και χωρίς πιστοποιημένο επαγγελματικό driver. Για μια εκτέλεση πολλών εβδομάδων χωρίς checkpointing, ή για φόρτο εργασίας με άδεια που απαιτεί επαγγελματική κάρτα, η απάντηση είναι μια κάρτα από το ράφι workstation. Αυτές βρίσκονται σε ολόκληρο τον κατάλογο, με τιμές.

Τι αντικατέστησε και τι την αντικαθιστά

Από τα δικά μας ράφια και όχι από τον οδικό χάρτη ενός κατασκευαστή. Και τα τρία είναι παραγγέλσιμα σήμερα, στο ίδιο chassis, οπότε το ερώτημα δεν είναι ποιο είναι νεότερο αλλά ποιο αξίζει τη διαφορά.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
Card	Card memory	The card	Cheapest complete machine
RTX 3090	24 GB GDDR6X	$239	$309.93
RTX 4090D	24 GB GDDR6X	$299	$372.47
RTX 5090	32 GB GDDR7	$399	$472.47

Η RTX 3090 έχει τα ίδια 24 GB και είναι ο παλαιότερος, πιο αργός, φθηνότερος τρόπος να τα αποκτήσετε — αν αγοράζετε χωρητικότητα και όχι ταχύτητα, διαβάστε τη σελίδα της σειράς RTX 30 πριν ξοδέψετε τη διαφορά. Η RTX 5090 ανεβαίνει στα 32 GB και είναι κάρτα PCIe Gen 5 σε πλατφόρμες που είναι Gen 3 και Gen 4, οπότε διαβάστε την παρακάτω ενότητα πριν υποθέσετε ότι το νεότερο είναι ταχύτερο εδώ.

Σε ποιο μηχάνημα μπαίνει και τι σύνδεση παίρνει εκεί

Η 4090 D είναι κάρτα PCIe Gen 4. Δύο από τις τρεις πλατφόρμες μας που τη δέχονται είναι Gen 3 και μία είναι Gen 4.

Intel Xeon E5-2600 v3/v4

RTX 4090D

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon Silver / Gold

RTX 4090D

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

AMD EPYC

RTX 4090D

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

Αυτό είναι το γεγονός πίσω από το ticket υποστήριξης #3347, όπου ένας πελάτης μετακινήθηκε σε νεότερη κάρτα σε παλαιότερη πλατφόρμα και έκανε render πιο αργά από πριν. Μόλις η σκηνή ή τα βάρη φορτωθούν στην κάρτα, η υποδοχή μένει αδρανής και η γενιά της παύει να έχει σημασία. Έχει σημασία όταν η εργασία διασχίζει την υποδοχή σε κάθε βήμα.

Τι χωράει πραγματικά σε 24 GB

Weights only, rounded up. **Fits** means the card’s 24 GB holds the weights 1.5× over — room for the KV cache, the activations and the runtime, and the only verdict the LLM sizing page recommends a card on. **Tight** clears 1.25× only: the model loads, and a long context or a second user runs the card out.
Model	16-bit	8-bit	4-bit
7-8 billion parameters	16 GB — fits	8 GB — fits	5 GB — fits
13-14 billion parameters	28 GB — does not fit	14 GB — fits	8 GB — fits
30-34 billion parameters	68 GB — does not fit	34 GB — does not fit	19 GB — tight
70 billion parameters	140 GB — does not fit	70 GB — does not fit	38 GB — does not fit

Το άλλο όριο είναι η ισχύς: αυτή η κάρτα καταναλώνει έως και 425 W μόνη της, και αυτό κάνει περισσότερες από μία σε ένα chassis μια κατασκευή που κοστολογούμε αντί για ένα κουτάκι που τσεκάρετε.

Αυτός ο πίνακας απαντά στο “τι χωράει σε αυτή την κάρτα”. Το ερώτημα αντίστροφα — πόση μνήμη χρειάζεται ένα μοντέλο και ποια κάρτα την καλύπτει — έχει τη δική του σελίδα.

Πόσο κοστίζει, μαζί με το μηχάνημα στο οποίο μπαίνει

Η κάρτα είναι μία γραμμή στο τιμολόγιο και το μηχάνημα μία άλλη. Και τα δύο μισά παρακάτω προέρχονται από μία ανάγνωση του καταλόγου παραγγελιών, οπότε η τιμή και η προδιαγραφή δίπλα της ανήκουν πάντα η μία στην άλλη.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
Card	The machine it goes in	The card	Complete, per month
RTX 4090D	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$299	$372.47 Configure this build →
RTX 4090D	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$299	$382.67 Configure this build →
RTX 4090D	AMD EPYC AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0	$299	$516.59 Configure this build →

Το bandwidth είναι αμέτρητο και προς τις δύο κατευθύνσεις χωρίς χρέωση egress, περιλαμβάνεται μία διεύθυνση IPv4, δεν υπάρχει συμβόλαιο και ο ένας μήνας είναι η προεπιλεγμένη διάρκεια. Για κάθε άλλη κάρτα που τοποθετούμε, κοστολογημένη με τον ίδιο τρόπο, διαβάστε ολόκληρο τον κατάλογο, με τιμές. Για μηχανήματα σε rack έτοιμα σήμερα, /instant.

Ερωτήσεις που πραγματικά κάνουν οι άνθρωποι για αυτή την κάρτα

Θα πάρω μια πλήρη RTX 4090 αν το ζητήσω;

Όχι από αυτή τη σελίδα. Αυτό που τοποθετούμε είναι η 4090 D, και η σελίδα το λέει αντί να τυπώσει “RTX 4090” και να ελπίζει. Αν η εργασία σας χρειάζεται πραγματικά το επιπλέον έντεκα τοις εκατό των shaders, πείτε μας τι είναι και θα σας πούμε αν μπορούμε να προμηθευτούμε το εξάρτημα και ποιος θα ήταν ο χρόνος παράδοσης, αντί να στείλουμε την D και να την αποκαλέσουμε 4090.

Επηρεάζει η D το CUDA, τους drivers ή τη συμβατότητα λογισμικού;

Όχι. Αναφέρεται ως κάρτα GeForce Ada Lovelace, δέχεται τον συνηθισμένο driver GeForce, και κάθε έκδοση CUDA, framework build και renderer που τρέχει σε 4090 τρέχει και σε αυτήν. Η διαφορά είναι ο αριθμός shaders, όχι η αρχιτεκτονική.

Μοιράζεται η κάρτα με κάποιον άλλο;

Όχι. Ένας ενοικιαστής ανά φυσικό μηχάνημα, και η κάρτα περνά απευθείας στο δικό σας λειτουργικό σύστημα — χωρίς hypervisor, χωρίς partition, χωρίς time-slicing. Εγκαθιστάτε και καρφιτσώνετε τον δικό σας driver και την έκδοση CUDA, και τίποτα δεν αναβαθμίζεται κάτω από εσάς.

4090 D ή RTX 3090, αν με ενδιαφέρουν μόνο τα 24 GB;

Τότε η 3090 είναι πολύ πιθανό η καλύτερη αγορά, και η κλίμακα παραπάνω δείχνει τη διαφορά. Η 4090 D είναι σημαντικά ταχύτερη και έχει κωδικοποίηση AV1 που δεν έχει η 3090· η 3090 έχει την ίδια χωρητικότητα με λιγότερα χρήματα κάθε μήνα. Αν το μοντέλο χωράει και στις δύο και οι εκτελέσεις δεν είναι συνεχόμενες, η παλαιότερη κάρτα κερδίζει στην αριθμητική.

Πόσο σύντομα μπορώ να την έχω;

Εξαρτάται από το αν η κάρτα είναι ήδη τοποθετημένη, ήδη στο ράφι μας ή πρέπει να αγοραστεί — και σας λέμε ποιο ισχύει πριν πληρώσετε. Το /instant καταγράφει μηχανήματα σε rack έτοιμα αυτή τη στιγμή.