Will I get a full RTX 4090 rather than a 4090 D?

Not from this page. What Primcast fits is the 4090 D, and the page says so rather than printing 'RTX 4090' and hoping. If your work genuinely needs the extra eleven per cent of shaders, say what it is and we will tell you whether the part can be sourced and what the lead time would be, rather than shipping the D and calling it a 4090.

Does the D affect CUDA, drivers or software compatibility?

No. It reports as an Ada Lovelace GeForce card, takes the ordinary GeForce driver, and every CUDA release, framework build and renderer that runs on a 4090 runs on it. The difference is a shader count, not an architecture.

Is the graphics card shared with anyone else?

No. One tenant per physical machine, and the card is passed straight through to your own operating system -- no hypervisor, no partition, no time-slicing. You install and pin your own driver and CUDA release, and nothing upgrades underneath you.

RTX 4090 D or RTX 3090, if I only care about the 24 GB?

The RTX 3090 is very likely the better buy. Both carry 24 GB, and the 3090 costs less every month. The 4090 D is meaningfully faster and adds AV1 encoding the 3090 does not have; if the model fits either way and the runs are not back to back, the older card wins on arithmetic per pound.

How soon can I have an RTX 4090 D server?

It depends on whether the card is already fitted, already on the shelf, or has to be bought in, and you are told which before you pay rather than after. Machines racked and ready right now are listed at https://primcast.com/instant.

GeForce RTX 4090 D · 24 GB GDDR6X

RTX 4090D — και γιατί δεν είναι RTX 4090

Η κάρτα που τοποθετούμε είναι η 4090 D, η έκδοση συμμόρφωσης με τους εξαγωγικούς κανονισμούς που έφτιαξε η NVIDIA για την κινεζική αγορά. Δεν είναι rebadge ούτε απομίμηση: είναι μια γνήσια κάρτα AD102 με λιγότερους shaders και την ίδια μνήμη 24 GB. Αν ήρθατε εδώ ψάχνοντας για server με 4090, αυτή η σελίδα υπάρχει για να σας πει τη διαφορά πριν την πληρώσετε.

24 GB GDDR6X Δύο encoders, AV1 Χωρίς ECC

Πόσο κοστίζει, μαζί με το μηχάνημα

Μετατρέψτε τις GPUs σας σε παθητικό μηνιαίο εισόδημα

Έχετε αδρανείς server ή desktop GPU διατάξεις; Καταχωρίστε τις σήμερα στο marketplace της Primcast και κερδίστε σταθερά μηνιαία έσοδα από ομάδες AI, προγραμματιστές και επιχειρήσεις που χρειάζονται υπολογιστική ισχύ επιπέδου παραγωγής.

Μετάβαση στο Marketplace

Τι σημαίνει το D

Τον Δεκέμβριο του 2023 το Υπουργείο Εμπορίου των Ηνωμένων Πολιτειών έθεσε ένα όριο εξαγωγών που η RTX 4090 υπερέβαινε. Η NVIDIA έκοψε μια έκδοση για να το περάσει και την πούλησε στην Κίνα: την RTX 4090 D. Κυκλοφόρησε στις 28 Δεκεμβρίου 2023 και έχει 14.592 πυρήνες CUDA έναντι των 16.384 της πλήρους κάρτας — περίπου έντεκα τοις εκατό λιγότερους shaders.

Όλα τα υπόλοιπα είναι η ίδια κάρτα. Είκοσι τέσσερα gigabytes GDDR6X σε δίαυλο 384-bit, το ίδιο εύρος ζώνης μνήμης 1.008 GB/s, το ίδιο boost clock 2,52 GHz, οι ίδιοι πυρήνες ray-tracing τρίτης γενιάς και tensor τέταρτης γενιάς, οι ίδιοι δύο AV1 encoders. Τίποτα που εξαρτάται από τη χωρητικότητα ή την ταχύτητα μνήμης δεν αλλάζει καθόλου, και αυτό καλύπτει το μεγαλύτερο μέρος όσων ζητούνται από μια ενοικιαζόμενη κάρτα: τα μοντέλα που χωράνε στα 24 GB εξακολουθούν να χωράνε, και τα frames που μεταδίδονται εξακολουθούν να μεταδίδονται.

Εκεί που σας κοστίζει είναι η καθαρή αριθμητική απόδοση σε εργασίες που κορεσμώνουν τους shaders — ένα μεγάλο render, μια ομαδική εκπαίδευση. Υπολογίστε περίπου ένα δέκατο λιγότερο από μια πλήρη 4090 και δεν θα εκπλαγείτε. Το λέμε εδώ αντί να τυπώσουμε “RTX 4090” στη σελίδα και να σας αφήσουμε να το ανακαλύψετε, όπως κάνουν οι περισσότερες καταχωρίσεις.

Across the 57 cards in the catalogue: RTX 4090D holds 24 GB, 13 cards we fit hold more, and 11 cost more per month. Read the whole ladder on the whole catalogue, priced.

Οι προδιαγραφές, όπως δημοσιεύονται

Ada Lovelace. Στοιχεία από την επίσημη τεκμηρίωση της σειράς RTX 40 της NVIDIA, που αναφέρεται στον πηγαίο κώδικα αυτής της σελίδας.

RTX 4090D

Architecture

Ada Lovelace

Card memory

24 GB GDDR6X

CUDA cores

14,592

Memory bandwidth

1,008 GB/s

Board power

425 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

2 NVENC, 1 NVDEC, AV1

Error-correcting memory

Σε τι είναι καλή, και σε τι όχι

Αυτή είναι μια καταναλωτική κάρτα σε rack. Αυτό είναι ολόκληρο το πλεονέκτημά της και ολόκληρος ο περιορισμός της, και αξίζει να ειπωθούν και τα δύο ξεκάθαρα.

Καλή σε: αριθμητική ανά λίρα

Το πυρίτιο GeForce είναι ο φθηνότερος τρόπος να αγοράσετε τόση υπολογιστική ισχύ. Δεν υπάρχει άδεια επαγγελματικού driver στην τιμή ούτε περιθώριο datacentre, οπότε για εργασίες όπου ένα λάθος bit σημαίνει επανάληψη και όχι καταστροφή — batch rendering, game servers, ερασιτεχνική εκπαίδευση, inference που μπορείτε να ξανατρέξετε — είναι πολύ δύσκολο να την ξεπεράσετε.

Καλή σε: βίντεο, αντίθετα με τους επιταχυντές

Δύο hardware encoders με AV1 και ένας decoder. Μια 4090 D θα κάνει transcoding όλη μέρα. Οι A100 και H100 ψηλότερα στον κατάλογο δεν μπορούν να κωδικοποιήσουν ούτε ένα frame σε hardware — δεν έχουν καθόλου encoder — οπότε για οτιδήποτε περιέχει βίντεο αυτή η κάρτα δεν είναι ο συμβιβασμός, είναι η σωστή απάντηση.

Κακή σε: οτιδήποτε χρειάζεται πάνω από 24 GB

Τα είκοσι τέσσερα gigabytes είναι ο τοίχος, και έρχεται νωρίτερα απ' ό,τι περιμένει κανείς: ένα μοντέλο δεκατριών δισεκατομμυρίων παραμέτρων σε ακρίβεια οκτώ bit χωράει, το ίδιο μοντέλο σε δεκαέξι bit δεν χωράει, και ένα μοντέλο εβδομήντα δισεκατομμυρίων δεν χωράει σε καμία ακρίβεια. Ο πίνακας παρακάτω είναι ακριβής σχετικά.

Κακή σε: εργασίες που δεν ανέχονται ούτε ένα flipped bit

Χωρίς μνήμη διόρθωσης σφαλμάτων, και χωρίς πιστοποιημένο επαγγελματικό driver. Για μια εκτέλεση πολλών εβδομάδων χωρίς checkpointing, ή για φόρτο εργασίας υπό άδεια που απαιτεί επαγγελματική κάρτα, η απάντηση είναι μια κάρτα από το ράφι workstation. Αυτές βρίσκονται σε ολόκληρο τον κατάλογο, με τιμές.

Τι αντικατέστησε, και τι την αντικαθιστά

Από τα δικά μας ράφια και όχι από roadmap κατασκευαστή. Και τα τρία είναι παραγγέλσιμα σήμερα, στο ίδιο chassis, οπότε το ερώτημα δεν είναι ποιο είναι νεότερο αλλά ποιο αξίζει τη διαφορά.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
Card	Card memory	The card	Cheapest complete machine
RTX 3090	24 GB GDDR6X	$239	$309.93
RTX 4090D	24 GB GDDR6X	$299	$372.47
RTX 5090	32 GB GDDR7	$399	$472.47

Η RTX 3090 έχει τα ίδια 24 GB και είναι ο παλαιότερος, πιο αργός, φθηνότερος τρόπος να τα αποκτήσετε — αν αγοράζετε χωρητικότητα και όχι ταχύτητα, διαβάστε τη σελίδα της σειράς RTX 30 πριν ξοδέψετε τη διαφορά. Η RTX 5090 ανεβαίνει στα 32 GB, και είναι κάρτα PCIe Gen 5 σε πλατφόρμες που είναι Gen 3 και Gen 4, οπότε διαβάστε την ενότητα παρακάτω πριν υποθέσετε ότι το νεότερο είναι ταχύτερο εδώ.

Σε ποιο μηχάνημα μπαίνει, και τι σύνδεση παίρνει εκεί

Η 4090 D είναι κάρτα PCIe Gen 4. Δύο από τις τρεις πλατφόρμες μας που τη δέχονται είναι Gen 3, και μία είναι Gen 4.

Intel Xeon E5-2600 v3/v4

RTX 4090D

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon Silver / Gold

RTX 4090D

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

AMD EPYC

RTX 4090D

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

Αυτό είναι το γεγονός πίσω από το support ticket #3347, όπου ένας πελάτης μετακινήθηκε σε νεότερη κάρτα σε παλαιότερη πλατφόρμα και έκανε render πιο αργά από πριν. Μόλις η σκηνή ή τα weights φορτωθούν στην κάρτα, το slot είναι αδρανές και η γενιά του παύει να έχει σημασία. Έχει σημασία όταν η εργασία περνάει από το slot σε κάθε βήμα.

Τι πραγματικά χωράει στα 24 GB

Weights only, rounded up. **Fits** means the card’s 24 GB holds the weights 1.5× over — room for the KV cache, the activations and the runtime, and the only verdict the LLM sizing page recommends a card on. **Tight** clears 1.25× only: the model loads, and a long context or a second user runs the card out.
Model	16-bit	8-bit	4-bit
7-8 billion parameters	16 GB — fits	8 GB — fits	5 GB — fits
13-14 billion parameters	28 GB — does not fit	14 GB — fits	8 GB — fits
30-34 billion parameters	68 GB — does not fit	34 GB — does not fit	19 GB — tight
70 billion parameters	140 GB — does not fit	70 GB — does not fit	38 GB — does not fit

Το άλλο όριο είναι η ισχύς: αυτή η κάρτα τραβάει έως 425 W μόνη της, και αυτό κάνει περισσότερες από μία σε ένα chassis μια κατασκευή που κοστολογούμε αντί για ένα κουτάκι που τσεκάρετε.

Αυτός ο πίνακας απαντά στο “τι χωράει σε αυτή την κάρτα”. Το ερώτημα αντίστροφα — πόση μνήμη χρειάζεται ένα μοντέλο, και ποια κάρτα την καλύπτει — είναι μια δική του σελίδα.

Πόσο κοστίζει, μαζί με το μηχάνημα στο οποίο μπαίνει

Η κάρτα είναι μία γραμμή στο τιμολόγιο και το μηχάνημα άλλη. Και τα δύο μισά παρακάτω προέρχονται από μία ανάγνωση του καταλόγου παραγγελιών, οπότε η τιμή και η προδιαγραφή δίπλα της ανήκουν πάντα η μία στην άλλη.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
Card	The machine it goes in	The card	Complete, per month
RTX 4090D	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$299	$372.47 Configure this build →
RTX 4090D	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$299	$382.67 Configure this build →
RTX 4090D	AMD EPYC AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0	$299	$516.59 Configure this build →

Το bandwidth είναι αμέτρητο και προς τις δύο κατευθύνσεις χωρίς χρέωση egress, περιλαμβάνεται μία διεύθυνση IPv4, δεν υπάρχει συμβόλαιο και ο ένας μήνας είναι ο προεπιλεγμένος όρος. Για κάθε άλλη κάρτα που τοποθετούμε, κοστολογημένη με τον ίδιο τρόπο, διαβάστε ολόκληρο τον κατάλογο, με τιμές. Για μηχανήματα σε rack έτοιμα σήμερα, /instant.

Ερωτήσεις που πραγματικά κάνουν οι άνθρωποι για αυτή την κάρτα

Θα πάρω πλήρη RTX 4090 αν το ζητήσω;

Όχι από αυτή τη σελίδα. Αυτό που τοποθετούμε είναι η 4090 D, και η σελίδα το λέει αντί να τυπώσει “RTX 4090” και να ελπίζει. Αν η εργασία σας χρειάζεται πραγματικά το επιπλέον έντεκα τοις εκατό των shaders, πείτε μας τι είναι και θα σας πούμε αν μπορούμε να προμηθευτούμε το εξάρτημα και ποιος θα ήταν ο χρόνος παράδοσης, αντί να στείλουμε την D και να την αποκαλέσουμε 4090.

Επηρεάζει η D το CUDA, τους drivers ή τη συμβατότητα λογισμικού;

Όχι. Αναφέρεται ως κάρτα GeForce Ada Lovelace, παίρνει τον συνηθισμένο GeForce driver, και κάθε έκδοση CUDA, build framework και renderer που τρέχει σε 4090 τρέχει και σε αυτήν. Η διαφορά είναι ο αριθμός shaders, όχι η αρχιτεκτονική.

Μοιράζεται η κάρτα με κάποιον άλλο;

Όχι. Ένας ενοικιαστής ανά φυσικό μηχάνημα, και η κάρτα περνάει απευθείας στο δικό σας λειτουργικό σύστημα — χωρίς hypervisor, χωρίς partition, χωρίς time-slicing. Εγκαθιστάτε και κλειδώνετε τον δικό σας driver και την έκδοση CUDA, και τίποτα δεν αναβαθμίζεται κάτω από τα πόδια σας.

4090 D ή RTX 3090, αν με ενδιαφέρουν μόνο τα 24 GB;

Τότε η 3090 είναι πολύ πιθανό η καλύτερη αγορά, και η σκάλα παραπάνω δείχνει τη διαφορά. Η 4090 D είναι σημαντικά ταχύτερη και έχει κωδικοποίηση AV1 που η 3090 δεν έχει· η 3090 έχει την ίδια χωρητικότητα με λιγότερα χρήματα κάθε μήνα. Αν το μοντέλο χωράει και στις δύο και οι εκτελέσεις δεν είναι συνεχόμενες, η παλαιότερη κάρτα κερδίζει στην αριθμητική.

Πόσο σύντομα μπορώ να έχω μία;

Εξαρτάται από το αν η κάρτα είναι ήδη τοποθετημένη, ήδη στο ράφι μας, ή πρέπει να αγοραστεί — και σας λέμε ποιο ισχύει πριν πληρώσετε. Το /instant καταγράφει μηχανήματα σε rack έτοιμα αυτή τη στιγμή.