Will I get a full RTX 4090 rather than a 4090 D?

Not from this page. What Primcast fits is the 4090 D, and the page says so rather than printing 'RTX 4090' and hoping. If your work genuinely needs the extra eleven per cent of shaders, say what it is and we will tell you whether the part can be sourced and what the lead time would be, rather than shipping the D and calling it a 4090.

Does the D affect CUDA, drivers or software compatibility?

No. It reports as an Ada Lovelace GeForce card, takes the ordinary GeForce driver, and every CUDA release, framework build and renderer that runs on a 4090 runs on it. The difference is a shader count, not an architecture.

Is the graphics card shared with anyone else?

No. One tenant per physical machine, and the card is passed straight through to your own operating system -- no hypervisor, no partition, no time-slicing. You install and pin your own driver and CUDA release, and nothing upgrades underneath you.

RTX 4090 D or RTX 3090, if I only care about the 24 GB?

The RTX 3090 is very likely the better buy. Both carry 24 GB, and the 3090 costs less every month. The 4090 D is meaningfully faster and adds AV1 encoding the 3090 does not have; if the model fits either way and the runs are not back to back, the older card wins on arithmetic per pound.

How soon can I have an RTX 4090 D server?

It depends on whether the card is already fitted, already on the shelf, or has to be bought in, and you are told which before you pay rather than after. Machines racked and ready right now are listed at https://primcast.com/instant.

GeForce RTX 4090 D · 24 GB GDDR6X

RTX 4090D — και γιατί δεν είναι RTX 4090

Η κάρτα που τοποθετούμε είναι η 4090 D, η έκδοση NVIDIA που συμμορφώνεται με τις εξαγωγές και κατασκευάστηκε για την κινεζική αγορά. Δεν είναι rebadge και δεν είναι ψεύτικη: είναι μια γνήσια κάρτα AD102 με λιγότερους shaders και τα ίδια 24 GB μνήμης. Αν ήρθατε εδώ ψάχνοντας για έναν διακομιστή 4090, αυτή η σελίδα υπάρχει για να σας ενημερώσει για τη διαφορά πριν τον πληρώσετε.

24 GB GDDR6X Δύο κωδικοποιητές, AV1 Χωρίς ECC

Πόσο κοστίζει, με το μηχάνημα

Τι σημαίνει το Δ

Τον Δεκέμβριο του 2023, το Υπουργείο Εμπορίου των Ηνωμένων Πολιτειών έθεσε ένα όριο εξαγωγών που η RTX 4090 ξεπέρασε. Η NVIDIA μείωσε μια έκδοση για να το ξεπεράσει και πούλησε αυτήν την έκδοση στην Κίνα: την RTX 4090 D. Κυκλοφόρησε στις 28 Δεκεμβρίου 2023 και διαθέτει 14.592 πυρήνες CUDA έναντι 16.384 της πλήρους κάρτας — περίπου έντεκα τοις εκατό λιγότερους shaders.

Όλα τα άλλα είναι η ίδια κάρτα. Είκοσι τέσσερα gigabytes GDDR6X σε δίαυλο 384-bit, το ίδιο εύρος ζώνης μνήμης 1.008 GB/s, το ίδιο ρολόι boost 2,52 GHz, οι ίδιοι πυρήνες ray-tracing τρίτης γενιάς και πυρήνες tensor τέταρτης γενιάς, οι ίδιοι δύο κωδικοποιητές AV1. Τίποτα που εξαρτάται από τη χωρητικότητα ή την ταχύτητα μνήμης δεν αλλάζει καθόλου, κάτι που καλύπτει το μεγαλύτερο μέρος αυτού που καλείται να κάνει μια ενοικιασμένη κάρτα: τα μοντέλα που χωράνε στα 24 GB εξακολουθούν να χωράνε και τα καρέ που μεταδίδονται εξακολουθούν να μεταδίδονται.

Αυτό που σας κοστίζει είναι η ακατέργαστη αριθμητική απόδοση σε εργασία που κορεσμό των shaders - μια μεγάλη απόδοση, μια μαζική εκπαίδευση. Αν ο προϋπολογισμός είναι περίπου το ένα δέκατο λιγότερος από έναν πλήρη 4090, δεν θα εκπλαγείτε. Το λέμε εδώ αντί να τυπώνουμε "RTX 4090" στη σελίδα και να σας αφήσουμε να το μάθετε, κάτι που κάνουν οι περισσότερες καταχωρίσεις.

Across the 56 cards in the catalogue: RTX 4090D holds 24 GB, 13 cards we fit hold more, and 11 cost more per month. Read the whole ladder on the whole catalogue, priced.

Η προδιαγραφή, όπως δημοσιεύτηκε

Άντα Λάβλεϊς. Σχήματα από την τεκμηρίωση της σειράς RTX 40 της NVIDIA, τα οποία αναφέρονται στην πηγή αυτής της σελίδας.

RTX 4090D

Architecture

Ada Lovelace

Card memory

24 GB GDDR6X

CUDA cores

14,592

Memory bandwidth

1,008 GB/s

Board power

425 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

2 NVENC, 1 NVDEC, AV1

Error-correcting memory

Σε τι είναι καλό και σε τι όχι

Αυτή είναι μια καταναλωτική κάρτα σε rack. Αυτό είναι όλο το πλεονέκτημα και όλο το μειονέκτημά της, και αξίζει να τα πούμε ξεκάθαρα και τα δύο.

Καλός σε: αριθμητική ανά λίβρα

Το GeForce silicon είναι ο φθηνότερος τρόπος για να αγοράσετε τόση υπολογιστική ισχύ. Δεν υπάρχει επαγγελματική άδεια οδήγησης στην τιμή και δεν υπάρχει περιθώριο κέρδους κέντρου δεδομένων, επομένως για εργασία όπου ένα λάθος κομμάτι σημαίνει επανάληψη της προσπάθειας και όχι καταστροφή — μαζική απόδοση, διακομιστές παιχνιδιών, εκπαίδευση χόμπι, συμπερασματολογία που μπορείτε να εκτελέσετε ξανά — είναι πολύ δύσκολο να το ξεπεράσετε.

Καλός σε: βίντεο, σε αντίθεση με τους επιταχυντές

Δύο κωδικοποιητές υλικού με AV1 και έναν αποκωδικοποιητή. Μια 4090 D θα μετατρέπει την κάρτα σε transcode όλη την ημέρα. Οι A100 και H100 που βρίσκονται πιο πάνω στον κατάλογο δεν μπορούν να κωδικοποιήσουν ούτε ένα καρέ στο υλικό — δεν έχουν καθόλου κωδικοποιητή — οπότε για οτιδήποτε περιέχει βίντεο, αυτή η κάρτα δεν είναι ο συμβιβασμός, είναι η σωστή απάντηση.

Κακό σε: οτιδήποτε χρειάζεται περισσότερα από 24 GB

Είκοσι τέσσερα gigabyte είναι το τείχος, και φτάνει νωρίτερα από ό,τι περιμένει ο κόσμος: ένα μοντέλο δεκατριών δισεκατομμυρίων παραμέτρων με ακρίβεια οκτώ bit ταιριάζει, το ίδιο μοντέλο στα δεκαέξι bit όχι, και ένα μοντέλο εβδομήντα δισεκατομμυρίων δεν ταιριάζει με καμία ακρίβεια. Ο παρακάτω πίνακας είναι ακριβής σχετικά.

Κακό σε: εργασία που δεν ανέχεται ούτε ένα κομμάτι που δεν αντέχει

Δεν υπάρχει μνήμη διόρθωσης σφαλμάτων και δεν υπάρχει πιστοποιημένος επαγγελματίας οδηγός. Για μια διαδρομή πολλών εβδομάδων χωρίς σημεία ελέγχου ή για φόρτο εργασίας με άδεια που απαιτεί επαγγελματική κάρτα, η απάντηση είναι μια κάρτα από το ράφι του σταθμού εργασίας. Αυτά υπάρχουν σε ολόκληρο τον κατάλογο, με τιμή .

Τι αντικατέστησε και τι το αντικαθιστά

Από τα δικά μας ράφια και όχι από έναν χάρτη πορείας προμηθευτών. Και τα τρία αυτά είναι διαθέσιμα για παραγγελία σήμερα, στο ίδιο πλαίσιο, οπότε το ερώτημα δεν είναι ποιο είναι το νεότερο, αλλά ποιο αξίζει τη διαφορά.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
Card	Card memory	The card	Cheapest complete machine
RTX 3090	24 GB GDDR6X	$239	$309.93
RTX 4090D	24 GB GDDR6X	$299	$372.47
RTX 5090	32 GB GDDR7	$399	$472.47

Η RTX 3090 έχει τα ίδια 24 GB και είναι ο παλαιότερος, πιο αργός και φθηνότερος τρόπος για να τα αποκτήσετε — αν η χωρητικότητα είναι αυτό που αγοράζετε και η ταχύτητα όχι, διαβάστε τη σελίδα της σειράς RTX 30 πριν ξοδέψετε τη διαφορά. Η RTX 5090 φτάνει τα 32 GB και είναι μια κάρτα PCIe Gen 5 σε πλατφόρμες που είναι Gen 3 και Gen 4, οπότε διαβάστε την παρακάτω ενότητα πριν υποθέσετε ότι η νεότερη είναι ταχύτερη εδώ.

Σε ποιο μηχάνημα μπαίνει και σε ποια σύνδεση φτάνει εκεί;

Η 4090 D είναι μια κάρτα PCIe Gen 4. Δύο από τις τρεις πλατφόρμες μας που την υποστηρίζουν είναι Gen 3 και μία είναι Gen 4.

Intel Xeon E5-2600 v3/v4

RTX 4090D

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon Silver / Gold

RTX 4090D

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

AMD EPYC

RTX 4090D

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

Αυτό είναι το γεγονός πίσω από το αίτημα υποστήριξης #3347, όπου ένας πελάτης μετακόμισε σε μια νεότερη κάρτα σε μια παλαιότερη πλατφόρμα και η απόδοση ήταν πιο αργή από πριν. Μόλις η σκηνή ή τα βάρη εγκατασταθούν στην κάρτα, η υποδοχή είναι αδρανής και η δημιουργία της παύει να έχει σημασία. Έχει σημασία πότε η εργασία διασχίζει την υποδοχή σε κάθε βήμα.

Τι χωράει πραγματικά σε 24 GB

Weights only, rounded up. A row counts as fitting when it leaves a fifth of the card’s 24 GB free for the KV cache, the activations and the runtime — which is head-room, not luxury.
Model	16-bit	8-bit	4-bit
7-8 billion parameters	16 GB — fits	8 GB — fits	5 GB — fits
13-14 billion parameters	28 GB — does not fit	14 GB — fits	8 GB — fits
30-34 billion parameters	68 GB — does not fit	34 GB — does not fit	19 GB — fits
70 billion parameters	140 GB — does not fit	70 GB — does not fit	38 GB — does not fit

Το άλλο όριο είναι η ισχύς: αυτή η κάρτα καταναλώνει έως και 425 W από μόνη της, κάτι που καθιστά περισσότερες από μία από αυτές σε ένα πλαίσιο μια κατασκευή που εμείς αναφέρουμε και όχι ένα πλαίσιο που εσείς τσεκάρετε.

Πόσο κοστίζει, με το μηχάνημα που μπαίνει μέσα

Η κάρτα είναι μία γραμμή στο τιμολόγιο και το μηχάνημα είναι άλλη. Και τα δύο μισά παρακάτω προέρχονται από μία ανάγνωση του καταλόγου παραγγελιών, επομένως η τιμή και οι προδιαγραφές δίπλα της ανήκουν πάντα το ένα στο άλλο.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
Card	The machine it goes in	The card	Complete, per month
RTX 4090D	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$299	$372.47 Configure this build →
RTX 4090D	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$299	$382.67 Configure this build →
RTX 4090D	AMD EPYC AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0	$299	$516.59 Configure this build →

Το εύρος ζώνης είναι απεριόριστο και προς τις δύο κατευθύνσεις χωρίς χρέωση εξόδου, περιλαμβάνεται μία διεύθυνση IPv4, δεν υπάρχει συμβόλαιο και η προεπιλεγμένη διάρκεια είναι ένας μήνας. Για κάθε άλλη κάρτα που τοποθετούμε, με την ίδια τιμή, διαβάστε ολόκληρο τον κατάλογο, με τιμή . Για μηχανήματα που είναι έτοιμα σήμερα, /instant .

Ερωτήσεις που κάνουν οι άνθρωποι σχετικά με αυτήν την κάρτα

Θα πάρω μια πλήρη RTX 4090 αν ζητήσω;

Όχι από αυτήν τη σελίδα. Αυτό που τοποθετούμε είναι το 4090 D, και η σελίδα το λέει αντί να γράφει «RTX 4090» και να ελπίζει. Εάν η εργασία σας χρειάζεται πραγματικά το επιπλέον έντεκα τοις εκατό των shaders, πείτε μας τι είναι και θα σας πούμε αν μπορούμε να προμηθευτούμε το ανταλλακτικό και ποιος θα είναι ο χρόνος παράδοσης, αντί να στείλουμε το D και να το ονομάσουμε 4090.

Επηρεάζει το D τη συμβατότητα του CUDA, των προγραμμάτων οδήγησης ή του λογισμικού;

Όχι. Αναφέρεται ως κάρτα Ada Lovelace GeForce, δέχεται τον συνηθισμένο οδηγό GeForce και κάθε έκδοση CUDA, framework build και renderer που εκτελείται σε μια 4090 εκτελείται σε αυτήν. Η διαφορά είναι ο αριθμός των shader, όχι η αρχιτεκτονική.

Είναι η κάρτα κοινή με κάποιον άλλο;

Όχι. Ένας ένοικος ανά φυσικό μηχάνημα και η κάρτα περνάει απευθείας στο δικό σας λειτουργικό σύστημα — χωρίς hypervisor, χωρίς partition, χωρίς time-slicing. Εγκαθιστάτε και καρφιτσώνετε το δικό σας πρόγραμμα οδήγησης και την έκδοση CUDA και τίποτα δεν αναβαθμίζεται από κάτω σας.

4090 D ή RTX 3090, αν με ενδιαφέρουν μόνο τα 24 GB;

Τότε το 3090 είναι πολύ πιθανό να είναι η καλύτερη αγορά, και η παραπάνω κλίμακα δείχνει το κενό. Το 4090 D είναι σημαντικά πιο γρήγορο και έχει κωδικοποίηση AV1 που το 3090 δεν έχει. Το 3090 έχει την ίδια χωρητικότητα για λιγότερα χρήματα κάθε μήνα. Εάν το μοντέλο ταιριάζει με οποιονδήποτε τρόπο και οι πόντοι δεν είναι συνεχόμενοι, το παλαιότερο φύλλο κερδίζει στην αριθμητική.

Πόσο σύντομα μπορώ να έχω ένα;

Εξαρτάται από το αν η κάρτα είναι ήδη τοποθετημένη, αν βρίσκεται ήδη στο ράφι μας ή αν πρέπει να αγοραστεί — και σας ενημερώνουμε για το ποιο στοιχείο προτού πληρώσετε. Το /instant παραθέτει μηχανήματα που είναι έτοιμα και τοποθετημένα αυτή τη στιγμή.