Will I get a full RTX 4090 rather than a 4090 D?

Not from this page. What Primcast fits is the 4090 D, and the page says so rather than printing 'RTX 4090' and hoping. If your work genuinely needs the extra eleven per cent of shaders, say what it is and we will tell you whether the part can be sourced and what the lead time would be, rather than shipping the D and calling it a 4090.

Does the D affect CUDA, drivers or software compatibility?

No. It reports as an Ada Lovelace GeForce card, takes the ordinary GeForce driver, and every CUDA release, framework build and renderer that runs on a 4090 runs on it. The difference is a shader count, not an architecture.

Is the graphics card shared with anyone else?

No. One tenant per physical machine, and the card is passed straight through to your own operating system -- no hypervisor, no partition, no time-slicing. You install and pin your own driver and CUDA release, and nothing upgrades underneath you.

RTX 4090 D or RTX 3090, if I only care about the 24 GB?

The RTX 3090 is very likely the better buy. Both carry 24 GB, and the 3090 costs less every month. The 4090 D is meaningfully faster and adds AV1 encoding the 3090 does not have; if the model fits either way and the runs are not back to back, the older card wins on arithmetic per pound.

How soon can I have an RTX 4090 D server?

It depends on whether the card is already fitted, already on the shelf, or has to be bought in, and you are told which before you pay rather than after. Machines racked and ready right now are listed at https://primcast.com/instant.

GeForce RTX 4090 D · 24 GB GDDR6X

RTX 4090D : perché non è una RTX 4090

La scheda che installiamo è la 4090 D, la versione per l'esportazione prodotta da NVIDIA per il mercato cinese. Non si tratta di una scheda rimarchiata né di un falso: è una vera scheda AD102 con un numero inferiore di shader e gli stessi 24 GB di memoria. Se siete arrivati qui cercando una 4090 per server, questa pagina serve a illustrarvi le differenze prima dell'acquisto.

24 GB GDDR6X Due encoder, AV1 Nessun ECC

Quanto costa, con la macchina

Cosa significa la D

Nel dicembre 2023, il Dipartimento del Commercio degli Stati Uniti ha fissato una soglia di esportazione che la RTX 4090 ha superato. NVIDIA ha quindi realizzato una versione ridotta per rispettare tale soglia e l'ha venduta in Cina: la RTX 4090 D. Lanciata il 28 dicembre 2023, questa versione ha 14.592 core CUDA contro i 16.384 della scheda completa, ovvero circa l'undici per cento in meno di shader.

Tutto il resto è identico alla scheda. Ventiquattro gigabyte di GDDR6X su un bus a 384 bit, la stessa larghezza di banda della memoria di 1.008 GB/s, la stessa frequenza di boost di 2,52 GHz, gli stessi core di ray-tracing di terza generazione e core tensoriali di quarta generazione, gli stessi due encoder AV1. Nulla di ciò che dipende dalla capacità o dalla velocità della memoria cambia, il che copre la maggior parte delle esigenze di una scheda a noleggio: i modelli che rientrano in 24 GB ci stanno ancora e i frame in streaming continuano a essere trasmessi in streaming.

Il vero svantaggio risiede nella minore velocità di elaborazione aritmetica in operazioni che saturano gli shader, come rendering lunghi o sessioni di training batch. Calcolate circa un decimo di secondo in meno rispetto a una 4090 completa e non rimarrete sorpresi. Lo diciamo esplicitamente, anziché limitarci a scrivere "RTX 4090" sulla pagina e lasciarvi scoprire la differenza, come fanno la maggior parte delle inserzioni.

Across the 56 cards in the catalogue: RTX 4090D holds 24 GB, 13 cards we fit hold more, and 11 cost more per month. Read the whole ladder on the whole catalogue, priced.

La specifica, come pubblicata

Ada Lovelace. Dati tratti dalla documentazione ufficiale di NVIDIA sulla serie RTX 40, citata nella fonte di questa pagina.

RTX 4090D

Architecture

Ada Lovelace

Card memory

24 GB GDDR6X

CUDA cores

14,592

Memory bandwidth

1,008 GB/s

Board power

425 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

2 NVENC, 1 NVDEC, AV1

Error-correcting memory

In cosa eccelle e in cosa non eccelle

Si tratta di una carta di credito per consumatori, inserita in un apposito supporto. Questo è al tempo stesso il suo unico vantaggio e il suo unico limite, ed entrambi meritano di essere esplicitati chiaramente.

Bravo in: calcoli aritmetici per libbra

Le schede grafiche GeForce rappresentano la soluzione più economica per ottenere una potenza di calcolo di questo livello. Il prezzo non include licenze professionali né margini di profitto per i data center, quindi per attività in cui un errore si traduce in un semplice tentativo di ripetizione anziché in un disastro – come il rendering in batch, i server di gioco, la formazione per hobby o l'inferenza ripetibile – è davvero difficile trovare di meglio.

Bravo in: video, a differenza degli acceleratori

Due encoder hardware con AV1 e un decoder. Una 4090 D è in grado di transcodificare senza problemi. Le schede A100 e H100, più in alto nel catalogo, non possono codificare un singolo fotogramma in hardware (non hanno alcun encoder), quindi per qualsiasi applicazione video questa scheda non è un compromesso, ma la soluzione ideale.

Non è adatto a: qualsiasi applicazione che richieda più di 24 GB

Ventiquattro gigabyte rappresentano il limite, e si raggiunge prima di quanto ci si aspetti: un modello con tredici miliardi di parametri a otto bit di precisione ci sta, lo stesso modello a sedici bit no, e un modello con settanta miliardi di parametri non ci sta a nessuna precisione. La tabella seguente lo dimostra con precisione.

Non adatto a: lavori che non tollerano un bit invertito

Nessuna memoria di correzione degli errori e nessun driver professionale certificato. Per un utilizzo di più settimane senza checkpoint, o per un carico di lavoro soggetto a una licenza che richiede una scheda professionale, la soluzione è una scheda dallo scaffale delle workstation. Queste sono presenti nell'intero catalogo, al prezzo di .

Ciò che ha sostituito e ciò che lo sostituisce

Dai nostri magazzini, non da una roadmap di un fornitore. Tutti e tre sono ordinabili oggi, nello stesso chassis, quindi la domanda non è quale sia il più recente, ma quale valga la differenza di prezzo.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
Card	Card memory	The card	Cheapest complete machine
RTX 3090	24 GB GDDR6X	$239	$309.93
RTX 4090D	24 GB GDDR6X	$299	$372.47
RTX 5090	32 GB GDDR7	$399	$472.47

La RTX 3090 ha gli stessi 24 GB ed è la soluzione più vecchia, più lenta e più economica per ottenerli: se la capacità è ciò che vi interessa e la velocità no, leggete la pagina della serie RTX 30 prima di spendere la differenza. La RTX 5090 offre 32 GB ed è una scheda PCIe Gen 5 su piattaforme Gen 3 e Gen 4, quindi leggete la sezione seguente prima di dare per scontato che più recente sia più veloce.

In quale macchina va inserito e a quale collegamento arriva.

La 4090 D è una scheda PCIe di quarta generazione. Due delle nostre tre piattaforme compatibili sono di terza generazione, mentre una è di quarta generazione.

Intel Xeon E5-2600 v3/v4

RTX 4090D

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon Silver / Gold

RTX 4090D

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

AMD EPYC

RTX 4090D

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

Questo è il motivo alla base del ticket di supporto n. 3347, in cui un cliente è passato a una scheda più recente su una piattaforma più vecchia e ha riscontrato un rallentamento del rendering. Una volta che la scena o i pesi risiedono sulla scheda, lo slot è inattivo e la sua generazione non è più rilevante. Diventa rilevante quando il lavoro attraversa lo slot a ogni passaggio.

Cosa entra davvero in 24 GB?

Weights only, rounded up. A row counts as fitting when it leaves a fifth of the card’s 24 GB free for the KV cache, the activations and the runtime — which is head-room, not luxury.
Model	16-bit	8-bit	4-bit
7-8 billion parameters	16 GB — fits	8 GB — fits	5 GB — fits
13-14 billion parameters	28 GB — does not fit	14 GB — fits	8 GB — fits
30-34 billion parameters	68 GB — does not fit	34 GB — does not fit	19 GB — fits
70 billion parameters	140 GB — does not fit	70 GB — does not fit	38 GB — does not fit

L'altro limite è il consumo energetico: questa scheda assorbe fino a 425 W, il che rende l'installazione di più di una scheda in un case una scelta consigliata piuttosto che un semplice requisito da soddisfare.

Quanto costa, con la macchina in cui entra

La scheda tecnica è riportata su una riga della fattura, mentre la macchina su un'altra. Entrambe le parti sottostanti derivano da una singola lettura del catalogo ordini, pertanto il prezzo e le specifiche che lo accompagnano si riferiscono sempre l'uno all'altro.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
Card	The machine it goes in	The card	Complete, per month
RTX 4090D	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$299	$372.47 Configure this build →
RTX 4090D	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$299	$382.67 Configure this build →
RTX 4090D	AMD EPYC AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0	$299	$516.59 Configure this build →

La larghezza di banda è illimitata in entrambe le direzioni senza costi in uscita, è incluso un indirizzo IPv4, non c'è contratto e la durata predefinita è di un mese. Per ogni altra scheda che installiamo, allo stesso prezzo, consulta il catalogo completo, prezzo . Per macchine installate e pronte oggi stesso, /instant .

Domande che le persone si pongono realmente su questa carta

Se lo chiedo, otterrò una RTX 4090 completa?

Non da questa pagina. Quello che montiamo è la 4090 D, e la pagina lo specifica chiaramente, invece di stampare "RTX 4090" e sperare che sia compatibile. Se il tuo lavoro necessita effettivamente di quell'undici per cento di shader in più, comunicaci di cosa si tratta e ti diremo se possiamo procurarti il componente e quali sarebbero i tempi di consegna, invece di spedire la D spacciandola per una 4090.

La lettera D influisce su CUDA, sui driver o sulla compatibilità del software?

No. Viene riconosciuta come una scheda Ada Lovelace GeForce, utilizza il driver GeForce standard e ogni versione di CUDA, framework e renderer che gira su una 4090 funziona anche su di essa. La differenza sta nel numero di shader, non nell'architettura.

La carta è condivisa con qualcun altro?

No. Un solo tenant per macchina fisica e la scheda viene passata direttamente al tuo sistema operativo, senza hypervisor, partizioni o time-slicing. Installi e configuri il tuo driver e la tua versione di CUDA, e nessun aggiornamento viene eseguito automaticamente.

4090 D o RTX 3090, se mi interessano solo i 24 GB?

In tal caso, la 3090 è molto probabilmente l'acquisto migliore, e il grafico sopra mostra la differenza. La 4090 D è sensibilmente più veloce e ha la codifica AV1 che la 3090 non ha; la 3090 ha le stesse capacità a un costo mensile inferiore. Se il modello rientra in una delle due categorie e i test non sono consecutivi, la scheda più vecchia vince a conti fatti.

Quando potrò averne uno?

Dipende se la scheda è già installata, già disponibile a magazzino, oppure se deve essere acquistata separatamente; in tal caso, ti verrà comunicato prima del pagamento. /elenca istantaneamente le macchine installate e pronte all'uso.