GeForce RTX 4090 D · 24 GB GDDR6X

RTX 4090D — e perché non è una RTX 4090

La scheda che installiamo è la 4090 D, l'edizione conforme alle norme sull'export che NVIDIA ha realizzato per il mercato cinese. Non è un rebadge e non è un falso: è una vera scheda AD102 con meno shader e gli stessi 24 GB di memoria. Se sei arrivato qui cercando un server con 4090, questa pagina esiste per spiegarti la differenza prima che tu la paghi.

24 GB GDDR6X Due encoder, AV1 Nessuna ECC

Trasforma le tue GPU in un ricavo mensile passivo

Hai configurazioni GPU server o desktop inattive? Mettile oggi sul marketplace Primcast e guadagna affitti mensili costanti da team AI, sviluppatori e aziende che necessitano di potenza di calcolo di livello produttivo.

Vai al Marketplace

Cosa significa la D

Nel dicembre 2023 il Dipartimento del Commercio degli Stati Uniti ha fissato una soglia all'export che la RTX 4090 superava. NVIDIA ne ha ridotto una versione per rientrarvi e l'ha venduta in Cina: la RTX 4090 D. È stata lanciata il 28 dicembre 2023 e ha 14.592 core CUDA contro i 16.384 della scheda completa — circa l'undici per cento di shader in meno.

Tutto il resto è la stessa scheda. Ventiquattro gigabyte di GDDR6X su bus a 384 bit, la stessa larghezza di banda di memoria di 1.008 GB/s, lo stesso boost clock di 2,52 GHz, gli stessi core ray-tracing di terza generazione e i tensor core di quarta generazione, gli stessi due encoder AV1. Nulla di ciò che dipende dalla capacità o dalla velocità della memoria cambia, e questo copre la maggior parte di ciò che viene chiesto a una scheda in affitto: i modelli che stanno in 24 GB ci stanno ancora, e i frame che vengono trasmessi vengono trasmessi ancora.

Dove invece incide è sulla pura potenza di calcolo aritmetico per lavori che saturano gli shader — un render lungo, un addestramento in batch. Metti in conto circa un decimo in meno rispetto a una 4090 completa e non avrai sorprese. Lo diciamo qui invece di stampare “RTX 4090” sulla pagina e lasciare che lo scopra tu, come fa la maggior parte degli annunci.

Across the 57 cards in the catalogue: RTX 4090D holds 24 GB, 13 cards we fit hold more, and 11 cost more per month. Read the whole ladder on the whole catalogue, priced.

Le specifiche, come pubblicate

Ada Lovelace. Dati dalla documentazione NVIDIA della serie RTX 40, citati nel sorgente di questa pagina.

RTX 4090D

Architecture

Ada Lovelace

Card memory

24 GB GDDR6X

CUDA cores

14,592

Memory bandwidth

1,008 GB/s

Board power

425 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

2 NVENC, 1 NVDEC, AV1

Error-correcting memory

No

In cosa è brava, e in cosa no

Questa è una scheda consumer in un rack. È tutto il suo vantaggio e tutto il suo limite, ed entrambi meritano di essere detti chiaramente.

Brava in: aritmetica per sterlina

Il silicio GeForce è il modo più economico per acquistare tutta questa potenza di calcolo. Nel prezzo non c'è la licenza del driver professionale né il margine da datacenter, quindi per lavori in cui un bit sbagliato significa un nuovo tentativo invece di un disastro — rendering in batch, server di gioco, addestramento amatoriale, inferenza che puoi rieseguire — è molto difficile da battere.

Brava in: video, a differenza degli acceleratori

Due encoder hardware con AV1 e un decoder. Una 4090 D transcodifica tutto il giorno. Le A100 e H100 più in alto nel catalogo non possono codificare un singolo frame in hardware — non hanno alcun encoder — quindi per qualsiasi cosa contenga video questa scheda non è il compromesso, è la risposta corretta.

Scarsa in: tutto ciò che richiede più di 24 GB

Ventiquattro gigabyte sono il muro, e arriva prima di quanto ci si aspetti: un modello da tredici miliardi di parametri a precisione a otto bit ci sta, lo stesso modello a sedici bit no, e un modello da settanta miliardi non ci sta a nessuna precisione. La tabella qui sotto è precisa al riguardo.

Scarsa in: lavori che non tollerano un bit invertito

Nessuna memoria con correzione degli errori e nessun driver professionale certificato. Per un'esecuzione di più settimane senza checkpointing, o per un carico di lavoro soggetto a una licenza che richiede una scheda professionale, la risposta è invece una scheda dallo scaffale workstation. Quelle sono su tutto il catalogo, con prezzi.

Cosa ha sostituito, e cosa la sostituisce

Dai nostri scaffali piuttosto che da una roadmap del produttore. Tutte e tre queste sono ordinabili oggi, nello stesso chassis, quindi la domanda non è quale sia la più recente ma quale valga la differenza.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
CardCard memoryThe cardCheapest complete machine
RTX 309024 GB GDDR6X$239$309.93
RTX 4090D24 GB GDDR6X$299$372.47
RTX 509032 GB GDDR7$399$472.47

La RTX 3090 ha gli stessi 24 GB ed è il modo più vecchio, più lento ed economico per ottenerli — se è la capacità che ti interessa e non la velocità, leggi la pagina della serie RTX 30 prima di spendere la differenza. La RTX 5090 sale a 32 GB ed è una scheda PCIe Gen 5 su piattaforme che sono Gen 3 e Gen 4, quindi leggi la sezione qui sotto prima di dare per scontato che qui più recente significhi più veloce.

In quale macchina va, e che collegamento riceve lì

La 4090 D è una scheda PCIe Gen 4. Due delle nostre tre piattaforme che la ospitano sono Gen 3, e una è Gen 4.

Intel Xeon E5-2600 v3/v4

RTX 4090D

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon Silver / Gold

RTX 4090D

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

AMD EPYC

RTX 4090D

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

Questo è il fatto dietro il ticket di supporto #3347, in cui un cliente è passato a una scheda più recente su una piattaforma più vecchia e ha renderizzato più lentamente di prima. Una volta che la scena o i pesi sono residenti sulla scheda, lo slot è inattivo e la sua generazione smette di contare. Conta quando il lavoro attraversa lo slot a ogni passaggio.

Cosa sta davvero in 24 GB

Weights only, rounded up. Fits means the card’s 24 GB holds the weights 1.5× over — room for the KV cache, the activations and the runtime, and the only verdict the LLM sizing page recommends a card on. Tight clears 1.25× only: the model loads, and a long context or a second user runs the card out.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB — fits8 GB — fits5 GB — fits
13-14 billion parameters28 GB — does not fit14 GB — fits8 GB — fits
30-34 billion parameters68 GB — does not fit34 GB — does not fit19 GB — tight
70 billion parameters140 GB — does not fit70 GB — does not fit38 GB — does not fit

L'altro tetto è la potenza: questa scheda assorbe fino a 425 W da sola, ed è ciò che rende più di una di esse in uno chassis una configurazione che quotiamo invece di una casella da spuntare.

Quella tabella risponde a “cosa sta in questa scheda”. La domanda inversa — quanta memoria serve a un modello, e quale scheda la soddisfa — è una pagina a sé.

Quanto costa, con la macchina in cui va

La scheda è una riga della fattura e la macchina un'altra. Entrambe le metà qui sotto provengono da un'unica lettura del catalogo ordini, quindi il prezzo e le specifiche accanto appartengono sempre l'uno all'altro.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
CardThe machine it goes inThe cardComplete, per month
RTX 4090DIntel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$299$372.47
Configure this build →
RTX 4090DIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$299$382.67
Configure this build →
RTX 4090DAMD EPYC
AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0
$299$516.59
Configure this build →

La larghezza di banda non è misurata in entrambe le direzioni senza costi di uscita, un indirizzo IPv4 è incluso, non c'è contratto e un mese è la durata predefinita. Per ogni altra scheda che installiamo, con prezzi allo stesso modo, leggi tutto il catalogo, con prezzi. Per macchine già montate e pronte oggi, /instant.

Domande che la gente fa davvero su questa scheda

Riceverò una RTX 4090 completa se la chiedo?

Non da questa pagina. Quella che installiamo è la 4090 D, e la pagina lo dice invece di stampare “RTX 4090” e sperare. Se il tuo lavoro ha davvero bisogno dell'undici per cento di shader in più, dicci di cosa si tratta e ti diremo se possiamo procurarci il componente e quali sarebbero i tempi di consegna, invece di spedire la D e chiamarla 4090.

La D influisce su CUDA, driver o compatibilità software?

No. Viene riconosciuta come scheda GeForce Ada Lovelace, usa il normale driver GeForce, e ogni release CUDA, build di framework e renderer che gira su una 4090 gira su di essa. La differenza è il numero di shader, non l'architettura.

La scheda è condivisa con qualcun altro?

No. Un solo tenant per macchina fisica, e la scheda viene passata direttamente al tuo sistema operativo — nessun hypervisor, nessuna partizione, nessun time-slicing. Installi e blocchi il tuo driver e la tua release CUDA, e nulla si aggiorna sotto di te.

4090 D o RTX 3090, se mi interessano solo i 24 GB?

Allora la 3090 è molto probabilmente l'acquisto migliore, e la scala qui sopra mostra il divario. La 4090 D è sensibilmente più veloce e ha la codifica AV1 che la 3090 non ha; la 3090 ha la stessa capacità per meno soldi ogni mese. Se il modello sta in entrambe e le esecuzioni non sono consecutive, la scheda più vecchia vince in aritmetica.

Quanto presto posso averne una?

Dipende se la scheda è già installata, già sul nostro scaffale o deve essere acquistata — e ti viene detto quale prima di pagare. /instant elenca le macchine montate e pronte adesso.