Will I get a full RTX 4090 rather than a 4090 D?

Not from this page. What Primcast fits is the 4090 D, and the page says so rather than printing 'RTX 4090' and hoping. If your work genuinely needs the extra eleven per cent of shaders, say what it is and we will tell you whether the part can be sourced and what the lead time would be, rather than shipping the D and calling it a 4090.

Does the D affect CUDA, drivers or software compatibility?

No. It reports as an Ada Lovelace GeForce card, takes the ordinary GeForce driver, and every CUDA release, framework build and renderer that runs on a 4090 runs on it. The difference is a shader count, not an architecture.

Is the graphics card shared with anyone else?

No. One tenant per physical machine, and the card is passed straight through to your own operating system -- no hypervisor, no partition, no time-slicing. You install and pin your own driver and CUDA release, and nothing upgrades underneath you.

RTX 4090 D or RTX 3090, if I only care about the 24 GB?

The RTX 3090 is very likely the better buy. Both carry 24 GB, and the 3090 costs less every month. The 4090 D is meaningfully faster and adds AV1 encoding the 3090 does not have; if the model fits either way and the runs are not back to back, the older card wins on arithmetic per pound.

How soon can I have an RTX 4090 D server?

It depends on whether the card is already fitted, already on the shelf, or has to be bought in, and you are told which before you pay rather than after. Machines racked and ready right now are listed at https://primcast.com/instant.

GeForce RTX 4090 D · 24 GB GDDR6X

RTX 4090D ve neden bir RTX 4090 olmadığı

Takacağımız ekran kartı, NVIDIA'nın Çin pazarı için ürettiği ihracat uyumlu sürüm olan 4090 D'dir. Yeniden markalanmış veya sahte bir ürün değildir: daha az shader'a ve aynı 24 GB belleğe sahip orijinal bir AD102 kartıdır. Eğer buraya 4090 sunucu arayarak geldiyseniz, bu sayfa size ödeme yapmadan önce aradaki farkı anlatmak için var.

24 GB GDDR6X İki kodlayıcı, AV1 ECC yok

Makinenin maliyeti ne kadar?

D harfinin anlamı

Aralık 2023'te Amerika Birleşik Devletleri Ticaret Bakanlığı, RTX 4090'ın aştığı bir ihracat eşiği belirledi. NVIDIA, bu eşiği aşmak için bir sürümünü düşürdü ve bu sürümü Çin'de satışa sundu: RTX 4090 D. 28 Aralık 2023'te piyasaya sürülen bu sürüm, tam kartın 16.384 çekirdeğine karşılık 14.592 CUDA çekirdeğine sahip; bu da yaklaşık yüzde on bir daha az shader anlamına geliyor.

Geri kalan her şey aynı kart. 384 bit veri yolunda 24 gigabayt GDDR6X, aynı 1.008 GB/s bellek bant genişliği, aynı 2,52 GHz artırılmış saat hızı, aynı üçüncü nesil ışın izleme çekirdekleri ve dördüncü nesil tensör çekirdekleri, aynı iki AV1 kodlayıcı. Bellek kapasitesine veya bellek hızına bağlı hiçbir şey değişmiyor; bu da kiralık bir karttan beklenenlerin çoğunu karşılıyor: 24 GB'a sığan modeller hala sığıyor ve akan kareler hala akıyor.

Asıl maliyeti, shader'ları doyuran işlemlerdeki ham aritmetik işlem gücünde (uzun bir render işlemi, toplu eğitim çalıştırması gibi) ortaya çıkar. Tam bir 4090'dan yaklaşık onda bir oranında daha az bütçe ayırırsanız şaşırmazsınız. Bunu burada belirtiyoruz, çoğu listede olduğu gibi "RTX 4090" yazıp sizin bulmanızı beklemiyoruz.

Across the 56 cards in the catalogue: RTX 4090D holds 24 GB, 13 cards we fit hold more, and 11 cost more per month. Read the whole ladder on the whole catalogue, priced.

Yayınlanan şartname

Ada Lovelace. Bu sayfanın kaynağında belirtilen NVIDIA'nın kendi RTX 40 serisi dokümanlarından alınan rakamlar.

RTX 4090D

Architecture

Ada Lovelace

Card memory

24 GB GDDR6X

CUDA cores

14,592

Memory bandwidth

1,008 GB/s

Board power

425 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

2 NVENC, 1 NVDEC, AV1

Error-correcting memory

İyi olduğu ve kötü olduğu yönler

Bu, raflarda bulunan bir tüketici kartı. Tüm avantajı ve tüm sınırlaması da bu ve her ikisini de açıkça söylemekte fayda var.

İyi olduğu alan: pound başına aritmetik

GeForce silikonu, bu kadar işlem gücü satın almanın en ucuz yoludur. Fiyatında profesyonel sürücü ehliyeti veya veri merkezi kar marjı yok, bu nedenle yanlış bir bitin felaket yerine yeniden deneme anlamına geldiği işler için (toplu renderlama, oyun sunucuları, hobi eğitimi, yeniden çalıştırılabilen çıkarım işlemleri) onu geçmek çok zor.

İyi olduğu alan: video, hızlandırıcıların aksine.

AV1 özellikli iki donanım kodlayıcı ve bir kod çözücü. Bir 4090D tüm gün boyunca dönüştürme yapabilir. Kataloğun daha üst sıralarında yer alan A100 ve H100 modelleri donanımda tek bir kareyi bile kodlayamazlar - hiç kodlayıcıları yoktur - bu nedenle video içeren her şey için bu kart bir uzlaşma değil, doğru cevaptır.

Kötü olduğu alanlar: 24 GB'tan fazla bellek gerektiren her şey

Yirmi dört gigabaytlık sınırdır ve bu sınıra insanların beklediğinden daha çabuk ulaşılır: sekiz bit hassasiyetle on üç milyar parametreli bir model sığar, aynı model on altı bit hassasiyetle sığmaz ve yetmiş milyar parametreli bir model hiçbir hassasiyetle sığmaz. Aşağıdaki tablo bu konuda kesin bilgi vermektedir.

Kötü olduğu işler: ters çevrilmiş bir parçaya tahammül edemeyen işler

Hata düzeltme belleği yok ve sertifikalı profesyonel sürücü yok. Kontrol noktası olmadan birkaç hafta sürecek bir çalışma için veya profesyonel kart gerektiren bir lisans altındaki iş yükü için çözüm, iş istasyonu rafındaki bir karttır. Bunlar tüm katalogda, fiyatlandırılmış olarak mevcuttur.

Neyi değiştirdi ve onu ne değiştiriyor?

Tedarikçi yol haritasından değil, kendi raflarımızdan sunuyoruz. Bu üç modelin tamamı aynı kasada bugün sipariş edilebilir durumda, dolayısıyla soru hangisinin en yeni olduğu değil, hangisinin fiyat farkına değdiğidir.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
Card	Card memory	The card	Cheapest complete machine
RTX 3090	24 GB GDDR6X	$239	$309.93
RTX 4090D	24 GB GDDR6X	$299	$372.47
RTX 5090	32 GB GDDR7	$399	$472.47

RTX 3090, aynı 24 GB belleğe sahip ve daha eski, daha yavaş ve daha ucuz bir seçenek. Eğer önceliğiniz kapasite ise ve hız sizin için önemli değilse, aradaki farkı ödemeden önce RTX 30 serisi sayfasını okuyun. RTX 5090 ise 32 GB belleğe sahip ve Gen 3 ve Gen 4 platformlarında PCIe Gen 5 kartı olarak çalışıyor, bu nedenle daha yenisinin daha hızlı olduğunu varsaymadan önce aşağıdaki bölümü okuyun.

Hangi makineye giriyor ve oraya hangi bağlantıyla ulaşıyor?

4090 D, PCIe Gen 4 bir karttır. Bu kartı destekleyen üç platformumuzdan ikisi Gen 3, biri ise Gen 4'tür.

Intel Xeon E5-2600 v3/v4

RTX 4090D

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon Silver / Gold

RTX 4090D

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

AMD EPYC

RTX 4090D

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

Bu, 3347 numaralı destek talebinin ardındaki gerçektir; bir müşteri eski bir platformda daha yeni bir karta geçtikten sonra işleme hızının eskisinden daha yavaş olduğunu fark etmiştir. Sahne veya ağırlıklar karta kaydedildikten sonra, yuva boşta kalır ve neslinin önemi kalmaz. İşin her adımda yuvadan geçmesi önem kazanır.

24 GB'a aslında neler sığar?

Weights only, rounded up. A row counts as fitting when it leaves a fifth of the card’s 24 GB free for the KV cache, the activations and the runtime — which is head-room, not luxury.
Model	16-bit	8-bit	4-bit
7-8 billion parameters	16 GB — fits	8 GB — fits	5 GB — fits
13-14 billion parameters	28 GB — does not fit	14 GB — fits	8 GB — fits
30-34 billion parameters	68 GB — does not fit	34 GB — does not fit	19 GB — fits
70 billion parameters	140 GB — does not fit	70 GB — does not fit	38 GB — does not fit

Diğer bir sınırlama ise güç tüketimi: Bu kart tek başına 425 W'a kadar güç tüketiyor; bu da bir kasada birden fazla kart kullanmayı, sadece işaretlemeniz gereken bir seçenek olmaktan ziyade, fiyat teklifi verdiğimiz bir sistem haline getiriyor.

Makineyle birlikte maliyeti ne kadar?

Faturada kart bir satır, makine ise başka bir satır olarak yer alıyor. Aşağıdaki iki bölüm de sipariş kataloğunun tek bir okumasından elde edildiği için, fiyat ve yanındaki özellikler her zaman birbirine aittir.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
Card	The machine it goes in	The card	Complete, per month
RTX 4090D	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$299	$372.47 Configure this build →
RTX 4090D	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$299	$382.67 Configure this build →
RTX 4090D	AMD EPYC AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0	$299	$516.59 Configure this build →

Bant genişliği her iki yönde de sınırsızdır, çıkış ücreti yoktur, bir IPv4 adresi dahildir, sözleşme yoktur ve varsayılan süre bir aydır. Takacağımız diğer tüm kartlar için de aynı fiyatlandırma geçerlidir, tüm kataloğu inceleyin, fiyatlar şu şekildedir : . Bugün kullanıma hazır, rafa monte edilmiş makineler için, /instant .

İnsanların bu kartla ilgili gerçekten sorduğu sorular

Eğer talep edersem tam bir RTX 4090 alacak mıyım?

Bu sayfadan değil. Bizim taktığımız model 4090 D ve sayfada da "RTX 4090" yazıp umut etmek yerine bunu belirtiyor. Eğer çalışmanız gerçekten de ekstra yüzde on bir shader'a ihtiyaç duyuyorsa, bize ne olduğunu söyleyin, biz de parçayı temin edip edemeyeceğimizi ve teslim süresini söyleyelim; D modelini gönderip ona 4090 demek yerine.

D harfi CUDA'yı, sürücüleri veya yazılım uyumluluğunu etkiler mi?

Hayır. Ada Lovelace GeForce kartı olarak rapor veriyor, sıradan GeForce sürücüsünü kullanıyor ve 4090'da çalışan her CUDA sürümü, çerçeve yapısı ve render motoru onda da çalışıyor. Fark mimaride değil, shader sayısında.

Bu kart başka biriyle paylaşılıyor mu?

Hayır. Fiziksel makine başına bir kiracı ve kart doğrudan kendi işletim sisteminize aktarılıyor; hipervizör yok, bölümleme yok, zaman dilimleme yok. Kendi sürücünüzü ve CUDA sürümünüzü kurup sabitliyorsunuz ve alt kademede hiçbir şey yükseltilmiyor.

Sadece 24 GB belleğe ihtiyacım varsa, 4090 D mi yoksa RTX 3090 mı daha iyi?

O zaman 3090 büyük olasılıkla daha iyi bir seçimdir ve yukarıdaki tablo aradaki farkı göstermektedir. 4090 D, 3090'da olmayan AV1 kodlamasına sahip ve önemli ölçüde daha hızlıdır; 3090 ise aynı kapasiteyi aylık daha az parayla sunar. Model her iki seçeneğe de uyuyorsa ve testler ardışık değilse, eski kart matematiksel olarak kazanır.

Ne kadar sürede alabilirim?

Kartın zaten takılı olup olmadığına, raflarımızda mevcut olup olmadığına veya satın alınması gerekip gerekmediğine bağlıdır ve ödeme yapmadan önce size hangisinin gerekli olduğu söylenir. /instant , şu anda raflarda hazır bulunan makineleri listeler.