GeForce RTX 4090 D · 24 GB GDDR6X

RTX 4090D — ve neden bir RTX 4090 olmadığı

Taktiğimiz kart 4090 D, NVIDIA'nın Çin pazarı için ürettiği ihracat uyumluluğu sürümüdür. Yeniden etiketlenmiş bir kart değildir ve sahte değildir: daha az gölgelendiriciye ve aynı 24 GB belleğe sahip gerçek bir AD102 kartıdır. Buraya bir 4090 sunucusu arayarak geldiyseniz, bu sayfa ödemeden önce farkı anlatmak için var.

24 GB GDDR6X İki kodlayıcı, AV1 ECC yok

GPU'larınızı pasif aylık gelire dönüştürün

Atıl sunucu veya masaüstü GPU kurulumlarınız mı var? Bugün Primcast pazarında listeleyin ve yapay zeka ekiplerinden, geliştiricilerden ve üretim düzeyinde işlem gücüne ihtiyaç duyan kuruluşlardan düzenli aylık kira kazanın.

Pazar Yerine Git

D ne anlama geliyor

Aralık 2023'te Amerika Birleşik Devletleri Ticaret Bakanlığı, RTX 4090'ın aştığı bir ihracat eşiği belirledi. NVIDIA bunun altına inmek için bir sürümü kırptı ve bu sürümü Çin'de sattı: RTX 4090 D. 28 Aralık 2023'te piyasaya sürüldü ve tam kartın 16.384'üne karşılık 14.592 CUDA çekirdeğine sahip — yaklaşık yüzde on bir daha az gölgelendirici.

Geri kalan her şey aynı kart. 384 bit veri yolunda yirmi dört gigabayt GDDR6X, aynı 1.008 GB/s bellek bant genişliği, aynı 2,52 GHz artırma saati, aynı üçüncü nesil ışın izleme çekirdekleri ve dördüncü nesil tensör çekirdekleri, aynı iki AV1 kodlayıcı. Bellek kapasitesine veya bellek hızına bağlı olan hiçbir şey değişmez; bu da kiralanan bir karttan istenen işlerin çoğunu kapsar: 24 GB'a sığan modeller yine sığar ve akan kareler yine akar.

Size maliyet çıkardığı yer, gölgelendiricileri doyuran işlerdeki ham aritmetik işlem gücüdür — uzun bir render, toplu bir eğitim çalışması. Tam bir 4090'dan kabaca onda bir daha az bütçe ayırın ve şaşırmazsınız. Bunu, çoğu ilanın yaptığı gibi sayfaya “RTX 4090” yazıp sizin keşfetmenize bırakmak yerine burada söylüyoruz.

Across the 57 cards in the catalogue: RTX 4090D holds 24 GB, 13 cards we fit hold more, and 11 cost more per month. Read the whole ladder on the whole catalogue, priced.

Yayınlanan teknik özellikler

Ada Lovelace. Rakamlar NVIDIA'nın kendi RTX 40 serisi belgelerinden alınmıştır ve bu sayfanın kaynağında belirtilmiştir.

RTX 4090D

Architecture

Ada Lovelace

Card memory

24 GB GDDR6X

CUDA cores

14,592

Memory bandwidth

1,008 GB/s

Board power

425 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

2 NVENC, 1 NVDEC, AV1

Error-correcting memory

No

Neyde iyi, neyde değil

Bu, rafa takılmış bir tüketici kartıdır. Bütün avantajı ve bütün sınırı budur ve ikisini de açıkça söylemek gerekir.

İyi olduğu yer: pound başına aritmetik

GeForce silikonu, bu kadar işlem gücünü satın almanın en ucuz yoludur. Fiyatın içinde profesyonel sürücü lisansı yoktur ve veri merkezi marjı yoktur; bu yüzden yanlış bir bitin felaket değil yeniden deneme anlamına geldiği işlerde — toplu render, oyun sunucuları, hobi eğitimi, yeniden çalıştırabileceğiniz çıkarım — yenmesi çok zordur.

İyi olduğu yer: hızlandırıcıların aksine video

AV1'li iki donanım kodlayıcı ve bir kod çözücü. Bir 4090 D tüm gün kod dönüştürme yapar. Katalogda daha üstteki A100 ve H100 donanımda tek bir kare bile kodlayamaz — hiç kodlayıcıları yoktur — bu yüzden içinde video olan her şey için bu kart bir ödün değil, doğru cevaptır.

Kötü olduğu yer: 24 GB'tan fazlasını gerektiren her şey

Yirmi dört gigabayt duvardır ve insanların beklediğinden daha erken gelir: on üç milyar parametreli bir model sekiz bit hassasiyette sığar, aynı model on altı bitte sığmaz ve yetmiş milyarlık bir model hiçbir hassasiyette sığmaz. Aşağıdaki tablo bu konuda kesindir.

Kötü olduğu yer: ters dönmüş bir biti tolere edemeyen işler

Hata düzelten bellek yok ve sertifikalı profesyonel sürücü yok. Kontrol noktası olmayan çok haftalık bir çalıştırma için veya profesyonel kart gerektiren bir lisans altındaki iş yükü için cevap, bunun yerine iş istasyonu rafından bir karttır. Bunlar tüm katalogda, fiyatlı olarak bulunur.

Neyin yerini aldı ve onun yerini ne alıyor

Bir satıcı yol haritasından değil, kendi raflarımızdan. Bu üçü de bugün aynı kasada sipariş edilebilir; bu yüzden soru hangisinin en yeni olduğu değil, hangisinin farka değdiğidir.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
CardCard memoryThe cardCheapest complete machine
RTX 309024 GB GDDR6X$239$309.93
RTX 4090D24 GB GDDR6X$299$372.47
RTX 509032 GB GDDR7$399$472.47

RTX 3090 aynı 24 GB'a sahiptir ve bunu elde etmenin daha eski, daha yavaş ve daha ucuz yoludur — satın aldığınız şey kapasiteyse ve hız değilse, farkı harcamadan önce RTX 30 serisi sayfasını okuyun. RTX 5090 ise 32 GB'a çıkar ve Gen 3 ile Gen 4 olan platformlarda bir PCIe Gen 5 kartıdır; bu yüzden burada daha yenisinin daha hızlı olduğunu varsaymadan önce aşağıdaki bölümü okuyun.

Hangi makineye girer ve orada hangi bağlantıyı alır

4090 D bir PCIe Gen 4 kartıdır. Onu alan üç platformumuzdan ikisi Gen 3, biri Gen 4'tür.

Intel Xeon E5-2600 v3/v4

RTX 4090D

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon Silver / Gold

RTX 4090D

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

AMD EPYC

RTX 4090D

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

Destek bileti #3347'nin arkasındaki gerçek budur; bir müşteri eski bir platformda daha yeni bir karta geçmiş ve öncekinden daha yavaş render almıştır. Sahne veya ağırlıklar kartta yerleşik olduğunda yuva boştadır ve nesli önemini yitirir. İş her adımda yuvadan geçtiğinde önem kazanır.

24 GB'a gerçekte ne sığar

Weights only, rounded up. Fits means the card’s 24 GB holds the weights 1.5× over — room for the KV cache, the activations and the runtime, and the only verdict the LLM sizing page recommends a card on. Tight clears 1.25× only: the model loads, and a long context or a second user runs the card out.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB — fits8 GB — fits5 GB — fits
13-14 billion parameters28 GB — does not fit14 GB — fits8 GB — fits
30-34 billion parameters68 GB — does not fit34 GB — does not fit19 GB — tight
70 billion parameters140 GB — does not fit70 GB — does not fit38 GB — does not fit

Diğer tavan güçtür: bu kart tek başına 425 W'a kadar çeker; bu da bir kasada birden fazlasını, işaretlediğiniz bir kutu değil, teklif verdiğimiz bir yapı haline getirir.

Bu tablo “bu karta ne sığar” sorusunu yanıtlar. Ters yöndeki soru — bir modelin ne kadar belleğe ihtiyacı vardır ve hangi kart bunu karşılar — kendi sayfasındadır.

İçine girdiği makineyle birlikte maliyeti

Kart faturada bir satırdır, makine başka bir satırdır. Aşağıdaki her iki yarı da sipariş kataloğunun tek bir okumasından gelir; bu yüzden fiyat ve yanındaki teknik özellik her zaman birbirine aittir.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
CardThe machine it goes inThe cardComplete, per month
RTX 4090DIntel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$299$372.47
Configure this build →
RTX 4090DIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$299$382.67
Configure this build →
RTX 4090DAMD EPYC
AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0
$299$516.59
Configure this build →

Bant genişliği her iki yönde de ölçümsüzdür ve çıkış ücreti yoktur; bir IPv4 adresi dahildir; sözleşme yoktur ve varsayılan süre bir aydır. Taktiğimiz diğer her kart için, aynı şekilde fiyatlandırılmış olarak tüm kataloğu, fiyatlı olarak okuyun. Bugün rafa takılı ve hazır makineler için /instant.

İnsanların bu kart hakkında gerçekten sorduğu sorular

İstersem tam bir RTX 4090 alır mıyım?

Bu sayfadan değil. Taktiğimiz kart 4090 D'dir ve sayfa bunu “RTX 4090” yazıp umut etmek yerine söylüyor. İşiniz gerçekten ekstra yüzde on bir gölgelendiriciye ihtiyaç duyuyorsa, ne olduğunu bize söyleyin; D'yi gönderip ona 4090 demek yerine parçayı tedarik edip edemeyeceğimizi ve teslim süresinin ne olacağını söyleyelim.

D, CUDA'yı, sürücüleri veya yazılım uyumluluğunu etkiler mi?

Hayır. Kendini bir Ada Lovelace GeForce kartı olarak bildirir, normal GeForce sürücüsünü alır ve 4090'da çalışan her CUDA sürümü, çerçeve derlemesi ve render motoru onda da çalışır. Fark bir mimari değil, gölgelendirici sayısıdır.

Kart başka biriyle paylaşılıyor mu?

Hayır. Fiziksel makine başına bir kiracı vardır ve kart doğrudan kendi işletim sisteminize geçirilir — hipervizör yok, bölüm yok, zaman dilimleme yok. Kendi sürücünüzü ve CUDA sürümünüzü kurar ve sabitlersiniz; altınızda hiçbir şey yükseltilmez.

Yalnızca 24 GB umurumdaysa 4090 D mi yoksa RTX 3090 mı?

O zaman 3090 büyük olasılıkla daha iyi bir satın alımdır ve yukarıdaki merdiven aradaki farkı gösterir. 4090 D anlamlı ölçüde daha hızlıdır ve 3090'da olmayan AV1 kodlamaya sahiptir; 3090 ise her ay daha az paraya aynı kapasiteye sahiptir. Model her iki şekilde de sığıyorsa ve çalıştırmalar arka arkaya değilse, eski kart aritmetikte kazanır.

Ne kadar sürede sahip olabilirim?

Kartın zaten takılı mı, rafımızda mı yoksa satın alınması mı gerektiğine bağlıdır — ve ödemeden önce hangisi olduğu size söylenir. /instant şu anda rafa takılı ve hazır makineleri listeler.