RTX 3090 · 3080 Ti · 3080 · 3070 Ti · 3070

RTX 30 Serisi — beş kart, 8 GB'tan 24 GB'a

2020'den kalma Ampere tüketici silikonu, hâlâ raflarda ve hâlâ kiralanıyor, çünkü gerçekten iyi olduğu şeyin yerini hiçbir şey almadı: katalogdaki pound başına en yüksek aritmetik güç. Bir sayfayı hak eden tek soru hangisinin olduğu ve dürüst cevap genellikle tek bir sayıya dayanıyor — ne kadar belleğe ihtiyacınız olduğuna.

8, 10, 12 ve 24 GB ECC yok Tek kodlayıcı, AV1 yok

GPU'larınızı pasif aylık gelire dönüştürün

Atıl sunucu veya masaüstü GPU kurulumlarınız mı var? Bugün Primcast pazarında listeleyin ve üretim sınıfı işlem gücüne ihtiyaç duyan yapay zeka ekiplerinden, geliştiricilerden ve kuruluşlardan düzenli aylık kira kazanın.

Pazara Git

Beşinden hangisi

Önce en ucuzu. Bellek sütunu ihtiyacınızı karşılayana kadar aşağı okuyun, sonra durun — üstündeki kartlar aynı işte daha hızlıdır, farklı bir iş yapabilir değil.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
CardCard memoryThe cardCheapest complete machine
RTX 30708 GB GDDR6$139$209.93
RTX 3070 Ti8 GB GDDR6X$149$222.47
RTX 308010 GB GDDR6X$159$229.93
RTX 3080 Ti12 GB GDDR6X$199$272.47
RTX 309024 GB GDDR6X$239$309.93

O tablonun ortasındaki tuzak

Bizim RTX 3080'imiz orijinal 10 GB karttır, 8.704 CUDA çekirdekli olan. NVIDIA daha sonra 8.960 çekirdekli 12 GB'lık bir revizyon çıkardı ve başka yerlerdeki pek çok ilan, daha ucuz kartın yanında 12 GB rakamını gösteriyor. On gigabayt on iki değildir: on üç milyar parametreli bir modeli sekiz bit hassasiyetle tutmakla tutamamak arasındaki farktır. Başka bir yerde okuduğunuz bir sayıya göre boyutlandırıyorsanız, bizimkine göre boyutlandırın.

Dikkat edilmesi gereken diğer adım 3080 Ti'dan 3090'a geçiştir. Merdivendeki en büyük kapasite sıçramasıdır — on iki gigabayttan yirmi dörde — ve beşi arasında 24 GB'ı aşan tek karttır. Buna ihtiyacınız varsa, bu sayfadaki daha ucuz hiçbir şey işe yaramaz ve alternatifler tüm katalogda, fiyatlı.

NVIDIA'nın yayınladığı şekliyle teknik özellikler

İkinci nesil ışın izleme çekirdekleri, üçüncü nesil tensör çekirdekleri, baştan sona PCIe Gen 4. Rakamlar NVIDIA'nın kendi GeForce karşılaştırma sayfalarından alınmıştır, bu sayfanın kaynağında belirtilmiştir.

RTX 3090

Architecture

Ampere

Card memory

24 GB GDDR6X

CUDA cores

10,496

Memory bandwidth

936 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3080 Ti

Architecture

Ampere

Card memory

12 GB GDDR6X

CUDA cores

10,240

Memory bandwidth

912 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3080

Architecture

Ampere

Card memory

10 GB GDDR6X

CUDA cores

8,704

Memory bandwidth

760 GB/s

Board power

320 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3070 Ti

Architecture

Ampere

Card memory

8 GB GDDR6X

CUDA cores

6,144

Memory bandwidth

608 GB/s

Board power

290 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3070

Architecture

Ampere

Card memory

8 GB GDDR6

CUDA cores

5,888

Memory bandwidth

448 GB/s

Board power

220 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

Neyde iyiler, neyde değiller

Bu kartlar altı yaşında ve onları emekliye ayırmadık, çünkü gerçek işlerin büyük bir kısmı için uzlaşma değil, doğru satın alma olmaya devam ediyorlar.

İyi olduğu: ucuz kapasite

RTX 3090, iki nesil sonraki RTX 4090 D ile aynı 24 GB'ı taşıyor, her ay daha az paraya. Satın aldığınız şey kapasiteyse ve duvar saati hızı bağlayıcı kısıt değilse, eski kart açıkça daha iyi bir satın almadır.

İyi olduğu: oyun sunucuları ve toplu işler

Tüketici silikonu, tüketici yazılımının yazıldığı ve test edildiği şeydir. Oyun sunucuları, toplu render, hobi amaçlı ince ayar, yeniden çalıştırabileceğiniz çıkarım — yanlış bir bitin felaket değil yeniden deneme olduğu her şey — burada profesyonel raf fiyatının çok altında çalışır.

Kötü olduğu: modern video hatları

Kart başına bir kodlayıcı ve bir kod çözücü var ve beşinin hiçbirinde AV1 kodlama yok — AV1 kodlama RTX 40 serisiyle geliyor. Hattınız AV1 ise, bu nesil bunu donanımda yapamaz ve cevap bir RTX 4090 D veya onun yerine bir L40S'tir.

Kötü olduğu: uzun gözetimsiz çalışmalar

Hiçbirinde hata düzelten bellek yok ve sertifikalı profesyonel sürücü yok. Haftalarca süren, kontrol noktası olmayan bir çalışma için veya yalnızca profesyonel kartlara lisanslanan yazılımlar için, bunun yerine iş istasyonu rafından bir kart alın.

Hangi makineye giriyorlar ve orada hangi bağlantıyı alıyorlar

Her RTX 30 kartı bir PCIe Gen 4 parçasıdır. Onları alan dört platformdan üçü Gen 3, biri Gen 4'tür.

Intel Xeon E5-2600 v1/v2

RTX 3090, RTX 3080, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon E5-2600 v3/v4

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon Silver / Gold

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

AMD EPYC

RTX 3080

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

Bu nesil için yuva nadiren bir şey belirler: kendi sahnesini veya kendi ağırlıklarını tutan bir kart, yüklendikten sonra veri yoluna neredeyse hiç dokunmaz ve bunlar kimsenin devasa eğitim yığınları akıttığı kartlar değildir. Burada kayıtlı çünkü doğru ve her kart için yayınlıyoruz, fikrinizi değiştirmesi gerektiği için değil.

Gerçekte ne sığıyor: merdivenin tepesindeki 24 GB kart

Weights only, rounded up. Fits means the card’s 24 GB holds the weights 1.5× over — room for the KV cache, the activations and the runtime, and the only verdict the LLM sizing page recommends a card on. Tight clears 1.25× only: the model loads, and a long context or a second user runs the card out.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB — fits8 GB — fits5 GB — fits
13-14 billion parameters28 GB — does not fit14 GB — fits8 GB — fits
30-34 billion parameters68 GB — does not fit34 GB — does not fit19 GB — tight
70 billion parameters140 GB — does not fit70 GB — does not fit38 GB — does not fit

Merdivenin her basamağı için o tabloyu bir aşağı okuyun. 3080 Ti on iki gigabayt tutar, 3080 on, 3070 Ti ve 3070 sekizer — yani yedi ila sekiz milyar parametreli bir model sekiz bit hassasiyetle kabaca bu sayfanın alt sınırının kaldığı yerdir ve daha büyük her şey 3090'ı veya tamamen farklı bir rafı ister.

O tablo "bu karta ne sığar" sorusunu yanıtlıyor. Ters yöndeki soru — bir modelin ne kadar belleğe ihtiyacı var ve hangi kart bunu karşılıyor — kendi sayfasında.

Girdikleri makinelerle birlikte maliyetleri

Kart faturada bir satır, makine başka bir satırdır. Aşağıdaki her iki yarı da sipariş kataloğunun tek bir okumasından gelir, böylece yanındaki fiyat ve teknik özellik her zaman birbirine aittir.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
CardThe machine it goes inThe cardComplete, per month
RTX 3070Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$139$209.93
Configure this build →
RTX 3070Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$139$212.47
Configure this build →
RTX 3070 TiIntel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$149$222.47
Configure this build →
RTX 3070Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$139$222.67
Configure this build →
RTX 3080Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$159$229.93
Configure this build →
RTX 3080Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$159$232.47
Configure this build →
RTX 3070 TiIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$149$232.67
Configure this build →
RTX 3080Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$159$242.67
Configure this build →
RTX 3080 TiIntel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$199$272.47
Configure this build →
RTX 3080 TiIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$199$282.67
Configure this build →
RTX 3090Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$239$309.93
Configure this build →
RTX 3090Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$239$312.47
Configure this build →
RTX 3090Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$239$322.67
Configure this build →
RTX 3080AMD EPYC
AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0
$159$376.59
Configure this build →

Bant genişliği her iki yönde de ölçülmez ve çıkış ücreti yoktur, bir IPv4 adresi dahildir, sözleşme yoktur ve varsayılan süre bir aydır. Taktığımız diğer her kart için, aynı şekilde fiyatlandırılmış olarak tüm kataloğu, fiyatlı olarak okuyun. Bugün rafa kaldırılmış ve hazır makineler için /instant. Herkesin emekliye ayırdığı donanımı neden hâlâ kiraladığımız için /value.

İnsanların bu nesil hakkında gerçekten sorduğu sorular

RTX 3080'iniz 10 GB kart mı yoksa 12 GB kart mı?

10 GB kart, 8.704 CUDA çekirdekli — orijinal lansman parçası. 12 GB revizyonun 8.960 çekirdeği var ve biz onu takmıyoruz. Bu, iki gigabaytın gösterdiğinden daha önemli, çünkü on üç milyar parametreli bir model sekiz bit hassasiyetle yaklaşık on dört gigabayta ihtiyaç duyar ve ikisini de aşamaz, daha küçük bir model ise ikisini de rahatça aşar.

Neden 2020 kartı kiralayasınız ki?

Çünkü GPU işlerinin çoğu sınır modeli eğitmek değildir. Zaten sığan bir şeyi sunmak, video kodlamak, kare render etmek veya bir oyun sunucusu çalıştırmaktır ve bunların hepsi için doğru kart genellikle iki nesil geride, paranın çok daha azına olandır. RTX 3090, iki nesil daha yeni bir kartla aynı yirmi dört gigabaytı tutar. Tüm argüman bu ve /value bunun daha uzun versiyonunu yapıyor.

Bir makineye iki tane koyabilir miyim?

Bu, işaretlediğiniz bir kutu değil, fiyat teklifi verdiğimiz bir yapıdır, çünkü sayı kasaya, kartın fiziksel genişliğine ve güç bütçesine bağlıdır. Sorun, cevap kasayı, sayıyı ve teslim süresini belirtir. İki kartın iki ayrı bellek havuzu olduğunu unutmayın: bir 3090'a sığmayan bir model, bilinçli olarak aralarında bölünmedikçe iki tanesine de sığmaz.

Kart başka biriyle paylaşılıyor mu?

Hayır. Fiziksel makine başına bir kiracı ve kart doğrudan kendi işletim sisteminize geçirilir — hipervizör yok, bölüm yok, zaman dilimleme yok. Kendi sürücünüzü ve CUDA sürümünüzü kurar ve sabitlersiniz ve altınızda hiçbir şey yükseltilmez.

Ne kadar sürede alabilirim?

Kartın zaten takılı olup olmadığına, zaten rafımızda olup olmadığına veya satın alınması gerekip gerekmediğine bağlıdır — ve ödemeden önce hangisi olduğu size söylenir. /instant şu anda rafa kaldırılmış ve hazır makineleri listeler.