Is your RTX 3080 the 10 GB card or the 12 GB card?

The 10 GB card, with 8,704 CUDA cores -- the original launch part. The 12 GB revision has 8,960 cores and Primcast does not fit it. This matters more than the two gigabytes suggest: a thirteen-billion-parameter model at eight-bit precision needs about fourteen gigabytes and clears neither, while a smaller model clears both comfortably.

Why rent a 2020 graphics card at all?

Because most GPU work is not training a frontier model. It is serving something that already fits, encoding video, rendering frames or running a game server, and for all of those the right card is often two generations back at a fraction of the money. The RTX 3090 holds the same twenty-four gigabytes as a card two generations newer.

Can I put two RTX 30 cards in one machine?

It is a build quoted rather than a checkout option, because the count depends on the chassis, the physical width of the card and the power budget. Note that two cards are two separate memory pools: a model that does not fit in one RTX 3090 does not fit in two without being split across them deliberately.

Is the graphics card shared with anyone else?

No. One tenant per physical machine, and the card is passed straight through to your own operating system -- no hypervisor, no partition, no time-slicing. You install and pin your own driver and CUDA release, and nothing upgrades underneath you.

How soon can I have an RTX 30 series server?

It depends on whether the card is already fitted, already on the shelf, or has to be bought in, and you are told which before you pay rather than after. Machines racked and ready right now are listed at https://primcast.com/instant.

RTX 3090 · 3080 Ti · 3080 · 3070 Ti · 3070

RTX 30 Serisi — beş farklı kart, 8 GB ile 24 GB arasında.

2020 yılından kalma Ampere tüketici işlemcileri, hâlâ raflarda ve kiralarda kullanılıyor çünkü asıl iyi olduğu şeyi, yani katalogdaki en yüksek aritmetik işlem gücünü hiçbir şey değiştiremedi. Bir sayfaya konulacak tek soru, beş seçenekten hangisinin daha iyi olduğu ve dürüst cevabın genellikle tek bir sayıya bağlı olduğudur: ne kadar belleğe ihtiyacınız olduğu.

8, 10, 12 ve 24 GB ECC yok Tek kodlayıcı, AV1 yok

Makineyle birlikte maliyetleri ne kadar?

Beşinden hangisi

En ucuzdan başlayarak listeyi inceleyin. İhtiyacınız olanı bulana kadar bellek sütununda aşağı doğru okuyun, sonra durun; üstündeki kartlar aynı işi daha hızlı yapıyor, ancak farklı bir işi yapamıyorlar.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
Card	Card memory	The card	Cheapest complete machine
RTX 3070	8 GB GDDR6	$139	$209.93
RTX 3070 Ti	8 GB GDDR6X	$149	$222.47
RTX 3080	10 GB GDDR6X	$159	$229.93
RTX 3080 Ti	12 GB GDDR6X	$199	$272.47
RTX 3090	24 GB GDDR6X	$239	$309.93

O masanın ortasındaki tuzak

RTX 3080 ekran kartımız, 8.704 CUDA çekirdeğine sahip orijinal 10 GB'lık karttır. NVIDIA daha sonra 8.960 çekirdeğe sahip 12 GB'lık bir revizyon piyasaya sürdü ve başka yerlerdeki birçok listede daha ucuz kartın yanında 12 GB rakamı belirtiliyor. On gigabayt, on iki gigabayt değildir: bu, on üç milyar parametreli bir modeli sekiz bit hassasiyetle tutmak ile tutmamak arasındaki farktır. Başka bir yerde okuduğunuz bir rakama göre boyutlandırma yapıyorsanız, bizim rakamlarımıza göre boyutlandırma yapın.

Dikkat edilmesi gereken diğer bir nokta ise 3080 Ti'dan 3090'a geçiş. Bu, kapasite sıralamasında en büyük sıçramayı sağlıyor — on iki gigabayttan yirmi dört gigabayta — ve beş karttan 24 GB'ı aşan tek kart bu. Eğer buna ihtiyacınız varsa, bu sayfadaki daha ucuz seçenekler işinizi görmeyecektir ve alternatifler tüm katalogda fiyatlandırılmış olarak mevcuttur.

NVIDIA'nın yayınladığı teknik özellikler.

İkinci nesil ışın izleme çekirdekleri, üçüncü nesil tensör çekirdekleri, her yerde PCIe Gen 4. Rakamlar, bu sayfanın kaynağında belirtilen NVIDIA'nın kendi GeForce karşılaştırma sayfalarından alınmıştır.

RTX 3090

Architecture

Ampere

Card memory

24 GB GDDR6X

CUDA cores

10,496

Memory bandwidth

936 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3080 Ti

Architecture

Ampere

Card memory

12 GB GDDR6X

CUDA cores

10,240

Memory bandwidth

912 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3080

Architecture

Ampere

Card memory

10 GB GDDR6X

CUDA cores

8,704

Memory bandwidth

760 GB/s

Board power

320 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3070 Ti

Architecture

Ampere

Card memory

8 GB GDDR6X

CUDA cores

6,144

Memory bandwidth

608 GB/s

Board power

290 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3070

Architecture

Ampere

Card memory

8 GB GDDR6

CUDA cores

5,888

Memory bandwidth

448 GB/s

Board power

220 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

Nelerde iyiler, nelerde iyi değiller?

Bu kartlar altı yaşında ve onları emekliye ayırmadık, çünkü gerçek işlerin büyük bir bölümünde uzlaşma değil, doğru satın alma seçeneği olmaya devam ediyorlar.

İyi olduğu alanlar: ucuz kapasite

RTX 3090, iki nesil sonraki RTX 4090 D ile aynı 24 GB belleğe sahip ve aylık maliyeti daha düşük. Kapasite sizin için önemliyse ve gerçek zamanlı işlem hızı belirleyici faktör değilse, eski kart daha iyi bir seçimdir.

Oyun sunucuları ve toplu işlem konularında başarılıdır.

Tüketiciye yönelik silikon, tüketici yazılımlarının yazıldığı ve test edildiği platformdur. Oyun sunucuları, toplu işleme, hobi amaçlı ince ayarlar, tekrar çalıştırılabilen çıkarım işlemleri – yanlış bir bitin felaket yerine yeniden deneme anlamına geldiği her şey – profesyonel raf fiyatının çok daha düşük bir kısmına burada çalışır.

Modern video işleme hatlarında yetersizdir.

Her kartta bir kodlayıcı ve bir kod çözücü bulunuyor ve beş kartın hiçbirinde AV1 kodlama özelliği yok; AV1 kodlama özelliği RTX 40 serisiyle birlikte geliyor. Eğer işlem hattınız AV1 ise, bu nesil bunu donanım olarak yapamıyor ve bunun yerine RTX 4090 D veya L40S kullanmanız gerekiyor.

Uzun süre gözetimsiz koşmakta kötüdür.

Hiçbirinde hata düzeltme belleği yok ve sertifikalı profesyonel sürücü de bulunmuyor. Haftalarca süren, kontrol noktası oluşturulmayan bir çalışma için veya yalnızca profesyonel kartlara lisanslı yazılımlar için, bunun yerine iş istasyonunuzun rafından bir kart alın.

Hangi makineye giriyorlar ve orada hangi bağlantıya ulaşıyorlar?

Her RTX 30 kartı bir PCIe Gen 4 parçasıdır. Bu kartları destekleyen dört platformdan üçü Gen 3, biri ise Gen 4'tür.

Intel Xeon E5-2600 v1/v2

RTX 3090, RTX 3080, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon E5-2600 v3/v4

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

Intel Xeon Silver / Gold

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

AMD EPYC

RTX 3080

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

Bu nesil için slot makinesi nadiren bir şey belirler: Kendi sahnesini veya kendi ağırlığını taşıyan bir kart, yüklendikten sonra neredeyse hiç önem kazanmaz ve bunlar, kimsenin devasa eğitim partileri için kullandığı kartlar değildir. Burada kaydedilmesinin nedeni, doğru olması ve her kart için yayınlıyor olmamızdır, fikrinizi değiştirmesi gerektiği için değil.

Aslında sığan: listenin en üstündeki 24 GB'lık kart.

Weights only, rounded up. A row counts as fitting when it leaves a fifth of the card’s 24 GB free for the KV cache, the activations and the runtime — which is head-room, not luxury.
Model	16-bit	8-bit	4-bit
7-8 billion parameters	16 GB — fits	8 GB — fits	5 GB — fits
13-14 billion parameters	28 GB — does not fit	14 GB — fits	8 GB — fits
30-34 billion parameters	68 GB — does not fit	34 GB — does not fit	19 GB — fits
70 billion parameters	140 GB — does not fit	70 GB — does not fit	38 GB — does not fit

Bu tabloyu, her basamakta bir adım aşağı inerek okuyun. 3080 Ti on iki gigabayt, 3080 on gigabayt, 3070 Ti ve 3070'in her biri sekiz gigabayt kapasiteye sahip; yani sekiz bit hassasiyette yedi ila sekiz milyar parametreli bir model, bu sayfanın alt kısmına denk geliyor ve daha büyük her şey için 3090 veya tamamen farklı bir raf gerekiyor.

Makinelerin maliyeti ne kadar, hangi makinelerle birlikte kullanılıyorlar?

Faturada kart bir satır, makine ise başka bir satır olarak yer alıyor. Aşağıdaki iki bölüm de sipariş kataloğunun tek bir okumasından elde edildiği için, fiyat ve yanındaki özellikler her zaman birbirine aittir.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
Card	The machine it goes in	The card	Complete, per month
RTX 3070	Intel Xeon E5-2600 v1/v2 Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0	$139	$209.93 Configure this build →
RTX 3070	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$139	$212.47 Configure this build →
RTX 3070 Ti	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$149	$222.47 Configure this build →
RTX 3070	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$139	$222.67 Configure this build →
RTX 3080	Intel Xeon E5-2600 v1/v2 Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0	$159	$229.93 Configure this build →
RTX 3080	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$159	$232.47 Configure this build →
RTX 3070 Ti	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$149	$232.67 Configure this build →
RTX 3080	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$159	$242.67 Configure this build →
RTX 3080 Ti	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$199	$272.47 Configure this build →
RTX 3080 Ti	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$199	$282.67 Configure this build →
RTX 3090	Intel Xeon E5-2600 v1/v2 Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0	$239	$309.93 Configure this build →
RTX 3090	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$239	$312.47 Configure this build →
RTX 3090	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$239	$322.67 Configure this build →
RTX 3080	AMD EPYC AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0	$159	$376.59 Configure this build →

Bant genişliği her iki yönde de sınırsızdır, çıkış ücreti yoktur, bir IPv4 adresi dahildir, sözleşme yoktur ve varsayılan süre bir aydır. Takabileceğimiz diğer tüm kartlar için aynı fiyatlandırma geçerlidir, tüm kataloğu inceleyin, fiyatlandırma şu şekildedir: . Bugün kullanıma hazır, rafa monte edilmiş makineler için /instant . Neden hala diğer herkesin emekli ettiği donanımı kiraladığımızı öğrenmek için /value .

İnsanların bu nesil hakkında gerçekten sorduğu sorular

RTX 3080 ekran kartınız 10 GB'lık mı yoksa 12 GB'lık mı?

8.704 CUDA çekirdeğine sahip 10 GB'lık kart, piyasaya sürülen ilk modeldi. 12 GB'lık revizyonda ise 8.960 çekirdek bulunuyor ve biz bunu kullanamıyoruz. Bu, iki gigabaytlık farktan daha önemli, çünkü sekiz bit hassasiyette on üç milyar parametreli bir model yaklaşık on dört gigabayt gerektiriyor ve bu da ikisinden de yeterli olmuyor; oysa daha küçük bir model her ikisinden de rahatlıkla yeterli oluyor.

2020 model bir kartı neden kiralayasınız ki?

Çünkü GPU ile yapılan işlerin çoğu yeni bir model eğitmekle ilgili değil. Zaten uygun olan bir şeye hizmet etmekle ilgili; video kodlama, kare oluşturma veya oyun sunucusu çalıştırma gibi. Ve bunların hepsi için doğru kart genellikle iki nesil öncesine ait ve çok daha uygun fiyatlı. RTX 3090, iki nesil daha yeni bir kartla aynı yirmi dört gigabayt belleğe sahip. Tüm mesele bu ve /value komutu bunun daha uzun versiyonunu sunuyor.

İki tanesini aynı makineye koyabilir miyim?

Bu, işaretleyeceğiniz bir kutu değil, size fiyat teklifi olarak sunduğumuz bir yapılandırma; çünkü sayı kasaya, kartın fiziksel genişliğine ve güç bütçesine bağlıdır. Sorduğunuzda, kasayı, sayıyı ve teslim süresini belirten bir yanıt alacaksınız. İki kartın iki ayrı bellek havuzu olduğunu unutmayın: bir 3090'a sığmayan bir model, kasıtlı olarak ikiye bölünmeden iki 3090'a da sığmaz.

Bu kart başka biriyle paylaşılıyor mu?

Hayır. Fiziksel makine başına bir kiracı ve kart doğrudan kendi işletim sisteminize aktarılıyor; hipervizör yok, bölümleme yok, zaman dilimleme yok. Kendi sürücünüzü ve CUDA sürümünüzü kurup sabitliyorsunuz ve alt kademede hiçbir şey yükseltilmiyor.

Ne kadar sürede alabilirim?

Kartın zaten takılı olup olmadığına, raflarımızda mevcut olup olmadığına veya satın alınması gerekip gerekmediğine bağlıdır ve ödeme yapmadan önce size hangisinin gerekli olduğu söylenir. /instant , şu anda raflarda hazır bulunan makineleri listeler.