GPU sunucuları · RTX 40 serisi

RTX 4090 özel sunucu ve içindeki GPU RTX 4090D

RTX 4090 özel sunucumuz, NVIDIA'nın Çin için ürettiği sürüm olan RTX 4090D'yi taşır: aynı 24 GB GDDR6X ve aynı bellek hızı, yaklaşık 11% daha az CUDA çekirdeğiyle. Makinenin tamamını aylık kiralarsınız, GPU'nun tamamı kendi sisteminize aktarılır ve port limitsizdir.

Her yapılandırmanın fiyatını görün D'nin değiştirdikleri
ad102 / 24 GBYan yana
RTX 4090 ve RTX 4090D teknik özellikleri karşılaştırıldı. Ok işaretli satırlar farklı olanlardır.
DeğerRTX 4090RTX 4090D
CUDA çekirdekleri16,38414,592
Tensor çekirdekleri512456
Bellek24 GB GDDR6X24 GB GDDR6X
Bant genişliği1,008 GB/s1,008 GB/s
Boost saati2.52 GHz2.52 GHz
AV1 kodlayıcılar22
Kart gücü450 W425 W
Komple makine, aylık, başlangıç$372.47

Boşta duran bir RTX 40 serisi GPU'nuz mu var?

Makineyi Primcast pazarına koyun, kendi aylık fiyatınızı belirleyin ve işlem gücüne ihtiyaç duyanlara kiralayın.

Pazarda listeleyin

01RTX 4090D ve RTX 4090 karşılaştırması

RTX 4090D'deki D harfi işiniz için ne anlama geliyor

2023 sonlarında bir ABD ihracat kuralı, RTX 4090'ı Çin'de satış sınırının üzerine çıkardı. NVIDIA buna 28 Aralık 2023'te piyasaya sürülen RTX 4090D ile yanıt verdi; tam GPU'da 16,384 CUDA çekirdeği bulunurken bu modelde 14,592 çekirdek var.

Aynı kalanlar

Bellek dokunulmamış: 384 bit veri yolunda 1,008 GB/s hızında 24 GB GDDR6X. 2.52 GHz boost saati ve AV1 kodlayıcı çifti de öyle. Bellek boyutu veya bellek hızıyla sınırlı olan her şey tam bir 4090'daki gibi davranır: 24 GB'a sığan bir model yine sığar ve aynı hızda okur.

Sürücüler ve yazılımlar farkı fark etmez. Bu bir Ada Lovelace GeForce GPU'sudur, normal GeForce sürücüsünü kullanır ve 4090'da çalışan her CUDA sürümü, framework ve render motoru bunda da çalışır.

Vazgeçtikleriniz

Shader ve tensor çekirdeklerinin yaklaşık 11%'i. NVIDIA, saat hızları ve bellek yükün büyük kısmını taşıdığı için oyunlarda ve yaratıcı uygulamalarda gerçek dünya farkını yaklaşık 5% olarak belirtti. Uzun bir render veya eğitim çalışması gibi her shader'ı meşgul eden işlerde, tam bir 4090'dan onda bire kadar daha az performans bekleyin.

Bunu sipariş vermeden önce söylüyoruz; “RTX 4090” yazıp sonradan öğrenmenizi beklemiyoruz. İşiniz gerçekten tam GPU gerektiriyorsa sohbetten sorun, temin edip edemeyeceğimizi ve ne kadar süreceğini söyleyelim.

02Ne işe yarar

Bir 4090 GPU sunucusu neyi iyi yapar ve nerede durur

Bu, raftaki bir tüketici GPU'sudur. Fiyatı düşük tutan budur ve sınırları da buradan gelir.

01Dolar başına işlem gücü

Paranın karşılığında çok işlem gücü

GeForce silikonu, bu kadar işlem gücünü kiralamanın en ucuz yollarından biridir. Kötü bir sonucun felaket değil yeniden çalıştırma anlamına geldiği işlere uygundur: toplu render, oyun sunucuları, küçük modellerin ince ayarı, tekrarlayabileceğiniz çıkarım.

02Video

Video kodlar, hızlandırıcılar kodlamaz

AV1 destekli iki donanım kodlayıcı ve bir kod çözücü ile tüm gün transcode yapabilir. Kataloğumuzun üst sıralarındaki A100 ve H100'de hiç video kodlayıcı yoktur. İçinde video olan her iş için doğru seçim bu GPU'dur, ödün değil. Canlı kanal çalışmaları için transcoding sunucularımıza bakın.

03Bellek

Sınır 24 GB

13 milyar parametreli bir model 8 bitte sığar, aynı model 16 bitte sığmaz ve 70 milyar parametreli bir model hiçbir hassasiyette sığmaz. Aşağıdaki boyutlandırma tablosu bu konuda kesindir.

04Uzun çalışmalar

Hata düzelten bellek yok

ECC ve sertifikalı profesyonel sürücü yoktur. Kontrol noktası olmadan haftalarca süren bir çalışma veya lisansı profesyonel GPU isteyen bir yazılım için 48 GB ve ECC'li L40S'e bakın.

03Teknik özellikler

NVIDIA RTX 4090D teknik özellikleri

Taktiğimiz GPU'nun değerleri, NVIDIA'nın RTX 40 serisi belgelerinden ve NVIDIA'nın kodlama ve kod çözme destek matrisinden alınmıştır.

RTX 4090D

Architecture

Ada Lovelace

GPU memory

24 GB GDDR6X

CUDA cores

14,592

Memory bandwidth

1,008 GB/s

Board power

425 W

GPU interface

PCIe Gen 4 x16

Hardware video encoders

2 NVENC, 1 NVDEC, AV1

Error-correcting memory

No

04Seçim

RTX 4090 sunucusu mu, RTX 3090 mı yoksa RTX 5090 mı?

Üçü de bugün rafımızda ve aynı makinelere takılıyor. Yani soru hangisinin en yeni olduğu değil, işiniz için farka değip değmediğidir.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
GPUGPU memoryThe GPUCheapest complete machine
RTX 309024 GB GDDR6X$239$309.93
RTX 4090D24 GB GDDR6X$299$372.47
RTX 509032 GB GDDR7$399$472.47

RTX 3090 aynı 24 GB'a sahiptir ve bunu elde etmenin daha eski, daha yavaş yoludur. İhtiyacınız bellek boyutuysa ve hız daha az önemliyse önce RTX 30 serisi sunucular sayfasını okuyun. RTX 5090 ise 32 GB GDDR7'ye çıkar. Gen 3 ve Gen 4 platformlara takılan bir PCIe Gen 5 GPU'sudur; burada yeninin daha hızlı anlamına geldiğini varsaymadan önce sonraki bölümü ve RTX 5090 sunucuları sayfasını okuyun.

05Makine

RTX 4090D hangi makineye takılıyor ve PCIe bağlantısı

4090D bir PCIe Gen 4 GPU'sudur. Aşağıdaki her platform, aldığı yuvayı ve bunun pratikte ne anlama geldiğini gösterir.

Intel Xeon E5-2600 v3/v4

RTX 4090D

Slot: PCIe 3.0, 40 lanes per socket. GPU: PCIe Gen 4.

About half the bus the GPU was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the GPU.

Intel Xeon Silver / Gold

RTX 4090D

Slot: PCIe 3.0, 48 lanes per socket. GPU: PCIe Gen 4.

About half the bus the GPU was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the GPU.

AMD EPYC

RTX 4090D

Slot: PCIe 4.0, 128 lanes per socket. GPU: PCIe Gen 4.

Full width. The slot is at least the generation the GPU was designed for, so nothing is left on the table.

Bir müşterinin eski bir platformda daha yeni bir GPU'ya geçip eskisinden daha yavaş render aldığını gördük. Sahne veya ağırlıklar GPU belleğine oturduğunda yuva sessizleşir ve nesli önemini yitirir. İşiniz her adımda veriyi yuvadan geçiriyorsa önem kazanır. Ne çalıştıracağınızı söyleyin, sizi doğru makineye yönlendirelim.

06Boyutlandırma

24 GB GPU belleğine ne sığar

Yalnızca ağırlıklar. Üzerine bağlam ve çalışma zamanı için yer bırakın.

Weights only, rounded up. Fits means the GPU’s 24 GB holds the weights 1.5× over, room for the KV cache, the activations and the runtime, and the only verdict the LLM sizing page recommends a GPU on. Tight clears 1.25× only: the model loads, and a long context or a second user runs the GPU out of memory.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB, fits8 GB, fits5 GB, fits
13-14 billion parameters28 GB, does not fit14 GB, fits8 GB, fits
30-34 billion parameters68 GB, does not fit34 GB, does not fit19 GB, tight
70 billion parameters140 GB, does not fit70 GB, does not fit38 GB, does not fit

Diğer sınır güçtür. Tek bir 4090D 425 W'a kadar çeker; bu yüzden bir makinede birden fazlası, işaretleyeceğiniz bir kutu değil, fiyat teklifi verdiğimiz bir yapılandırmadır. Soruyu diğer yönden, modelinizden ihtiyaç duyduğu GPU'ya doğru çözmek için LLM bellek boyutlandırma sayfasını kullanın.

07Fiyatlar

RTX 4090D sunucu fiyatları, makineyle birlikte

GPU faturanızda bir satır, sunucu başka bir satırdır. İkisi de ödeme sayfasının kullandığı sipariş kataloğundan gelir; bu yüzden aşağıdaki her fiyat yanındaki makineye aittir.

Read from the order catalogue when this page was served. The GPU is a separate line; the machine does not get dearer because of what is plugged into it.
GPUThe machine it goes inThe GPUComplete, per month
RTX 4090DIntel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0		$299$372.47
Configure this build →
RTX 4090DIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0		$299$382.67
Configure this build →
RTX 4090DAMD EPYC
AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0		$299$516.59
Configure this build →

Port her iki yönde limitsizdir ve çıkış ücreti yoktur. Sunucuyla birlikte bir IPv4 adresi gelir, sözleşme yoktur ve her seferinde bir aylık ödersiniz. Taktiğimiz her GPU'yu aynı şekilde fiyatlandırılmış olarak karşılaştırmak için fiyatlarıyla tüm GPU sunucularına bakın.

08Teslimat ve yardım

Ne kadar sürede elinize geçer ve kim yanıtlar

Sipariş verdiğinizde GPU'nun nerede olduğuna bağlıdır. Ödemeden önce hangisinin geçerli olduğu size söylenir.

  1. Yaklaşık 30 dakika

    Zaten rafta

    GPU takılı bir makine rafta duruyor. Sipariş onaylandıktan yaklaşık 30 dakika sonra sizindir.

  2. 4 ila 24 saat

    Rafımızda

    Elimizde bulunan bir GPU'yu seçtiğiniz sunucuya takarız.

  3. 5 ila 10 iş günü

    Siparişle alınır

    GPU'yu sizin için bir distribütörden sipariş eder, ardından sunucunuza takarız.

Sipariş öncesi veya sonrası sorularınız sohbetimize gider. Bir yapay zeka asistanı saniyeler içinde yanıtlar ve hesabınıza ve sunucunuza bakabilir; istediğiniz her an ekibimizden bir kişi katılır. Şu anda rafta ve hazır makineler anında sunucular sayfasındadır.

09Soru

RTX 4090 sunucu kiralama hakkında sorular

01RTX 4090D, RTX 4090 ile aynı mı?

Tam olarak değil. Aynı AD102 çipi, aynı 24 GB GDDR6X, aynı 1.008 GB/sn ve aynı boost saatiyle gelir; ancak 16.384 yerine 14.592 CUDA çekirdeği bulunur. NVIDIA, tam 4090'ı kapsayan bir ABD ihracat kuralının ardından bu modeli Çin için üretti. Gerçek bir NVIDIA GPU'sudur, yeniden etiketlenmiş bir ürün değildir.

02RTX 4090D ne kadar daha yavaş?

NVIDIA, oyunlarda ve yaratıcı uygulamalarda farkı yaklaşık %5 olarak belirtiyor. Her gölgelendiriciyi meşgul eden iş yüklerinde fark, çekirdek sayısındaki %11'lik farka kadar çıkabilir. Bellek boyutu veya bellek hızıyla sınırlı her şey, tam 4090 ile aynı hızda çalışır.

03Bunun yerine tam RTX 4090 alabilir miyim?

Bu sayfadan alamazsınız. Takığımız model 4090D'dir ve bunu baştan açıkça belirtiyoruz. İşiniz gerçekten ek gölgelendiricilere ihtiyaç duyuyorsa, sohbet üzerinden ne çalıştıracağınızı bize söyleyin; tam 4090 tedarik edip edemeyeceğimizi ve ne kadar süreceğini size bildirelim.

044090D; CUDA, PyTorch ve normal sürücülerle çalışır mı?

Evet. Ada Lovelace GeForce GPU olarak tanınır ve standart GeForce sürücüsünü kullanır. 4090 üzerinde çalışan her CUDA sürümü, framework derlemesi ve render motoru bu kartta da çalışır. Fark mimaride değil, çekirdek sayısındadır.

05GPU başka biriyle paylaşılıyor mu?

Hayır. Başka kimsenin kullanmadığı bir makinede GPU'nun tamamını alırsınız ve doğrudan kendi işletim sisteminize aktarılır. Hipervizör, vGPU bölme veya zaman paylaşımı yoktur. Kendi sürücünüzü ve CUDA sürümünüzü kurup sabitlersiniz; arka planda hiçbir şey kendiliğinden güncellenmez.

0624 GB için RTX 4090D mi yoksa RTX 3090 mı kiralamalıyım?

Yalnızca bellek boyutuna ihtiyacınız varsa, RTX 3090 çoğu zaman daha iyi bir seçimdir: aynı 24 GB, daha eski ve karşılaştırma tablosunda görüldüğü gibi genellikle aylık olarak daha ucuz. 4090D belirgin şekilde daha hızlıdır ve 3090'da bulunmayan AV1 kodlama desteği ekler. Çalışmalarınız aralıksız devam ediyorsa veya videoyla uğraşıyorsanız onu seçin.

07Bir sunucuya iki adet RTX 4090D GPU takabilir miyim?

Evet, ancak bu bir ödeme seçeneği değil, teklif üzerine yapılan bir yapılandırmadır. Her biri 425 W'a kadar güç çeker ve NVLink bulunmadığından ikisi, iki ayrı 24 GB havuzu olarak çalışır. Ne çalıştırmayı planladığınızı bize söyleyin, size makineyi önerelim veya çoklu GPU sunucularına bakın.

08RTX 4090 dedicated sunucuya ne kadar sürede sahip olabilirim?

Onaydan sonra, rafta GPU takılı bir makine varsa yaklaşık 30 dakika; rafta bekleyen bir kartımız varsa 4 ila 24 saat; satın almamız gerekirse 5 ila 10 iş günü sürer. Ödeme yapmadan önce hangi durumun geçerli olduğu size bildirilir. Raftaki makineler anında sunucular sayfasında listelenir.

RTX 4090D yapılandırmanızı seçin ve tam fiyatı görün

Her yapılandırma yukarıda sunucusuyla birlikte fiyatlandırılmıştır. Birini seçin, yapılandırın; sipariş, ödemeden önce aylık toplamınızı gösterir.

Yapılandırma seçin Tüm GPU'ları karşılaştırın