GPU sunucusu · RTX 30 serisi
RTX 3080 dedicated sunucu ayrıca dört RTX 30 GPU daha, 8 GB'tan 24 GB'a
Primcast'den bir RTX 3080 dedicated sunucu, NVIDIA GeForce RTX 3080'i kendi işletim sisteminize teslim eden komple bir fiziksel makinedir: 10 GB GDDR6X ve 8,704 CUDA çekirdeği, sanal makine yok, komşu yok. İşiniz daha fazla bellek gerektiriyorsa sunucularımız bir RTX 3080 Ti veya 24 GB RTX 3090 da alır. Aylık ödersiniz, sözleşme yok.
- RTX 30708 GB GDDR65,888
- RTX 3070 Ti8 GB GDDR6X6,144
- RTX 308010 GB GDDR6X8,704
- RTX 3080 Ti12 GB GDDR6X10,240
- RTX 309024 GB GDDR6X10,496
Beşi de: PCIe Gen 4, bir video kodlayıcı, ECC bellek yok.
01Birini seçin
Hangi RTX 30 serisi sunucu işinize uyar
Bu tablonun en üstünden başlayın ve yüklediğiniz şey için yeterli belleğe sahip ilk GPU'da durun. Aşağıdaki GPU'lar aynı işi daha hızlı yapar. Ekledikleri tek şey daha büyük bir model veya sahne için alandır.
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| RTX 3070 | 8 GB GDDR6 | $139 | $209.93 |
| RTX 3070 Ti | 8 GB GDDR6X | $149 | $222.47 |
| RTX 3080 | 10 GB GDDR6X | $159 | $229.93 |
| RTX 3080 Ti | 12 GB GDDR6X | $199 | $272.47 |
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
RTX 3080'imiz 10 GB modeldir
NVIDIA iki RTX 3080 üretti. Bizimki orijinali, 10 GB GDDR6X ve 8,704 CUDA çekirdeğiyle. Sonraki sürümde 12 GB ve 8.960 çekirdek var ve pek çok ilan daha ucuz GPU için 12 GB yazar. İşinizi 10 GB'a göre ölçün. 13 milyar parametreli bir model 8-bit'te yaklaşık 14 GB ister, yani iki sürüme de sığmaz.
RTX 3090 büyük adımdır
RTX 3080 Ti'dan RTX 3090'a geçmek belleği ikiye katlar, 12 GB'tan 24 GB GDDR6X'a. 24 GB'a sahip tek RTX 30 GPU'sudur. Modeliniz veya sahneniz bu kadarını gerektiriyorsa burada daha ucuz hiçbir şey onu çalıştıramaz. 24 GB'tan fazlası için taktığımız her GPU'ya fiyatlarıyla bakın.
02Ne içindir
İnsanlar RTX 3080 GPU sunucusunda ne çalıştırır
Bu GPU'lar 2020'de çıktı ve hâlâ kiralıyoruz, çünkü pek çok gerçek iş daha yenisini gerektirmez. Bu dört iş için eski bir GPU her ay daha ucuza halleder.
01Yapay zekâ
Zaten sığan bir modeli çalıştırmak
7B'lik bir modeli sunmak, istemleri test etmek veya küçük bir şeyi ince ayarlamak. 7-8B'lik bir model beşinin herhangi birinde 4-bit'te yüklenir, RTX 3080'de 8-bit'te ise çok az pay kalır. RTX 3090, 13B'lik bir modeli 8-bit'te bağlam için yer bırakarak tutar.
02Oyunlar
Gerçek GPU gerektiren oyun sunucuları
Oyunlar bunlar gibi GeForce GPU'larda yazılır ve test edilir. Oyun sunucunuz görüntü oluşturuyor veya yayın yapıyorsa RTX 30 serisi, oyuncularınızın evde sahip olduğu GeForce sürücülerinin aynısını çalıştırır.
03Render
Yeniden başlatabileceğiniz toplu renderlar
Blender, Unreal veya kendi hattınız, kare kare. Bir iş başarısız olursa yeniden çalıştırırsınız, bu yüzden hata düzelten bellek için ödeme yapmanız gerekmez. Parayı onun yerine CUDA çekirdeklerine harcayın.
04Video
H.264 ve HEVC kodlama
Her GPU'da H.264 ve HEVC için bir donanım kodlayıcı ve bir kod çözücü bulunur. Bu, işlemciyi yüklemeden canlı kanalları veya bir yükleme kuyruğunu karşılar. AV1 veya tek makinede çok sayıda kanal için canlı video kod dönüştürme sunucularına bakın.
03Sipariş vermeden önce
RTX 30 serisinin yapamadığı iki şey
İkisi de NVIDIA'nın bu GPU'lar için kendi teknik özelliklerindedir. Sipariş vermeden önce işinize göre kontrol edin.
AV1 kodlama yok
Beşi de donanımda AV1 kodlayamaz. NVIDIA bunu RTX 40 serisiyle ekledi. Hattınız AV1 gönderiyorsa bir RTX 4090 D sunucusu veya üç AV1 kodlayıcısı olan bir L40S sunucusu seçin.
ECC bellek yok, profesyonel sürücü yok
Ters dönen bir bit fark edilmez. Bu, kontrol edebileceğiniz veya tekrarlayabileceğiniz işler için sorun değildir. Kontrol noktası olmadan haftalarca süren bir eğitim çalışması veya yalnızca profesyonel GPU'larda lisanslanan yazılımlar için tam GPU listesindeki iş istasyonu serisinden birini seçin.
04Teknik özellik
RTX 3090, 3080 ve 3070 teknik özellikleri
Ampere mimarisi, ikinci nesil RT çekirdekleri, üçüncü nesil Tensor çekirdekleri ve beşinde de PCIe Gen 4. Rakamlar NVIDIA'nın GeForce karşılaştırma sayfalarındandır.
RTX 3090
Ampere
24 GB GDDR6X
10,496
936 GB/s
350 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3080 Ti
Ampere
12 GB GDDR6X
10,240
912 GB/s
350 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3080
Ampere
10 GB GDDR6X
8,704
760 GB/s
320 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3070 Ti
Ampere
8 GB GDDR6X
6,144
608 GB/s
290 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3070
Ampere
8 GB GDDR6
5,888
448 GB/s
220 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
05Model boyutlandırma
Modeliniz RTX 3080 veya RTX 3090'a sığar mı?
RTX 3080'in 10 GB'ında 7-8B'lik bir model 4-bit'te sığar ve 8-bit'te zorlanır. RTX 3090'ın 24 GB'ında 13B'lik bir model 8-bit'te sığar ve 30B'lik bir model 4-bit'te yüklenir, bağlam için çok az yer kalır.
RTX 3080, 10 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — does not fit | 8 GB — tight | 5 GB — fits |
| 13-14 billion parameters | 28 GB — does not fit | 14 GB — does not fit | 8 GB — tight |
| 30-34 billion parameters | 68 GB — does not fit | 34 GB — does not fit | 19 GB — does not fit |
| 70 billion parameters | 140 GB — does not fit | 70 GB — does not fit | 38 GB — does not fit |
RTX 3090, 24 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — fits | 8 GB — fits | 5 GB — fits |
| 13-14 billion parameters | 28 GB — does not fit | 14 GB — fits | 8 GB — fits |
| 30-34 billion parameters | 68 GB — does not fit | 34 GB — does not fit | 19 GB — tight |
| 70 billion parameters | 140 GB — does not fit | 70 GB — does not fit | 38 GB — does not fit |
RTX 3080 Ti, 12 GB ile ikisinin arasında yer alır. RTX 3070 ve 3070 Ti'da 8 GB vardır; bu, 7-8B'lik bir modeli 4-bit'te tutar, 8-bit'te tutmaz. Modelden mi başlıyorsunuz? LLM sunucu boyutlandırma, bir modelin ne kadar GPU belleği gerektirdiğini ve hangi GPU'nun bunu karşıladığını hesaplar.
06Çevresindeki sunucu
Her RTX 30 GPU hangi sunucuya girer
Her RTX 30 GPU bir PCIe Gen 4 parçasıdır. Gen 4 yuvası ona tam bağlantıyı verir. Gen 3 yuvası yarısını verir ve aşağıdaki liste hangi sunucuda hangisinin olduğunu gösterir.
Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2600 v3/v4
Intel Xeon Silver / Gold
AMD EPYC
Çoğu RTX 30 işi için yuva pek önemli değildir. Bir model veya sahne GPU'ya yüklendikten sonra yuvadan çok az şey geçer. Her adımda sunucudan yeni gruplar akıtan eğitim için önemlidir.
07Karşılaştırın
RTX 3090, RTX 4090 D ve RTX 5090'a karşı
RTX 3090, bir nesil sonraki RTX 4090 D ile aynı 24 GB'a sahiptir ve iki nesil sonraki RTX 5090'da 32 GB vardır. Bu tablo, yeni GPU'ların her birinin girdiği en ucuz komple makineyle birlikte maliyetini gösterir.
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
| RTX 4090D | 24 GB GDDR6X | $299 | $372.47 |
| RTX 5090 | 32 GB GDDR7 | $399 | $472.47 |
İş başına hız veya AV1 kodlama gerektiğinde yeni GPU'yu seçin. Ödediğiniz şey bellek olduğunda RTX 3090 genellikle işi görür. Neden hâlâ eski donanım kiralıyoruz düşünceyi açıklar.
08Fiyatlar
RTX 3080 dedicated sunucu fiyatları ve diğer dördü
GPU faturanızda bir satırdır, sunucu da başka bir satırdır. Her satır komple makineyi, GPU'nun eklediğini ve aylık toplamı gösterir; ödemenin kullandığı katalogdan okunur.
| Card | The machine it goes in | The card | Complete, per month |
|---|---|---|---|
| RTX 3070 | Intel Xeon E5-2600 v1/v2 | $139 | $209.93 Configure this build → |
| RTX 3070 | Intel Xeon E5-2600 v3/v4 | $139 | $212.47 Configure this build → |
| RTX 3070 Ti | Intel Xeon E5-2600 v3/v4 | $149 | $222.47 Configure this build → |
| RTX 3070 | Intel Xeon Silver / Gold | $139 | $222.67 Configure this build → |
| RTX 3080 | Intel Xeon E5-2600 v1/v2 | $159 | $229.93 Configure this build → |
| RTX 3080 | Intel Xeon E5-2600 v3/v4 | $159 | $232.47 Configure this build → |
| RTX 3070 Ti | Intel Xeon Silver / Gold | $149 | $232.67 Configure this build → |
| RTX 3080 | Intel Xeon Silver / Gold | $159 | $242.67 Configure this build → |
| RTX 3080 Ti | Intel Xeon E5-2600 v3/v4 | $199 | $272.47 Configure this build → |
| RTX 3080 Ti | Intel Xeon Silver / Gold | $199 | $282.67 Configure this build → |
| RTX 3090 | Intel Xeon E5-2600 v1/v2 | $239 | $309.93 Configure this build → |
| RTX 3090 | Intel Xeon E5-2600 v3/v4 | $239 | $312.47 Configure this build → |
| RTX 3090 | Intel Xeon Silver / Gold | $239 | $322.67 Configure this build → |
| RTX 3080 | AMD EPYC | $159 | $376.59 Configure this build → |
- PortYalnızca makinenize hizmet veren bir portta, her iki yönde limitsiz trafik.
- AdresBir IPv4 adresi dahildir.
- SüreVarsayılan olarak aylık, sözleşme yok.
- YardımSohbet asistanımız saniyeler içinde yanıt verir ve hesabınızı ve sunucunuzu kontrol edebilir. İstediğiniz zaman bir kişi isteyin.
Bugün bir makine mi gerekiyor? Anında sunucular halihazırda rafa takılı olanları listeler. Taktığımız her GPU'yu karşılaştırmak için GPU sunucuları, tümü fiyatlı sayfasına bakın.
Pazar yeri
Sahibinden bir RTX 30 serisi GPU kiralayın
Sahipler RTX 30 serisi makinelerini pazar yerimizde listeler ve kendi aylık fiyatlarını belirler. Bir ilan kardeş şirketimiz Server Room üzerinden geliyorsa onu serverroom.net'te kiralarsınız.
09Soru
RTX 3080 sunucusu sipariş etmeden önce sorulan sorular
01RTX 3080'iniz 10 GB mı yoksa 12 GB sürümü mü?
10 GB sürümüdür, 8,704 CUDA çekirdekli orijinal RTX 3080. 12 GB sürümünde 8.960 çekirdek bulunur ve biz onu takmıyoruz. 12 GB gerekiyorsa RTX 3080 Ti'de bu kapasite mevcuttur.
02RTX 3080 mi yoksa RTX 3090 sunucusu mu?
Modeliniz veya sahneniz 10 GB'a sığıyorsa RTX 3080'i seçin. 10 ile 12 GB arasında ise RTX 3080 Ti'yi alın. 12 GB'tan fazlası gerekiyorsa RTX 3090'ı seçin: 24 GB GDDR6X ile tüm RTX 30 GPU'ları arasında en fazla belleğe ve daha çok CUDA çekirdeğine sahiptir. Her ikisi de yukarıdaki fiyat tablosunda, komple makineyle birlikte yer alır.
04Bir sunucuya iki RTX 30 GPU takabilir miyim?
Evet, ancak bu ödeme seçeneği değil, teklif üzerine yaptığımız bir yapılandırmadır; çünkü kasaya, GPU genişliğine ve güç bütçesine bağlıdır. Sohbetten sorun, kasa modelini ve teslim süresini söyleyelim. İki GPU iki ayrı bellek havuzu demektir: tek RTX 3090'a sığmayan bir modelin yazılımınız tarafından ikisi arasında bölünmesi gerekir.
05RTX 3080 sunucusuna ne kadar sürede sahip olabilirim?
GPU'nun nerede olduğuna bağlıdır ve ödeme yapmadan önce size bildirilir. Elimizde bulunan bir GPU dört ila yirmi dört saat içinde takılır. Satın almamız gereken bir GPU ise beş ila on iş günü sürer. Bugün başlamak için anında sunucular sayfası halihazırda rafa yerleştirilmiş makineleri listeler.
06GPU arızalanırsa ne olur?
Değiştiririz. Sözleşme, telefon veya canlı sohbetle bildirdiğiniz andan itibaren bize dört saat verir; bu süre aşılırsa yayımlanmış bir tarifeye göre hizmet kredisi alırsınız.
07Bir sorun çıkarsa bana kim yardımcı olur?
Herhangi bir sayfada sohbeti açın. Asistanımız saniyeler içinde yanıt verir, hesabınıza ve sunucunuza bakabilir ve istediğinizde sizi ekibimizden birine aktarır. Makine üzerinde tüm süre boyunca tam kök erişiminiz korunur.
Projeniz için bir RTX 3080 sunucusu edinin
Sunucuyu seçin, RTX 3080'i veya diğer dört modelden herhangi birini ekleyin ve ödemeden önce aylık toplamı görün. Sözleşme yok ve port limitsizdir.