GPU sunucuları · NVIDIA Blackwell
RTX PRO 6000 özel sunucu tam 96 GB GPU ile
Bizden alacağınız bir RTX PRO 6000 özel sunucu, NVIDIA RTX PRO 6000 Blackwell'i doğrudan kendi işletim sisteminize aktarılmış tek bir makinedir: ECC destekli 96 GB GDDR7; A100 veya H100'deki 80 GB değerinden daha fazla. Aylık kiralarsınız, başka kimse kullanmaz ve port ölçümsüzdür; böylece büyük modeller ve video ek ücret olmadan içeri ve dışarı taşınır.
- CUDA çekirdekleri
- 24.064
- Bellek hızı
- 1.792 GB/sn
- Video kodlayıcılar
- 4 × AV1
- Kart gücü
- 600 W
Beşinci nesil Tensor çekirdekleri. Dördüncü nesil RT çekirdekleri.
Kullanılmayan bir RTX PRO 6000'iniz mi var?
Makinenizi Primcast pazar yerinde listeleyin ve işlem gücüne ihtiyaç duyan kişilerden aylık kira kazanın.
00Pazar yeri
Ya da sahibinden bir RTX PRO 6000 kiralayın
Sahipler makinelerini pazar yerimizde listeler ve aylık fiyatı kendileri belirler. Kardeş şirketimiz Server Room tarafından tutulan bir ilan burada değil, serverroom.net üzerinden kiralanır.
01Ne işe yarar
Modeller, render ve video için 96 GB'lık bir GPU sunucusu
RTX PRO 6000'i, iş tek bir GPU üzerinde çok fazla bellek gerektirdiğinde ve aynı zamanda çizim ya da kodlama yapılması gerektiğinde kiralarsınız. Pratikte bu şöyle görünür.
01Kapasite
Tek GPU üzerinde büyük bir model
70 milyar parametreli bir model, bağlamı için alan kalacak şekilde 4-bit olarak sığar; 30 milyar parametreli bir model ise 8-bit olarak sığar. Her şey tek bir adres alanında yer alır, böylece parçalamayı ve ikinci makineyi atlarsınız.
02Video
Üzerinde dört AV1 kodlayıcı
Dört NVENC ve dört NVDEC motoru, hepsi AV1 destekli. Birçok canlı kanalı donanımda dönüştürebilir ve işlemciyi boşta tutabilirsiniz. A100 ve H100'de hiç video kodlayıcı yoktur.
03Render
Büyük sahneler için alanla ışın izleme
Dördüncü nesil RT çekirdekleri render yapar ve 96 GB, 48 GB'lık bir GPU'yu taşıracak sahneleri ve dokuları tutar. Aynı kart üzerinde render alabilir, kodlama yapabilir ve model çalıştırabilirsiniz.
04Tek kiracı
Kendi sisteminizde tam GPU
vGPU profili yok, zaman paylaşımı yok, makinede başka müşteri yok. Bu GPU için bazı bulut teklifleri paylaşımlı bir ana makine üzerindeki sanal makinedir; bu yüzden fiyatları karşılaştırmadan önce elmayla elmayı karşılaştırın.
02Sipariş vermeden önce
H100'den daha fazla bellek. İşte vazgeçtikleriniz
RTX PRO 6000, taktığımız veri merkezi hızlandırıcılarından daha fazla bellek tutar. Onu onlardan ayıran iki şey vardır ve bunlardan biri sizin için kararı verebilir.
NVLink yok
Bu GPU'da NVLink köprüsü yoktur. Bir makinedeki iki tanesi, tek bir 192 GB'lık havuz değil, PCIe yuvası üzerinden konuşan iki ayrı 96 GB'lık havuzdur. Modelinizin tek bir adres alanında 96 GB'tan fazlasına ihtiyacı varsa, NVLink üzerinden havuzlayan A100 ve H100'e bakın.
GDDR7, yığılmış HBM değil
GDDR7 hızlıdır, 1.792 GB/sn; bu A100 40 GB'tan fazla ve L40S'in iki katıdır. A100 80 GB yine de 1.935 GB/sn ile biraz daha hızlı okur. Büyük bir yığın boyutunda birçok kullanıcıya hizmet verirken hızı okuma hızı belirler; bu yüzden hedefiniz verimse o sütunu kontrol edin.
Sorunuz “model tek bir GPU'ya sığar mı” ise, RTX PRO 6000 bunu en geniş alanla yanıtlar. “Yüzlerce kullanıcı için saniyede kaç token” ise, bir hızlandırıcıya bakmaya değer olabilir. Karşılaştırma tablosu belleği ve aylık maliyeti yan yana koyar.
03Teknik özellikler
RTX PRO 6000 Blackwell özellikleri: GDDR7, Tensor ve RT çekirdekleri
Rakamlar NVIDIA’nın Workstation Edition ürün sayfasından alınmıştır. Max-Q Edition, 300 W güçte aynı 96 GB ile aynı çiptir.
RTX PRO 6000 Blackwell 96GB
Blackwell
96 GB GDDR7 ECC
24,064
1,792 GB/s
600 W
PCIe Gen 5 x16
4 NVENC, 4 NVDEC, AV1
Yes
- 125 TFLOPS FP32
- 380 TFLOPS RT
- FP4 destekli Tensor çekirdekleri
- MIG, 4 örneğe kadar
04Seçim
RTX PRO 6000 ile H100, A100 ve RTX 6000 Ada karşılaştırması
Taktığımız büyük bellekli GPU'lar, bellek ve aylık maliyet yan yana. Bu rafta bellek ve fiyat birlikte yükselmez ve onu okumanın nedeni de budur.
57 GPU models in the catalogue today · none holds more than 96 GB
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| A40 | 48 GB GDDR6 | $499 | $572.47 |
| RTX 6000 ADA | 48 GB GDDR6 ECC | $625 | $698.47 |
| A100 80GB | 80 GB HBM2e | $899 | $972.47 |
| RTX PRO 6000 Blackwell 96GB | 96 GB GDDR7 ECC | $1,299 | $1,382.67 |
| H100 80GB | 80 GB HBM2e | $1,599 | $1,682.67 |
RTX 6000 Ada, 48 GB GDDR6 ile önceki profesyonel GPU'dur. RTX PRO 6000 bunu daha yeni silikon üzerinde ikiye katlar. İşiniz için 48 GB yeterliyse, Ada daha ucuz bir giriş yoludur. Taktığımız her GPU için, aynı şekilde fiyatlandırılmış olarak fiyatlarıyla tüm GPU sunucularına bakın.
05Makine
Hangi sunucuya girer ve aldığı PCIe bağlantısı
RTX PRO 6000 bir PCIe Gen 5 GPU'sudur. Aşağıdaki her makine, yuvasının ona verdiği bağlantıyı gösterir; böylece seçmeden önce ne alacağınızı görebilirsiniz.
Intel Xeon Silver / Gold
AMD EPYC
Ağırlıklar GPU'ya yüklendikten sonra yuva çoğunlukla boşta kalır; bu çoğu çıkarımı, çoğu render'ı ve tüm kod dönüştürmeyi kapsar. Her adımda yuva üzerinden yeni bir yığın gönderen bir eğitim döngüsü, bunu fark eden iştir. Ne çalıştıracağınızı söyleyin, sizi doğru makineye yönlendirelim.
06Boyutlandırma
96 GB GPU belleğine ne sığar
Yalnızca ağırlıklar. Üzerine bağlam penceresi ve çalışma zamanı için alan bırakın.
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — fits | 8 GB — fits | 5 GB — fits |
| 13-14 billion parameters | 28 GB — fits | 14 GB — fits | 8 GB — fits |
| 30-34 billion parameters | 68 GB — tight | 34 GB — fits | 19 GB — fits |
| 70 billion parameters | 140 GB — does not fit | 70 GB — tight | 38 GB — fits |
70 milyar parametreli bir model 8-bit olarak yüklenir ancak uzun bir bağlam ya da ikinci bir kullanıcı için çok az alan bırakır. 4-bit olarak rahatça sığar. Modelinizden GPU'ya hesaplamak için LLM bellek boyutlandırma sayfasını kullanın.
07Fiyatlar
RTX PRO 6000 kiralayın: makineyle birlikte fiyatlar
GPU faturanızda bir satır, sunucu ise başka bir satırdır. Her ikisi de ödemenin kullandığı sipariş kataloğundan gelir; bu yüzden aşağıdaki her fiyat yanındaki makineye aittir.
| Card | The machine it goes in | The card | Complete, per month |
|---|---|---|---|
| RTX PRO 6000 Blackwell 96GB | Intel Xeon Silver / Gold | $1,299 | $1,382.67 Configure this build → |
| RTX PRO 6000 Blackwell 96GB | AMD EPYC | $1,299 | $1,516.59 Configure this build → |
Port her iki yönde de ölçümsüzdür ve çıkış ücreti yoktur. Sunucuyla birlikte bir IPv4 ve bir IPv6 adresi gelir, her seferinde bir ay ödersiniz ve sözleşme yoktur. Bir yapılandırmanın tek seferlik kurulum ücreti vardır; ödemeden önce siparişte gösterilir.
08Teslimat ve yardım
Ne kadar sürede alırsınız ve kim yanıtlar
GPU'nun şu anda nerede olduğuna bağlıdır. Ödemeden önce bunlardan hangisinin geçerli olduğu size söylenir.
- Yaklaşık 30 dakika
Zaten rafta
GPU takılı bir makine raftadır ve sipariş onaylandıktan yaklaşık 30 dakika sonra sizindir.
- 4 ila 24 saat
Rafımızda
Elimizde bulunan bir GPU'yu seçtiğiniz sunucuya takarız.
- 5 ila 10 iş günü
Siparişle alınır
GPU'yu bir distribütörden sipariş eder, ardından sunucunuza takarız.
- 10 ila 15 iş günü
Tahsisli
Distribütörler bir GPU'yu karneye bağladığında, taahhüt etmeden önce tarihi belirtiriz.
Sorular sohbetimize gider. Bir yapay zeka asistanı saniyeler içinde yanıtlar ve hesabınızı ve sunucunuzu kontrol edebilir; istediğiniz her an ekibimizden biri katılır. Şu anda rafta ve hazır makineler anında sunucular sayfasındadır.
09Soru
RTX PRO 6000 kiralamak hakkında sorular
01RTX PRO 6000 Blackwell, RTX 6000 Ada ile aynı mı?
Hayır, adları benzese de aynı değil. RTX 6000 Ada Generation, 48 GB GDDR6 ve ECC'ye sahip önceki profesyonel GPU'dur. Bazen RTX 6000 Pro olarak da aranan RTX PRO 6000 Blackwell ise daha yeni Blackwell çipinde ECC'li 96 GB GDDR7 taşır. Her ikisini de sunuyoruz ve karşılaştırma tablosu her birini makinesiyle birlikte fiyatlandırılmış olarak gösteriyor.
02RTX PRO 6000 NVLink'i destekliyor mu?
Hayır. Bu GPU'da NVLink bağlantı noktası yoktur, bu yüzden bir sunucudaki iki tanesi PCIe üzerinden bağlanan iki ayrı 96 GB havuz olarak çalışır. 96 GB'tan fazlasını tek havuzda toplamanız gerekirse, A100 ve H100 NVLink'i destekler.
03RTX PRO 6000 kiralamanın maliyeti ne kadar?
GPU ve sunucunun birlikte olduğu en ucuz komple yapı, bugün aylık $1,382.67. Bu sayfadaki fiyat tablosu, GPU'nun takıldığı her makineyi sipariş kataloğundan canlı olarak okur ve her birini yapılandırmak için bir bağlantı sunar. Sözleşme yoktur ve port limitsizdir.
04RTX PRO 6000 mi yoksa H100 mü kiralamalıyım?
Model tek bir GPU'ya sığmak zorundaysa veya iş aynı zamanda video işleme ya da kodlama da yapıyorsa RTX PRO 6000 kiralayın. Birden fazla GPU'yu birleştirmek için NVLink'e veya büyük parti boyutlarında hizmet vermek için HBM belleğe ihtiyacınız varsa H100 kiralayın. Karşılaştırma tablosu her ikisinin belleğini ve aylık maliyetini gösterir.
05GPU paylaşımlı mı veya sanal GPU'lara mı bölünüyor?
Hayır. GPU'nun tamamı, başka kimsenin kullanmadığı bir makinede kendi işletim sisteminize doğrudan aktarılır: hipervizör yok, vGPU profili yok, zaman paylaşımı yok. GPU, dört örneğe kadar MIG'i destekler; işiniz buna uygunsa kendiniz bölebilirsiniz.
06Hangi NVIDIA sürücüsünü ve CUDA sürümünü alacağım?
Seçtiklerinizi. Sunucu temiz bir işletim sistemi ve root erişimiyle gelir; kodunuzun gerektirdiği sürücü, CUDA ve framework sürümlerini siz kurar ve sabitlersiniz. Arkadan hiçbir şey yükseltilmez.
07Bir sunucuda iki RTX PRO 6000 GPU bulundurabilir miyim?
Evet, ödeme seçeneği olarak değil, teklif üzerine yapılan bir yapı olarak. Her biri 600 W'a kadar çıktığından, kaç tanesinin sığacağına ve hangi sürümün takılacağına kasa ve güç bütçesi karar verir. Ne çalıştırmayı planladığınızı bize söyleyin; kasa, adet ve teslim süresiyle yanıt verelim. Daha büyük kurulumlar için çok GPU'lu ve çok düğümlü sunuculara bakın.
08RTX PRO 6000 sunucusuna ne kadar sürede sahip olabilirim?
Rafa monte bir makinede GPU zaten takılıysa onaydan yaklaşık 30 dakika sonra, elimizde varsa 4 ila 24 saat içinde, satın almamız gerekirse 5 ila 10 iş günü içinde, tahsisli olduğunda ise 10 ila 15 iş günü içinde. Ödemeden önce hangisinin geçerli olduğu size bildirilir. Rafa monte makineler anında sunucular sayfasında listelenir.
Makinenizi seçin, ardından GPU'yu ekleyin
Her RTX PRO 6000 yapısı yukarıda sunucusuyla birlikte fiyatlandırılmıştır. Birini seçin, yapılandırın; sipariş, ödemeden önce aylık toplam tutarı gösterir.