Serwery GPU · NVIDIA Blackwell
Serwer dedykowany RTX PRO 6000 z pełnym 96 GB GPU
Serwer dedykowany RTX PRO 6000 od nas to cała maszyna z układem NVIDIA RTX PRO 6000 Blackwell przekazanym bezpośrednio do Twojego systemu operacyjnego: 96 GB pamięci GDDR7 z ECC, więcej niż 80 GB w A100 czy H100. Wynajmujesz go na miesiąc, nikt inny z niego nie korzysta, a port jest nielimitowany, więc duże modele i wideo wchodzą i wychodzą bez dodatkowych opłat.
- Rdzenie CUDA
- 24,064
- Szybkość pamięci
- 1,792 GB/s
- Kodery wideo
- 4 × AV1
- Pobór mocy płyty
- 600 W
Rdzenie Tensor piątej generacji. Rdzenie RT czwartej generacji.
Masz RTX PRO 6000, który nie jest zajęty?
Wystaw maszynę na rynku Primcast i zarabiaj miesięczny czynsz od osób, które potrzebują mocy obliczeniowej.
00Rynek
Albo wynajmij RTX PRO 6000 od jego właściciela
Właściciele wystawiają swoje maszyny na naszym rynku i sami ustalają miesięczną cenę. Oferta prowadzona przez naszą siostrzaną firmę Server Room jest wynajmowana na serverroom.net, nie tutaj.
01Do czego służy
Serwer GPU 96 GB do modeli, renderowania i wideo
Wynajmujesz RTX PRO 6000, gdy zadanie wymaga dużej ilości pamięci na jednym GPU, a także rysowania lub kodowania. Oto jak to wygląda w praktyce.
01Pojemność
Duży model na jednym GPU
Model o 70 miliardach parametrów mieści się przy 4-bitowej precyzji z miejscem na kontekst, a model o 30 miliardach mieści się przy 8-bitowej. Wszystko znajduje się w jednej przestrzeni adresowej, więc pomijasz sharding i drugą maszynę.
02Wideo
Cztery kodery AV1 na pokładzie
Cztery silniki NVENC i cztery NVDEC, wszystkie z AV1. Możesz transkodować wiele kanałów na żywo sprzętowo i odciążyć procesor. A100 i H100 nie mają w ogóle kodera wideo.
03Renderowanie
Ray tracing z miejscem na duże sceny
Rdzenie RT czwartej generacji renderują, a 96 GB pomieści sceny i tekstury, które przepełniłyby GPU 48 GB. Możesz renderować, kodować i uruchamiać model na tej samej płycie.
04Jeden najemca
Pełne GPU, na Twoim własnym systemie
Bez profilu vGPU, bez podziału czasu, bez innych klientów na maszynie. Niektóre oferty chmurowe dla tego GPU to maszyna wirtualna na współdzielonym hoście, więc porównuj porównywalne, zanim porównasz ceny.
02Zanim zamówisz
Więcej pamięci niż H100. Oto z czego rezygnujesz
RTX PRO 6000 mieści więcej pamięci niż akceleratory do centrów danych, które montujemy. Dwie rzeczy odróżniają go od nich, a jedna z nich może przesądzić o wyborze.
Brak NVLink
To GPU nie ma mostka NVLink. Dwa w jednej maszynie to dwie oddzielne pule 96 GB komunikujące się przez gniazdo PCIe, a nie jedna pula 192 GB. Jeśli Twój model potrzebuje więcej niż 96 GB w jednej przestrzeni adresowej, spójrz na A100 i H100, które łączą pamięć przez NVLink.
GDDR7, nie stosowane HBM
GDDR7 jest szybka, 1,792 GB/s, czyli więcej niż A100 40 GB i dwa razy tyle co L40S. A100 80 GB wciąż czyta nieco szybciej przy 1,935 GB/s. Przy obsłudze wielu użytkowników z dużą wielkością partii tempo wyznacza szybkość odczytu, więc sprawdź tę kolumnę, jeśli zależy Ci na przepustowości.
Jeśli Twoje pytanie brzmi „czy model zmieści się na jednym GPU”, RTX PRO 6000 odpowiada na nie największą ilością miejsca. Jeśli brzmi „ile tokenów na sekundę dla setek użytkowników”, warto spojrzeć na akcelerator. Tabela porównawcza zestawia pamięć i miesięczny koszt obok siebie.
03Specyfikacja
Specyfikacja RTX PRO 6000 Blackwell: GDDR7, rdzenie Tensor i RT
Dane ze strony produktu NVIDIA dla wersji Workstation. Wersja Max-Q Edition to ten sam układ z tym samym 96 GB przy 300 W.
RTX PRO 6000 Blackwell 96GB
Blackwell
96 GB GDDR7 ECC
24,064
1,792 GB/s
600 W
PCIe Gen 5 x16
4 NVENC, 4 NVDEC, AV1
Yes
- 125 TFLOPS FP32
- 380 TFLOPS RT
- Rdzenie Tensor z FP4
- MIG, do 4 instancji
04Wybór
RTX PRO 6000 kontra H100, A100 i RTX 6000 Ada
GPU z dużą pamięcią, które montujemy, z pamięcią i miesięcznym kosztem obok siebie. Pamięć i cena nie rosną razem na tej półce i właśnie dlatego warto to przeczytać.
57 GPU models in the catalogue today · none holds more than 96 GB
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| A40 | 48 GB GDDR6 | $499 | $572.47 |
| RTX 6000 ADA | 48 GB GDDR6 ECC | $625 | $698.47 |
| A100 80GB | 80 GB HBM2e | $899 | $972.47 |
| RTX PRO 6000 Blackwell 96GB | 96 GB GDDR7 ECC | $1,299 | $1,382.67 |
| H100 80GB | 80 GB HBM2e | $1,599 | $1,682.67 |
RTX 6000 Ada to poprzednie profesjonalne GPU, z 48 GB pamięci GDDR6. RTX PRO 6000 podwaja to na nowszym krzemie. Jeśli 48 GB wystarczy do Twojej pracy, Ada jest tańszym wejściem. Wszystkie GPU, które montujemy, wycenione w ten sam sposób, znajdziesz na stronie wszystkie serwery GPU z cenami.
05Maszyna
Do jakiego serwera trafia i jakie łącze PCIe otrzymuje
RTX PRO 6000 to GPU PCIe Gen 5. Każda maszyna poniżej pokazuje łącze, jakie daje jej gniazdo, więc widzisz, co dostajesz, zanim wybierzesz.
Intel Xeon Silver / Gold
AMD EPYC
Gdy wagi są już załadowane na GPU, gniazdo w większości pozostaje bezczynne, co obejmuje większość inferencji, większość renderowania i całe transkodowanie. Pętla treningowa, która wysyła nową partię przez gniazdo w każdym kroku, to zadanie, które to odczuje. Powiedz nam, co będziesz uruchamiać, a wskażemy Ci odpowiednią maszynę.
06Dobór rozmiaru
Co mieści się w 96 GB pamięci GPU
Tylko wagi. Zostaw miejsce na okno kontekstu i środowisko uruchomieniowe na wierzchu.
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — fits | 8 GB — fits | 5 GB — fits |
| 13-14 billion parameters | 28 GB — fits | 14 GB — fits | 8 GB — fits |
| 30-34 billion parameters | 68 GB — tight | 34 GB — fits | 19 GB — fits |
| 70 billion parameters | 140 GB — does not fit | 70 GB — tight | 38 GB — fits |
Model o 70 miliardach parametrów przy 8-bitowej precyzji ładuje się, ale zostawia mało miejsca na długi kontekst lub drugiego użytkownika. Przy 4-bitowej mieści się wygodnie. Aby przeliczyć to z Twojego modelu na GPU, skorzystaj ze strony doboru pamięci LLM.
07Ceny
Wynajem RTX PRO 6000: ceny z maszyną
GPU to jedna pozycja na fakturze, a serwer to druga. Obie pochodzą z katalogu zamówień używanego przez kasę, więc każda cena poniżej należy do maszyny obok niej.
| Card | The machine it goes in | The card | Complete, per month |
|---|---|---|---|
| RTX PRO 6000 Blackwell 96GB | Intel Xeon Silver / Gold | $1,299 | $1,382.67 Configure this build → |
| RTX PRO 6000 Blackwell 96GB | AMD EPYC | $1,299 | $1,516.59 Configure this build → |
Port jest nielimitowany w obu kierunkach bez opłaty za ruch wychodzący. Adres IPv4 i adres IPv6 są dołączone do serwera, płacisz jeden miesiąc na raz i nie ma umowy. Konfiguracja wiąże się z jednorazową opłatą instalacyjną, widoczną na zamówieniu przed zapłatą.
08Dostawa i pomoc
Jak szybko ją otrzymasz i kto odpowiada
To zależy od tego, gdzie GPU znajduje się teraz. Przed zapłatą dowiesz się, który z tych wariantów dotyczy Ciebie.
- Około 30 minut
Już w szafie
Maszyna z zamontowanym GPU jest w szafie i należy do Ciebie około 30 minut po zatwierdzeniu zamówienia.
- 4 do 24 godzin
Na naszej półce
Montujemy GPU, które już mamy, do wybranego przez Ciebie serwera.
- 5 do 10 dni roboczych
Zakupione
Zamawiamy GPU u dystrybutora, a następnie montujemy je w Twoim serwerze.
- 10 do 15 dni roboczych
Na przydziale
Gdy dystrybutorzy reglamentują GPU, podajemy datę, zanim się zobowiążesz.
Pytania kieruj na nasz czat. Asystent AI odpowiada w kilka sekund i może sprawdzić Twoje konto oraz serwer, a osoba z naszego zespołu dołącza, kiedy tylko poprosisz. Maszyny już w szafach i gotowe od ręki znajdziesz na serwerach natychmiastowych.
09Pytania
Pytania o wynajem RTX PRO 6000
01Czy RTX PRO 6000 Blackwell to to samo co RTX 6000 Ada?
Nie, choć nazwy są podobne. RTX 6000 Ada Generation to wcześniejszy profesjonalny procesor graficzny z 48 GB pamięci GDDR6 i ECC. RTX PRO 6000 Blackwell, czasem wyszukiwany jako RTX 6000 Pro, ma 96 GB pamięci GDDR7 z ECC na nowszym układzie Blackwell. Montujemy oba, a tabela porównawcza pokazuje każdy z nich wyceniony razem z maszyną.
02Czy RTX PRO 6000 obsługuje NVLink?
Nie. Ten procesor graficzny nie ma złącza NVLink, więc dwa egzemplarze w jednym serwerze działają jako dwie osobne pule 96 GB połączone przez PCIe. Jeśli potrzebujesz więcej niż 96 GB połączonej pamięci, A100 i H100 obsługują NVLink.
03Ile kosztuje wynajem RTX PRO 6000?
Najtańsza kompletna konfiguracja, procesor graficzny razem z serwerem, kosztuje dziś $1,382.67 miesięcznie. Tabela cen na tej stronie pokazuje każdą maszynę, do której pasuje ten procesor, odczytywaną na żywo z katalogu zamówień, z linkiem do konfiguracji każdej z nich. Nie ma umowy, a port jest nielimitowany.
04Czy powinienem wynająć RTX PRO 6000 czy H100?
Wynajmij RTX PRO 6000, gdy model musi zmieścić się na jednym procesorze graficznym lub gdy praca obejmuje też renderowanie albo kodowanie wideo. Wynajmij H100, gdy potrzebujesz NVLink do połączenia kilku procesorów graficznych lub pamięci HBM do obsługi dużych partii. Tabela porównawcza pokazuje pamięć i miesięczny koszt obu.
05Czy procesor graficzny jest współdzielony lub dzielony na wirtualne procesory?
Nie. Otrzymujesz pełny procesor graficzny przekazany do własnego systemu operacyjnego, na maszynie, z której nikt inny nie korzysta: bez hipernadzorcy, bez profilu vGPU, bez podziału czasu. Procesor obsługuje MIG z maksymalnie czterema instancjami, więc możesz go podzielić samodzielnie, jeśli Twoja praca tego wymaga.
06Którą wersję sterownika NVIDIA i CUDA otrzymam?
Taką, jaką wybierzesz. Serwer jest dostarczany z czystym systemem operacyjnym i dostępem root, a Ty instalujesz i przypinasz wersje sterownika, CUDA i frameworków, których wymaga Twój kod. Nic nie aktualizuje się bez Twojej wiedzy.
07Czy mogę mieć dwa procesory graficzne RTX PRO 6000 w jednym serwerze?
Tak, jako konfigurację wycenianą indywidualnie, a nie opcję w koszyku. Przy poborze do 600 W każdy, obudowa i jej budżet mocy decydują, ile się zmieści i która edycja zostanie zamontowana. Powiedz nam, co planujesz uruchomić, a odpowiemy z obudową, liczbą i czasem realizacji. W przypadku większych konfiguracji zobacz serwery z wieloma procesorami graficznymi i wieloma węzłami.
08Jak szybko mogę otrzymać serwer z RTX PRO 6000?
Około 30 minut po zatwierdzeniu, jeśli maszyna w szafie ma już ten procesor graficzny, 4 do 24 godzin, jeśli mamy go na stanie, 5 do 10 dni roboczych, jeśli musimy go dokupić, oraz 10 do 15 dni roboczych, gdy jest w przydziale. O tym, która opcja dotyczy Ciebie, dowiesz się przed płatnością. Maszyny w szafie są wymienione na serwerach natychmiastowych.
Wybierz maszynę, a następnie dodaj procesor graficzny
Każda konfiguracja RTX PRO 6000 jest wyceniona powyżej razem z serwerem. Wybierz jedną, skonfiguruj ją, a zamówienie pokaże pełną miesięczną sumę przed płatnością.