Serwery GPU · seria RTX 50

Serwer dedykowany RTX 5090 z 32 GB dla Twoich modeli i renderów

Serwer dedykowany RTX 5090 to cała maszyna, którą wynajmujesz co miesiąc z układem NVIDIA’s RTX 5090 w środku: 32 GB pamięci GDDR7, przekazanej bezpośrednio do Twojego własnego systemu operacyjnego. Nikt inny nie korzysta z GPU ani z serwera, port jest nielimitowany i nie ma żadnej umowy. Jeśli 16 GB wystarczy do Twoich zadań, RTX 5080 trafia do tych samych szaf za mniejsze pieniądze.

blackwell / gddr7Obok siebie
Porównanie specyfikacji RTX 5090 i RTX 5080 na podstawie stron produktowych firmy NVIDIA.
ParametrRTX 5090RTX 5080
Pamięć GPU32 GB GDDR716 GB GDDR7
Szyna pamięci512-bit256-bit
Rdzenie CUDA21,76010,752
Taktowanie boost2.41 GHz2.62 GHz
Kodery AV132
Pobór mocy575 W360 W
Interfejs GPUPCIe Gen 5PCIe Gen 5
RTX 5090, kompletna maszyna miesięcznie, od$472.47 RTX 5080, kompletna maszyna miesięcznie, od$312.67

Masz maszynę z serii RTX 50, której nie używasz?

Wystaw ją na rynku Primcast, ustal własną cenę miesięczną i pozwól, aby osoby potrzebujące mocy obliczeniowej wynajęły ją od Ciebie.

Wystaw ją na rynku

01Do czego służy

Co możesz uruchomić na serwerze AI z RTX 5090

To największy konsumencki GPU firmy NVIDIA, w szafie rack. Za te pieniądze dostajesz dużo mocy obliczeniowej i pamięci, a także ograniczenia typowe dla sprzętu konsumenckiego.

01Modele AI

Inferencja i dostrajanie w 32 GB

Model o 30 miliardach parametrów w 4-bitach mieści się z zapasem, podobnie jak model o 13 miliardach w 8-bitach. Ten sam model o 13 miliardach w pełnych 16-bitach nie zostawia wystarczająco dużo miejsca, aby go obsłużyć. Poniższe tabele rozmiarów pokazują każdy przypadek.

02Renderowanie

Duże sceny, które pozostają w pamięci GPU

Renderery GPU są szybkie, o ile scena mieści się na GPU. 32 GB pomieści znacznie więcej geometrii i tekstur niż GPU 24 GB o klasę niżej, a partia klatek może być renderowana przez noc, podczas gdy Twoja własna stacja robocza pozostaje wolna.

03Wideo

Trzy kodery AV1 na jednym GPU

RTX 5090 ma trzy sprzętowe kodery wideo i dwa dekodery, więc może transkodować kilka strumieni jednocześnie. Akceleratory A100 i H100 nie mają w ogóle kodera. W przypadku kanałów na żywo zobacz nasze serwery transkodujące.

04Ograniczenia

Brak pamięci z korekcją błędów

GPU GeForce nie mają ECC ani certyfikowanego sterownika profesjonalnego. To w porządku, gdy zły wynik oznacza ponowne uruchomienie. W przypadku zadań trwających tygodniami bez punktów kontrolnych lub oprogramowania licencjonowanego wyłącznie na profesjonalne GPU, sprawdź RTX PRO 6000 z 96 GB i ECC.

02Specyfikacja

Specyfikacje NVIDIA RTX 5090 i RTX 5080

Dane publikowane przez firmę NVIDIA dla dwóch GPU z serii RTX 50, które montujemy. Oba wykorzystują architekturę Blackwell, z rdzeniami Tensor piątej generacji i rdzeniami RT czwartej generacji.

RTX 5090

Architecture

Blackwell

GPU memory

32 GB GDDR7

CUDA cores

21,760

Memory interface

512-bit

Boost clock

2.41 GHz

Total graphics power

575 W

GPU interface

PCIe Gen 5 x16

Video engines

3 NVENC (9th generation), 2 NVDEC, AV1

Error-correcting memory

No

RTX 5080

Architecture

Blackwell

GPU memory

16 GB GDDR7

CUDA cores

10,752

Memory interface

256-bit

Boost clock

2.62 GHz

Total graphics power

360 W

GPU interface

PCIe Gen 5 x16

Video engines

2 NVENC (9th generation), 2 NVDEC, AV1

Error-correcting memory

No

03Zanim zamówisz

Gniazdo PCIe, które RTX 5090 otrzymuje w każdej maszynie

Oba GPU są zbudowane pod PCIe Gen 5. Każda platforma, w której je montujemy, to Gen 3 lub Gen 4, więc łącze między GPU a serwerem działa poniżej możliwości, do jakich GPU zostało zaprojektowane. Oto, co daje mu każda maszyna.

Intel Xeon E5-2600 v3/v4

RTX 5090

Slot: PCIe 3.0, 40 lanes per socket. GPU: PCIe Gen 5.

A quarter of the bus the GPU was built for. Avoid it for jobs that cross the slot all the time. For inference, transcoding or rendering a scene that is already loaded, it makes little difference.

Intel Xeon Silver / Gold

RTX 5090, RTX 5080

Slot: PCIe 3.0, 48 lanes per socket. GPU: PCIe Gen 5.

A quarter of the bus the GPU was built for. Avoid it for jobs that cross the slot all the time. For inference, transcoding or rendering a scene that is already loaded, it makes little difference.

AMD EPYC

RTX 5090

Slot: PCIe 4.0, 128 lanes per socket. GPU: PCIe Gen 5.

Half the bus the GPU was built for. You feel it when every training step pulls a new batch from the host. You do not feel it once the model or the scene sits in GPU memory.

Mówimy o tym od razu, bo już raz zaskoczyło to klienta: RTX 5090 na platformie Gen 3 renderował wolniej niż RTX 4090, który zastąpił. Wolniejsze gniazdo szkodzi tylko wtedy, gdy Twoje zadanie cały czas przesyła przez nie dane, na przykład pętla treningowa, która w każdym kroku ładuje nową partię z hosta. Inferencja, transkodowanie i serwery gier prawie go nie dotykają, gdy wszystko jest już załadowane. Nie wiesz, który przypadek dotyczy Ciebie? Napisz na czacie, co będziesz uruchamiać, a wskażemy Ci odpowiednią maszynę.

04Mniejszy wariant

Serwer RTX 5080: ta sama generacja z 16 GB

RTX 5080 ma ten sam projekt Blackwell, tę samą generację koderów AV1 i ten sam interfejs PCIe Gen 5, z mniej więcej połową rdzeni CUDA i połową pamięci RTX 5090.

Kiedy RTX 5080 wystarczy

Twój model mieści się w 16 GB z zapasem: model o 7 miliardach parametrów w 8-bitach lub model o 13 miliardach w 4-bitach. Albo zadanie dotyczy wideo, gdzie pracę wykonują jego dwa kodery AV1, albo serwer gier, który nigdy nie zapełnia pamięci GPU.

Kiedy dopłacić do RTX 5090

Twój model lub scena jest większa niż 16 GB albo chcesz dodatkowej pamięci na dłuższe konteksty i większą liczbę użytkowników jednocześnie. Dwa razy więcej pamięci na dwukrotnie szerszej szynie to prawdziwa różnica; taktowania są zbliżone.

05Dobór rozmiaru

Co mieści się w 32 GB i w 16 GB pamięci GPU

Tylko wagi. Zostaw miejsce na kontekst i środowisko uruchomieniowe.

RTX 5090, 32 GB

Weights only, rounded up. Fits means the GPU’s 32 GB holds the weights 1.5× over: room for the KV cache, the activations and the runtime, and the only verdict the LLM sizing page recommends a GPU on. Tight clears 1.25× only: the model loads, and a long context or a second user runs the GPU out of memory.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB: fits8 GB: fits5 GB: fits
13-14 billion parameters28 GB: does not fit14 GB: fits8 GB: fits
30-34 billion parameters68 GB: does not fit34 GB: does not fit19 GB: fits
70 billion parameters140 GB: does not fit70 GB: does not fit38 GB: does not fit

RTX 5080, 16 GB

Weights only, rounded up. Fits means the GPU’s 16 GB holds the weights 1.5× over: room for the KV cache, the activations and the runtime, and the only verdict the LLM sizing page recommends a GPU on. Tight clears 1.25× only: the model loads, and a long context or a second user runs the GPU out of memory.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB: does not fit8 GB: fits5 GB: fits
13-14 billion parameters28 GB: does not fit14 GB: does not fit8 GB: fits
30-34 billion parameters68 GB: does not fit34 GB: does not fit19 GB: does not fit
70 billion parameters140 GB: does not fit70 GB: does not fit38 GB: does not fit

Drugim ograniczeniem jest zasilanie. Jeden RTX 5090 pobiera do 575 W, dlatego drugi egzemplarz w tej samej maszynie to konfiguracja, którą wyceniamy, a nie opcja dostępna przy kasie. Aby zacząć od swojego modelu i znaleźć GPU, którego potrzebuje, skorzystaj ze strony doboru pamięci LLM.

06Wybór

Serwer RTX 5090, RTX 4090D czy RTX 3090?

Te GPU trafiają do tych samych maszyn, więc nowszy nie zawsze jest dla Ciebie lepszy. Porównaj pamięć i cenę miesięczną pod kątem swojego zadania.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
GPUGPU memoryGPU aloneCheapest complete machine
RTX 309024 GB GDDR6X$239$309.93
RTX 508016 GB GDDR7$229$312.67
RTX 4090D24 GB GDDR6X$299$372.47
RTX 509032 GB GDDR7$399$472.47

RTX 4090D i RTX 3090 mają po 24 GB. To GPU PCIe Gen 4, więc gniazdo kosztuje je mniej niż serię RTX 50. Jeśli Twoja praca mieści się w 24 GB, przeczytaj stronę serwera dedykowanego RTX 4090 i stronę serwerów z serii RTX 30, zanim podejmiesz decyzję.

07Ceny

Ceny serwerów RTX 5090 i RTX 5080 wraz z maszyną

Na fakturze GPU widnieje w jednej pozycji, a serwer w drugiej. Obie pochodzą z tego samego katalogu zamówień, z którego korzysta kasa, a każda cena poniżej należy do maszyny obok niej.

Read from the order catalogue when this page was served. The GPU is a separate line; the machine does not get dearer because of what is plugged into it.
GPUThe machine it goes inGPU aloneComplete, per month
RTX 5080Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$229$312.67
Configure this build →
RTX 5090Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$399$472.47
Configure this build →
RTX 5090Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$399$482.67
Configure this build →
RTX 5090AMD EPYC
AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0
$399$616.59
Configure this build →

Transfer nie jest mierzony w żadnym kierunku i nie ma opłaty za ruch wychodzący. Każdy serwer ma adres IPv4, płacisz z miesiąca na miesiąc i możesz zrezygnować pod koniec dowolnego miesiąca. Aby zobaczyć wszystkie GPU, które montujemy, wycenione w ten sam sposób, przejdź do wszystkich serwerów GPU z cenami.

08Dostawa i pomoc

Kiedy Twój serwer RTX 5090 będzie gotowy i kto Ci pomoże

Dostawa zależy od tego, gdzie znajduje się GPU w momencie zamówienia. Zapytaj na czacie przed opłaceniem, a powiemy Ci, który z poniższych wariantów dotyczy Twojej konfiguracji.

  1. Około 30 minut

    Już w szafie

    Jeśli maszyna w szafie ma już zamontowane GPU, otrzymasz ją około 30 minut po zatwierdzeniu zamówienia.

  2. 4 do 24 godzin

    Na naszej półce

    Mamy GPU pod ręką i montujemy je w wybranym przez Ciebie serwerze.

  3. 5 do 10 dni roboczych

    Zamówione dla Ciebie

    Kupujemy GPU od dystrybutora i montujemy je, gdy tylko dotrze.

Pytaj o wszystko na naszym czacie, przed zamówieniem lub po nim. Asystent AI odpowiada w kilka sekund i może sprawdzić Twoje konto oraz serwer, a osoba z naszego zespołu przejmuje rozmowę, kiedy tylko poprosisz. Maszyny, które są już w szafach i gotowe, znajdziesz na serwerach natychmiastowych.

09Pytania

Pytania o wynajem serwera z RTX 5090

01Co otrzymuję z serwerem dedykowanym RTX 5090?

Cały fizyczny serwer z jedną kartą RTX 5090 w środku, wynajmowany miesięcznie. Pełny GPU jest przekazywany do Twojego własnego systemu operacyjnego, bez hypervisora, bez podziału vGPU i bez współdzielenia czasu. Instalujesz wybrany sterownik i wersję CUDA, a nic nie zmienia ich za Twoimi plecami.

02Czy istnieje wersja serwerowa RTX 5090?

Nie. NVIDIA nie produkuje wersji serwerowej RTX 5090. Jej pasywnie chłodzony GPU Blackwell do serwerów to RTX PRO 6000 Blackwell Server Edition, z 96 GB pamięci i ECC. Montujemy również RTX PRO 6000: zobacz stronę serwera dedykowanego RTX PRO 6000. RTX 5090, który wynajmujemy, to część GeForce firmy NVIDIA, działająca w serwerze rackowym.

03Czy RTX 5090 będzie działać z pełną prędkością w Waszych serwerach?

Jego łącze PCIe nie będzie. RTX 5090 to GPU PCIe Gen 5, a nasze platformy to Gen 3 i Gen 4, więc magistrala działa z połową lub ćwiartką prędkości projektowej, w zależności od maszyny. To spowalnia trenowanie, które przesyła dane z hosta w każdym kroku. Ma niewielki wpływ na inferencję, transkodowanie lub renderowanie, gdy praca jest już załadowana do pamięci GPU. Slot, który daje każda maszyna, jest wymieniony na tej stronie.

04Jak duży model AI może uruchomić serwer z RTX 5090?

Z 32 GB, model o 30 miliardach parametrów mieści się przy 4-bitach, a model o 13 miliardach mieści się przy 8-bitach, oba z miejscem na kontekst. Model o 70 miliardach nie mieści się na jednym RTX 5090, nawet przy 4-bitach. W przypadku większych modeli zobacz stronę doboru pamięci LLM.

05RTX 5090 czy RTX 5080: który powinienem wynająć?

Wynajmij RTX 5080, jeśli Twój model lub scena mieści się w 16 GB z zapasem, lub jeśli zadanie to głównie wideo. Wynajmij RTX 5090, gdy potrzebujesz więcej niż 16 GB, lub chcesz mieć zapas na dłuższe konteksty i więcej użytkowników. Tabela cen powyżej pokazuje, ile kosztuje każdy z nich ze swoją maszyną.

06Czy mogę otrzymać RTX 5070 lub RTX 5060?

Nie. RTX 5090 i RTX 5080 to jedyne GPU z serii RTX 50 w naszym katalogu zamówień, a konfigurator nie oferuje innych. Aby znaleźć mniejszy, tańszy GPU, porównaj resztę na wszystkich serwerach GPU z cenami.

07Czy mogę umieścić dwa GPU RTX 5090 w jednym serwerze?

Tak, jako konfigurację, którą wyceniamy, a nie opcję w koszyku. Każdy z nich pobiera do 575 W, a GPU GeForce RTX 50 nie mają NVLink, więc dwa z nich to dwie oddzielne pule 32 GB. Powiedz nam, co planujesz uruchomić, lub zobacz serwery multi-GPU.

08Jak szybko mogę otrzymać serwer z RTX 5090?

Około 30 minut po zatwierdzeniu, jeśli maszyna w szafie ma już GPU, 4 do 24 godzin, jeśli mamy GPU na półce, i 5 do 10 dni roboczych, jeśli musimy je dokupić. Zapytaj na czacie przed opłaceniem, a powiemy Ci, która opcja dotyczy Ciebie.

Wybierz swoją konfigurację RTX 5090 i zobacz miesięczną sumę

Każda konfiguracja powyżej jest wyceniona wraz z serwerem. Wybierz jedną, skonfiguruj ją tak, jak chcesz, a zamówienie pokaże pełną miesięczną cenę przed opłaceniem.