Serwer GPU · seria RTX 30
Serwer dedykowany RTX 3080 oraz cztery kolejne GPU RTX 30, od 8 GB do 24 GB
Serwer dedykowany RTX 3080 od Primcast to cała fizyczna maszyna z układem NVIDIA GeForce RTX 3080 oddanym do dyspozycji Twojego systemu operacyjnego: 10 GB GDDR6X i 8,704 rdzeni CUDA, bez maszyny wirtualnej i bez sąsiadów. Jeśli Twoja praca wymaga więcej pamięci, nasze serwery obsługują również RTX 3080 Ti lub 24 GB RTX 3090. Płacisz miesięcznie, bez umowy.
- RTX 30708 GB GDDR65,888
- RTX 3070 Ti8 GB GDDR6X6,144
- RTX 308010 GB GDDR6X8,704
- RTX 3080 Ti12 GB GDDR6X10,240
- RTX 309024 GB GDDR6X10,496
Wszystkie pięć: PCIe Gen 4, jeden koder wideo, brak pamięci ECC.
01Wybierz jeden
Który serwer z serii RTX 30 pasuje do Twojego zadania
Zacznij od góry tej tabeli i zatrzymaj się na pierwszym GPU z wystarczającą ilością pamięci na to, co ładujesz. GPU niżej wykonują tę samą pracę szybciej. Jedyne, co dodają, to miejsce na większy model lub scenę.
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| RTX 3070 | 8 GB GDDR6 | $139 | $209.93 |
| RTX 3070 Ti | 8 GB GDDR6X | $149 | $222.47 |
| RTX 3080 | 10 GB GDDR6X | $159 | $229.93 |
| RTX 3080 Ti | 12 GB GDDR6X | $199 | $272.47 |
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
Nasz RTX 3080 to model 10 GB
NVIDIA stworzyła dwa modele RTX 3080. Nasz to oryginał, z 10 GB GDDR6X i 8,704 rdzeniami CUDA. Późniejsza wersja ma 12 GB i 8960 rdzeni, a wiele ofert podaje 12 GB dla tańszego GPU. Dopasuj swoją pracę do 10 GB. Model o 13 miliardach parametrów w trybie 8-bitowym potrzebuje około 14 GB, więc nie zmieści się w żadnej z wersji.
RTX 3090 to duży krok
Przejście z RTX 3080 Ti na RTX 3090 podwaja pamięć, z 12 GB do 24 GB GDDR6X. To jedyne GPU RTX 30 z 24 GB. Jeśli Twój model lub scena potrzebuje aż tyle, nic tańszego tutaj tego nie uruchomi. Na więcej niż 24 GB zobacz wszystkie GPU, które montujemy, z cenami.
02Do czego to służy
Co ludzie uruchamiają na serwerze GPU RTX 3080
Te GPU pojawiły się w 2020 roku i nadal je wynajmujemy, ponieważ wiele realnych prac nie potrzebuje niczego nowszego. W tych czterech zadaniach starsze GPU poradzi sobie taniej co miesiąc.
01AI
Uruchamianie modelu, który już się mieści
Obsługa modelu 7B, testowanie promptów lub dostrajanie czegoś małego. Model 7-8B ładuje się w trybie 4-bitowym na każdym z pięciu, a w trybie 8-bitowym na RTX 3080 z niewielkim zapasem. RTX 3090 mieści model 13B w trybie 8-bitowym z miejscem na kontekst.
02Gry
Serwery gier, które potrzebują prawdziwego GPU
Gry są pisane i testowane na GPU GeForce, takich jak te. Jeśli Twój serwer gry renderuje lub streamuje, seria RTX 30 używa tych samych sterowników GeForce, które Twoi gracze mają w domu.
03Renderowanie
Renderowanie wsadowe, które możesz ponowić
Blender, Unreal lub Twój własny pipeline, klatka po klatce. Jeśli zadanie się nie powiedzie, uruchamiasz je ponownie, więc nie musisz płacić za pamięć z korekcją błędów. Zamiast tego wydaj pieniądze na rdzenie CUDA.
04Wideo
Kodowanie H.264 i HEVC
Każde GPU ma jeden sprzętowy koder i jeden dekoder dla H.264 i HEVC. To wystarcza na kanały na żywo lub kolejkę plików do przesłania bez obciążania procesora. Dla AV1 lub wielu kanałów na jednej maszynie zobacz serwery do transkodowania wideo na żywo.
03Zanim zamówisz
Dwie rzeczy, których seria RTX 30 nie potrafi
Obie są w oficjalnej specyfikacji NVIDIA dla tych GPU. Sprawdź je pod kątem swojego zadania przed złożeniem zamówienia.
Brak kodowania AV1
Żaden z pięciu nie potrafi sprzętowo kodować AV1. NVIDIA dodała to w serii RTX 40. Jeśli Twój pipeline wysyła AV1, wybierz serwer RTX 4090 D lub serwer L40S, który ma trzy kodery AV1.
Brak pamięci ECC, brak profesjonalnego sterownika
Przekręcony bit pozostaje niezauważony. To w porządku przy pracy, którą możesz sprawdzić lub powtórzyć. Do treningu trwającego tygodniami bez punktów kontrolnych lub oprogramowania licencjonowanego wyłącznie na profesjonalne GPU wybierz coś z serii stacji roboczych na pełnej liście GPU.
04Specyfikacja
Specyfikacje RTX 3090, 3080 i 3070
Architektura Ampere, rdzenie RT drugiej generacji, rdzenie Tensor trzeciej generacji i PCIe Gen 4 we wszystkich pięciu. Dane pochodzą od NVIDIA, z jej stron porównawczych GeForce.
RTX 3090
Ampere
24 GB GDDR6X
10,496
936 GB/s
350 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3080 Ti
Ampere
12 GB GDDR6X
10,240
912 GB/s
350 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3080
Ampere
10 GB GDDR6X
8,704
760 GB/s
320 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3070 Ti
Ampere
8 GB GDDR6X
6,144
608 GB/s
290 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3070
Ampere
8 GB GDDR6
5,888
448 GB/s
220 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
05Dopasowanie modelu
Czy Twój model zmieści się na RTX 3080 lub RTX 3090?
Na 10 GB RTX 3080 model 7-8B mieści się w trybie 4-bitowym, a w 8-bitowym jest ciasno. Na 24 GB RTX 3090 model 13B mieści się w trybie 8-bitowym, a model 30B ładuje się w 4-bitowym, z niewielkim miejscem na kontekst.
RTX 3080, 10 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — does not fit | 8 GB — tight | 5 GB — fits |
| 13-14 billion parameters | 28 GB — does not fit | 14 GB — does not fit | 8 GB — tight |
| 30-34 billion parameters | 68 GB — does not fit | 34 GB — does not fit | 19 GB — does not fit |
| 70 billion parameters | 140 GB — does not fit | 70 GB — does not fit | 38 GB — does not fit |
RTX 3090, 24 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — fits | 8 GB — fits | 5 GB — fits |
| 13-14 billion parameters | 28 GB — does not fit | 14 GB — fits | 8 GB — fits |
| 30-34 billion parameters | 68 GB — does not fit | 34 GB — does not fit | 19 GB — tight |
| 70 billion parameters | 140 GB — does not fit | 70 GB — does not fit | 38 GB — does not fit |
RTX 3080 Ti plasuje się pomiędzy nimi z 12 GB. RTX 3070 i 3070 Ti mają 8 GB, co mieści model 7-8B w trybie 4-bitowym, ale nie w 8-bitowym. Wolisz zacząć od modelu? Dobór serwera LLM wylicza, ile pamięci GPU potrzebuje model i które GPU ją zapewni.
06Serwer wokół niego
Do którego serwera trafia każde GPU RTX 30
Każde GPU RTX 30 to część PCIe Gen 4. Gniazdo Gen 4 daje mu pełne łącze. Gniazdo Gen 3 daje połowę, a poniższa lista pokazuje, który serwer ma które.
Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2600 v3/v4
Intel Xeon Silver / Gold
AMD EPYC
W większości prac z RTX 30 gniazdo ma niewielkie znaczenie. Gdy model lub scena są już załadowane na GPU, przez gniazdo przechodzi bardzo mało danych. Ma znaczenie przy treningu, który przesyła nowe partie z serwera w każdym kroku.
07Porównaj
RTX 3090 kontra RTX 4090 D i RTX 5090
RTX 3090 ma te same 24 GB co RTX 4090 D, o generację nowszy, a RTX 5090 dwie generacje później ma 32 GB. Ta tabela pokazuje, ile kosztują nowsze GPU, każde z najtańszą kompletną maszyną, do której pasuje.
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
| RTX 4090D | 24 GB GDDR6X | $299 | $372.47 |
| RTX 5090 | 32 GB GDDR7 | $399 | $472.47 |
Wybierz nowsze GPU, gdy potrzebujesz szybkości na zadanie lub kodowania AV1. Gdy płacisz za pamięć, RTX 3090 zwykle wystarcza. Dlaczego nadal wynajmujemy starszy sprzęt wyjaśnia to podejście.
08Ceny
Ceny serwera dedykowanego RTX 3080 i pozostałych czterech
GPU to jedna pozycja na fakturze, a serwer to druga. Każdy wiersz pokazuje pełną maszynę, ile dodaje GPU i miesięczną sumę, odczytaną z tego samego katalogu, którego używa kasa.
| Card | The machine it goes in | The card | Complete, per month |
|---|---|---|---|
| RTX 3070 | Intel Xeon E5-2600 v1/v2 | $139 | $209.93 Configure this build → |
| RTX 3070 | Intel Xeon E5-2600 v3/v4 | $139 | $212.47 Configure this build → |
| RTX 3070 Ti | Intel Xeon E5-2600 v3/v4 | $149 | $222.47 Configure this build → |
| RTX 3070 | Intel Xeon Silver / Gold | $139 | $222.67 Configure this build → |
| RTX 3080 | Intel Xeon E5-2600 v1/v2 | $159 | $229.93 Configure this build → |
| RTX 3080 | Intel Xeon E5-2600 v3/v4 | $159 | $232.47 Configure this build → |
| RTX 3070 Ti | Intel Xeon Silver / Gold | $149 | $232.67 Configure this build → |
| RTX 3080 | Intel Xeon Silver / Gold | $159 | $242.67 Configure this build → |
| RTX 3080 Ti | Intel Xeon E5-2600 v3/v4 | $199 | $272.47 Configure this build → |
| RTX 3080 Ti | Intel Xeon Silver / Gold | $199 | $282.67 Configure this build → |
| RTX 3090 | Intel Xeon E5-2600 v1/v2 | $239 | $309.93 Configure this build → |
| RTX 3090 | Intel Xeon E5-2600 v3/v4 | $239 | $312.47 Configure this build → |
| RTX 3090 | Intel Xeon Silver / Gold | $239 | $322.67 Configure this build → |
| RTX 3080 | AMD EPYC | $159 | $376.59 Configure this build → |
- PortNielimitowany transfer w obu kierunkach, na porcie obsługującym wyłącznie Twoją maszynę.
- AdresJeden adres IPv4 w cenie.
- OkresDomyślnie miesięczny, bez umowy.
- PomocNasz asystent czatu odpowiada w kilka sekund i może sprawdzić Twoje konto oraz serwer. W każdej chwili możesz poprosić o kontakt z człowiekiem.
Potrzebujesz maszyny już dziś? Serwery natychmiastowe pokazują, co jest już zamontowane. Aby porównać wszystkie GPU, które montujemy, zobacz Serwery GPU, wszystkie wycenione.
Marketplace
Wynajmij GPU z serii RTX 30 od jego właściciela
Właściciele wystawiają swoje maszyny z serii RTX 30 na naszym marketplace i sami ustalają miesięczną cenę. Jeśli oferta mówi, że pochodzi z naszej siostrzanej firmy, Server Room, wynajmujesz ją na serverroom.net.
09Pytania
Pytania o serwer RTX 3080, które ludzie zadają przed zamówieniem
01Czy wasz RTX 3080 to wersja 10 GB czy 12 GB?
To wersja 10 GB, oryginalny RTX 3080 z 8,704 rdzeniami CUDA. Wersja 12 GB ma 8960 rdzeni i jej nie montujemy. Jeśli potrzebujesz 12 GB, ma je RTX 3080 Ti.
02Serwer z RTX 3080 czy RTX 3090?
Wybierz RTX 3080, jeśli twój model lub scena mieści się w 10 GB. Między 10 a 12 GB weź RTX 3080 Ti. Wybierz RTX 3090, jeśli potrzeba więcej niż 12 GB: ma 24 GB GDDR6X, najwięcej ze wszystkich GPU RTX 30, i więcej rdzeni CUDA. Oba są w tabeli cen powyżej, każdy z kompletną maszyną.
04Czy mogę umieścić dwa GPU RTX 30 w jednym serwerze?
Tak, jako konfigurację, którą wyceniamy, a nie opcję w koszyku, ponieważ zależy to od obudowy, szerokości GPU i budżetu mocy. Zapytaj na czacie, a podamy obudowę i czas realizacji. Dwa GPU to dwie oddzielne pule pamięci: model, który nie mieści się na jednym RTX 3090, musi zostać podzielony na oba przez twoje oprogramowanie.
05Jak szybko mogę mieć serwer z RTX 3080?
To zależy od tego, gdzie jest GPU, i dowiesz się tego przed zapłatą. GPU, które już mamy, montujemy w ciągu czterech do dwudziestu czterech godzin. Takie, które musimy dokupić, zajmuje od pięciu do dziesięciu dni roboczych. Aby zacząć dziś, serwery natychmiastowe pokazują maszyny już w szafach.
06Co się stanie, jeśli GPU ulegnie awarii?
Wymienimy je. Umowa daje nam cztery godziny od momentu zgłoszenia przez telefon lub czat na żywo, a po tym czasie należy ci się kredyt usługowy według opublikowanego harmonogramu.
07Kto mi pomoże, jeśli coś pójdzie nie tak?
Otwórz czat na dowolnej stronie. Nasz asystent odpowiada w kilka sekund, może zajrzeć na twoje konto i serwer, i przekazuje cię do kogoś z naszego zespołu, kiedy tylko poprosisz. Przez cały czas zachowujesz pełny dostęp root do maszyny.
Zamów serwer RTX 3080 do swojego projektu
Wybierz serwer, dodaj RTX 3080 lub dowolny z pozostałych czterech i zobacz miesięczną sumę przed zapłatą. Bez umowy, a port jest nielimitowany.