Serwery GPU · seria RTX 40
Serwer dedykowany RTX 4090 a GPU w środku to RTX 4090D
Nasz serwer dedykowany RTX 4090 jest wyposażony w układ RTX 4090D, edycję, którą NVIDIA przygotowała na rynek chiński: te same 24 GB pamięci GDDR6X i ta sama prędkość pamięci, przy około 11% mniej rdzeni CUDA. Wynajmujesz całą maszynę na miesiąc, pełne GPU jest przekazywane do Twojego własnego systemu, a port jest nielimitowany.
| Parametr | RTX 4090 | RTX 4090D |
|---|---|---|
| Rdzenie CUDA | 16,384 | 14,592 |
| Rdzenie Tensor | 512 | 456 |
| Pamięć | 24 GB GDDR6X | 24 GB GDDR6X |
| Przepustowość | 1,008 GB/s | 1,008 GB/s |
| Taktowanie boost | 2.52 GHz | 2.52 GHz |
| Kodery AV1 | 2 | 2 |
| Pobór mocy | 450 W | 425 W |
Masz GPU z serii RTX 40, które leży bezczynnie?
Wystaw maszynę na marketplace Primcast, ustal własną cenę miesięczną i wynajmij ją osobom, które potrzebują mocy obliczeniowej.
00Marketplace
Albo wynajmij GPU z serii RTX 40 od jego właściciela
Właściciele wystawiają te maszyny na naszym marketplace i sami ustalają cenę. Oferta obsługiwana przez naszą siostrzaną firmę Server Room jest wynajmowana na serverroom.net, a nie tutaj.
01RTX 4090D kontra RTX 4090
Co litera D w RTX 4090D oznacza dla Twojej pracy
Pod koniec 2023 roku amerykańskie przepisy eksportowe sprawiły, że RTX 4090 przekroczył limit dopuszczający sprzedaż w Chinach. NVIDIA odpowiedziała modelem RTX 4090D, wydanym 28 grudnia 2023, z 14,592 rdzeniami CUDA, podczas gdy pełne GPU ma ich 16,384.
Co pozostaje bez zmian
Pamięć jest nietknięta: 24 GB GDDR6X na magistrali 384-bitowej z przepustowością 1,008 GB/s. Tak samo jest z taktowaniem boost 2.52 GHz i parą koderów AV1. Wszystko, co jest ograniczone pojemnością lub szybkością pamięci, zachowuje się dokładnie tak, jak na pełnym 4090: model, który mieści się w 24 GB, nadal się mieści i czyta równie szybko.
Sterowniki i oprogramowanie nie zauważają różnicy. To GPU GeForce z architekturą Ada Lovelace, przyjmuje zwykły sterownik GeForce, a każde wydanie CUDA, framework i renderer, który działa na 4090, działa również na nim.
Z czego rezygnujesz
Z około 11% shaderów i rdzeni tensorowych. NVIDIA oszacowała rzeczywistą różnicę na około 5% w grach i aplikacjach kreatywnych, ponieważ taktowanie i pamięć przejmują dużą część obciążenia. Przy pracy, która angażuje wszystkie shadery, takiej jak długi render czy trenowanie modelu, licz się z wydajnością do jednej dziesiątej niższą niż na pełnym 4090.
Mówimy Ci o tym przed złożeniem zamówienia, zamiast drukować “RTX 4090” i pozwolić, żebyś odkrył to później. Jeśli Twoja praca naprawdę wymaga pełnego GPU, zapytaj na czacie, a powiemy Ci, czy możemy je zdobyć i ile to potrwa.
02Do czego służy
W czym serwer GPU 4090 sprawdza się dobrze, a gdzie się kończy
To konsumenckie GPU w szafie rack. To właśnie utrzymuje niską cenę, ale stąd też biorą się jego ograniczenia.
01Moc obliczeniowa za złotówkę
Dużo mocy obliczeniowej za te pieniądze
Układy GeForce to jeden z najtańszych sposobów na wynajęcie tak dużej mocy obliczeniowej. Sprawdza się w pracy, gdzie zły wynik oznacza ponowne uruchomienie, a nie katastrofę: renderowanie wsadowe, serwery gier, dostrajanie małych modeli, wnioskowanie, które można powtórzyć.
02Wideo
Koduje wideo, akceleratory tego nie robią
Dwa sprzętowe kodery z AV1 oraz dekoder, więc może transkodować przez cały dzień. A100 i H100 z wyższej półki naszego katalogu nie mają w ogóle kodera wideo. Do wszystkiego, co zawiera wideo, to GPU jest właściwym wyborem, a nie kompromisem. Zobacz nasze serwery do transkodowania do pracy z kanałami na żywo.
03Pamięć
Limit to 24 GB
Model o 13 miliardach parametrów mieści się w precyzji 8-bitowej, ten sam model w 16-bitowej już nie, a model o 70 miliardach parametrów nie mieści się w żadnej precyzji. Tabela rozmiarów poniżej podaje to dokładnie.
04Długie obliczenia
Brak pamięci z korekcją błędów
Nie ma ECC ani certyfikowanego sterownika profesjonalnego. Do obliczeń trwających tygodniami bez punktów kontrolnych albo oprogramowania, którego licencja wymaga profesjonalnego GPU, zobacz L40S z 48 GB i ECC.
03Specyfikacja
Specyfikacja NVIDIA RTX 4090D
Dane montowanego przez nas GPU pochodzą z dokumentacji serii RTX 40 firmy NVIDIA oraz z macierzy wsparcia kodowania i dekodowania NVIDIA.
RTX 4090D
Ada Lovelace
24 GB GDDR6X
14,592
1,008 GB/s
425 W
PCIe Gen 4 x16
2 NVENC, 1 NVDEC, AV1
No
04Wybór
Serwer RTX 4090, RTX 3090 czy RTX 5090?
Wszystkie trzy są dziś na naszej półce i trafiają do tych samych maszyn. Pytanie nie brzmi więc, który jest najnowszy, ale który jest wart różnicy w cenie przy Twojej pracy.
| GPU | GPU memory | The GPU | Cheapest complete machine |
|---|---|---|---|
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
| RTX 4090D | 24 GB GDDR6X | $299 | $372.47 |
| RTX 5090 | 32 GB GDDR7 | $399 | $472.47 |
RTX 3090 ma te same 24 GB i jest starszym, wolniejszym sposobem na ich zdobycie. Jeśli potrzebujesz pojemności pamięci, a szybkość ma mniejsze znaczenie, przeczytaj najpierw stronę serwerów z serii RTX 30. RTX 5090 przechodzi na 32 GB GDDR7. To GPU PCIe Gen 5 trafiające na platformy Gen 3 i Gen 4, więc przeczytaj następną sekcję i stronę serwerów RTX 5090, zanim założysz, że nowszy znaczy tu szybszy.
05Maszyna
Do której maszyny trafia RTX 4090D i jakie ma łącze PCIe
4090D to GPU PCIe Gen 4. Każda platforma poniżej pokazuje, jakie gniazdo otrzymuje i co to oznacza w praktyce.
Intel Xeon E5-2600 v3/v4
Intel Xeon Silver / Gold
AMD EPYC
Widzieliśmy klienta, który przeszedł na nowsze GPU na starszej platformie i renderował wolniej niż wcześniej. Gdy scena lub wagi znajdują się w pamięci GPU, gniazdo jest ciche, a jego generacja przestaje mieć znaczenie. Ma znaczenie, gdy Twoja praca przesyła dane przez gniazdo na każdym kroku. Powiedz nam, co będziesz uruchamiać, a wskażemy Ci właściwą maszynę.
06Dobór rozmiaru
Co mieści się w 24 GB pamięci GPU
Tylko wagi. Zostaw miejsce na kontekst i środowisko uruchomieniowe.
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB, fits | 8 GB, fits | 5 GB, fits |
| 13-14 billion parameters | 28 GB, does not fit | 14 GB, fits | 8 GB, fits |
| 30-34 billion parameters | 68 GB, does not fit | 34 GB, does not fit | 19 GB, tight |
| 70 billion parameters | 140 GB, does not fit | 70 GB, does not fit | 38 GB, does not fit |
Drugim ograniczeniem jest zasilanie. Jeden 4090D pobiera do 425 W, dlatego więcej niż jeden w maszynie to konfiguracja, którą wyceniamy, a nie pole do zaznaczenia. Aby podejść do pytania od drugiej strony, od Twojego modelu do GPU, którego potrzebuje, skorzystaj ze strony doboru pamięci dla LLM.
07Ceny
Ceny serwera RTX 4090D wraz z maszyną
GPU to jedna pozycja na fakturze, a serwer to druga. Obie pochodzą z katalogu zamówień używanego przy kasie, więc każda cena poniżej należy do maszyny obok niej.
| GPU | The machine it goes in | The GPU | Complete, per month |
|---|---|---|---|
| RTX 4090D | Intel Xeon E5-2600 v3/v4 | $299 | $372.47 Configure this build → |
| RTX 4090D | Intel Xeon Silver / Gold | $299 | $382.67 Configure this build → |
| RTX 4090D | AMD EPYC | $299 | $516.59 Configure this build → |
Port jest nielimitowany w obu kierunkach, bez opłat za transfer wychodzący. Adres IPv4 jest dostarczany z serwerem, nie ma umowy, a płacisz za jeden miesiąc z góry. Aby porównać wszystkie montowane przez nas GPU, wycenione w ten sam sposób, zobacz wszystkie serwery GPU z cenami.
08Dostawa i pomoc
Jak szybko go otrzymasz i kto odpowiada
To zależy od tego, gdzie znajduje się GPU w momencie zamówienia. Przed zapłatą dowiesz się, który z tych wariantów dotyczy Ciebie.
- Około 30 minut
Już w szafie
Maszyna z zamontowanym GPU stoi w szafie rack. Jest Twoja około 30 minut po zatwierdzeniu zamówienia.
- 4 do 24 godzin
Na naszej półce
Montujemy GPU, które już posiadamy, do wybranego przez Ciebie serwera.
- 5 do 10 dni roboczych
Zamówione
Zamawiamy GPU u dystrybutora dla Ciebie, a następnie montujemy je w Twoim serwerze.
Pytania przed lub po złożeniu zamówienia kieruj na nasz czat. Asystent AI odpowiada w kilka sekund i może sprawdzić Twoje konto oraz serwer, a osoba z naszego zespołu dołącza, kiedy tylko poprosisz. Maszyny już w szafie i gotowe do pracy znajdziesz na serwerach natychmiastowych.
09Pytania
Pytania o wynajem serwera z RTX 4090
01Czy RTX 4090D to to samo co RTX 4090?
Nie do końca. To ten sam układ AD102 z taką samą pamięcią 24 GB GDDR6X, taką samą przepustowością 1 008 GB/s i takim samym zegarem boost, ale z 14 592 rdzeniami CUDA zamiast 16 384. NVIDIA stworzyła go na rynek chiński po tym, jak amerykańskie przepisy eksportowe objęły pełny model 4090. To autentyczny układ graficzny NVIDIA, a nie przebrandowany produkt.
02O ile wolniejszy jest RTX 4090D?
NVIDIA szacuje różnicę na około 5% w grach i aplikacjach kreatywnych. Przy obciążeniach angażujących wszystkie jednostki cieniujące różnica może sięgnąć 11%, czyli dokładnie tyle, ile wynosi różnica w liczbie rdzeni. Wszystko, co ogranicza pojemność lub szybkość pamięci, działa tak samo jak na pełnym 4090.
03Czy mogę zamiast tego dostać pełny RTX 4090?
Nie z tej strony. Instalujemy model 4090D i mówimy o tym wprost. Jeśli Twoja praca naprawdę wymaga dodatkowych jednostek cieniujących, napisz na czacie, co zamierzasz uruchamiać, a my odpowiemy, czy możemy zdobyć pełny model 4090 i ile by to trwało.
04Czy 4090D działa z CUDA, PyTorch i standardowymi sterownikami?
Tak. Jest wykrywany jako układ graficzny GeForce z architekturą Ada Lovelace i korzysta ze standardowego sterownika GeForce. Każda wersja CUDA, kompilacja frameworka i renderer działające na 4090 będą działać również na nim. Różnica dotyczy liczby rdzeni, a nie architektury.
05Czy GPU jest z kimś współdzielone?
Nie. Otrzymujesz pełny układ graficzny na maszynie, z której nikt inny nie korzysta, przekazany bezpośrednio do Twojego systemu operacyjnego. Nie ma hipernadzorcy, podziału vGPU ani współdzielenia czasu. Sam instalujesz i przypinasz własny sterownik oraz wersję CUDA, a nic nie aktualizuje się bez Twojej wiedzy.
06Czy powinienem wynająć RTX 4090D czy RTX 3090 z 24 GB?
Jeśli zależy Ci wyłącznie na pojemności pamięci, RTX 3090 jest często lepszym wyborem: te same 24 GB, starsza konstrukcja i zwykle niższa cena miesięczna, jak pokazuje tabela porównawcza. 4090D jest wyraźnie szybszy i dodaje kodowanie AV1, którego 3090 nie ma. Wybierz go, gdy zadania następują jedno po drugim lub pracujesz z wideo.
07Czy mogę umieścić dwa układy RTX 4090D w jednym serwerze?
Tak, jako konfigurację wycenianą indywidualnie, a nie opcję w koszyku. Każdy z nich pobiera do 425 W i nie ma łącza NVLink, więc dwa układy to dwie osobne pule 24 GB. Powiedz nam, co planujesz uruchamiać, a my przygotujemy odpowiednią maszynę lub zajrzyj na serwery z wieloma GPU.
08Jak szybko mogę otrzymać serwer dedykowany z RTX 4090?
Około 30 minut po akceptacji, jeśli maszyna w szafie ma już zainstalowany układ graficzny, od 4 do 24 godzin, jeśli mamy go na półce, oraz od 5 do 10 dni roboczych, jeśli musimy go zamówić. Przed płatnością dowiesz się, który wariant dotyczy Twojego zamówienia. Maszyny w szafie są wymienione na serwerach natychmiastowych.
Wybierz swoją konfigurację RTX 4090D i zobacz pełną cenę
Każda konfiguracja jest wyceniona powyżej wraz z serwerem. Wybierz jedną, skonfiguruj ją, a zamówienie pokaże miesięczną sumę przed płatnością.