Pełne GPU, nie wycinek
Każde GPU jest przekazywane bezpośrednio do Twojego systemu operacyjnego. Bez hypervisora, bez partycji MIG, bez profilu vGPU i bez dzielenia czasu, więc Twoje sterowniki i frameworki widzą sprzęt takim, jaki jest.
Dedykowane serwery AI · trenowanie, serwowanie, renderowanie
Dedykowany serwer AI to cała fizyczna maszyna, której układy GPU są przekazane bezpośrednio do Twojego systemu operacyjnego, więc model, który trenujesz lub serwujesz, nie dzieli sprzętu z nikim. Gdy jedna maszyna nie wystarcza, możesz dodać do niej GPU lub postawić obok kolejne maszyny. Ta strona pokazuje, ile kosztuje każda z tych dróg, jak szybko maszyny mogą się ze sobą komunikować i w których z naszych miast 5 znajduje się dana platforma.
Płatność miesięczna, bez umowy. Port każdej maszyny należy wyłącznie do Ciebie na przełączniku i nic nie mierzy ruchu, który przez niego przechodzi.
01Co otrzymujesz z każdą maszyną
Te same cztery rzeczy na każdym węźle, od jednej maszyny do zadania fine-tuningu po kilka maszyn do trenowania.
Każde GPU jest przekazywane bezpośrednio do Twojego systemu operacyjnego. Bez hypervisora, bez partycji MIG, bez profilu vGPU i bez dzielenia czasu, więc Twoje sterowniki i frameworki widzą sprzęt takim, jaki jest.
Port sieciowy nie jest współdzielony na przełączniku dostępowym i nic nie mierzy ruchu w żadnym kierunku. Kopiowanie zbioru danych lub punktu kontrolnego między węzłami nie dolicza nic do rachunku.
Każda maszyna działa na własnym jednomiesięcznym okresie bez umowy. Płatność za trzy, sześć lub dwanaście miesięcy obniża cenę nawet o 15%.
Nasz czat AI odpowiada w kilka sekund i podczas pomocy może zajrzeć do Twojego konta i serwerów. Poproś o człowieka, kiedy tylko chcesz.
02Skalowanie powyżej jednego GPU
Brzmią jak ta sama decyzja, ale kosztują inaczej, mają różne terminy realizacji i kończą się z różnych powodów. Ustal, której opcji potrzebujesz, zanim porównasz cokolwiek innego.
ARozbuduj maszynę
Wybierz to, gdy brakuje Ci pamięci GPU lub wydajności GPU, a reszta maszyny jest w porządku. Kilka GPU w jednej obudowie to konfiguracja, którą wyceniamy indywidualnie, a nie pole do zaznaczenia przy kasie: ile się zmieści, zależy od szerokości wybranego GPU i od tego, ile mocy obudowa może mu dostarczyć.
BRozbuduj klaster
Wybierz to, gdy sama maszyna jest pełna: brakuje procesorów, pamięci lub miejsca na kolejne zadanie. Największa platforma u nas kończy się na 2 gniazdach procesora i 1 TB pamięci, a powyżej tego rozwiązaniem jest kolejny serwer.
03Platformy
Każda platforma, do której montujemy GPU, porównana pod kątem tego, co ma znaczenie, gdy wyjdziesz poza jedną maszynę. Czytaj dwie środkowe kolumny razem: platforma z najszerszą ścieżką do GPU ma najwolniejszy port szczytowy, a najszybszy port działa na starszej magistrali.
| Platforma | Linie do GPU | Port szczytowy | Gniazda | Pamięć, do | Miasta |
|---|---|---|---|---|---|
| Intel Xeon Silver / Gold | 48 lanes per socketPCIe 3.0 | 100 Gbps1 Gbps incl. | 2 | 1 TB | 5 |
| Intel Xeon E5-2600 v3/v4 | 40 lanes per socketPCIe 3.0 | 40 Gbps1 Gbps incl. | 2 | 1 TB | 5 |
| Intel Xeon E5-2600 v1/v2 | 40 lanes per socketPCIe 3.0 | 20 Gbps1 Gbps incl. | 2 | 256 GB | 3 |
| AMD EPYC | 128 lanes per socketPCIe 4.0 | 20 Gbps1 Gbps incl. | 2 | 1 TB | 2 |
Które GPU trafia do każdej z tych platform i ile dodaje miesięcznie, znajdziesz na stronie dedykowanych serwerów GPU, gdzie każda cena jest pokazana przy maszynie, do której należy. Ta strona nie wycenia żadnego GPU, więc żadna kwota nigdy nie trafi obok niewłaściwego serwera.
04Połączenie między maszynami
Łącze sieciowe jest częścią każdego serwera, więc cztery maszyny po 10 Gb/s to cztery porty 10 Gb/s co miesiąc. Ta pozycja zaskakuje osoby, które dotąd wyceniały tylko pojedynczy serwer, dlatego poniższa tabela wykonuje mnożenie za Ciebie.
| Port | Jeden serwer | Dwa | Cztery | Platformy |
|---|---|---|---|---|
| 1 Gbps | incl. | incl. | incl. | 4 / 4 |
| 2 Gbps | $189 | $378 | $756 | 4 / 4 |
| 3 Gbps | $299 | $598 | $1,196 | 4 / 4 |
| 5 Gbps | $459 | $918 | $1,836 | 4 / 4 |
| 10 Gbps | $529 | $1,058 | $2,116 | 4 / 4 |
| 20 Gbps | $1,629 | $3,258 | $6,516 | 4 / 4 |
| 40 Gbps | $2,799 | $5,598 | $11,196 | 2 / 4 |
| 100 Gbps | $3,999 | $7,998 | $15,996 | 1 / 4 |
Szerszy klaster może kosztować mniej niż szybszy. W niektórych miejscach tej tabeli dwie maszyny o stopień niżej kosztują mniej niż jedna maszyna o stopień wyżej, a zyskujesz dodatkowy serwer. To się opłaca tylko wtedy, gdy Twoja praca dzieli się na maszyny.
Czego nie sprzedajemy między maszynami. Nasz katalog obejmuje porty Ethernet i nic więcej: żadnej sieci InfiniBand ani mostka NVLink. Jeśli Twoja konfiguracja wymaga któregokolwiek z nich, zapytaj przed złożeniem zamówienia. Odpowiedzią jest wycena i może brzmieć „nie”. Najmniejsza konfiguracja wielowęzłowa, jaką wynajmujemy, to NVIDIA DGX Spark, w której do czterech jednostek łączy się przewodowo przez ConnectX-7.
Port w pojedynczej maszynie, samodzielnie, jest opisany na stronie nielimitowany transfer.
05Gdzie może się znajdować
Maszyny, które ze sobą współpracują, powinny być w jednym budynku, a nasze centra danych nie mają wszędzie tych samych platform. Jeśli najpierw wybierzesz platformę, może się okazać, że miasto, którego potrzebujesz, jej nie oferuje. New York and Bucharest mają każdą z nich.
Każdy budynek i to, z czym się łączy, opisano na stronie centra danych. Jeśli Twoja konfiguracja musi obejmować dwa miasta, poproś dział wsparcia o pomiar opóźnienia między nimi przed złożeniem zamówienia.
06Czas realizacji
Taka konfiguracja to często kilka maszyn i części, których nie ma na półce, więc otrzymujesz termin przed zapłatą, odczytywany z tych samych etapów co nasze konfiguracje serwerów na zamówienie.
Nic nie jest montowane ani przenoszone. Serwery natychmiastowe zawierają listę maszyn gotowych do pracy — warto tam zajrzeć najpierw, jeśli Twoje węzły to zwykłe jednostki.
Typowy przypadek. Technicy montują GPU, konfigurują dyski i instalują system operacyjny na każdej maszynie równolegle, a nie jedna po drugiej.
Coś w specyfikacji nie jest częścią, którą trzymamy pod ręką, więc zamawiamy to, a potem składamy. Przy kilku GPU w jednej maszynie najdłużej zwykle schodzi obudowa.
Akceleratory obecnej generacji są wysyłane według przydziałów, a termin pochodzi od dystrybutora. Gdy kupujemy sprzęt dla jednego klienta, prosimy o trzy miesiące z góry.
Każdy etap rozpoczyna się po zaksięgowaniu płatności i przejściu kontroli antyfraudowej. Większość przechodzi w ciągu kilku godzin; duże pierwsze zamówienie z nowego konta może potrwać dłużej, a płatność przelewem lub stablecoinem często księguje się szybciej niż płatność kartą.
Marketplace
Właściciele wystawiają maszyny z kilkoma GPU oraz połączone pary na naszym marketplace w miesięcznej cenie, którą sami ustalają. Oferty prowadzone przez naszą siostrzaną firmę Server Room są wynajmowane na serverroom.net.
Wystaw go na marketplace Primcast i wynajmuj zespołom AI na miesiące, w cenie, którą wybierzesz.
07Pytania
To fizyczny serwer wynajmowany wyłącznie Tobie, wyposażony w jeden lub więcej procesorów GPU do trenowania, dostrajania lub udostępniania modeli. Tutaj GPU są przekazywane bezpośrednio do Twojego systemu operacyjnego, bez hypervisora i bez innych użytkowników na maszynie, a płacisz miesięcznie, bez umowy.
Tak. Każdy serwer GPU, który wynajmujemy, to bare metal: otrzymujesz uprawnienia root na całej maszynie i instalujesz sterownik, wersję CUDA oraz framework, których wymaga Twój kod. GPU i ich miesięczne ceny znajdziesz na stronie Dedykowane serwery GPU, każdy pokazany przy maszynie, do której pasuje.
Tak, jako konfiguracja wyceniana indywidualnie, a nie opcja w koszyku. To, ile się zmieści, zależy od szerokości GPU i mocy, jaką może dostarczyć obudowa, więc napisz na czacie, który GPU Cię interesuje, a w odpowiedzi podamy obudowę, liczbę sztuk i termin.
Zamów maszyny w tym samym mieście, na platformie, która osiąga potrzebną prędkość portu, i wybierz tę prędkość na każdej z nich. Pozostają osobnymi serwerami na osobnych fakturach, więc możesz zacząć od dwóch i dokładać kolejne później. Podaj najpierw liczbę węzłów i rodzaj zadania, a my sprawdzimy miasto i platformę, zanim zapłacisz.
Nie jako opcję z cennika. Maszyny łączą się przez porty Ethernet do 100 Gbps. Jeśli Twoja konfiguracja wymaga InfiniBand lub mostka NVLink, zapytaj przed zamówieniem: będzie to wycena indywidualna, a odpowiedź może być odmowna.
To zależy od tego, jak regularnie go używasz. Dedykowany serwer AI kosztuje tyle samo co miesiąc, niezależnie od tego, czy pracuje pełną mocą, czy stoi bezczynnie, więc sprawdza się przy długich treningach i modelach udostępnianych całodobowo. Ruch nie jest tu limitowany, więc przenoszenie zbiorów danych między węzłami czy wysyłanie wyników do użytkowników nic nie kosztuje. Przy zadaniu, które działa kilka godzin w miesiącu, wynajem godzinowy może wyjść taniej.
HPC oznacza obliczenia wysokiej wydajności: symulacje, renderowanie, kod naukowy i trenowanie modeli rozproszone na wielu procesorach lub GPU. Wynajmujemy części, czyli maszyny z maksymalnie 2 gniazdami i 1 TB pamięci, z GPU w środku i portami między nimi. Harmonogram konfigurujesz samodzielnie — Slurm, Kubernetes lub cokolwiek, czego Twój zespół już używa.
Maszyna i jej GPU są wyceniane razem na stronie Dedykowane serwery GPU. Port szybszy niż ten w zestawie to tabela na tej stronie, za maszynę i za miesiąc. Płatność za trzy, sześć lub dwanaście miesięcy daje do 15% zniżki, a konfiguracja niestandardowa wiąże się z jednorazową opłatą instalacyjną, którą konfigurator pokazuje przed zapłatą.
Około czterech do dwudziestu czterech godzin, gdy mamy części na stanie, pięć do dziesięciu dni roboczych, gdy trzeba je dokupić, i dziesięć do piętnastu dni roboczych w przypadku rzadkiego podzespołu. Maszyna, która jest już zamontowana w szafie tak, jak chcesz, może działać w około 30 minut.
Tak. Mają własną stronę, Serwery CMP 170HX, z konfiguracjami i ich miesięcznymi cenami.
W Nowym Jorku, Miami, San Francisco, Amsterdamie i Bukareszcie. Nie każda platforma jest w każdym mieście; New York and Bucharest mają je wszystkie, co czyni je najłatwiejszymi miejscami do rozbudowy klastra.
Nasz czat AI odpowiada w kilka sekund i może sprawdzić Twoje konto oraz serwery, pomagając przy tym, a człowiek przejmuje rozmowę, kiedy tylko poprosisz. Czasy reakcji i wymiana sprzętu są opisane na stronie Wsparcie.
08Powiązane strony
Zaplanuj to z nami
Liczba węzłów, czy praca się dzieli i z czym ma się komunikować. Nasz czat AI odpowiada w kilka sekund, człowiek dołącza, gdy poprosisz, a jeśli jedna maszyna wystarczy, powiemy to wprost.