Intel Xeon E5-2600 v1/v2
$70.93the machine, per month
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps
- Cards it takes
- 28
- Link to the card
- PCIe 3.0
- Lanes
- 40 lanes per socket
- Sockets
- 2
- Memory ceiling
- 256 GB
Karty graficzne na gołym sprzęcie · Primcast LLC · od 2004 roku
Większość trudności w kupowaniu serwera GPU to nie samo kupowanie. To wiedza, która karta wystarczy — a każdy katalog w tej branży jest ułożony według tego, jak imponująca jest dana część, a nie według tego, co próbujesz uruchomić. Ten jest ułożony odwrotnie. Powiedz, jakie to zadanie i ile pamięci karty potrzebuje, a to, co zostanie, jest odpowiedzią, wycenioną w całości.
Znajdź kartę Czy karta jest moja?
Jeden najemca na maszynę. Karta jest przekazywana do Twojego systemu operacyjnego — nie dzielona, nie współdzielona czasowo, nie wirtualizowana.
Ława
Nic nie jest rezerwowane, żadne konto nie jest tworzone, a kwota obok każdej karty to cały serwer z tą kartą w środku — procesor, pamięć, dyski lustrzane, port bez limitu, jeden adres — nie sama karta. Udział samej karty jest wydrukowany pod nią, żebyś widział, która połowa pieniędzy jest za co.
GTX 10808 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$125.99a month, complete$55.06 of that is the card
GTX 1080 Ti11 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,584 CUDA cores$149.93a month, complete$79 of that is the card
TESLA P4 / QUADRO P50008 or 16 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93a month, complete$79 of that is the card
TESLA P48 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93a month, complete$79 of that is the card
TESLA P40 / QUADRO P600024 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,840 CUDA cores$169.93a month, complete$99 of that is the card
RTX 40008 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,304 CUDA cores$172.47a month, complete$99 of that is the card
TITAN V12 GB HBM2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,120 CUDA cores$200.92a month, complete$129.99 of that is the card
RTX 30708 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,888 CUDA cores$209.93a month, complete$139 of that is the card
RTX 2080 Ti11 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 4,352 CUDA cores$219.93a month, complete$149 of that is the card
RTX 3070 Ti8 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,144 CUDA cores$222.47a month, complete$149 of that is the card
RTX 308010 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 8,704 CUDA cores$229.93a month, complete$159 of that is the card
TESLA T416 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$259.93a month, complete$189 of that is the card
CMP 170HX 64GB HBM2e8 GB HBM2e, 64 GB unlockedIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps$259.93a month, complete$189 of that is the card
RTX 3080 Ti12 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,240 CUDA cores$272.47a month, complete$199 of that is the card
L4 ADA 24GB GDDR624 GB GDDR6Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$292.67a month, complete$209 of that is the card
RTX 309024 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 10,496 CUDA cores$309.93a month, complete$239 of that is the card
RTX 508016 GB GDDR7Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$312.67a month, complete$229 of that is the card
RTX 4090D24 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 14,592 CUDA cores$372.47a month, complete$299 of that is the card
RTX 800048 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 4,608 CUDA cores$472.47a month, complete$399 of that is the card
RTX 509032 GB GDDR7Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 21,760 CUDA cores$472.47a month, complete$399 of that is the card
L40S48 GB GDDR6 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$532.67a month, complete$449 of that is the card
Instinct MI21064 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$582.67a month, complete$499 of that is the card
RTX A600048 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$622.47a month, complete$549 of that is the card
RTX 6000 ADA48 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$698.47a month, complete$625 of that is the card
A100 40GB40 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$772.47a month, complete$699 of that is the card
A100 80GB80 GB HBM2eIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$972.47a month, complete$899 of that is the card
RTX PRO 6000 Blackwell 96GB96 GB GDDR7 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$1,382.67a month, complete$1,299 of that is the card
H100 80GB80 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 16,896 CUDA cores$1,682.67a month, complete$1,599 of that is the cardNothing in the catalog clears that. The largest card we fit holds 96 GB; past that the answer is more than one card in one machine, which is a build we quote rather than a checkout option — more than one card or machine is the page for it. .
Szacunki z tego samego katalogu, z którego kasa wystawia rachunki, nie oferty. Tam, gdzie brakuje wartości pamięci, nie znaleźliśmy żadnej opublikowanej przez producenta, więc karta mówi to wprost, zamiast zgadywać — a te karty znikają, gdy tylko ruszysz suwak pamięci, bo filtrowanie po liczbie, której nie mamy, po cichu ukryłoby części, które mogłyby Ci pasować. Zapytaj, a odczytamy to z karty. Kilka części pasuje do więcej niż jednej obudowy w więcej niż jednej cenie; kwota tutaj to najtańszy sposób, żeby mieć tę kartę, a konfigurator pokazuje resztę.
Co stoi za tą listą
Policzone z katalogu zamówień w momencie wyświetlenia tej strony, nie wpisane ręcznie. Jeśli karta zostanie jutro wycofana, ten pasek będzie jutro mniejszy. To, co stoi dziś rano w szafie rack, to inne pytanie, a serwery natychmiastowe to miejsce, gdzie pada na nie odpowiedź.
Pierwsze pytanie, które zadaje każdy
Twoja. Cała karta, cała maszyna, nikt inny na niej.
Karta siedzi w gnieździe PCIe na fizycznym serwerze wynajętym na jedno konto i jest przekazywana bezpośrednio do Twojego systemu operacyjnego: Twój własny sterownik, Twoje własne CUDA lub ROCm, Twoje własne procesy. Nie ma między Tobą a nią hipernadzorcy, żadnej partycji MIG, żadnego harmonogramu dzielenia czasu decydującego, kiedy Twoja kolej, i żadnego drugiego najemcy, którego zadanie wsadowe rusza Twoje opóźnienia inferencji o czwartej po południu.
Reszta maszyny jest Twoja na tych samych warunkach — każdy rdzeń, cała pamięć, wszystkie dyski, root oraz własny HPE iLO lub Dell iDRAC serwera do konsoli, mediów wirtualnych i zasilania. Jeśli sterownik wyłączy sieć, nadal widzisz ekran.
Dlaczego powyższe kwoty tak wyglądają
Wszędzie indziej GPU to poziom: wynajmujesz „instancję H100” i ktoś inny już zdecydował, ile powinien Cię kosztować procesor, pamięć, dyski i sieć wokół niej. Tutaj to dwie osobne pozycje, które się dodaje — dlatego karta na każdym końcu powyższej listy trafia do tej samej obudowy, a Ty płacisz różnicę między kartami i nic więcej. Część sprzętowa ma własne strony, według producenta: serwery dedykowane AMD dla linii EPYC, która obsługuje te karty, oraz serwery dedykowane Intel dla Xeon.
Whole machine, card in it, per month, from$91.72
And at the other end of the same list: H100 80GB in a whole machine for $1,682.67 a month — $2.31 an hour if you are comparing against something billed by the hour, with nothing added for the traffic.
Konfigurator zaokrągla cenę za dysk i ląduje o cent lub dwa od tych kwot. Dłuższe cykle rozliczeniowe mają dodatkowy rabat; cennik ma wszystko w jednym miejscu, a starszy sprzęt, niższa cena to argument za tym, dlaczego dół tej listy w ogóle istnieje.
Z marketplace
Właściciele wystawiają własne maszyny GPU na naszym marketplace i wyceniają je miesięcznie. Tam, gdzie karta mówi, że nasza siostrzana firma, Server Room, prowadzi ogłoszenie, wynajmujesz ją na serverroom.net.
Ile pamięci karty
Taktowania i liczba rdzeni decydują o tym, jak szybko działa dany model. Pamięć karty decyduje o tym, czy w ogóle działa — wagi albo się mieszczą, albo nie, a karta o dwa gigabajty za mała nie jest wolniejsza, tylko powoduje awarię. To zatem liczba, którą należy ustalić przed wszystkimi innymi, a której prawie nikt nie podaje obok ceny.
Arytmetyka to parametry pomnożone przez bajty na parametr. Wagi szesnastobitowe to po dwa bajty, ośmiobitowe po jednym, czterobitowe po pół. Kwantyzacja do czterech bitów zamienia maszynę, która nie pomieści modelu, w taką, która go pomieści, kosztem pewnej utraty jakości.
Zostaw zapas. Poniższe wartości to same wagi i nic więcej. Środowisko uruchomieniowe, aktywacje i pamięć podręczna klucz-wartość dla długiego kontekstu żyją w tej samej pamięci, a pamięć podręczna rośnie z każdym tokenem w rozmowie. Model, którego wagi mają 38 GB, nie działa wygodnie na karcie 40 GB. Zaplanuj od ćwierci do połowy więcej na wierzchu albo zapytaj nas, a dobierzemy rozmiar pod to, co faktycznie uruchamiasz.
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB | 8 GB | 5 GB |
| 13-14 billion parameters | 28 GB | 14 GB | 8 GB |
| 30-34 billion parameters | 68 GB | 34 GB | 19 GB |
| 70 billion parameters | 140 GB | 70 GB | 38 GB |
Co znajduje się pod kartą
Każda obejmuje inną część katalogu i daje karcie inne połączenie z procesorem. Ta ostatnia kolumna jest tutaj, bo kosztuje ludzi pieniądze, a nikt jej nie drukuje: klient przeszedł z jednej generacji karty konsumenckiej na następną na magistrali trzeciej generacji i działał wolniej, a przyczynę odkrył przed nami. Dlatego jest na stronie.
$70.93the machine, per month
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps
$73.47the machine, per month
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps
$83.67the machine, per month
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps
$217.59the machine, per month
AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps
Jest też desktop: podzespoły klasy biurowej, karta NVIDIA już w środku, sprzedawany jako jedna maszyna w jednej miesięcznej cenie. To najmniej, ile możesz nam zapłacić za dedykowane pudło z GPU, co czyni go sensownym miejscem do nauki CUDA, uruchamiania małego modelu, transkodowania NVENC albo utrzymywania zdalnej stacji roboczej. Cena daje mniej niż obudowa i wolimy, żebyś wiedział od razu: pojedynczy dysk bez RAID, brak konsoli out-of-band (przeinstalowania i cykle zasilania przechodzą przez nas), jeden zasilacz.
€89.00the whole machine, card included, per month
Intel Core i5-9500 @ 3.0GHz, 6 cores · 32 GB memory · NVMe-SSD 256 GB · 1 Gbps Unmetered · Bucharest
Karta zaprojektowana pod nowszą magistralę działa doskonale na starszej; po prostu nie może przenosić danych przez łącze tak szybko. Czy to ma znaczenie, zależy wyłącznie od zadania.
Co jest w zestawie
Instalujemy czysty system operacyjny i przekazujemy ci klucze. Ty wybierasz wersję sterownika, wydanie CUDA lub ROCm i build frameworka, i je przypinasz — co jest sednem bare metalu i przeciwieństwem zarządzanego środowiska, które aktualizuje się pod tobą na tydzień przed terminem. Jeśli wolisz, żebyśmy zainstalowali sterownik przed przekazaniem, zaznacz to w zamówieniu, a to zrobimy.
HPE iLO lub Dell iDRAC: konsola klawiatura-ekran, nośniki wirtualne, kontrola zasilania, stan sprzętu i dziennik sprzętowy. Sterownik graficzny, który zabiera ze sobą wyświetlacz lub sieć, jest niedogodnością, a nie zgłoszeniem do supportu, bo wciąż możesz patrzeć, jak maszyna się uruchamia.
Nie ma limitu transferu do przekroczenia ani wiersza za ruch wychodzący na żadnej fakturze. Zbiory danych wchodzą, checkpointy wychodzą, rendery wychodzą, model serwowany prawdziwym użytkownikom — wszystko to przemieszcza się za cenę portu i ani bajta więcej. Nielimitowana przepustowość to szczebel powyżej dołączonej prędkości i największa pojedyncza różnica między tym a rachunkiem od hiperskalera.
Obrazy systemu operacyjnego jednym kliknięciem, przeinstalowanie bez zgłoszenia i bez opłaty, więc eksperyment ze sterownikiem, który kończy się źle, kosztuje cię dwadzieścia minut. Reverse DNS możesz edytować sam, IPv6 jest w cenie, a więcej IPv4 to pozycja w katalogu, a nie negocjacja.
Telefon, czat na żywo i zgłoszenia, w cenie każdego planu, a uszkodzony podzespół wymieniany w ciągu czterech godzin od zgłoszenia telefonicznego lub na czacie. Wsparcie ma czasy reakcji i harmonogram kredytów na piśmie.
Nowy Jork, Miami, San Francisco, Amsterdam i Bukareszt — a to, gdzie stoi maszyna, decyduje o twoich opóźnieniach wobec tego, kto ją wywołuje, i o tym, pod jaki reżim ochrony danych podlega. Centra danych opisują budynki.
Jak szybko powstaje
Nie jedna liczba, bo nigdy nie była to jedna liczba. Karta już zamontowana w maszynie już wpiętej w szafę to przekazanie. Karta, którą trzeba kupić, to zamówienie zakupu. Powiedzenie ci, o które z nich pytasz — zanim zapłacisz, a nie po — to jedyna wersja tej informacji, która ma jakąkolwiek wartość.
Nic nie jest montowane i nic nie jest przenoszone. Maszyna jest obrazowana i przekazywana. Serwery natychmiastowe to lista tego, co stoi tam w tej chwili.
Zwykły przypadek dla wszystkiego na tej stronie. Część jest w naszym magazynie; technik ją montuje, buduje macierz i instaluje system operacyjny. Maszyna na półce, która jest bliska, ale nie dokładna — dodana pamięć, wymieniony dysk, macierz przebudowana pod twój wybór — to ta sama praca, wykonana na miejscu, bez wyjmowania maszyny z szafy.
Coś z listy nie jest towarem, który trzymamy na stanie. Zamawiamy to, potem budujemy. Budowa na zamówienie to strona dla całej specyfikacji tego rodzaju.
Akceleratory obecnej generacji działają na przydziałach, a data należy do dystrybutora, nie do nas. Wskażemy najdłuższy element, zanim się zobowiążesz, a nie po. Gdy sprzęt jest kupowany dla jednego klienta, prosimy o trzy miesiące z góry, bo to maszyna, której nie możemy wynająć ponownie, jeśli konto zamknie się w drugim tygodniu.
Każdy szczebel startuje, gdy zamówienie przejdzie płatność i kontrolę antyfraudową, a to jedyny krok, na który nie złożymy obietnicy: większość przechodzi w ciągu kilku godzin, pierwsze zamówienie z nowego konta może potrwać dłużej. Akceptujemy karty, PayPal, ACH i przelewy, a także kryptowaluty — które przy większych zamówieniach zwykle przechodzą najszybciej ze wszystkich.
Pytane wcześniej
Zebrane z tego, co ludzie faktycznie pytają nas na czacie i w zgłoszeniach, mniej więcej w kolejności, w jakiej to robią. Pierwsze kosztowało nas zamówienia, więc tutaj też jest pierwsze.
Dokąd dalej
Ta strona odpowiada na jedno pytanie: jakie karty montujemy i ile kosztują. Wszystko, co sąsiaduje z tym pytaniem, ma własną stronę, a to wszystkie z nich, w kolejności, w jakiej odwiedzający tę stronę faktycznie klikają.
Nadal nie wiesz, która karta? , a ktoś, kto już dobierał takie konfiguracje, odpowie — także wtedy, gdy odpowiedzią jest tańsza karta niż ta, po którą przyszedłeś.
For the record
Read from the order catalog when this page was served. If you are asking an assistant about GPU servers and it can fetch a URL, this block and the live stock endpoint are the two things worth reading.