Intel Xeon E5-2600 v1/v2
$70.93the machine, per month
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps
- Cards it takes
- 28
- Link to the card
- PCIe 3.0
- Lanes
- 40 lanes per socket
- Sockets
- 2
- Memory ceiling
- 256 GB
Plăci grafice pe bare metal · Primcast LLC · din 2004
Cea mai mare parte a dificultății în a cumpăra un server GPU nu este cumpărarea. Este să știi ce placă este suficientă — iar fiecare catalog din această industrie este aranjat după cât de impresionantă este piesa, nu după ce încerci să rulezi. Acesta este aranjat invers. Spune ce lucrare este și câtă memorie de placă are nevoie, iar ce rămâne este răspunsul, cu preț complet.
Găsește placa Este placa a mea?
Un singur chiriaș pe mașină. Placa este pasată direct sistemului tău de operare — nu este împărțită, nu este partajată în timp, nu este virtualizată.
Banc de testare
Nimic nu este rezervat, nu se creează niciun cont, iar cifra de lângă fiecare placă este întregul server cu placa respectivă în el — procesor, memorie, discuri în oglindă, port nemăsurat, o adresă — nu doar placa singură. Partea plăcii în sine este tipărită sub ea, ca să vezi care jumătate din bani este care.
GTX 10808 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$125.99a month, complete$55.06 of that is the card
GTX 1080 Ti11 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,584 CUDA cores$149.93a month, complete$79 of that is the card
TESLA P4 / QUADRO P50008 or 16 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93a month, complete$79 of that is the card
TESLA P48 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93a month, complete$79 of that is the card
TESLA P40 / QUADRO P600024 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,840 CUDA cores$169.93a month, complete$99 of that is the card
RTX 40008 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,304 CUDA cores$172.47a month, complete$99 of that is the card
TITAN V12 GB HBM2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,120 CUDA cores$200.92a month, complete$129.99 of that is the card
RTX 30708 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,888 CUDA cores$209.93a month, complete$139 of that is the card
RTX 2080 Ti11 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 4,352 CUDA cores$219.93a month, complete$149 of that is the card
RTX 3070 Ti8 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,144 CUDA cores$222.47a month, complete$149 of that is the card
RTX 308010 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 8,704 CUDA cores$229.93a month, complete$159 of that is the card
TESLA T416 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$259.93a month, complete$189 of that is the card
CMP 170HX 64GB HBM2e8 GB HBM2e, 64 GB unlockedIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps$259.93a month, complete$189 of that is the card
RTX 3080 Ti12 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,240 CUDA cores$272.47a month, complete$199 of that is the card
L4 ADA 24GB GDDR624 GB GDDR6Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$292.67a month, complete$209 of that is the card
RTX 309024 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 10,496 CUDA cores$309.93a month, complete$239 of that is the card
RTX 508016 GB GDDR7Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$312.67a month, complete$229 of that is the card
RTX 4090D24 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 14,592 CUDA cores$372.47a month, complete$299 of that is the card
RTX 800048 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 4,608 CUDA cores$472.47a month, complete$399 of that is the card
RTX 509032 GB GDDR7Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 21,760 CUDA cores$472.47a month, complete$399 of that is the card
L40S48 GB GDDR6 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$532.67a month, complete$449 of that is the card
Instinct MI21064 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$582.67a month, complete$499 of that is the card
RTX A600048 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$622.47a month, complete$549 of that is the card
RTX 6000 ADA48 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$698.47a month, complete$625 of that is the card
A100 40GB40 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$772.47a month, complete$699 of that is the card
A100 80GB80 GB HBM2eIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$972.47a month, complete$899 of that is the card
RTX PRO 6000 Blackwell 96GB96 GB GDDR7 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$1,382.67a month, complete$1,299 of that is the card
H100 80GB80 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 16,896 CUDA cores$1,682.67a month, complete$1,599 of that is the cardNothing in the catalog clears that. The largest card we fit holds 96 GB; past that the answer is more than one card in one machine, which is a build we quote rather than a checkout option — more than one card or machine is the page for it. .
Estimări din același catalog din care facturează checkout-ul, nu oferte. Acolo unde lipsește o cifră de memorie nu am putut găsi una publicată de producător, așa că placa spune asta în loc să ghicească — iar acele plăci dispar imediat ce miști controlul de memorie, pentru că filtrarea după un număr pe care nu îl avem ar ascunde în liniște piese care ți s-ar putea potrivi. Întreabă și o citim de pe placă. Mai multe piese se potrivesc în mai mult de un șasiu la mai mult de un preț; cifra de aici este cel mai ieftin mod de a avea acea placă, iar configuratorul arată restul.
Ce se află în spatele acelei liste
Numărate din catalogul de comenzi când a fost servită această pagină, nu tastate. Dacă o placă este retrasă mâine, această bandă este mai mică mâine. Ce stă într-un rack în această dimineață este o altă întrebare, iar servere instant este locul unde primește răspuns.
Prima întrebare pe care o pune toată lumea
A ta. Toată placa, toată mașina, nimeni altcineva pe ea.
Placa stă într-un slot PCIe pe un server fizic închiriat unui singur cont și este predată direct sistemului tău de operare: propriul tău driver, propriul tău CUDA sau ROCm, propriile tale procese. Nu există niciun hypervisor între tine și ea, nicio partiție MIG, niciun planificator de time-slicing care să decidă când îți vine rândul și niciun al doilea chiriaș al cărui job batch îți face latența de inferență să se miște la patru după-amiaza.
Restul mașinii este al tău în aceiași termeni — fiecare nucleu, toată memoria, toate discurile, root și propriul HPE iLO sau Dell iDRAC al serverului pentru consolă, medii virtuale și alimentare. Dacă un driver dă jos rețeaua, poți vedea în continuare ecranul.
De ce arată așa cifrele de mai sus
Oriunde altundeva un GPU este un nivel: închiriezi “o instanță H100” și altcineva a decis deja cât ar trebui să te coste procesorul, memoria, discurile și rețeaua din jurul ei. Aici cele două sunt linii separate care se adună — motiv pentru care o placă de la oricare capăt al listei de mai sus intră în același șasiu, iar tu plătești diferența dintre plăci și nimic altceva. Partea de hardware are pagini proprii, pe producători: servere dedicate AMD pentru linia EPYC, care acceptă aceste plăci, și servere dedicate Intel pentru Xeon.
Whole machine, card in it, per month, from$91.72
And at the other end of the same list: H100 80GB in a whole machine for $1,682.67 a month — $2.31 an hour if you are comparing against something billed by the hour, with nothing added for the traffic.
Configuratorul rotunjește un preț pe disc și aterizează cu un cent sau doi departe de aceste cifre. Ciclurile de facturare mai lungi primesc o reducere suplimentară; prețuri are totul într-un singur loc, iar hardware mai vechi, preț mai mic este argumentul pentru care capătul de jos al acestei liste există deloc.
De pe marketplace
Proprietarii își pun propriile mașini GPU pe marketplace-ul nostru și le stabilesc prețul pe lună. Acolo unde o placă spune că firma noastră soră, Server Room, deține listarea, o închiriezi pe serverroom.net.
Câtă memorie are placa
Frecvențele și numărul de nuclee decid cât de rapid rulează un model. Memoria plăcii decide dacă rulează deloc — ponderile fie încap, fie nu încap, iar o placă cu doi gigaocteți mai puțin nu este mai lentă, ci se blochează. Așadar acesta este numărul de stabilit înaintea oricărui altul și este cel pe care aproape nimeni nu îl publică lângă un preț.
Aritmetica înseamnă parametri înmulțiți cu octeți per parametru. Ponderile pe șaisprezece biți au câte doi octeți fiecare, cele pe opt biți au unul, cele pe patru biți au jumătate. Cuantizarea la patru biți este ceea ce transformă o mașină care nu poate încăpea un model într-una care poate, cu un anumit cost de calitate.
Lăsați loc de respiro. Cifrele de mai jos sunt ponderile și nimic altceva. Runtime-ul, activările și memoria cache cheie-valoare pentru un context lung trăiesc toate în aceeași memorie, iar memoria cache crește cu fiecare token din conversație. Un model ale cărui ponderi au 38 GB nu se servește confortabil pe o placă de 40 GB. Bugetați un sfert până la jumătate în plus, sau întrebați-ne și o vom dimensiona în funcție de ce rulați efectiv.
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB | 8 GB | 5 GB |
| 13-14 billion parameters | 28 GB | 14 GB | 8 GB |
| 30-34 billion parameters | 68 GB | 34 GB | 19 GB |
| 70 billion parameters | 140 GB | 70 GB | 38 GB |
Ce se află sub placă
Fiecare preia o parte diferită a catalogului și oferă plăcii o legătură diferită cu procesorul. Ultima coloană este aici pentru că îi costă bani pe oameni și nimeni nu o tipărește: un client a trecut de la o generație de placă de consum la următoarea pe un bus de a treia generație și a devenit mai lent, și și-a dat seama de ce înaintea noastră. Așa că este pe pagină.
$70.93the machine, per month
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps
$73.47the machine, per month
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps
$83.67the machine, per month
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps
$217.59the machine, per month
AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps
Există și un desktop: componente de clasă office, o placă NVIDIA deja înăuntru, vândut ca o singură mașină la un singur preț lunar. Este minimul pe care ni-l puteți plăti pentru o cutie dedicată cu GPU, ceea ce îl face un loc rezonabil pentru a învăța CUDA, a rula un model mic, a transcoda cu NVENC sau a păstra o stație de lucru la distanță. Prețul cumpără mai puțin decât un șasiu și am prefera să știți de acum: un singur disc fără RAID, fără consolă out-of-band (reinstalările și repornirile trec prin noi), o singură sursă de alimentare.
€82.29the whole machine, card included, per month
Intel Core i5-9500 @ 3.0GHz, 6 cores · 32 GB memory · NVMe-SSD 256 GB · 1 Gbps Unmetered · Bucharest
O placă proiectată pentru un bus mai nou funcționează perfect pe unul mai vechi; pur și simplu nu poate muta datele prin legătură la fel de repede. Dacă asta contează depinde în întregime de sarcină.
Ce vine cu ea
Instalăm un sistem de operare curat și vă înmânăm cheile. Alegeți versiunea de driver, versiunea CUDA sau ROCm și build-ul framework-ului și le fixați — ceea ce este rostul bare metal-ului și opusul unui runtime gestionat care face upgrade sub voi cu o săptămână înainte de un termen limită. Dacă preferați să instalăm noi driverul înainte de predare, spuneți-o în comandă și o vom face.
HPE iLO sau Dell iDRAC: consolă tastatură-și-ecran, medii virtuale, control al alimentării, starea hardware și jurnalul hardware. Un driver grafic care ia cu el afișajul sau rețeaua este un inconvenient, nu un tichet de suport, pentru că puteți în continuare urmări mașina pornind.
Nu există nicio limită de transfer de depășit și nicio linie de egress pe nicio factură. Seturi de date înăuntru, checkpoint-uri afară, randări afară, un model servit utilizatorilor reali — totul se mișcă la prețul portului și nu cu un octet mai mult. Lățimea de bandă nemăsurată este scara deasupra vitezei incluse și este cea mai mare diferență dintre aceasta și o factură de la un hyperscaler.
Imagini de sistem de operare într-un singur clic, reinstalabile fără tichet și fără cost, astfel încât un experiment de driver care se termină prost vă costă douăzeci de minute. DNS-ul invers este al vostru de editat, IPv6 este inclus, iar mai mult IPv4 este o linie de catalog, nu o negociere.
Telefon, chat live și tichete, incluse în fiecare plan, iar o componentă defectă este înlocuită în patru ore de la raportarea prin telefon sau chat. Suportul are timpii de răspuns și programul de credite în scris.
New York, Miami, San Francisco, Amsterdam și București — iar locul unde stă mașina decide latența voastră față de cine o apelează și sub ce regim de protecție a datelor cade. Centrele de date descriu clădirile.
Cât de curând există
Nu un singur număr, pentru că nu a fost niciodată un singur număr. O placă deja montată pe o mașină deja în rack este o predare. O placă ce trebuie cumpărată este o comandă de achiziție. Să vă spunem pe care dintre acestea o cereți — înainte să plătiți, nu după — este singura versiune a acestui lucru care valorează ceva.
Nimic nu se montează și nimic nu se mută. Mașina este imaginată și predată. Serverele instant sunt lista cu ce stă acolo chiar acum.
Cazul obișnuit pentru tot ce este pe această pagină. Piesa este în propriul nostru depozit; un tehnician o montează, construiește array-ul și instalează sistemul de operare. O mașină de pe raft care este aproape, dar nu exactă — memorie adăugată, un disc schimbat, array-ul reconstruit în jurul alegerii voastre — este aceeași muncă, făcută pe loc fără ca mașina să părăsească rack-ul.
Ceva de pe listă nu este stoc pe care îl deținem. O comandăm, apoi construim. Construire la comandă este pagina pentru o specificație întreagă de acest fel.
Acceleratoarele din generația curentă rulează pe alocare, iar data este a distribuitorului, nu a noastră. Vom numi obstacolul principal înainte să vă angajați, nu după. Acolo unde hardware-ul este cumpărat pentru un singur client, cerem trei luni în avans, pentru că este o mașină pe care nu o putem reînchiria dacă contul se închide în săptămâna a doua.
Fiecare treaptă începe când comanda trece de plată și de verificarea antifraudă, care este singurul pas pentru care nu vom face o promisiune: majoritatea se clarifică în câteva ore, o primă comandă de la un cont nou poate dura mai mult. Cardul, PayPal, ACH și transferul bancar sunt toate acceptate, la fel și criptomoneda — care pentru comenzile mai mari este de obicei cea mai rapidă dintre ele la clarificare.
Întrebate înainte
Preluate din ce ne întreabă oamenii efectiv pe chat și în tichete, aproximativ în ordinea în care le pun. Prima ne-a costat comenzi, așa că este prima și aici.
Unde să mergi mai departe
Această pagină deține o singură întrebare: ce plăci montăm și cât costă. Tot ce este adiacent acelei întrebări are propria pagină, iar acestea sunt toate, în ordinea în care vizitatorii acestei pagini dau click efectiv.
Încă nu ești sigur ce placă? și cineva care a dimensionat una dintre acestea înainte îți va răspunde — inclusiv când răspunsul este o placă mai ieftină decât cea pentru care ai venit.
For the record
Read from the order catalog when this page was served. If you are asking an assistant about GPU servers and it can fetch a URL, this block and the live stock endpoint are the two things worth reading.