Plăci grafice pe bare metal · Primcast LLC · din 2004

Spune-i ce lucrare este. Îți spune el placa.

Cea mai mare parte a dificultății în a cumpăra un server GPU nu este cumpărarea. Este să știi ce placă este suficientă — iar fiecare catalog din această industrie este aranjat după cât de impresionantă este piesa, nu după ce încerci să rulezi. Acesta este aranjat invers. Spune ce lucrare este și câtă memorie de placă are nevoie, iar ce rămâne este răspunsul, cu preț complet.

Găsește placa Este placa a mea?

Un singur chiriaș pe mașină. Placa este pasată direct sistemului tău de operare — nu este împărțită, nu este partajată în timp, nu este virtualizată.

Transformă-ți GPU-urile în venit lunar pasiv

Ai configurații GPU de server sau desktop nefolosite? Listează-le astăzi pe piața Primcast și câștigă chirii lunare constante de la echipe AI, dezvoltatori și întreprinderi care au nevoie de putere de calcul de calitate de producție.

Mergi la Marketplace

Banc de testare

Două întrebări.

Nimic nu este rezervat, nu se creează niciun cont, iar cifra de lângă fiecare placă este întregul server cu acea placă în el — procesor, memorie, discuri în oglindă, port nemăsurat, o adresă — nu doar placa singură. Partea plăcii în sine este tipărită sub ea, ca să poți vedea care jumătate din bani este care.

What is it for?

How much card memory?

anygigabytes or more

  • 5 GB7-8 billion parameters, 4-bit
  • 8 GB13-14 billion parameters, 4-bit
  • 19 GB30-34 billion parameters, 4-bit
  • 38 GB70 billion parameters, 4-bit

  1. 3000M2 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 240 CUDA cores$91.72a month, complete$20.79 of that is the card
  2. K3100M4 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 768 CUDA cores$102.52a month, complete$31.59 of that is the card
  3. M3000M4 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 1,280 CUDA cores$109.12a month, complete$38.19 of that is the card
  4. TESLA M68 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 1,536 CUDA cores$113.42a month, complete$42.49 of that is the card
  5. TESLA M608 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,048 CUDA cores$119.42a month, complete$48.49 of that is the card
  6. GTX 1070M8 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,048 CUDA cores$124.32a month, complete$53.39 of that is the card
  7. GTX 10808 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$125.99a month, complete$55.06 of that is the card
  8. GTX 10708 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 1,920 CUDA cores$135.22a month, complete$64.29 of that is the card
  9. GTX 1070 Ti8 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,432 CUDA cores$146.22a month, complete$75.29 of that is the card
  10. GTX 1080 Ti11 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,584 CUDA cores$149.93a month, complete$79 of that is the card
  11. TESLA P4 / QUADRO P50008 or 16 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93a month, complete$79 of that is the card
  12. TESLA P48 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93a month, complete$79 of that is the card
  13. RTX 20708 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,304 CUDA cores$159.93a month, complete$89 of that is the card
  14. TESLA P40 / QUADRO P600024 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,840 CUDA cores$169.93a month, complete$99 of that is the card
  15. Instinct MI50 16GB16 GB HBM2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps$169.93a month, complete$99 of that is the card
  16. RTX 2070 Super8 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,560 CUDA cores$172.47a month, complete$99 of that is the card
  17. RTX 40008 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,304 CUDA cores$172.47a month, complete$99 of that is the card
  18. Instinct MI5016 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps$172.47a month, complete$99 of that is the card
  19. TESLA M602 x 8 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 4,096 CUDA cores$178.82a month, complete$107.89 of that is the card
  20. RTX 20808 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,994 CUDA cores$189.93a month, complete$119 of that is the card
  21. RTX 500016 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,072 CUDA cores$189.93a month, complete$119 of that is the card
  22. RTX 2080 Super8 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,072 CUDA cores$199.93a month, complete$129 of that is the card
  23. TITAN V12 GB HBM2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,120 CUDA cores$200.92a month, complete$129.99 of that is the card
  24. RTX A2000 40 Mh/s6 or 12 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 40 MH/s$202.47a month, complete$129 of that is the card
  25. RTX 30708 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,888 CUDA cores$209.93a month, complete$139 of that is the card
  26. TESLA P10016 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 3,584 CUDA cores$212.47a month, complete$139 of that is the card
  27. P500016 GB GDDR5XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,560 CUDA cores$214.06a month, complete$140.59 of that is the card
  28. RTX 2080 Ti11 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 4,352 CUDA cores$219.93a month, complete$149 of that is the card
  29. RTX 3070 Ti8 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,144 CUDA cores$222.47a month, complete$149 of that is the card
  30. RTX A400016 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,144 CUDA cores$222.47a month, complete$149 of that is the card
  31. RTX 308010 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 8,704 CUDA cores$229.93a month, complete$159 of that is the card
  32. TESLA T416 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$259.93a month, complete$189 of that is the card
  33. CMP-170HX Mining GPU 164MH/s8 GB HBM2eIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 164 MH/s$259.93a month, complete$189 of that is the card
  34. RTX 407012 GB GDDR6XIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 5,888 CUDA cores$262.67a month, complete$179 of that is the card
  35. RTX 3080 Ti12 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,240 CUDA cores$272.47a month, complete$199 of that is the card
  36. Tenstorrent Blackhole p100a28 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps$272.47a month, complete$199 of that is the card
  37. L4 ADA 24GB GDDR624 GB GDDR6Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$292.67a month, complete$209 of that is the card
  38. RTX A500024 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 8,192 CUDA cores$302.47a month, complete$229 of that is the card
  39. Tesla V100 32GB32 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 5,120 CUDA cores$302.47a month, complete$229 of that is the card
  40. RTX 309024 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 10,496 CUDA cores$309.93a month, complete$239 of that is the card
  41. RTX 508016 GB GDDR7Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$312.67a month, complete$229 of that is the card
  42. P600024 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,840 CUDA cores$320.52a month, complete$249.59 of that is the card
  43. RTX 4500 Ada Generation24 GB GDDR6 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 7,680 CUDA cores$332.67a month, complete$249 of that is the card
  44. RTX 4090D24 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 14,592 CUDA cores$372.47a month, complete$299 of that is the card
  45. RTX 600024 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 4,608 CUDA cores$372.47a month, complete$299 of that is the card
  46. RTX PRO 4000memory not publishedIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps$372.47a month, complete$299 of that is the card
  47. RTX 800048 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 4,608 CUDA cores$472.47a month, complete$399 of that is the card
  48. RTX 509032 GB GDDR7Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 21,760 CUDA cores$472.47a month, complete$399 of that is the card
  49. L40S48 GB GDDR6 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$532.67a month, complete$449 of that is the card
  50. A4048 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$572.47a month, complete$499 of that is the card
  51. Instinct MI21064 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$582.67a month, complete$499 of that is the card
  52. RTX A600048 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$622.47a month, complete$549 of that is the card
  53. RTX 6000 ADA48 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$698.47a month, complete$625 of that is the card
  54. A100 40GB40 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$772.47a month, complete$699 of that is the card
  55. A100 80GB80 GB HBM2eIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$972.47a month, complete$899 of that is the card
  56. RTX PRO 6000 Blackwell 96GB96 GB GDDR7 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$1,382.67a month, complete$1,299 of that is the card
  57. H100 80GB80 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 16,896 CUDA cores$1,682.67a month, complete$1,599 of that is the card

Estimări din același catalog din care facturează checkout-ul, nu oferte. Acolo unde lipsește o cifră de memorie nu am putut găsi una publicată de producător, așa că placa spune asta în loc să ghicească — iar acele plăci dispar imediat ce miști controlul de memorie, pentru că filtrarea după un număr pe care nu îl avem ar ascunde în liniște piese care ți s-ar putea potrivi. Întreabă și o vom citi de pe placă. Mai multe piese se potrivesc în mai mult de un șasiu la mai mult de un preț; cifra de aici este cel mai ieftin mod de a avea acea placă, iar configuratorul arată restul.

Ce se află în spatele acelei liste

  • 57Cards we fit
  • $20.79Cheapest card, per month
  • $91.72Cheapest whole machine with one in it
  • 5Cities
  • 0Bytes counted

Numărat din catalogul de comenzi când a fost servită această pagină, nu tastat. Dacă o placă este retrasă mâine, această bandă este mai mică mâine. Ce stă într-un rack în această dimineață este o altă întrebare, iar serverele instant este locul unde primește răspuns.

Prima întrebare pe care o pune toată lumea

Este placa a mea, sau o împart cu altcineva?

A ta. Întreaga placă, întreaga mașină, nimeni altcineva pe ea.

Placa stă într-un slot PCIe pe un server fizic închiriat unui singur cont și este predată direct sistemului tău de operare: propriul tău driver, propriul tău CUDA sau ROCm, propriile tale procese. Nu există niciun hypervisor între tine și ea, nicio partiție MIG, niciun planificator de time-slicing care să decidă când este rândul tău și niciun al doilea chiriaș al cărui job batch îți face latența de inferență să se miște la patru după-amiaza.

Restul mașinii este al tău în aceiași termeni — fiecare nucleu, toată memoria, toate discurile, root și propriul HPE iLO sau Dell iDRAC al serverului pentru consolă, medii virtuale și alimentare. Dacă un driver dă jos rețeaua, poți vedea în continuare ecranul.

  • Nu o felieFără MIG, fără vGPU, fără alocare fracționară. O placă, un chiriaș.
  • Nu o coadăNimic nu-ți preemptează procesul. Placa este inactivă când ești inactiv.
  • Nu un containerBare metal. Încarcă-ți propriile module de kernel, fixează-ți propria versiune de driver.
  • Nu măsuratWeights intră, checkpoint-uri ies, randări ies. Nimic nu numără octeții.

De ce arată așa cifrele de mai sus

Placa este o linie pe factură, nu un nivel de produs.

Oriunde altundeva un GPU este un nivel: închiriezi “o instanță H100” și altcineva a decis deja cât ar trebui să te coste procesorul, memoria, discurile și rețeaua din jurul ei. Aici cele două sunt linii separate care se adună — motiv pentru care o placă de la oricare capăt al listei de mai sus intră în același șasiu, iar tu plătești diferența dintre plăci și nimic altceva.

  1. The machineIntel Xeon E5-2600 v1/v2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps$70.93
  2. The cardAnything on the shelves belowCheapest to dearest, $20.79 to $1,599$20.79
  3. The portUnmetered, both directionsNo allowance to exceed, no egress line, everincluded
  4. SetupNothingNo contract; one month is the default term

Whole machine, card in it, per month, from$91.72

And at the other end of the same list: H100 80GB in a whole machine for $1,682.67 a month — $2.31 an hour if you are comparing against something billed by the hour, with nothing added for the traffic.

Configuratorul rotunjește un preț pe disc și aterizează cu un cent sau doi departe de aceste cifre. Ciclurile de facturare mai lungi primesc o reducere suplimentară; prețurile au totul într-un singur loc, iar hardware mai vechi, preț mai mic este argumentul pentru care capătul de jos al acestei liste există deloc.

Câtă memorie pe card

Singura specificație care decide dacă funcționează.

Vitezele de ceas și numărul de nuclee decid cât de repede rulează un model. Memoria cardului decide dacă acesta rulează - ponderile fie se potrivesc, fie nu, iar un card cu doi gigabytes mai puțin nu este mai lent, ci este o prăbușire. Așadar, acesta este numărul de stabilit înaintea oricărui altul și este cel pe care aproape nimeni nu îl publică lângă un preț.

Aritmetica constă în înmulțirea parametrilor cu octeți per parametru. Ponderile de șaisprezece biți sunt câte doi octeți fiecare, cele de opt biți sunt câte unu, cele de patru biți sunt câte jumătate. Cuantificarea la patru biți este ceea ce transformă o mașină care nu poate stoca un model într-una care poate, cu un anumit cost al calității.

Lăsați spațiu liber. Cifrele de mai jos reprezintă ponderile și nimic altceva. Timpul de execuție, activările și memoria cache cheie-valoare pentru un context lung se află toate în aceeași memorie, iar memoria cache crește cu fiecare token din conversație. Un model ale cărui ponderi sunt de 38 GB nu funcționează confortabil pe un card de 40 GB. Bugetați din nou un sfert până la jumătate în plus sau întrebați-ne și îl vom dimensiona în funcție de ceea ce rulați efectiv.

Weights only. Add head-room for the runtime and the context window before choosing a card.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB8 GB5 GB
13-14 billion parameters28 GB14 GB8 GB
30-34 billion parameters68 GB34 GB19 GB
70 billion parameters140 GB70 GB38 GB

Ce se află sub card

Patru șasiuri iau unul și nu sunt interschimbabile.

Fiecare preia o parte diferită a catalogului și oferă unui card o legătură diferită către procesor. Ultima coloană este aici deoarece costă bani și nimeni nu o tipărește: un client a trecut de la o generație de carduri de consum la următoarea pe o magistrală de a treia generație și a rulat mai lent , și a aflat de ce înaintea noastră. Deci este scris pe pagină.

Intel Xeon E5-2600 v1/v2

$70.93the machine, per month

Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps

Cards it takes
28
Link to the card
PCIe 3.0
Lanes
40 lanes per socket
Sockets
2
Memory ceiling
256 GB

Configure this machine →

Intel Xeon E5-2600 v3/v4

$73.47the machine, per month

Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps

Cards it takes
44
Link to the card
PCIe 3.0
Lanes
40 lanes per socket
Sockets
2
Memory ceiling
1 TB

Configure this machine →

Intel Xeon Silver / Gold

$83.67the machine, per month

Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps

Cards it takes
48
Link to the card
PCIe 3.0
Lanes
48 lanes per socket
Sockets
2
Memory ceiling
1 TB

Configure this machine →

AMD EPYC

$217.59the machine, per month

AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps

Cards it takes
10
Link to the card
PCIe 4.0
Lanes
128 lanes per socket
Sockets
2
Memory ceiling
1 TB

Configure this machine →

Ce schimbă de fapt generația de autobuze

O placă concepută pentru o magistrală mai nouă funcționează perfect pe una mai veche; pur și simplu nu poate transfera date prin legătură la fel de repede. Contează sau nu depinde în întregime de sarcină.

  • Contează atunci când datele traversează magistrala în mod continuu — o buclă de antrenament care transmite în flux continuu date din memoria discului sau a sistemului, o randare care alimentează date de scenă pe card în fiecare cadru, orice iese din memoria cardului.
  • Nu contează odată ce ponderile sunt rezidente și rămân acolo - inferență pe un model care se potrivește, transcodare video, majoritatea simulărilor. Legătura transportă cereri și rezultate, iar acestea sunt mici.
  • Întreabă dacă nu ești sigur. Spune-ne volumul de muncă și îți vom spune clar dacă platforma reprezintă un blocaj pentru aceasta, chiar și atunci când răspunsul sincer este că un card mai ieftin pe o conexiune mai bună este mai bun decât un card mai scump pe una mai proastă.

Ce vine cu el

Tot ce face cardul utilizabil și nimic ce trebuie să cumperi.

  • Root, iar stiva de drivere este a ta

    Instalăm un sistem de operare curat și vă înmânăm cheile. Dumneavoastră alegeți versiunea driverului, versiunea CUDA sau ROCM și versiunea framework-ului și le configurați fix — acesta fiind punctul culminant al instalării și opusul unui runtime gestionat care se actualizează sub conducerea dumneavoastră cu o săptămână înainte de un termen limită. Dacă preferați să instalăm driverul înainte de predare, specificați acest lucru în comandă și o vom face.

  • Consola proprie a mașinii, pe o rețea separată

    HPE iLO sau Dell iDRAC: consolă cu tastatură și ecran, suport media virtual, controlul alimentării, starea hardware-ului și jurnalul hardware. Un driver grafic care ia cu el afișajul sau rețeaua este un inconvenient mai degrabă decât un tichet de asistență, deoarece puteți urmări în continuare pornirea mașinii.

  • Un port nelimitat, în ambele direcții

    Nu există nicio limită de transfer care trebuie depășită și nicio linie de ieșire pe nicio factură. Seturi de date introduse, puncte de control trimise, randări trimise, un model servit utilizatorilor reali - toate acestea se mișcă la prețul portului și niciun octet în plus. Lățimea de bandă nelimitată este scara superioară vitezei incluse și este cea mai mare diferență dintre aceasta și o factură de la un hiperscaler.

  • Reinstalați-l oricât de des doriți

    Imagini ale sistemului de operare cu un singur clic, reinstalabile fără tichet și fără costuri, astfel încât un experiment cu drivere care se termină prost vă costă douăzeci de minute. DNS-ul invers este al dumneavoastră pentru editare, IPv6 este inclus și, în plus, IPv4 este o linie de catalog, nu o negociere.

  • Oameni, la orice oră

    Telefon, chat live și tichete incluse în fiecare abonament, precum și înlocuirea oricărei componente defecte în termen de patru ore de la raportarea prin telefon sau chat. Asistența tehnică are timpii de răspuns și programul de creditare în scris.

  • Cinci camere în care să-l pui

    New York, Miami, San Francisco, Amsterdam și București — iar locul în care se află mașina decide latența ta față de oricine o apelează și regimul de protecție a datelor în care se încadrează. Centrele de date descriu clădirile.

Cât de curând există

Între o jumătate de oră și trei săptămâni, iar care dintre ele depinde de locul în care se află cardul.

Nu un singur număr, pentru că nu a fost niciodată un singur număr. Un card deja montat pe un aparat deja încărcat este o predare. Un card care trebuie cumpărat este un ordin de achiziție. A-ți spune pe care dintre acestea îl ceri - înainte de a plăti, nu după - este singura versiune a acestui fapt care valorează ceva.

  1. ~30 de minute

    Cardul este deja într-un aparat de pe raft

    Nimic nu este montat și nimic nu este mutat. Mașina este fotografiată și predată. Serverele instantanee sunt lista cu ceea ce se află acolo chiar acum.

  2. 4–24 de ore

    O cartelă pe care o deținem este montată sau un aparat din rack este rearanjat

    Cazul obișnuit pentru tot ce este pe această pagină. Piesa se află în depozitul nostru; un tehnician o montează, construiește matricea și instalează sistemul de operare. O mașină pe raft care este apropiată, dar nu exactă - memorie adăugată, o unitate schimbată, matricea reconstruită în funcție de alegerea dvs. - este aceeași muncă, efectuată pe loc, fără ca mașina să părăsească rack-ul.

  3. 5–10 zile lucrătoare

    Cardul trebuie cumpărat

    Ceva din listă nu este din stocul nostru. Îl comandăm, apoi îl construim. Construim la comandă este pagina pentru o specificație completă de acest tip.

  4. 10–15 zile lucrătoare

    Cardul este rar

    Acceleratoarele din generația actuală funcționează pe bază de alocare, iar data este a distribuitorului, nu a noastră. Vom anunța polul lung înainte de a vă angaja, nu ulterior. În cazul în care hardware-ul este achiziționat pentru un client, solicităm trei luni în avans, deoarece este o mașină pe care nu o putem reînchiria dacă contul se închide în a doua săptămână.

Fiecare etapă începe atunci când comanda trece prin procesarea plății și verificarea fraudelor, acesta fiind singurul pas pe care nu îl vom promite: majoritatea procesărilor se fac în câteva ore, o primă comandă dintr-un cont nou poate dura mai mult. Sunt acceptate toate cardurile, PayPal, ACH și transferul bancar, la fel și criptomonedele — care, pentru comenzile mai mari, sunt de obicei cele mai rapide de procesat.

Întrebate înainte

Cele douăsprezece întrebări la care această pagină există ca să răspundă.

Preluate din ce ne întreabă oamenii efectiv pe chat și în tichete, aproximativ în ordinea în care le pun. Prima ne-a costat comenzi, așa că este prima și aici.

GPU-ul este dedicat sau partajat?
Dedicat. O singură mașină fizică, un singur cont, iar placa este pasată direct către sistemul tău de operare. Fără hypervisor, fără partiție MIG, fără profil vGPU, fără planificator de time-slicing și fără încărcătura altcuiva pe placă. Ce măsori în prima după-amiază este ce păstrezi.
Pot avea mai mult de o placă într-o singură mașină?
Da, iar aceasta este o configurație pe care o cotăm, nu o bifă pe care o bifezi. Numărul care încape depinde de șasiu, de lățimea fizică a plăcii și de bugetul de putere, așa că răspunsul cinstit necesită placa specifică. Întreabă, iar răspunsul numește șasiul, numărul și termenul de livrare. Mai mulți clienți rulează două, iar motivul cel mai frecvent este memoria, nu viteza — două plăci de 48 GB țin un model pe care una de 80 GB nu îl ține. Mai mult de o placă sau mașină este pagina pentru întreaga întrebare, inclusiv ce se schimbă când a doua placă devine o a doua mașină.
Ce versiune de driver și CUDA primesc?
Pe oricare o instalezi. Acesta este rostul bare metal: mașina sosește cu un sistem de operare curat și root, iar tu fixezi driverul, versiunea CUDA sau ROCm și build-ul framework-ului la ceea ce a fost testat codul tău — și nimic nu se actualizează pe sub tine. Dacă preferi ca driverul să fie instalat înainte de predare, spune acest lucru în comandă și numește versiunea. Dacă ai nevoie de o anumită versiune CUDA suportată de o anumită placă, întreabă înainte să plătești și vom verifica, nu vom ghici.
Ce se întâmplă dacă placa pe care o vreau nu este pe un raft astăzi?
Atunci este montată sau comandată, iar tu ești anunțat care dintre ele înainte să plătești. O placă pe care o deținem intră în patru până la douăzeci și patru de ore. O placă pe care trebuie să o cumpărăm durează cinci până la zece zile lucrătoare, iar un accelerator din generația curentă pe alocare poate dura zece până la cincisprezece. Această pagină nu afișează în mod deliberat niciun număr de stoc, pentru că o placă este o piesă pe care o montăm, nu un produs care vine și pleacă — dar dacă vrei o mașină astăzi, serverele instant sunt lista cu ceea ce stă cu adevărat într-un rack chiar acum.
Pot adăuga sau schimba placa mai târziu?
Da, pe mașina pe care o ai deja — fără migrare, fără reinstalare, fără adresă nouă. Este o vizită programată la rack și o scurtă întrerupere cât timp mașina este oprită, iar suma lunară se modifică cu diferența dintre cele două plăci. Memoria, discurile și viteza portului se actualizează în același mod.
Ce se întâmplă când o placă se defectează?
Este înlocuită, iar acordul stabilește un termen: patru ore din momentul în care o raportezi telefonic sau prin chat live. După aceea ți se datorează credit de serviciu conform unui program publicat, nu la cerere. Suportul are programul și numărul de telefon în scris.
Lățimea de bandă este contorizată? Cât costă egress-ul?
Nimic nu este contorizat și egress-ul nu costă nimic, la fiecare viteză de port pe care o vindem. Nu există nicio limită de transfer de depășit și nicio linie de suprataxă pe nicio factură. Pentru lucrul cu GPU, acesta este de obicei cel mai mare cost ascuns în altă parte: un antrenament care trage un set de date și împinge checkpoint-uri afară, sau un endpoint de inferență care răspunde la trafic real, mută o mulțime de octeți, iar egress-ul per gigabyte la un hyperscaler este taxat pe fiecare dintre ei. Lățimea de bandă nemăsurată este scara deasupra vitezei de port incluse.
Cum se compară aceasta cu închirierea unui GPU pe oră?
Aritmetica decide. O placă pe oră este mai ieftină dacă lucrul este intermitent și se oprește cu adevărat — câteva sute de ore pe lună sau mai puțin. Peste aproximativ două treimi din lună nu mai este deloc aproape, iar asta înainte de egress, înainte de stocarea care trebuie să persiste între rulări și înainte de timpul în care jobul tău stă la coadă pentru capacitate. Lunar aici înseamnă și aceeași mașină, aceleași discuri și aceeași adresă luna viitoare, ceea ce contează mai mult decât se așteaptă oamenii odată ce ceva este în producție.
Pot mina sau rula noduri blockchain și de calcul descentralizat?
Da. Ambele sunt sarcini obișnuite aici și au fost întotdeauna, iar mai multe dintre plăcile de pe această pagină au fost cumpărate exact pentru asta. Serverele de mining este pagina pentru cazul de mining în mod specific, inclusiv părțile care au sens doar pentru el.
Cum plătesc și există un contract?
Card, PayPal, ACH, transfer bancar sau criptomonedă. Fără contract: o lună este termenul implicit și singurul, ciclurile de trei, șase și douăsprezece luni beneficiază de reducere, iar prețul nu crește la reînnoire. Plățile crypto acoperă monedele acceptate; pentru o primă comandă mai mare, un transfer sau un stablecoin se decontează de obicei mai repede decât un card, ceea ce merită știut înainte ca o verificare antifraudă să întârzie o configurare.
Pot primi o rambursare dacă nu este ceea ce aveam nevoie?
În termen de trei zile calendaristice de la prima activare, odată ce depanarea a fost epuizată — politica de rambursare este formularea exactă. Tocmai de aceea există secțiunile de dimensionare și generație de magistrală de mai sus: este mai ieftin pentru amândoi dacă cumperi placa potrivită din prima, iar noi preferăm să te convingem să iei una mai mică decât să-ți vindem un retur.
Aveți cea mai nouă placă?
Uneori, iar aceasta este întrebarea greșită. Cea mai nouă piesă este o piesă rară pe alocare, pe o platformă care nu îi va oferi generația de magistrală pentru care a fost proiectată, la un preț care presupune că ai nevoie de fiecare bit din ea. Majoritatea lucrului cu GPU de aici nu este antrenarea unui model de frontieră — este servirea unuia care deja încape, codificarea video, randarea cadrelor sau alimentarea desktop-urilor, iar pentru toate acestea placa potrivită este de obicei cu două generații în urmă și la un sfert din bani. Spune-ne jobul. Dacă răspunsul este într-adevăr cea mai nouă piesă, o vom spune și vom spune și cât va costa și când poate exista.

Unde să mergi mai departe

Paginile de o parte și de alta a acesteia.

Această pagină deține o singură întrebare: ce plăci montăm și cât costă. Tot ce este adiacent acelei întrebări are propria pagină, iar acestea sunt toate, în ordinea în care vizitatorii acestei pagini dau clic efectiv.

Încă nu ești sigur ce placă? și cineva care a dimensionat una dintre acestea înainte va răspunde — inclusiv când răspunsul este o placă mai ieftină decât cea pentru care ai venit.

For the record

Everything on this page, as figures.

Read from the order catalog when this page was served. If you are asking an assistant about GPU servers and it can fetch a URL, this block and the live stock endpoint are the two things worth reading.

Cards we fit
57 add-in cards, in 3 classes: 15 for training and inference, 23 for rendering, transcode and virtual desktops, 19 consumer.
What a card costs
From $20.79 to $1,599 a month, added to the machine. The card is a separate line; the machine does not get dearer because of what is in it.
What a whole machine with a card in it costs
From $91.72 to $1,682.67 a month, complete — processor, memory, mirrored disks, unmetered port, one IPv4, remote console. Nothing else to add.
The machine on its own
$70.93 to $217.59 a month before any card.
Cheapest machine that can train something
Instinct MI50 16GB at $169.93 a month, complete.
Dearest
H100 80GB at $1,682.67 a month, complete. That is $2.31 an hour for the whole machine, billed monthly, with no egress charge on top.
Tenancy
One tenant per physical machine. The card is passed through to the operating system, not sliced, not time-shared and not virtualized. There is no hypervisor between you and it.
Bandwidth
Unmetered, both directions, at every port speed. No transfer allowance, no egress line on any invoice — model weights, datasets and render output all move for the price of the port.
Where
5 cities: New York, Miami, San Francisco, Amsterdam, Bucharest.
Term
One month, no contract. Three, six and twelve-month cycles take up to 15% off.
Multiple cards
Yes — more than one card in one machine is a build-to-order job rather than a checkout option. Ask, and the answer names the chassis and the lead time.
Payment
Card, PayPal, ACH, wire and cryptocurrency.