Plăci grafice pe bare metal · Primcast LLC · din 2004

Spune-i ce lucrare este. Îți spune el placa.

Cea mai mare parte a dificultății în a cumpăra un server GPU nu este cumpărarea. Este să știi ce placă este suficientă — iar fiecare catalog din această industrie este aranjat după cât de impresionantă este piesa, nu după ce încerci să rulezi. Acesta este aranjat invers. Spune ce lucrare este și câtă memorie de placă are nevoie, iar ce rămâne este răspunsul, cu preț complet.

Găsește placa Este placa a mea?

Un singur chiriaș pe mașină. Placa este pasată direct sistemului tău de operare — nu este împărțită, nu este partajată în timp, nu este virtualizată.

Transformă-ți GPU-urile în venit lunar pasiv

Ai configurații GPU de server sau desktop nefolosite? Listează-le astăzi pe marketplace-ul Primcast și câștigă chirii lunare constante de la echipe AI, dezvoltatori și întreprinderi care au nevoie de putere de calcul de nivel de producție.

Mergi la Marketplace

Banc de testare

Două întrebări.

Nimic nu este rezervat, nu se creează niciun cont, iar cifra de lângă fiecare placă este întregul server cu placa respectivă în el — procesor, memorie, discuri în oglindă, port nemăsurat, o adresă — nu doar placa singură. Partea plăcii în sine este tipărită sub ea, ca să vezi care jumătate din bani este care.

What is it for?

How much card memory?

anygigabytes or more

  • 5 GB7-8 billion parameters, 4-bit
  • 8 GB13-14 billion parameters, 4-bit
  • 19 GB30-34 billion parameters, 4-bit
  • 38 GB70 billion parameters, 4-bit

  1. 3000M2 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 240 CUDA cores$91.72a month, complete$20.79 of that is the card
  2. K3100M4 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 768 CUDA cores$102.52a month, complete$31.59 of that is the card
  3. M3000M4 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 1,280 CUDA cores$109.12a month, complete$38.19 of that is the card
  4. TESLA M68 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 1,536 CUDA cores$113.42a month, complete$42.49 of that is the card
  5. TESLA M608 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,048 CUDA cores$119.42a month, complete$48.49 of that is the card
  6. GTX 1070M8 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,048 CUDA cores$124.32a month, complete$53.39 of that is the card
  7. GTX 10808 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$125.99a month, complete$55.06 of that is the card
  8. GTX 10708 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 1,920 CUDA cores$135.22a month, complete$64.29 of that is the card
  9. GTX 1070 Ti8 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,432 CUDA cores$146.22a month, complete$75.29 of that is the card
  10. GTX 1080 Ti11 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,584 CUDA cores$149.93a month, complete$79 of that is the card
  11. TESLA P4 / QUADRO P50008 or 16 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93a month, complete$79 of that is the card
  12. TESLA P48 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93a month, complete$79 of that is the card
  13. RTX 20708 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,304 CUDA cores$159.93a month, complete$89 of that is the card
  14. TESLA P40 / QUADRO P600024 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,840 CUDA cores$169.93a month, complete$99 of that is the card
  15. Instinct MI50 16GB16 GB HBM2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps$169.93a month, complete$99 of that is the card
  16. RTX 2070 Super8 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,560 CUDA cores$172.47a month, complete$99 of that is the card
  17. RTX 40008 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,304 CUDA cores$172.47a month, complete$99 of that is the card
  18. Instinct MI5016 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps$172.47a month, complete$99 of that is the card
  19. TESLA M602 x 8 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 4,096 CUDA cores$178.82a month, complete$107.89 of that is the card
  20. RTX 20808 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,994 CUDA cores$189.93a month, complete$119 of that is the card
  21. RTX 500016 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,072 CUDA cores$189.93a month, complete$119 of that is the card
  22. RTX 2080 Super8 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,072 CUDA cores$199.93a month, complete$129 of that is the card
  23. TITAN V12 GB HBM2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,120 CUDA cores$200.92a month, complete$129.99 of that is the card
  24. RTX A20006 or 12 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 3,328 CUDA cores$202.47a month, complete$129 of that is the card
  25. RTX 30708 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,888 CUDA cores$209.93a month, complete$139 of that is the card
  26. TESLA P10016 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 3,584 CUDA cores$212.47a month, complete$139 of that is the card
  27. P500016 GB GDDR5XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,560 CUDA cores$214.06a month, complete$140.59 of that is the card
  28. RTX 2080 Ti11 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 4,352 CUDA cores$219.93a month, complete$149 of that is the card
  29. RTX 3070 Ti8 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,144 CUDA cores$222.47a month, complete$149 of that is the card
  30. RTX A400016 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,144 CUDA cores$222.47a month, complete$149 of that is the card
  31. RTX 308010 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 8,704 CUDA cores$229.93a month, complete$159 of that is the card
  32. TESLA T416 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$259.93a month, complete$189 of that is the card
  33. CMP 170HX 64GB HBM2e8 GB HBM2e, 64 GB unlockedIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps$259.93a month, complete$189 of that is the card
  34. RTX 407012 GB GDDR6XIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 5,888 CUDA cores$262.67a month, complete$179 of that is the card
  35. RTX 3080 Ti12 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,240 CUDA cores$272.47a month, complete$199 of that is the card
  36. Tenstorrent Blackhole p100a28 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps$272.47a month, complete$199 of that is the card
  37. L4 ADA 24GB GDDR624 GB GDDR6Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$292.67a month, complete$209 of that is the card
  38. RTX A500024 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 8,192 CUDA cores$302.47a month, complete$229 of that is the card
  39. Tesla V100 32GB32 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 5,120 CUDA cores$302.47a month, complete$229 of that is the card
  40. RTX 309024 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 10,496 CUDA cores$309.93a month, complete$239 of that is the card
  41. RTX 508016 GB GDDR7Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$312.67a month, complete$229 of that is the card
  42. P600024 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,840 CUDA cores$320.52a month, complete$249.59 of that is the card
  43. RTX 4500 Ada Generation24 GB GDDR6 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 7,680 CUDA cores$332.67a month, complete$249 of that is the card
  44. RTX 4090D24 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 14,592 CUDA cores$372.47a month, complete$299 of that is the card
  45. RTX 600024 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 4,608 CUDA cores$372.47a month, complete$299 of that is the card
  46. RTX PRO 4000memory not publishedIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps$372.47a month, complete$299 of that is the card
  47. RTX 800048 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 4,608 CUDA cores$472.47a month, complete$399 of that is the card
  48. RTX 509032 GB GDDR7Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 21,760 CUDA cores$472.47a month, complete$399 of that is the card
  49. L40S48 GB GDDR6 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$532.67a month, complete$449 of that is the card
  50. A4048 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$572.47a month, complete$499 of that is the card
  51. Instinct MI21064 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$582.67a month, complete$499 of that is the card
  52. RTX A600048 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$622.47a month, complete$549 of that is the card
  53. RTX 6000 ADA48 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$698.47a month, complete$625 of that is the card
  54. A100 40GB40 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$772.47a month, complete$699 of that is the card
  55. A100 80GB80 GB HBM2eIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$972.47a month, complete$899 of that is the card
  56. RTX PRO 6000 Blackwell 96GB96 GB GDDR7 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$1,382.67a month, complete$1,299 of that is the card
  57. H100 80GB80 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 16,896 CUDA cores$1,682.67a month, complete$1,599 of that is the card

Estimări din același catalog din care facturează checkout-ul, nu oferte. Acolo unde lipsește o cifră de memorie nu am putut găsi una publicată de producător, așa că placa spune asta în loc să ghicească — iar acele plăci dispar imediat ce miști controlul de memorie, pentru că filtrarea după un număr pe care nu îl avem ar ascunde în liniște piese care ți s-ar putea potrivi. Întreabă și o citim de pe placă. Mai multe piese se potrivesc în mai mult de un șasiu la mai mult de un preț; cifra de aici este cel mai ieftin mod de a avea acea placă, iar configuratorul arată restul.

Ce se află în spatele acelei liste

  • 57Cards we fit
  • $20.79Cheapest card, per month
  • $91.72Cheapest whole machine with one in it
  • 5Cities
  • 0Bytes counted

Numărate din catalogul de comenzi când a fost servită această pagină, nu tastate. Dacă o placă este retrasă mâine, această bandă este mai mică mâine. Ce stă într-un rack în această dimineață este o altă întrebare, iar servere instant este locul unde primește răspuns.

Prima întrebare pe care o pune toată lumea

Este placa a mea, sau o împart cu altcineva?

A ta. Toată placa, toată mașina, nimeni altcineva pe ea.

Placa stă într-un slot PCIe pe un server fizic închiriat unui singur cont și este predată direct sistemului tău de operare: propriul tău driver, propriul tău CUDA sau ROCm, propriile tale procese. Nu există niciun hypervisor între tine și ea, nicio partiție MIG, niciun planificator de time-slicing care să decidă când îți vine rândul și niciun al doilea chiriaș al cărui job batch îți face latența de inferență să se miște la patru după-amiaza.

Restul mașinii este al tău în aceiași termeni — fiecare nucleu, toată memoria, toate discurile, root și propriul HPE iLO sau Dell iDRAC al serverului pentru consolă, medii virtuale și alimentare. Dacă un driver dă jos rețeaua, poți vedea în continuare ecranul.

  • Nu o felieFără MIG, fără vGPU, fără alocare fracționară. O placă, un chiriaș.
  • Nu o coadăNimic nu-ți preemptează procesul. Placa este inactivă când ești inactiv.
  • Nu un containerBare metal. Încarcă-ți propriile module de kernel, fixează-ți propria versiune de driver.
  • Nu măsuratWeights intră, checkpoint-uri ies, randări ies. Nimic nu numără octeții.

De ce arată așa cifrele de mai sus

Placa este o linie pe factură, nu un nivel de produs.

Oriunde altundeva un GPU este un nivel: închiriezi “o instanță H100” și altcineva a decis deja cât ar trebui să te coste procesorul, memoria, discurile și rețeaua din jurul ei. Aici cele două sunt linii separate care se adună — motiv pentru care o placă de la oricare capăt al listei de mai sus intră în același șasiu, iar tu plătești diferența dintre plăci și nimic altceva. Partea de hardware are pagini proprii, pe producători: servere dedicate AMD pentru linia EPYC, care acceptă aceste plăci, și servere dedicate Intel pentru Xeon.

  1. The machineIntel Xeon E5-2600 v1/v2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps$70.93
  2. The cardAnything on the shelves belowCheapest to dearest, $20.79 to $1,599$20.79
  3. The portUnmetered, both directionsNo allowance to exceed, no egress line, everincluded
  4. Setup$29 onceNo contract; one month is the default term$29 once

Whole machine, card in it, per month, from$91.72

And at the other end of the same list: H100 80GB in a whole machine for $1,682.67 a month — $2.31 an hour if you are comparing against something billed by the hour, with nothing added for the traffic.

Configuratorul rotunjește un preț pe disc și aterizează cu un cent sau doi departe de aceste cifre. Ciclurile de facturare mai lungi primesc o reducere suplimentară; prețuri are totul într-un singur loc, iar hardware mai vechi, preț mai mic este argumentul pentru care capătul de jos al acestei liste există deloc.

Câtă memorie are placa

Singura specificație care decide dacă funcționează.

Frecvențele și numărul de nuclee decid cât de rapid rulează un model. Memoria plăcii decide dacă rulează deloc — ponderile fie încap, fie nu încap, iar o placă cu doi gigaocteți mai puțin nu este mai lentă, ci se blochează. Așadar acesta este numărul de stabilit înaintea oricărui altul și este cel pe care aproape nimeni nu îl publică lângă un preț.

Aritmetica înseamnă parametri înmulțiți cu octeți per parametru. Ponderile pe șaisprezece biți au câte doi octeți fiecare, cele pe opt biți au unul, cele pe patru biți au jumătate. Cuantizarea la patru biți este ceea ce transformă o mașină care nu poate încăpea un model într-una care poate, cu un anumit cost de calitate.

Lăsați loc de respiro. Cifrele de mai jos sunt ponderile și nimic altceva. Runtime-ul, activările și memoria cache cheie-valoare pentru un context lung trăiesc toate în aceeași memorie, iar memoria cache crește cu fiecare token din conversație. Un model ale cărui ponderi au 38 GB nu se servește confortabil pe o placă de 40 GB. Bugetați un sfert până la jumătate în plus, sau întrebați-ne și o vom dimensiona în funcție de ce rulați efectiv.

Weights only. Add head-room for the runtime and the context window before choosing a card.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB8 GB5 GB
13-14 billion parameters28 GB14 GB8 GB
30-34 billion parameters68 GB34 GB19 GB
70 billion parameters140 GB70 GB38 GB

Ce se află sub placă

Patru șasiuri primesc una și nu sunt interschimbabile.

Fiecare preia o parte diferită a catalogului și oferă plăcii o legătură diferită cu procesorul. Ultima coloană este aici pentru că îi costă bani pe oameni și nimeni nu o tipărește: un client a trecut de la o generație de placă de consum la următoarea pe un bus de a treia generație și a devenit mai lent, și și-a dat seama de ce înaintea noastră. Așa că este pe pagină.

Intel Xeon E5-2600 v1/v2

$70.93the machine, per month

Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps

Cards it takes
28
Link to the card
PCIe 3.0
Lanes
40 lanes per socket
Sockets
2
Memory ceiling
256 GB

Configure this machine →

Intel Xeon E5-2600 v3/v4

$73.47the machine, per month

Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps

Cards it takes
44
Link to the card
PCIe 3.0
Lanes
40 lanes per socket
Sockets
2
Memory ceiling
1 TB

Configure this machine →

Intel Xeon Silver / Gold

$83.67the machine, per month

Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps

Cards it takes
48
Link to the card
PCIe 3.0
Lanes
48 lanes per socket
Sockets
2
Memory ceiling
1 TB

Configure this machine →

AMD EPYC

$217.59the machine, per month

AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps

Cards it takes
10
Link to the card
PCIe 4.0
Lanes
128 lanes per socket
Sockets
2
Memory ceiling
1 TB

Configure this machine →

Și una care nu este deloc un server.

Există și un desktop: componente de clasă office, o placă NVIDIA deja înăuntru, vândut ca o singură mașină la un singur preț lunar. Este minimul pe care ni-l puteți plăti pentru o cutie dedicată cu GPU, ceea ce îl face un loc rezonabil pentru a învăța CUDA, a rula un model mic, a transcoda cu NVENC sau a păstra o stație de lucru la distanță. Prețul cumpără mai puțin decât un șasiu și am prefera să știți de acum: un singur disc fără RAID, fără consolă out-of-band (reinstalările și repornirile trec prin noi), o singură sursă de alimentare.

RTX 3050 6GB, in a desktop

€82.29the whole machine, card included, per month

Intel Core i5-9500 @ 3.0GHz, 6 cores · 32 GB memory · NVMe-SSD 256 GB · 1 Gbps Unmetered · Bucharest

Card
fitted
Disks
1
Sockets
1

Order the desktop →

Ce schimbă de fapt generația bus-ului

O placă proiectată pentru un bus mai nou funcționează perfect pe unul mai vechi; pur și simplu nu poate muta datele prin legătură la fel de repede. Dacă asta contează depinde în întregime de sarcină.

  • Contează când datele traversează bus-ul continuu — o buclă de antrenare care transmite loturi de pe disc sau din memoria de sistem, un randare care alimentează datele scenei pe placă la fiecare cadru, orice depășește memoria plăcii.
  • Nu contează odată ce ponderile sunt rezidente și rămân acolo — inferența pe un model care încape, transcodarea video, majoritatea simulărilor. Legătura transportă cereri și rezultate, iar acestea sunt mici.
  • Întrebați dacă nu sunteți siguri. Spuneți-ne sarcina de lucru și vă vom spune direct dacă platforma este un blocaj pentru ea, inclusiv când răspunsul cinstit este că o placă mai ieftină pe o legătură mai bună bate o placă mai scumpă pe una mai proastă.

Ce vine cu ea

Tot ce face placa utilizabilă și nimic din ce trebuie să cumpărați.

  • Root, iar stiva de drivere este a voastră

    Instalăm un sistem de operare curat și vă înmânăm cheile. Alegeți versiunea de driver, versiunea CUDA sau ROCm și build-ul framework-ului și le fixați — ceea ce este rostul bare metal-ului și opusul unui runtime gestionat care face upgrade sub voi cu o săptămână înainte de un termen limită. Dacă preferați să instalăm noi driverul înainte de predare, spuneți-o în comandă și o vom face.

  • Consola proprie a mașinii, pe o rețea separată

    HPE iLO sau Dell iDRAC: consolă tastatură-și-ecran, medii virtuale, control al alimentării, starea hardware și jurnalul hardware. Un driver grafic care ia cu el afișajul sau rețeaua este un inconvenient, nu un tichet de suport, pentru că puteți în continuare urmări mașina pornind.

  • Un port nemăsurat, în ambele direcții

    Nu există nicio limită de transfer de depășit și nicio linie de egress pe nicio factură. Seturi de date înăuntru, checkpoint-uri afară, randări afară, un model servit utilizatorilor reali — totul se mișcă la prețul portului și nu cu un octet mai mult. Lățimea de bandă nemăsurată este scara deasupra vitezei incluse și este cea mai mare diferență dintre aceasta și o factură de la un hyperscaler.

  • Reinstalați-o ori de câte ori doriți

    Imagini de sistem de operare într-un singur clic, reinstalabile fără tichet și fără cost, astfel încât un experiment de driver care se termină prost vă costă douăzeci de minute. DNS-ul invers este al vostru de editat, IPv6 este inclus, iar mai mult IPv4 este o linie de catalog, nu o negociere.

  • Oameni, la orice oră

    Telefon, chat live și tichete, incluse în fiecare plan, iar o componentă defectă este înlocuită în patru ore de la raportarea prin telefon sau chat. Suportul are timpii de răspuns și programul de credite în scris.

  • Cinci camere în care să o puneți

    New York, Miami, San Francisco, Amsterdam și București — iar locul unde stă mașina decide latența voastră față de cine o apelează și sub ce regim de protecție a datelor cade. Centrele de date descriu clădirile.

Cât de curând există

Între jumătate de oră și trei săptămâni, iar care dintre ele depinde de unde stă placa.

Nu un singur număr, pentru că nu a fost niciodată un singur număr. O placă deja montată pe o mașină deja în rack este o predare. O placă ce trebuie cumpărată este o comandă de achiziție. Să vă spunem pe care dintre acestea o cereți — înainte să plătiți, nu după — este singura versiune a acestui lucru care valorează ceva.

  1. ~30 minute

    Placa este deja într-o mașină de pe raft

    Nimic nu se montează și nimic nu se mută. Mașina este imaginată și predată. Serverele instant sunt lista cu ce stă acolo chiar acum.

  2. 4–24 ore

    O placă pe care o deținem este montată sau o mașină din rack este rearanjată

    Cazul obișnuit pentru tot ce este pe această pagină. Piesa este în propriul nostru depozit; un tehnician o montează, construiește array-ul și instalează sistemul de operare. O mașină de pe raft care este aproape, dar nu exactă — memorie adăugată, un disc schimbat, array-ul reconstruit în jurul alegerii voastre — este aceeași muncă, făcută pe loc fără ca mașina să părăsească rack-ul.

  3. 5–10 zile lucrătoare

    Placa trebuie cumpărată

    Ceva de pe listă nu este stoc pe care îl deținem. O comandăm, apoi construim. Construire la comandă este pagina pentru o specificație întreagă de acest fel.

  4. 10–15 zile lucrătoare

    Placa este rară

    Acceleratoarele din generația curentă rulează pe alocare, iar data este a distribuitorului, nu a noastră. Vom numi obstacolul principal înainte să vă angajați, nu după. Acolo unde hardware-ul este cumpărat pentru un singur client, cerem trei luni în avans, pentru că este o mașină pe care nu o putem reînchiria dacă contul se închide în săptămâna a doua.

Fiecare treaptă începe când comanda trece de plată și de verificarea antifraudă, care este singurul pas pentru care nu vom face o promisiune: majoritatea se clarifică în câteva ore, o primă comandă de la un cont nou poate dura mai mult. Cardul, PayPal, ACH și transferul bancar sunt toate acceptate, la fel și criptomoneda — care pentru comenzile mai mari este de obicei cea mai rapidă dintre ele la clarificare.

Întrebate înainte

Cele treisprezece întrebări la care această pagină există ca să răspundă.

Preluate din ce ne întreabă oamenii efectiv pe chat și în tichete, aproximativ în ordinea în care le pun. Prima ne-a costat comenzi, așa că este prima și aici.

Este GPU-ul dedicat sau partajat?
Dedicat. O singură mașină fizică, un singur cont, iar placa este pasată direct către sistemul tău de operare. Fără hypervisor, fără partiție MIG, fără profil vGPU, fără planificator de time-slicing și fără încărcătura altcuiva pe placă. Ce măsori în prima după-amiază este ce păstrezi.
Pot avea mai mult de o placă într-o singură mașină?
Da, și este o configurație pe care o cotăm, nu o bifă pe care o bifezi. Numărul care încape depinde de șasiu, de lățimea fizică a plăcii și de bugetul de putere, așa că răspunsul cinstit necesită placa specifică. Întreabă, iar răspunsul numește șasiul, numărul și timpul de livrare. Mai mulți clienți rulează două, iar motivul cel mai frecvent este memoria, nu viteza — două plăci de 48 GB țin un model pe care una de 80 GB nu îl ține. Mai mult de o placă sau mașină este pagina pentru întreaga întrebare, inclusiv ce se schimbă când a doua placă devine a doua mașină.
Ce versiune de driver și CUDA primesc?
Pe oricare o instalezi. Acesta este rostul bare metal: mașina sosește cu un sistem de operare curat și root, iar tu fixezi driverul, versiunea CUDA sau ROCm și build-ul framework-ului la orice a fost testat codul tău — și nimic nu se actualizează pe sub tine. Dacă preferi ca driverul să fie instalat înainte de predare, spune asta în comandă și numește versiunea. Dacă ai nevoie de o versiune CUDA specifică suportată de o placă specifică, întreabă înainte să plătești și vom verifica, nu vom ghici.
Ce se întâmplă dacă placa pe care o vreau nu este pe raft astăzi?
Atunci este montată sau comandată, iar tu ești anunțat care dintre ele înainte să plătești. O placă pe care o avem intră în patru până la douăzeci și patru de ore. O placă pe care trebuie să o cumpărăm durează cinci până la zece zile lucrătoare, iar un accelerator de generație curentă pe alocare poate dura zece până la cincisprezece. Această pagină nu arată în mod deliberat niciun număr de stoc, pentru că o placă este o piesă pe care o montăm, nu un produs care vine și pleacă — dar dacă vrei o mașină astăzi, serverele instant sunt lista cu ce se află cu adevărat într-un rack chiar acum.
Pot adăuga sau schimba placa mai târziu?
Da, pe mașina pe care o ai deja — fără migrare, fără reinstalare, fără adresă nouă. Este o vizită programată la rack și o scurtă întrerupere cât timp mașina este oprită, iar suma lunară se modifică cu diferența dintre cele două plăci. Memoria, discurile și viteza portului se actualizează la fel.
Ce se întâmplă când o placă se defectează?
Este înlocuită, iar acordul pune un termen: patru ore din momentul în care o raportezi telefonic sau prin chat live. După aceea ți se datorează credit de serviciu conform unui program publicat, nu la cerere. Suportul are programul și numărul de telefon în scris.
Pot aduce propria mea placă?
Da. O placă pe care o deții deja, sau orice altă piesă, poate intra în serverul pe care îl închiriezi de la noi. Nu este gratuit: placa consumă energie, deci există o taxă, iar aceasta depinde de hardware, nu este un preț fix. Dacă o piesă adusă de tine se defectează, nu suntem responsabili pentru ea: înlocuirea în patru ore de mai sus acoperă doar hardware-ul furnizat de noi. Să vorbim înainte să o cumperi sau să o expediezi. Rezervă un apel și îți vom stabili prețul plăcii și vom verifica dacă mașina o acceptă, deoarece nu oricare o face; un blade, de exemplu, nu are loc pentru un GPU full-size.
Este lățimea de bandă contorizată? Cât costă egress-ul?
Nimic nu este contorizat și egress-ul nu costă nimic, la fiecare viteză de port pe care o vindem. Nu există nicio alocație de transfer de depășit și nicio linie de suprataxă pe nicio factură. Pentru lucrul cu GPU, acesta este de obicei cel mai mare cost ascuns în altă parte: un antrenament care trage un set de date și împinge checkpoint-uri afară, sau un endpoint de inferență care răspunde la trafic real, mută o mulțime de octeți, iar egress-ul per gigabyte la un hyperscaler este taxat pe fiecare dintre ei. Lățimea de bandă nemăsurată este scara deasupra vitezei de port incluse.
Cum se compară asta cu închirierea unui GPU pe oră?
Aritmetica decide. O placă pe oră este mai ieftină dacă lucrul este intermitent și se oprește cu adevărat — câteva sute de ore pe lună sau mai puțin. După aproximativ două treimi din lună nu mai este deloc aproape, iar asta înainte de egress, înainte de stocarea care trebuie să persiste între rulări și înainte de timpul pe care jobul tău îl petrece la coadă pentru capacitate. Lunar aici înseamnă și aceeași mașină, aceleași discuri și aceeași adresă luna viitoare, ceea ce contează mai mult decât se așteaptă oamenii odată ce ceva este în producție.
Pot mina sau rula noduri blockchain și de calcul descentralizat?
Da. Ambele sunt sarcini obișnuite aici și au fost mereu, iar câteva dintre plăcile de pe această pagină au fost cumpărate exact pentru asta. Serverele de mining este pagina pentru cazul de mining în mod specific, cu plăcile care minează listate și cu prețuri.
Cum plătesc și există un contract?
Card, PayPal, ACH, transfer bancar sau criptomonedă. Fără contract: o lună este termenul implicit și singurul, ciclurile de trei, șase și douăsprezece luni beneficiază de reducere, iar prețul nu crește la reînnoire. Plățile crypto acoperă monedele acceptate; pentru o primă comandă mai mare, un transfer sau un stablecoin se decontează de obicei mai repede decât un card, ceea ce merită știut înainte ca o verificare antifraudă să întârzie o configurare.
Pot primi o rambursare dacă nu este ceea ce aveam nevoie?
În termen de trei zile calendaristice de la prima activare, odată ce depanarea a fost epuizată — politica de rambursare este formularea exactă. Tocmai de aceea există secțiunile de dimensionare și generație de magistrală de mai sus: este mai ieftin pentru amândoi dacă cumperi placa potrivită din prima, iar noi preferăm să te convingem să iei una mai mică decât să-ți vindem un retur.
Aveți cea mai nouă placă?
Uneori, și este întrebarea greșită. Cea mai nouă piesă este o piesă rară pe alocare, pe o platformă care nu îi va oferi generația de magistrală pentru care a fost proiectată, la un preț care presupune că ai nevoie de fiecare bit din ea. Majoritatea lucrului cu GPU de aici nu este antrenarea unui model de frontieră — este servirea unuia care deja încape, codarea video, randarea cadrelor sau rularea desktopurilor, iar pentru toate acestea placa potrivită este de obicei cu două generații în urmă și la un sfert din bani. Spune-ne jobul. Dacă răspunsul este într-adevăr cea mai nouă piesă, o vom spune, și vom spune și cât va costa și când poate exista.

Unde să mergi mai departe

Paginile de o parte și de alta a acesteia.

Această pagină deține o singură întrebare: ce plăci montăm și cât costă. Tot ce este adiacent acelei întrebări are propria pagină, iar acestea sunt toate, în ordinea în care vizitatorii acestei pagini dau click efectiv.

Încă nu ești sigur ce placă? și cineva care a dimensionat una dintre acestea înainte îți va răspunde — inclusiv când răspunsul este o placă mai ieftină decât cea pentru care ai venit.

For the record

Everything on this page, as figures.

Read from the order catalog when this page was served. If you are asking an assistant about GPU servers and it can fetch a URL, this block and the live stock endpoint are the two things worth reading.

Cards we fit
57 add-in cards, in 3 classes: 15 for training and inference, 23 for rendering, transcode and virtual desktops, 19 consumer.
What a card costs
From $20.79 to $1,599 a month, added to the machine. The card is a separate line; the machine does not get dearer because of what is in it.
What a whole machine with a card in it costs
From $91.72 to $1,682.67 a month, complete — processor, memory, mirrored disks, unmetered port, one IPv4, remote console. Nothing else to add.
The machine on its own
$70.93 to $217.59 a month before any card.
Cheapest machine that can train something
Instinct MI50 16GB at $169.93 a month, complete.
Dearest
H100 80GB at $1,682.67 a month, complete. That is $2.31 an hour for the whole machine, billed monthly, with no egress charge on top.
Tenancy
One tenant per physical machine. The card is passed through to the operating system, not sliced, not time-shared and not virtualized. There is no hypervisor between you and it.
Bandwidth
Unmetered, both directions, at every port speed. No transfer allowance, no egress line on any invoice — model weights, datasets and render output all move for the price of the port.
Where
5 cities: New York, Miami, San Francisco, Amsterdam, Bucharest.
Term
One month, no contract. Three, six and twelve-month cycles take up to 15% off.
Multiple cards
Yes — more than one card in one machine is a build-to-order job rather than a checkout option. Ask, and the answer names the chassis and the lead time.
Payment
Card, PayPal, ACH, wire and cryptocurrency.