GPU-ul complet, nu o felie
Fiecare GPU este conectat direct la sistemul tău de operare. Fără hypervisor, fără partiție MIG, fără profil vGPU și fără time-slicing, astfel încât driverele și framework-urile tale văd hardware-ul așa cum este.
Servere AI dedicate · antrenare, servire, randare
Un server AI dedicat este o mașină fizică întreagă, cu GPU-urile sale conectate direct la propriul tău sistem de operare, astfel încât modelul pe care îl antrenezi sau îl servești nu împarte hardware-ul cu nimeni. Când o singură mașină nu este suficientă, poți adăuga GPU-uri la ea sau poți pune mai multe mașini lângă ea. Această pagină arată cât costă fiecare variantă, cât de repede pot comunica mașinile între ele și care dintre orașele noastre 5 găzduiește fiecare platformă.
Lunar, fără contract. Portul fiecărei mașini este doar al tău la switch, și nimic nu măsoară ce trece prin el.
01Ce include fiecare mașină
Aceleași patru lucruri pe fiecare nod, de la o singură mașină pentru un job de fine-tuning la mai multe pentru o sesiune de antrenare.
Fiecare GPU este conectat direct la sistemul tău de operare. Fără hypervisor, fără partiție MIG, fără profil vGPU și fără time-slicing, astfel încât driverele și framework-urile tale văd hardware-ul așa cum este.
Portul de rețea nu este partajat la switch-ul de acces și nimic nu îl măsoară, în nicio direcție. Copierea unui set de date sau a unui checkpoint între nodurile tale nu adaugă nimic la factură.
Fiecare mașină rulează pe propriul termen de o lună, fără contract. Plata pentru trei, șase sau douăsprezece luni reduce prețul cu până la 15%.
Chat-ul nostru AI răspunde în secunde și poate vedea contul tău și serverele tale în timp ce te ajută. Cere o persoană oricând dorești.
02Scalare dincolo de un GPU
Sună ca aceeași decizie, dar costă diferit, ajung la date diferite și se epuizează din motive diferite. Stabilește de care ai nevoie înainte de a compara orice altceva.
ADezvoltă mașina
Alege asta când duci lipsă de memorie GPU sau de viteză GPU, iar restul mașinii este în regulă. Mai multe GPU-uri într-un singur șasiu este o configurație pe care o cotăm, nu o bifă pe care o bifezi la checkout: câte încap depinde de cât de lat este GPU-ul pe care îl alegi și de câtă putere poate furniza șasiul.
BDezvoltă clusterul
Alege asta când mașina în sine este plină: fără procesoare, fără memorie sau fără loc pentru următorul job. Cea mai mare platformă de aici se oprește la 2 socluri de procesor și 1 TB de memorie, iar dincolo de asta răspunsul este un alt server.
03Platformele
Fiecare platformă pe care montăm un GPU, comparată pe ceea ce contează odată ce treci de o singură mașină. Citește cele două coloane din mijloc împreună: platforma cu cea mai largă cale către GPU are cel mai lent port de top, iar cel mai rapid port stă pe un bus mai vechi.
| Platformă | Benzi către GPU | Port de top | Socluri | Memorie, până la | Orașe |
|---|---|---|---|---|---|
| Intel Xeon Silver / Gold | 48 lanes per socketPCIe 3.0 | 100 Gbps1 Gbps incl. | 2 | 1 TB | 5 |
| Intel Xeon E5-2600 v3/v4 | 40 lanes per socketPCIe 3.0 | 40 Gbps1 Gbps incl. | 2 | 1 TB | 5 |
| Intel Xeon E5-2600 v1/v2 | 40 lanes per socketPCIe 3.0 | 20 Gbps1 Gbps incl. | 2 | 256 GB | 3 |
| AMD EPYC | 128 lanes per socketPCIe 4.0 | 20 Gbps1 Gbps incl. | 2 | 1 TB | 2 |
Ce GPU intră în fiecare dintre acestea și cât adaugă pe lună este pe servere dedicate GPU, fiecare preț afișat lângă mașina căreia îi aparține. Această pagină nu prețuiește niciun GPU, astfel încât o cifră nu ajunge niciodată lângă serverul greșit.
04Legătura dintre mașini
Legătura de rețea face parte din fiecare server, așa că patru mașini la 10 Gbps înseamnă patru porturi de 10 Gbps în fiecare lună. Această linie îi surprinde pe cei care au calculat până acum doar prețul unui singur server, așa că tabelul de mai jos face înmulțirea pentru tine.
| Port | Un server | Două | Patru | Platforme |
|---|---|---|---|---|
| 1 Gbps | incl. | incl. | incl. | 4 / 4 |
| 2 Gbps | $189 | $378 | $756 | 4 / 4 |
| 3 Gbps | $299 | $598 | $1,196 | 4 / 4 |
| 5 Gbps | $459 | $918 | $1,836 | 4 / 4 |
| 10 Gbps | $529 | $1,058 | $2,116 | 4 / 4 |
| 20 Gbps | $1,629 | $3,258 | $6,516 | 4 / 4 |
| 40 Gbps | $2,799 | $5,598 | $11,196 | 2 / 4 |
| 100 Gbps | $3,999 | $7,998 | $15,996 | 1 / 4 |
Un cluster mai larg poate costa mai puțin decât unul mai rapid. În anumite locuri din acel tabel, două mașini cu o treaptă mai jos costă mai puțin decât o mașină cu o treaptă mai sus, iar tu rămâi cu un server în plus. Asta merită doar dacă munca ta se împarte între mașini.
Ce nu vindem între mașini. Catalogul nostru listează porturi Ethernet și nimic altceva: nicio structură InfiniBand și niciun bridge NVLink. Dacă montajul tău are nevoie de oricare dintre ele, întreabă înainte să comanzi. Răspunsul este o ofertă și poate fi nu. Cea mai mică configurație multi-nod pe care o închiriem este NVIDIA DGX Spark, unde până la patru unități se conectează prin ConnectX-7.
Portul de pe o singură mașină, de unul singur, este acoperit la lățime de bandă nemăsurată.
05Unde poate locui
Mașinile care lucrează împreună aparțin aceleiași clădiri, iar centrele noastre de date nu găzduiesc toate aceleași platforme. Alege mai întâi platforma și s-ar putea să descoperi că orașul de care ai nevoie nu o are. New York and Bucharest le dețin pe toate.
Fiecare clădire și la ce se conectează este descrisă la centre de date. Dacă montajul tău trebuie să acopere două orașe, cere suportului să măsoare latența dintre ele înainte să comanzi.
06Timpii de livrare
O astfel de configurație înseamnă adesea mai multe mașini și piese care nu stau pe raft, așa că primești o dată înainte să plătești, citită din aceiași pași ca la serverele noastre personalizate.
Nimic nu este instalat sau mutat. Servere instant listează mașinile gata de pornire, merită o privire mai întâi dacă nodurile tale sunt unele obișnuite.
Cazul obișnuit. Tehnicienii montează GPU-urile, construiesc discurile și instalează sistemul de operare pe fiecare mașină, în paralel, nu una după alta.
Ceva din specificație nu este o piesă pe care o ținem la îndemână, așa că o comandăm și apoi construim. Cu mai multe GPU-uri într-o mașină, șasiul este de obicei ceea ce durează cel mai mult.
Acceleratoarele din generația curentă se livrează pe alocare, iar data este a distribuitorului. Acolo unde cumpărăm hardware pentru un singur client, cerem trei luni în avans.
Fiecare pas începe odată ce comanda trece de plată și de verificarea antifraudă. Majoritatea se finalizează în câteva ore; o primă comandă mare de la un cont nou poate dura mai mult, iar o plată prin transfer bancar sau stablecoin se finalizează adesea mai repede decât o plată cu cardul.
Marketplace
Proprietarii listează mașini cu mai multe GPU-uri și perechi conectate pe marketplace-ul nostru la un preț lunar pe care îl stabilesc ei. Listările deținute de compania noastră soră, Server Room, sunt închiriate pe serverroom.net.
Listează-l pe marketplace-ul Primcast și închiriază-l echipelor AI pe lună, la un preț ales de tine.
07Întrebări
Este un server fizic închiriat exclusiv ție și echipat cu unul sau mai multe GPU-uri pentru antrenare, ajustare fină sau servirea modelelor. Aici GPU-urile sunt transmise direct către propriul tău sistem de operare, fără hypervisor și fără altcineva pe mașină, iar tu plătești lunar, fără contract.
Da. Fiecare server GPU pe care îl închiriem este bare metal: primești acces root pe întreaga mașină și instalezi driverul, versiunea CUDA și framework-ul pe care le așteaptă codul tău. GPU-urile și prețurile lor lunare sunt pe servere dedicate GPU, fiecare afișat lângă mașina în care se potrivește.
Da, ca o configurație ofertată, nu ca opțiune la finalizarea comenzii. Câte încap depinde de lățimea GPU-ului și de puterea pe care o poate livra șasiul, așa că spune-ne pe chat ce GPU vrei, iar răspunsul va indica șasiul, numărul și data.
Comandă mașinile în același oraș, pe o platformă care atinge viteza de port de care ai nevoie, și alege acea viteză pe fiecare. Ele rămân servere separate, pe facturi separate, așa că poți începe cu două și adăuga mai multe mai târziu. Spune-ne mai întâi numărul de noduri și sarcina de lucru, iar noi vom verifica orașul și platforma înainte să plătești.
Nu ca opțiune listată. Mașinile se conectează prin porturi Ethernet de până la 100 Gbps. Dacă infrastructura ta are nevoie de InfiniBand sau de o punte NVLink, întreabă înainte de a comanda: ar fi o ofertă personalizată, iar răspunsul poate fi nu.
Depinde cât de constant îl folosești. Un server AI dedicat costă la fel în fiecare lună, fie că rulează la capacitate maximă, fie că stă inactiv, așa că se potrivește antrenărilor lungi și modelelor servite non-stop. Traficul nu este contorizat aici, deci mutarea seturilor de date între noduri sau trimiterea rezultatelor către utilizatori nu adaugă nimic. Pentru o sarcină care rulează câteva ore pe lună, închirierea la oră poate costa mai puțin.
HPC înseamnă calcul de înaltă performanță: simulări, randare, cod științific și antrenare de modele distribuite pe multe procesoare sau GPU-uri. Noi închiriem componentele, adică mașini cu până la 2 socluri și 1 TB de memorie, GPU-uri în interiorul lor și porturi între ele. Îți configurezi singur planificatorul, Slurm sau Kubernetes sau orice folosește deja echipa ta.
Mașina și GPU-ul său sunt tarifate împreună pe servere dedicate GPU. Un port mai rapid decât cel inclus este tabelul de pe această pagină, per mașină și pe lună. Plata pentru trei, șase sau douăsprezece luni reduce prețul cu până la 15%, iar o configurație personalizată implică o taxă unică de instalare pe care configuratorul o afișează înainte să plătești.
Aproximativ patru până la douăzeci și patru de ore când avem componentele în stoc, cinci până la zece zile lucrătoare când trebuie achiziționate și zece până la cincisprezece zile lucrătoare pentru o componentă rară. O mașină deja montată în rack așa cum o dorești poate rula în aproximativ 30 minute.
Da. Au propria pagină, servere CMP 170HX, cu configurațiile și prețurile lor lunare.
În New York, Miami, San Francisco, Amsterdam și București. Nu orice platformă este în fiecare oraș; New York and Bucharest le au pe toate, ceea ce le face cele mai ușoare locuri pentru a dezvolta un cluster.
Chatul nostru AI răspunde în câteva secunde și poate verifica contul și serverele tale în timp ce te ajută, iar o persoană preia ori de câte ori ceri. Timpii de răspuns și înlocuirea hardware sunt pe suport.
08Pagini conexe
Planifică-l cu noi
Numărul de noduri, dacă sarcina se împarte și cu ce trebuie să comunice. Chatul nostru AI răspunde în câteva secunde, o persoană se alătură când ceri, iar dacă o singură mașină ar face treaba, îți vom spune.