Servere AI dedicate · antrenare, servire, randare

Găzduire servere AI dedicate de la un GPU la un cluster complet

Un server AI dedicat este o mașină fizică întreagă, cu GPU-urile sale conectate direct la propriul tău sistem de operare, astfel încât modelul pe care îl antrenezi sau îl servești nu împarte hardware-ul cu nimeni. Când o singură mașină nu este suficientă, poți adăuga GPU-uri la ea sau poți pune mai multe mașini lângă ea. Această pagină arată cât costă fiecare variantă, cât de repede pot comunica mașinile între ele și care dintre orașele noastre 5 găzduiește fiecare platformă.

Lunar, fără contract. Portul fiecărei mașini este doar al tău la switch, și nimic nu măsoară ce trece prin el.

cluster.primcastPatru noduri, un singur oraș
Platforme GPU4
Cel mai rapid port100 Gbps
Memorie per mașină1 TB
Reducere pe termen lung15%
Compară platformele

01Ce include fiecare mașină

Ce primești cu un server AI dedicat aici

Aceleași patru lucruri pe fiecare nod, de la o singură mașină pentru un job de fine-tuning la mai multe pentru o sesiune de antrenare.

GPU-ul complet, nu o felie

Fiecare GPU este conectat direct la sistemul tău de operare. Fără hypervisor, fără partiție MIG, fără profil vGPU și fără time-slicing, astfel încât driverele și framework-urile tale văd hardware-ul așa cum este.

Un port care este al tău

Portul de rețea nu este partajat la switch-ul de acces și nimic nu îl măsoară, în nicio direcție. Copierea unui set de date sau a unui checkpoint între nodurile tale nu adaugă nimic la factură.

De la lună la lună

Fiecare mașină rulează pe propriul termen de o lună, fără contract. Plata pentru trei, șase sau douăsprezece luni reduce prețul cu până la 15%.

Răspunsuri în secunde

Chat-ul nostru AI răspunde în secunde și poate vedea contul tău și serverele tale în timp ce te ajută. Cere o persoană oricând dorești.

02Scalare dincolo de un GPU

Mai multe GPU-uri într-un server, sau mai multe servere?

Sună ca aceeași decizie, dar costă diferit, ajung la date diferite și se epuizează din motive diferite. Stabilește de care ai nevoie înainte de a compara orice altceva.

ADezvoltă mașina

Adaugă GPU-uri la serverul pe care îl ai

Alege asta când duci lipsă de memorie GPU sau de viteză GPU, iar restul mașinii este în regulă. Mai multe GPU-uri într-un singur șasiu este o configurație pe care o cotăm, nu o bifă pe care o bifezi la checkout: câte încap depinde de cât de lat este GPU-ul pe care îl alegi și de câtă putere poate furniza șasiul.

Ce decide
GPU-ul pe care îl alegi. Spune-l pe chat și răspunsul indică șasiul, câte încap și data.
Bine de știut
Două GPU-uri nu sunt un GPU mai mare. Memoria lor se adună doar când software-ul tău împarte modelul pe ambele (paralelism tensor sau pipeline, pe care instrumentele comune de antrenare și servire îl suportă), iar o parte din viteză se duce pe traficul dintre ele. Dacă munca ta constă în multe joburi separate, două GPU-uri pur și simplu procesează de două ori mai multe.

BDezvoltă clusterul

Adaugă mașini lângă prima

Alege asta când mașina în sine este plină: fără procesoare, fără memorie sau fără loc pentru următorul job. Cea mai mare platformă de aici se oprește la 2 socluri de procesor și 1 TB de memorie, iar dincolo de asta răspunsul este un alt server.

Ce decide
Orașul și portul. Mașinile care lucrează împreună aparțin aceleiași clădiri, iar legătura dintre ele este portul de rețea de pe fiecare, plătit per mașină.
Bine de știut
Nu există un produs de cluster și nici un număr minim de noduri. Fiecare server este comandat, facturat, upgradat și înlocuit individual, astfel încât poți începe cu două și poți adăuga un al treilea luna viitoare.

03Platformele

Alege serverul de machine learning după ceea ce te limitează

Fiecare platformă pe care montăm un GPU, comparată pe ceea ce contează odată ce treci de o singură mașină. Citește cele două coloane din mijloc împreună: platforma cu cea mai largă cale către GPU are cel mai lent port de top, iar cel mai rapid port stă pe un bus mai vechi.

Din catalogul de comenzi pe care checkout-ul nostru îl facturează, citit când s-a încărcat această pagină.
PlatformăBenzi către GPUPort de topSocluriMemorie, până laOrașe
Intel Xeon Silver / Gold48 lanes per socketPCIe 3.0100 Gbps1 Gbps incl.21 TB5
Intel Xeon E5-2600 v3/v440 lanes per socketPCIe 3.040 Gbps1 Gbps incl.21 TB5
Intel Xeon E5-2600 v1/v240 lanes per socketPCIe 3.020 Gbps1 Gbps incl.2256 GB3
AMD EPYC128 lanes per socketPCIe 4.020 Gbps1 Gbps incl.21 TB2
  • Benzi către GPUCât de repede se mișcă datele între procesor și GPU. Contează când transmiți loturi de antrenare în flux sau o randare alimentează date de scenă la fiecare cadru, și aproape deloc odată ce un model este încărcat și rămâne în memoria GPU.
  • Port de topCât de repede comunică o mașină cu următoarea. Un singur server care își face propria treabă nu îl observă niciodată. Pentru un job împărțit pe mai multe mașini, este întreaga întrebare.
  • DeciUn job care încape într-o singură mașină și se bazează pe bus vrea cele mai late benzi. Un job distribuit pe mai multe mașini vrea portul și poate trăi cu un bus mai vechi. Ambele simultan este singura combinație pe care nu o avem, și ar trebui să auzi asta înainte de a plăti.

Ce GPU intră în fiecare dintre acestea și cât adaugă pe lună este pe servere dedicate GPU, fiecare preț afișat lângă mașina căreia îi aparține. Această pagină nu prețuiește niciun GPU, astfel încât o cifră nu ajunge niciodată lângă serverul greșit.

04Legătura dintre mașini

Un cluster GPU multi-nod plătește portul pe fiecare nod

Legătura de rețea face parte din fiecare server, așa că patru mașini la 10 Gbps înseamnă patru porturi de 10 Gbps în fiecare lună. Această linie îi surprinde pe cei care au calculat până acum doar prețul unui singur server, așa că tabelul de mai jos face înmulțirea pentru tine.

Pe lună, peste fiecare mașină. Dolari în New York, Miami și San Francisco; aceeași sumă este facturată în euro în Amsterdam și București. Ultima coloană arată câte platforme GPU oferă acea viteză.
PortUn serverDouăPatruPlatforme
1 Gbpsincl.incl.incl.4 / 4
2 Gbps$189$378$7564 / 4
3 Gbps$299$598$1,1964 / 4
5 Gbps$459$918$1,8364 / 4
10 Gbps$529$1,058$2,1164 / 4
20 Gbps$1,629$3,258$6,5164 / 4
40 Gbps$2,799$5,598$11,1962 / 4
100 Gbps$3,999$7,998$15,9961 / 4

Un cluster mai larg poate costa mai puțin decât unul mai rapid. În anumite locuri din acel tabel, două mașini cu o treaptă mai jos costă mai puțin decât o mașină cu o treaptă mai sus, iar tu rămâi cu un server în plus. Asta merită doar dacă munca ta se împarte între mașini.

Ce nu vindem între mașini. Catalogul nostru listează porturi Ethernet și nimic altceva: nicio structură InfiniBand și niciun bridge NVLink. Dacă montajul tău are nevoie de oricare dintre ele, întreabă înainte să comanzi. Răspunsul este o ofertă și poate fi nu. Cea mai mică configurație multi-nod pe care o închiriem este NVIDIA DGX Spark, unde până la patru unități se conectează prin ConnectX-7.

Portul de pe o singură mașină, de unul singur, este acoperit la lățime de bandă nemăsurată.

05Unde poate locui

Pentru un cluster GPU, alege mai întâi orașul

Mașinile care lucrează împreună aparțin aceleiași clădiri, iar centrele noastre de date nu găzduiesc toate aceleași platforme. Alege mai întâi platforma și s-ar putea să descoperi că orașul de care ai nevoie nu o are. New York and Bucharest le dețin pe toate.

  • New York4 / 4Intel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4 · Intel Xeon E5-2600 v1/v2 · AMD EPYC
  • Bucharest4 / 4Intel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4 · Intel Xeon E5-2600 v1/v2 · AMD EPYC
  • Miami3 / 4Intel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4 · Intel Xeon E5-2600 v1/v2
  • San Francisco2 / 4Intel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4
  • Amsterdam2 / 4Intel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4

Fiecare clădire și la ce se conectează este descrisă la centre de date. Dacă montajul tău trebuie să acopere două orașe, cere suportului să măsoare latența dintre ele înainte să comanzi.

06Timpii de livrare

Cât de repede rulează serverele tale AI

O astfel de configurație înseamnă adesea mai multe mașini și piese care nu stau pe raft, așa că primești o dată înainte să plătești, citită din aceiași pași ca la serverele noastre personalizate.

  1. ~30 min

    Deja montat așa cum este

    Nimic nu este instalat sau mutat. Servere instant listează mașinile gata de pornire, merită o privire mai întâi dacă nodurile tale sunt unele obișnuite.

  2. 4–24 ore

    Piese pe care le deținem

    Cazul obișnuit. Tehnicienii montează GPU-urile, construiesc discurile și instalează sistemul de operare pe fiecare mașină, în paralel, nu una după alta.

  3. 5–10 zile lucrătoare

    Piese pe care le cumpărăm

    Ceva din specificație nu este o piesă pe care o ținem la îndemână, așa că o comandăm și apoi construim. Cu mai multe GPU-uri într-o mașină, șasiul este de obicei ceea ce durează cel mai mult.

  4. 10–15 zile lucrătoare

    O piesă rară

    Acceleratoarele din generația curentă se livrează pe alocare, iar data este a distribuitorului. Acolo unde cumpărăm hardware pentru un singur client, cerem trei luni în avans.

Fiecare pas începe odată ce comanda trece de plată și de verificarea antifraudă. Majoritatea se finalizează în câteva ore; o primă comandă mare de la un cont nou poate dura mai mult, iar o plată prin transfer bancar sau stablecoin se finalizează adesea mai repede decât o plată cu cardul.

Deții un server GPU care stă degeaba?

Listează-l pe marketplace-ul Primcast și închiriază-l echipelor AI pe lună, la un preț ales de tine.

Mergi la marketplace

07Întrebări

Întrebări despre serverele AI dedicate

01Ce este un server AI dedicat?

Este un server fizic închiriat exclusiv ție și echipat cu unul sau mai multe GPU-uri pentru antrenare, ajustare fină sau servirea modelelor. Aici GPU-urile sunt transmise direct către propriul tău sistem de operare, fără hypervisor și fără altcineva pe mașină, iar tu plătești lunar, fără contract.

02Pot închiria un server GPU bare metal pentru învățare profundă?

Da. Fiecare server GPU pe care îl închiriem este bare metal: primești acces root pe întreaga mașină și instalezi driverul, versiunea CUDA și framework-ul pe care le așteaptă codul tău. GPU-urile și prețurile lor lunare sunt pe servere dedicate GPU, fiecare afișat lângă mașina în care se potrivește.

03Poate un server să conțină mai mult de un GPU?

Da, ca o configurație ofertată, nu ca opțiune la finalizarea comenzii. Câte încap depinde de lățimea GPU-ului și de puterea pe care o poate livra șasiul, așa că spune-ne pe chat ce GPU vrei, iar răspunsul va indica șasiul, numărul și data.

04Cum construiesc un cluster GPU cu voi?

Comandă mașinile în același oraș, pe o platformă care atinge viteza de port de care ai nevoie, și alege acea viteză pe fiecare. Ele rămân servere separate, pe facturi separate, așa că poți începe cu două și adăuga mai multe mai târziu. Spune-ne mai întâi numărul de noduri și sarcina de lucru, iar noi vom verifica orașul și platforma înainte să plătești.

05Oferiți InfiniBand sau NVLink între servere?

Nu ca opțiune listată. Mașinile se conectează prin porturi Ethernet de până la 100 Gbps. Dacă infrastructura ta are nevoie de InfiniBand sau de o punte NVLink, întreabă înainte de a comanda: ar fi o ofertă personalizată, iar răspunsul poate fi nu.

06Este un server dedicat mai bun decât GPU-urile din cloud pentru învățarea automată?

Depinde cât de constant îl folosești. Un server AI dedicat costă la fel în fiecare lună, fie că rulează la capacitate maximă, fie că stă inactiv, așa că se potrivește antrenărilor lungi și modelelor servite non-stop. Traficul nu este contorizat aici, deci mutarea seturilor de date între noduri sau trimiterea rezultatelor către utilizatori nu adaugă nimic. Pentru o sarcină care rulează câteva ore pe lună, închirierea la oră poate costa mai puțin.

07Ce este un server HPC și le închiriați?

HPC înseamnă calcul de înaltă performanță: simulări, randare, cod științific și antrenare de modele distribuite pe multe procesoare sau GPU-uri. Noi închiriem componentele, adică mașini cu până la 2 socluri și 1 TB de memorie, GPU-uri în interiorul lor și porturi între ele. Îți configurezi singur planificatorul, Slurm sau Kubernetes sau orice folosește deja echipa ta.

08Cât costă un server AI dedicat?

Mașina și GPU-ul său sunt tarifate împreună pe servere dedicate GPU. Un port mai rapid decât cel inclus este tabelul de pe această pagină, per mașină și pe lună. Plata pentru trei, șase sau douăsprezece luni reduce prețul cu până la 15%, iar o configurație personalizată implică o taxă unică de instalare pe care configuratorul o afișează înainte să plătești.

09Cât durează până primești unul?

Aproximativ patru până la douăzeci și patru de ore când avem componentele în stoc, cinci până la zece zile lucrătoare când trebuie achiziționate și zece până la cincisprezece zile lucrătoare pentru o componentă rară. O mașină deja montată în rack așa cum o dorești poate rula în aproximativ 30 minute.

10Închiriați servere CMP 170HX pentru AI?

Da. Au propria pagină, servere CMP 170HX, cu configurațiile și prețurile lor lunare.

11Unde sunt serverele voastre GPU?

În New York, Miami, San Francisco, Amsterdam și București. Nu orice platformă este în fiecare oraș; New York and Bucharest le au pe toate, ceea ce le face cele mai ușoare locuri pentru a dezvolta un cluster.

12Ce ajutor primesc dacă ceva se strică?

Chatul nostru AI răspunde în câteva secunde și poate verifica contul și serverele tale în timp ce te ajută, iar o persoană preia ori de câte ori ceri. Timpii de răspuns și înlocuirea hardware sunt pe suport.

Planifică-l cu noi

Spune-ne ce trebuie să facă modelul tău

Numărul de noduri, dacă sarcina se împarte și cu ce trebuie să comunice. Chatul nostru AI răspunde în câteva secunde, o persoană se alătură când ceri, iar dacă o singură mașină ar face treaba, îți vom spune.

Vezi prețurile GPU