Servere GPU · Seria RTX 50
Server dedicat RTX 5090 cu 32 GB pentru modelele și randările tale
Un server dedicat RTX 5090 este o mașină întreagă pe care o închiriezi lunar, cu RTX 5090 de la NVIDIA’ înăuntru: 32 GB de GDDR7, trecuți direct către propriul tău sistem de operare. Nimeni altcineva nu folosește GPU-ul sau serverul, portul este nemăsurat și nu există contract. Dacă 16 GB sunt suficienți pentru munca ta, RTX 5080 intră în aceleași rack-uri la un preț mai mic.
| Figură | RTX 5090 | RTX 5080 |
|---|---|---|
| Memorie GPU | 32 GB GDDR7 | 16 GB GDDR7 |
| Bus de memorie | 512-bit | 256-bit |
| Nuclee CUDA | 21,760 | 10,752 |
| Frecvență boost | 2.41 GHz | 2.62 GHz |
| Codificatoare AV1 | 3 | 2 |
| Putere | 575 W | 360 W |
| Interfață GPU | PCIe Gen 5 | PCIe Gen 5 |
Ai o mașină din seria RTX 50 pe care nu o folosești?
Listeaz-o pe piața Primcast, alege-ți propriul preț lunar și lasă oamenii care au nevoie de putere de calcul să o închirieze de la tine.
00Piață
Sau închiriază un GPU din seria RTX 50 de la persoana care îl deține
Proprietarii își pun mașinile din seria RTX 50 pe piața noastră și stabilesc singuri prețul lunar. O listare marcată ca fiind deținută de compania noastră soră, Server Room, se închiriază pe serverroom.net în loc de aici.
01La ce folosește
Ce poți rula pe un server AI cu RTX 5090
Acesta este cel mai mare GPU de consum de la NVIDIA’, într-un rack. Primești multă putere de calcul și memorie pentru bani, plus limitele care vin cu hardware-ul de consum.
01Modele AI
Inferență și fine-tuning în 32 GB
Un model de 30 de miliarde de parametri la 4 biți încape cu spațiu de rezervă, la fel și un model de 13 miliarde la 8 biți. Același model de 13 miliarde la 16 biți complet nu lasă suficient spațiu pentru a-l servi. Tabelele de dimensionare de mai jos arată fiecare caz.
02Randare
Scene mari care rămân în memoria GPU
Renderele GPU sunt rapide atâta timp cât scena încape pe GPU. 32 GB țin mult mai multă geometrie și texturi decât GPU-urile de 24 GB cu un pas mai jos, iar un lot de cadre poate rula peste noapte în timp ce stația ta de lucru rămâne liberă.
03Video
Trei codificatoare AV1 pe un singur GPU
RTX 5090 are trei codificatoare video hardware și două decodificatoare, așa că poate transcoda mai multe fluxuri simultan. Acceleratoarele A100 și H100 nu au niciun codificator. Pentru canale live, vezi servere noastre de transcodare.
04Limite
Fără memorie cu corecție de erori
GPU-urile GeForce nu au ECC și nici driver profesional certificat. Este în regulă când un rezultat greșit înseamnă o reluare. Pentru rulări care durează săptămâni fără puncte de control sau software licențiat doar pe GPU-uri profesionale, uită-te la RTX PRO 6000 cu 96 GB și ECC.
02Specificații
Specificațiile NVIDIA RTX 5090 și RTX 5080
Cifrele pe care NVIDIA le publică pentru cele două GPU-uri din seria RTX 50 pe care le montăm. Ambele folosesc arhitectura Blackwell, cu nuclee Tensor de a cincea generație și nuclee RT de a patra generație.
RTX 5090
Blackwell
32 GB GDDR7
21,760
512-bit
2.41 GHz
575 W
PCIe Gen 5 x16
3 NVENC (9th generation), 2 NVDEC, AV1
No
RTX 5080
Blackwell
16 GB GDDR7
10,752
256-bit
2.62 GHz
360 W
PCIe Gen 5 x16
2 NVENC (9th generation), 2 NVDEC, AV1
No
03Înainte să comanzi
Slotul PCIe pe care îl primește RTX 5090 în fiecare mașină
Ambele GPU-uri sunt construite pentru PCIe Gen 5. Fiecare platformă în care le punem este Gen 3 sau Gen 4, așa că legătura dintre GPU și server rulează sub ceea ce a fost proiectat GPU-ul. Iată ce îi oferă fiecare mașină.
Intel Xeon E5-2600 v3/v4
Intel Xeon Silver / Gold
AMD EPYC
Spunem asta de la început pentru că a prins un client înainte: un RTX 5090 pe o platformă Gen 3 a randat mai lent decât RTX 4090 pe care l-a înlocuit. Un slot mai lent doare doar când munca ta mută date prin el tot timpul, cum ar fi o buclă de antrenare care încarcă un lot nou de la gazdă la fiecare pas. Inferența, transcodarea și serverele de jocuri abia îl ating odată ce totul este încărcat. Nu ești sigur care este cazul tău? Spune-ne pe chat ce vei rula și te vom îndruma către mașina potrivită.
04Cel mai mic
Server RTX 5080: aceeași generație cu 16 GB
RTX 5080 are același design Blackwell, aceeași generație de codificatoare AV1 și aceeași interfață PCIe Gen 5, cu aproximativ jumătate din nucleele CUDA și jumătate din memoria RTX 5090.
Când este suficient RTX 5080
Modelul tău încape în 16 GB cu spațiu rămas: un model de 7 miliarde la 8 biți sau un model de 13 miliarde la 4 biți. Sau munca este video, unde cele două codificatoare AV1 ale sale fac treaba, sau un server de joc care nu umple niciodată memoria GPU’.
Când să plătești pentru RTX 5090
Modelul sau scena ta este mai mare de 16 GB sau vrei memoria suplimentară pentru contexte mai lungi și mai mulți utilizatori simultan. Memoria dublă pe un bus de două ori mai lat este diferența reală; vitezele de ceas sunt apropiate.
05Dimensionare
Ce încape în 32 GB și în 16 GB de memorie GPU
Doar ponderile. Lasă spațiu deasupra pentru context și runtime.
RTX 5090, 32 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB: fits | 8 GB: fits | 5 GB: fits |
| 13-14 billion parameters | 28 GB: does not fit | 14 GB: fits | 8 GB: fits |
| 30-34 billion parameters | 68 GB: does not fit | 34 GB: does not fit | 19 GB: fits |
| 70 billion parameters | 140 GB: does not fit | 70 GB: does not fit | 38 GB: does not fit |
RTX 5080, 16 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB: does not fit | 8 GB: fits | 5 GB: fits |
| 13-14 billion parameters | 28 GB: does not fit | 14 GB: does not fit | 8 GB: fits |
| 30-34 billion parameters | 68 GB: does not fit | 34 GB: does not fit | 19 GB: does not fit |
| 70 billion parameters | 140 GB: does not fit | 70 GB: does not fit | 38 GB: does not fit |
Puterea este cealaltă limită. Un RTX 5090 consumă până la 575 W, motiv pentru care un al doilea în aceeași mașină este o configurație pe care o cotăm, nu o opțiune la checkout. Pentru a porni de la modelul tău și a găsi GPU-ul de care are nevoie, folosește pagina de dimensionare a memoriei LLM.
06Alegere
Server RTX 5090, RTX 4090D sau RTX 3090?
Aceste GPU-uri intră în aceleași mașini, așa că mai nou nu este automat mai bun pentru tine. Compară memoria și prețul lunar pentru munca ta.
| GPU | GPU memory | GPU alone | Cheapest complete machine |
|---|---|---|---|
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
| RTX 5080 | 16 GB GDDR7 | $229 | $312.67 |
| RTX 4090D | 24 GB GDDR6X | $299 | $372.47 |
| RTX 5090 | 32 GB GDDR7 | $399 | $472.47 |
RTX 4090D și RTX 3090 au ambele 24 GB. Sunt GPU-uri PCIe Gen 4, așa că slotul le costă mai puțin decât costă seria RTX 50. Dacă munca ta încape în 24 GB, citește pagina serverului dedicat RTX 4090 și pagina serverelor din seria RTX 30 înainte să decizi.
07Prețuri
Prețurile serverelor RTX 5090 și RTX 5080, cu mașina inclusă
Factura ta arată GPU-ul pe o linie și serverul pe alta. Ambele provin din același catalog de comenzi pe care îl folosește checkout-ul, iar fiecare preț de mai jos aparține mașinii de lângă el.
| GPU | The machine it goes in | GPU alone | Complete, per month |
|---|---|---|---|
| RTX 5080 | Intel Xeon Silver / Gold | $229 | $312.67 Configure this build → |
| RTX 5090 | Intel Xeon E5-2600 v3/v4 | $399 | $472.47 Configure this build → |
| RTX 5090 | Intel Xeon Silver / Gold | $399 | $482.67 Configure this build → |
| RTX 5090 | AMD EPYC | $399 | $616.59 Configure this build → |
Traficul nu este măsurat în nicio direcție și nu există taxă de ieșire. Fiecare server vine cu o adresă IPv4, plătești lună de lună și poți pleca la sfârșitul oricărei luni. Pentru a vedea fiecare GPU pe care îl montăm, la preț în același mod, mergi la toate serverele GPU cu prețuri.
08Livrare și ajutor
Când este gata serverul tău RTX 5090 și cine te ajută
Livrarea depinde de locul unde se află GPU-ul când comanzi. Întreabă pe chat înainte să plătești și îți spunem care dintre acestea se aplică configurației tale.
- Aproximativ 30 de minute
Deja într-un rack
Dacă o mașină din rack are deja GPU-ul montat, o primești la aproximativ 30 de minute după ce comanda ta este aprobată.
- 4 până la 24 de ore
Pe raftul nostru
Avem GPU-ul în mână și îl montăm în serverul pe care l-ai ales.
- 5 până la 10 zile lucrătoare
Comandat pentru tine
Cumpărăm GPU-ul de la un distribuitor și îl montăm imediat ce sosește.
Întreabă orice pe chatul nostru, înainte sau după ce comanzi. Un asistent AI răspunde în câteva secunde și poate verifica contul tău și serverul tău, iar o persoană din echipa noastră intervine oricând ceri. Mașinile care sunt în rack și gata acum sunt pe servere instant.
09Întrebări
Întrebări despre închirierea unui server RTX 5090
01Ce primesc cu un server dedicat RTX 5090?
Un server fizic întreg cu un RTX 5090 în interior, închiriat lunar. GPU-ul complet este pasat direct către propriul tău sistem de operare, fără hypervisor, fără divizare vGPU și fără partajare în timp. Instalezi driverul și versiunea CUDA pe care le dorești, iar nimic nu le schimbă pe la spatele tău.
02Există o ediție de server RTX 5090?
Nu. NVIDIA nu produce o ediție de server a RTX 5090. GPU-ul său Blackwell răcit pasiv pentru servere este RTX PRO 6000 Blackwell Server Edition, cu 96 GB de memorie și ECC. Montăm și RTX PRO 6000: vezi pagina serverului dedicat RTX PRO 6000. RTX 5090 pe care îl închiriem este partea GeForce de la NVIDIA, rulând într-un server rack.
03Va rula un RTX 5090 la viteză maximă în serverele voastre?
Legătura sa PCIe nu va rula. RTX 5090 este un GPU PCIe Gen 5, iar platformele noastre sunt Gen 3 și Gen 4, deci magistrala rulează la jumătate sau un sfert din viteza sa de proiectare, în funcție de mașină. Asta încetinește antrenarea care transferă date de la gazdă la fiecare pas. Face diferență mică pentru inferență, transcodare sau randare odată ce lucrul este încărcat în memoria GPU. Slotul pe care îl oferă fiecare mașină este listat pe această pagină.
04Cât de mare poate fi un model AI pe care îl poate rula un server RTX 5090?
Cu 32 GB, un model de 30 de miliarde de parametri încape la 4 biți, iar un model de 13 miliarde încape la 8 biți, ambele cu loc pentru context. Un model de 70 de miliarde nu încape pe un singur RTX 5090, nici măcar la 4 biți. Pentru modele mai mari, vezi pagina de dimensionare a memoriei LLM.
05RTX 5090 sau RTX 5080: pe care ar trebui să îl închiriez?
Închiriază RTX 5080 dacă modelul sau scena ta încape în 16 GB cu loc de rezervă, sau dacă sarcina este în mare parte video. Închiriază RTX 5090 când ai nevoie de mai mult de 16 GB, sau vrei spațiu de manevră pentru contexte mai lungi și mai mulți utilizatori. Tabelul de prețuri de mai sus arată cât costă fiecare cu mașina sa.
06Pot obține un RTX 5070 sau RTX 5060?
Nu. RTX 5090 și RTX 5080 sunt singurele GPU-uri din seria RTX 50 din catalogul nostru de comenzi, iar configuratorul nu oferă altele. Pentru un GPU mai mic și mai ieftin, compară restul pe toate serverele GPU cu prețuri.
07Pot pune două GPU-uri RTX 5090 într-un singur server?
Da, ca o configurație pe care o cotăm, nu ca opțiune de checkout. Fiecare consumă până la 575 W, iar GPU-urile GeForce RTX 50 nu au NVLink, deci două dintre ele sunt două grupuri separate de 32 GB. Spune-ne ce plănuiești să rulezi, sau vezi servere multi-GPU.
08Cât de repede pot avea un server RTX 5090?
Aproximativ 30 de minute după aprobare dacă o mașină rack are deja GPU-ul, 4 până la 24 de ore dacă avem GPU-ul pe raft, și 5 până la 10 zile lucrătoare dacă trebuie să îl achiziționăm. Întreabă pe chat înainte să plătești și îți spunem care variantă se aplică.
Alege-ți configurația RTX 5090 și vezi totalul lunar
Fiecare configurație de mai sus are prețul împreună cu serverul său. Alege una, configureaz-o așa cum dorești, iar comanda îți arată prețul lunar complet înainte să plătești.