Server GPU · seria RTX 30
Server dedicat RTX 3080 plus alte patru GPU-uri RTX 30, de la 8 GB la 24 GB
Un server dedicat RTX 3080 de la Primcast este o mașină fizică întreagă cu un NVIDIA GeForce RTX 3080 pus la dispoziția propriului tău sistem de operare: 10 GB GDDR6X și 8,704 nuclee CUDA, fără mașină virtuală și fără vecini. Dacă lucrul tău are nevoie de mai multă memorie, serverele noastre acceptă și un RTX 3080 Ti sau un 24 GB RTX 3090. Plătești lunar, fără contract.
- RTX 30708 GB GDDR65,888
- RTX 3070 Ti8 GB GDDR6X6,144
- RTX 308010 GB GDDR6X8,704
- RTX 3080 Ti12 GB GDDR6X10,240
- RTX 309024 GB GDDR6X10,496
Toate cele cinci: PCIe Gen 4, un encoder video, fără memorie ECC.
01Alege unul
Care server din seria RTX 30 se potrivește lucrului tău
Începe din partea de sus a acestui tabel și oprește-te la primul GPU cu suficientă memorie pentru ce încarci. GPU-urile de mai jos fac aceeași muncă mai repede. Singurul lucru pe care îl adaugă este loc pentru un model sau o scenă mai mare.
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| RTX 3070 | 8 GB GDDR6 | $139 | $209.93 |
| RTX 3070 Ti | 8 GB GDDR6X | $149 | $222.47 |
| RTX 3080 | 10 GB GDDR6X | $159 | $229.93 |
| RTX 3080 Ti | 12 GB GDDR6X | $199 | $272.47 |
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
RTX 3080 al nostru este modelul de 10 GB
NVIDIA a făcut două RTX 3080. Al nostru este originalul, cu 10 GB GDDR6X și 8,704 nuclee CUDA. Versiunea ulterioară are 12 GB și 8.960 de nuclee, iar multe anunțuri citează 12 GB pentru GPU-ul mai ieftin. Dimensionează-ți lucrul față de 10 GB. Un model de 13 miliarde de parametri la 8 biți are nevoie de aproximativ 14 GB, deci nu încape în nicio versiune.
RTX 3090 este pasul cel mare
Trecerea de la RTX 3080 Ti la RTX 3090 dublează memoria, de la 12 GB la 24 GB GDDR6X. Este singurul GPU RTX 30 cu 24 GB. Dacă modelul sau scena ta are nevoie de atât, nimic mai ieftin de aici nu îl va rula. Pentru mai mult de 24 GB, vezi fiecare GPU pe care îl instalăm, cu prețuri.
02Pentru ce este
Ce rulează oamenii pe un server GPU RTX 3080
Aceste GPU-uri au apărut în 2020 și încă le închiriem, pentru că multă muncă reală nu are nevoie de ceva mai nou. Pentru aceste patru sarcini, un GPU mai vechi rezolvă treaba cu mai puțin pe lună.
01AI
Rularea unui model care deja încape
Servirea unui model 7B, testarea de prompturi sau ajustarea fină a ceva mic. Un model de 7-8B se încarcă la 4 biți pe oricare dintre cele cinci, iar la 8 biți pe RTX 3080 cu puțin loc de rezervă. RTX 3090 ține un model de 13B la 8 biți cu loc rămas pentru context.
02Jocuri
Servere de jocuri care au nevoie de un GPU real
Jocurile sunt scrise și testate pe GPU-uri GeForce ca acestea. Dacă serverul tău de joc randează sau transmite, seria RTX 30 rulează aceleași drivere GeForce pe care le au jucătorii tăi acasă.
03Randare
Randări în lot pe care le poți reporni
Blender, Unreal sau propria ta conductă, cadru după cadru. Dacă o sarcină eșuează, o rulezi din nou, deci nu trebuie să plătești pentru memorie cu corecție de erori. Cheltuie banii pe nuclee CUDA în schimb.
04Video
Codare H.264 și HEVC
Fiecare GPU are un encoder hardware și un decoder pentru H.264 și HEVC. Asta acoperă canale live sau o coadă de încărcări fără să încarce procesorul. Pentru AV1, sau multe canale pe o singură mașină, vezi servere de transcodare video live.
03Înainte să comanzi
Două lucruri pe care seria RTX 30 nu le poate face
Ambele sunt în specificația proprie a NVIDIA pentru aceste GPU-uri. Verifică-le față de lucrul tău înainte să comanzi.
Fără codare AV1
Niciunul dintre cele cinci nu poate coda AV1 în hardware. NVIDIA a adăugat asta cu seria RTX 40. Dacă conducta ta trimite AV1, alege un server RTX 4090 D sau un server L40S, care are trei encodere AV1.
Fără memorie ECC, fără driver profesional
Un bit inversat trece neobservat. Asta e în regulă pentru lucrul pe care îl poți verifica sau repeta. Pentru o rulare de antrenament care durează săptămâni fără puncte de control, sau pentru software licențiat doar pe GPU-uri profesionale, alege unul din gama de stații de lucru din lista completă de GPU-uri.
04Specificații
Specificații RTX 3090, 3080 și 3070
Arhitectură Ampere, nuclee RT de a doua generație, nuclee Tensor de a treia generație și PCIe Gen 4 pe toate cele cinci. Cifrele sunt ale NVIDIA, din paginile sale de comparație GeForce.
RTX 3090
Ampere
24 GB GDDR6X
10,496
936 GB/s
350 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3080 Ti
Ampere
12 GB GDDR6X
10,240
912 GB/s
350 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3080
Ampere
10 GB GDDR6X
8,704
760 GB/s
320 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3070 Ti
Ampere
8 GB GDDR6X
6,144
608 GB/s
290 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3070
Ampere
8 GB GDDR6
5,888
448 GB/s
220 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
05Dimensiunea modelului
Va încăpea modelul tău pe un RTX 3080 sau RTX 3090?
Pe cei 10 GB ai RTX 3080, un model de 7-8B încape la 4 biți și e strâmt la 8 biți. Pe cei 24 GB ai RTX 3090, un model de 13B încape la 8 biți, iar un model de 30B se încarcă la 4 biți, cu puțin loc rămas pentru context.
RTX 3080, 10 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — does not fit | 8 GB — tight | 5 GB — fits |
| 13-14 billion parameters | 28 GB — does not fit | 14 GB — does not fit | 8 GB — tight |
| 30-34 billion parameters | 68 GB — does not fit | 34 GB — does not fit | 19 GB — does not fit |
| 70 billion parameters | 140 GB — does not fit | 70 GB — does not fit | 38 GB — does not fit |
RTX 3090, 24 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — fits | 8 GB — fits | 5 GB — fits |
| 13-14 billion parameters | 28 GB — does not fit | 14 GB — fits | 8 GB — fits |
| 30-34 billion parameters | 68 GB — does not fit | 34 GB — does not fit | 19 GB — tight |
| 70 billion parameters | 140 GB — does not fit | 70 GB — does not fit | 38 GB — does not fit |
RTX 3080 Ti se află între cele două cu 12 GB. RTX 3070 și 3070 Ti au 8 GB, ceea ce ține un model de 7-8B la 4 biți și nu la 8 biți. Pornești de la model în schimb? Dimensionarea serverului LLM calculează de câtă memorie GPU are nevoie un model și care GPU o acoperă.
06Serverul din jurul lui
În ce server intră fiecare GPU RTX 30
Fiecare GPU RTX 30 este o componentă PCIe Gen 4. Un slot Gen 4 îi oferă legătura completă. Un slot Gen 3 îi oferă jumătate, iar lista de mai jos arată ce server are ce.
Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2600 v3/v4
Intel Xeon Silver / Gold
AMD EPYC
Pentru majoritatea lucrului cu RTX 30, slotul contează prea puțin. Odată ce un model sau o scenă este încărcată pe GPU, foarte puțin traversează slotul. Contează pentru antrenamentul care aduce loturi noi de la server la fiecare pas.
07Compară
RTX 3090 vs RTX 4090 D și RTX 5090
RTX 3090 are aceiași 24 GB ca RTX 4090 D, la o generație mai târziu, iar RTX 5090, la două generații distanță, are 32 GB. Acest tabel arată cât costă GPU-urile mai noi, fiecare cu cea mai ieftină mașină completă în care intră.
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
| RTX 4090D | 24 GB GDDR6X | $299 | $372.47 |
| RTX 5090 | 32 GB GDDR7 | $399 | $472.47 |
Alege GPU-ul mai nou când viteza pe sarcină sau codarea AV1 este ce ai nevoie. Când memoria este cea pentru care plătești, RTX 3090 de obicei rezolvă treaba. De ce încă închiriem hardware mai vechi explică raționamentul.
08Prețuri
Prețurile serverului dedicat RTX 3080 și ale celorlalte patru
GPU-ul este o linie pe factura ta, iar serverul este alta. Fiecare rând arată mașina completă, ce adaugă GPU-ul și totalul lunar, citite din același catalog pe care îl folosește checkout-ul.
| Card | The machine it goes in | The card | Complete, per month |
|---|---|---|---|
| RTX 3070 | Intel Xeon E5-2600 v1/v2 | $139 | $209.93 Configure this build → |
| RTX 3070 | Intel Xeon E5-2600 v3/v4 | $139 | $212.47 Configure this build → |
| RTX 3070 Ti | Intel Xeon E5-2600 v3/v4 | $149 | $222.47 Configure this build → |
| RTX 3070 | Intel Xeon Silver / Gold | $139 | $222.67 Configure this build → |
| RTX 3080 | Intel Xeon E5-2600 v1/v2 | $159 | $229.93 Configure this build → |
| RTX 3080 | Intel Xeon E5-2600 v3/v4 | $159 | $232.47 Configure this build → |
| RTX 3070 Ti | Intel Xeon Silver / Gold | $149 | $232.67 Configure this build → |
| RTX 3080 | Intel Xeon Silver / Gold | $159 | $242.67 Configure this build → |
| RTX 3080 Ti | Intel Xeon E5-2600 v3/v4 | $199 | $272.47 Configure this build → |
| RTX 3080 Ti | Intel Xeon Silver / Gold | $199 | $282.67 Configure this build → |
| RTX 3090 | Intel Xeon E5-2600 v1/v2 | $239 | $309.93 Configure this build → |
| RTX 3090 | Intel Xeon E5-2600 v3/v4 | $239 | $312.47 Configure this build → |
| RTX 3090 | Intel Xeon Silver / Gold | $239 | $322.67 Configure this build → |
| RTX 3080 | AMD EPYC | $159 | $376.59 Configure this build → |
- PortTrafic nemăsurat în ambele direcții, pe un port care deservește doar mașina ta.
- AdresăO adresă IPv4 inclusă.
- TermenLunar implicit, fără contract.
- AjutorAsistentul nostru de chat răspunde în secunde și îți poate verifica contul și serverul. Cere o persoană oricând.
Ai nevoie de o mașină astăzi? Servere instant listează ce este deja montat în rack. Pentru a compara fiecare GPU pe care îl instalăm, vezi Servere GPU, toate cu preț.
Marketplace
Închiriază un GPU din seria RTX 30 de la proprietarul său
Proprietarii își listează mașinile din seria RTX 30 pe marketplace-ul nostru și își stabilesc propriul preț lunar. Dacă un anunț spune că vine prin compania noastră soră, Server Room, îl închiriezi pe serverroom.net.
09Întrebări
Întrebări despre serverele RTX 3080 pe care le pun oamenii înainte de a comanda
01RTX 3080-ul vostru este versiunea de 10 GB sau cea de 12 GB?
Este versiunea de 10 GB, RTX 3080-ul original cu 8,704 nuclee CUDA. Versiunea de 12 GB are 8.960 de nuclee, iar noi nu o instalăm. Dacă ai nevoie de 12 GB, RTX 3080 Ti le are.
02Server cu RTX 3080 sau RTX 3090?
Alege RTX 3080 dacă modelul sau scena ta încape în 10 GB. Între 10 și 12 GB, alege RTX 3080 Ti. Alege RTX 3090 dacă are nevoie de mai mult de 12 GB: are 24 GB GDDR6X, cea mai multă dintre toate GPU-urile RTX 30, și mai multe nuclee CUDA. Ambele sunt în tabelul de prețuri de mai sus, fiecare cu mașina completă.
04Pot pune două GPU-uri RTX 30 într-un singur server?
Da, ca o configurație pe care o ofertăm, nu ca opțiune la checkout, pentru că depinde de carcasă, de lățimea GPU-ului și de bugetul de putere. Întreabă pe chat și îți spunem carcasa și termenul de livrare. Două GPU-uri înseamnă două pool-uri de memorie separate: un model care nu încape pe un singur RTX 3090 trebuie împărțit între ambele de către software-ul tău.
05Cât de repede pot avea un server cu RTX 3080?
Depinde de locul unde se află GPU-ul, iar tu ești informat înainte să plătești. Un GPU pe care îl avem deja în stoc este montat în patru până la douăzeci și patru de ore. Unul pe care trebuie să-l achiziționăm durează cinci până la zece zile lucrătoare. Pentru a începe astăzi, serverele instant listează mașinile deja montate în rack.
06Ce se întâmplă dacă GPU-ul se defectează?
Îl înlocuim. Contractul ne acordă patru ore din momentul în care îl raportezi telefonic sau prin chat live, iar după aceea primești credit de serviciu conform unui program publicat.
07Cine mă ajută dacă ceva nu merge bine?
Deschide chatul pe orice pagină. Asistentul nostru răspunde în câteva secunde, poate să se uite la contul tău și la serverul tău și te transferă către unul dintre colegii noștri ori de câte ori ceri. Păstrezi acces root complet la mașină tot timpul.
Obține un server RTX 3080 pentru proiectul tău
Alege serverul, adaugă RTX 3080 sau oricare dintre celelalte patru și vezi totalul lunar înainte să plătești. Fără contract, iar portul este nemăsurat.