Server GPU · serie RTX 30
Server dedicato RTX 3080 più altre quattro RTX 30, da 8 GB a 24 GB
Un server dedicato RTX 3080 di Primcast è un'intera macchina fisica con una NVIDIA GeForce RTX 3080 affidata al tuo sistema operativo: 10 GB GDDR6X e 8,704 core CUDA, senza macchina virtuale e senza vicini. Se il tuo lavoro richiede più memoria, i nostri server accettano anche una RTX 3080 Ti o una 24 GB RTX 3090. Paghi mensilmente, senza contratto.
- RTX 30708 GB GDDR65,888
- RTX 3070 Ti8 GB GDDR6X6,144
- RTX 308010 GB GDDR6X8,704
- RTX 3080 Ti12 GB GDDR6X10,240
- RTX 309024 GB GDDR6X10,496
Tutte e cinque: PCIe Gen 4, un codificatore video, nessuna memoria ECC.
01Scegline una
Quale server della serie RTX 30 si adatta al tuo lavoro
Parti dall'alto di questa tabella e fermati alla prima GPU con memoria sufficiente per ciò che carichi. Le GPU più in basso svolgono lo stesso lavoro più velocemente. L'unica cosa che aggiungono è spazio per un modello o una scena più grande.
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| RTX 3070 | 8 GB GDDR6 | $139 | $209.93 |
| RTX 3070 Ti | 8 GB GDDR6X | $149 | $222.47 |
| RTX 3080 | 10 GB GDDR6X | $159 | $229.93 |
| RTX 3080 Ti | 12 GB GDDR6X | $199 | $272.47 |
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
La nostra RTX 3080 è il modello da 10 GB
NVIDIA ha prodotto due RTX 3080. La nostra è l'originale, con 10 GB GDDR6X e 8,704 core CUDA. La versione successiva ha 12 GB e 8.960 core, e molte inserzioni indicano 12 GB per la GPU più economica. Dimensiona il tuo lavoro sui 10 GB. Un modello da 13 miliardi di parametri a 8 bit richiede circa 14 GB, quindi non entra in nessuna delle due versioni.
La RTX 3090 è il grande salto
Passare dalla RTX 3080 Ti alla RTX 3090 raddoppia la memoria, da 12 GB a 24 GB GDDR6X. È l'unica GPU RTX 30 con 24 GB. Se il tuo modello o la tua scena richiedono tanto, niente di più economico qui lo eseguirà. Per più di 24 GB, vedi tutte le GPU che installiamo, con i prezzi.
02A cosa serve
Cosa si esegue su un server GPU RTX 3080
Queste GPU sono uscite nel 2020 e le noleggiamo ancora, perché molto lavoro reale non richiede nulla di più recente. Per questi quattro impieghi una GPU più vecchia porta a termine il lavoro spendendo meno ogni mese.
01IA
Eseguire un modello che già ci sta
Servire un modello 7B, testare prompt o rifinire qualcosa di piccolo. Un modello 7-8B si carica a 4 bit su una qualsiasi delle cinque, e a 8 bit sulla RTX 3080 con poco margine. La RTX 3090 contiene un modello 13B a 8 bit con spazio residuo per il contesto.
02Giochi
Server di gioco che richiedono una vera GPU
I giochi vengono scritti e testati su GPU GeForce come queste. Se il tuo server di gioco renderizza o trasmette in streaming, la serie RTX 30 esegue gli stessi driver GeForce che i tuoi giocatori hanno a casa.
03Rendering
Render batch che puoi riavviare
Blender, Unreal o la tua pipeline, fotogramma dopo fotogramma. Se un lavoro fallisce lo esegui di nuovo, quindi non devi pagare per la memoria con correzione degli errori. Spendi invece i soldi in core CUDA.
04Video
Codifica H.264 e HEVC
Ogni GPU ha un codificatore hardware e un decodificatore per H.264 e HEVC. Questo copre canali live o una coda di caricamenti senza caricare il processore. Per AV1, o molti canali su una macchina, vedi server di transcodifica video live.
03Prima di ordinare
Due cose che la serie RTX 30 non sa fare
Entrambe sono nelle specifiche NVIDIA di queste GPU. Verificale rispetto al tuo lavoro prima di ordinare.
Nessuna codifica AV1
Nessuna delle cinque può codificare AV1 via hardware. NVIDIA l'ha aggiunto con la serie RTX 40. Se la tua pipeline invia AV1, scegli un server RTX 4090 D o un server L40S, che ha tre codificatori AV1.
Nessuna memoria ECC, nessun driver professionale
Un bit invertito passa inosservato. Va bene per lavori che puoi controllare o ripetere. Per un addestramento che dura settimane senza checkpoint, o per software con licenza solo su GPU professionali, scegline una dalla gamma workstation su l'elenco completo delle GPU.
04Specifiche
Specifiche di RTX 3090, 3080 e 3070
Architettura Ampere, core RT di seconda generazione, core Tensor di terza generazione e PCIe Gen 4 su tutte e cinque. I dati sono di NVIDIA, dalle sue pagine di confronto GeForce.
RTX 3090
Ampere
24 GB GDDR6X
10,496
936 GB/s
350 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3080 Ti
Ampere
12 GB GDDR6X
10,240
912 GB/s
350 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3080
Ampere
10 GB GDDR6X
8,704
760 GB/s
320 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3070 Ti
Ampere
8 GB GDDR6X
6,144
608 GB/s
290 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3070
Ampere
8 GB GDDR6
5,888
448 GB/s
220 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
05Dimensionamento del modello
Il tuo modello entrerà in una RTX 3080 o RTX 3090?
Sui 10 GB della RTX 3080, un modello 7-8B entra a 4 bit ed è al limite a 8 bit. Sui 24 GB della RTX 3090, un modello 13B entra a 8 bit e un modello 30B si carica a 4 bit, con poco spazio residuo per il contesto.
RTX 3080, 10 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — does not fit | 8 GB — tight | 5 GB — fits |
| 13-14 billion parameters | 28 GB — does not fit | 14 GB — does not fit | 8 GB — tight |
| 30-34 billion parameters | 68 GB — does not fit | 34 GB — does not fit | 19 GB — does not fit |
| 70 billion parameters | 140 GB — does not fit | 70 GB — does not fit | 38 GB — does not fit |
RTX 3090, 24 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — fits | 8 GB — fits | 5 GB — fits |
| 13-14 billion parameters | 28 GB — does not fit | 14 GB — fits | 8 GB — fits |
| 30-34 billion parameters | 68 GB — does not fit | 34 GB — does not fit | 19 GB — tight |
| 70 billion parameters | 140 GB — does not fit | 70 GB — does not fit | 38 GB — does not fit |
La RTX 3080 Ti si colloca tra le due con 12 GB. Le RTX 3070 e 3070 Ti hanno 8 GB, che contengono un modello 7-8B a 4 bit ma non a 8 bit. Parti invece dal modello? Il dimensionamento dei server LLM calcola quanta memoria GPU serve a un modello e quale GPU la soddisfa.
06Il server attorno
In quale server va ogni RTX 30
Ogni GPU RTX 30 è un componente PCIe Gen 4. Uno slot Gen 4 le dà il collegamento completo. Uno slot Gen 3 gliene dà la metà, e l'elenco sotto mostra quale server ha quale.
Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2600 v3/v4
Intel Xeon Silver / Gold
AMD EPYC
Per la maggior parte del lavoro con le RTX 30 lo slot conta poco. Una volta che un modello o una scena è caricato sulla GPU, pochissimo attraversa lo slot. Conta per l'addestramento che trasferisce nuovi batch dal server a ogni passo.
07Confronta
RTX 3090 contro RTX 4090 D e RTX 5090
La RTX 3090 ha gli stessi 24 GB della RTX 4090 D, una generazione dopo, e la RTX 5090 due generazioni dopo ha 32 GB. Questa tabella mostra quanto costano le GPU più recenti, ciascuna con la macchina completa più economica in cui va.
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
| RTX 4090D | 24 GB GDDR6X | $299 | $372.47 |
| RTX 5090 | 32 GB GDDR7 | $399 | $472.47 |
Scegli la GPU più recente quando ti servono velocità per lavoro o codifica AV1. Quando è la memoria ciò per cui paghi, la RTX 3090 di solito basta. Perché noleggiamo ancora hardware più vecchio spiega il ragionamento.
08Prezzi
Prezzi del server dedicato RTX 3080, e delle altre quattro
La GPU è una riga della tua fattura e il server un'altra. Ogni riga mostra la macchina completa, quanto aggiunge la GPU e il totale mensile, letto dallo stesso catalogo usato dal checkout.
| Card | The machine it goes in | The card | Complete, per month |
|---|---|---|---|
| RTX 3070 | Intel Xeon E5-2600 v1/v2 | $139 | $209.93 Configure this build → |
| RTX 3070 | Intel Xeon E5-2600 v3/v4 | $139 | $212.47 Configure this build → |
| RTX 3070 Ti | Intel Xeon E5-2600 v3/v4 | $149 | $222.47 Configure this build → |
| RTX 3070 | Intel Xeon Silver / Gold | $139 | $222.67 Configure this build → |
| RTX 3080 | Intel Xeon E5-2600 v1/v2 | $159 | $229.93 Configure this build → |
| RTX 3080 | Intel Xeon E5-2600 v3/v4 | $159 | $232.47 Configure this build → |
| RTX 3070 Ti | Intel Xeon Silver / Gold | $149 | $232.67 Configure this build → |
| RTX 3080 | Intel Xeon Silver / Gold | $159 | $242.67 Configure this build → |
| RTX 3080 Ti | Intel Xeon E5-2600 v3/v4 | $199 | $272.47 Configure this build → |
| RTX 3080 Ti | Intel Xeon Silver / Gold | $199 | $282.67 Configure this build → |
| RTX 3090 | Intel Xeon E5-2600 v1/v2 | $239 | $309.93 Configure this build → |
| RTX 3090 | Intel Xeon E5-2600 v3/v4 | $239 | $312.47 Configure this build → |
| RTX 3090 | Intel Xeon Silver / Gold | $239 | $322.67 Configure this build → |
| RTX 3080 | AMD EPYC | $159 | $376.59 Configure this build → |
- PortaTraffico senza limiti in entrambe le direzioni, su una porta che serve solo la tua macchina.
- IndirizzoUn indirizzo IPv4 incluso.
- DurataMensile per impostazione predefinita, senza contratto.
- AssistenzaIl nostro assistente in chat risponde in pochi secondi e può controllare account e server. Chiedi una persona in qualsiasi momento.
Ti serve una macchina oggi? I server istantanei elencano ciò che è già montato in rack. Per confrontare ogni GPU che installiamo, vedi Server GPU, tutti con prezzi.
Marketplace
Noleggia una GPU della serie RTX 30 dal suo proprietario
I proprietari elencano le loro macchine della serie RTX 30 sul nostro marketplace e stabiliscono il proprio prezzo mensile. Se un annuncio dice che passa attraverso la nostra società consociata, Server Room, lo noleggi su serverroom.net.
09Domande
Domande sul server RTX 3080 che le persone fanno prima di ordinare
01La vostra RTX 3080 è la versione da 10 GB o da 12 GB?
È la versione da 10 GB, la RTX 3080 originale con 8,704 core CUDA. La versione da 12 GB ha 8.960 core e noi non la installiamo. Se servono 12 GB, la RTX 3080 Ti li offre.
02Server RTX 3080 o RTX 3090?
Scegliete la RTX 3080 se il vostro modello o la scena rientrano nei 10 GB. Tra 10 e 12 GB, prendete la RTX 3080 Ti. Scegliete la RTX 3090 se servono più di 12 GB: ha 24 GB GDDR6X, il massimo tra tutte le GPU RTX 30, e più core CUDA. Entrambe sono nella tabella prezzi qui sopra, ciascuna con la macchina completa.
04Posso mettere due GPU RTX 30 in un solo server?
Sì, come configurazione che quotiamo su richiesta piuttosto che come opzione al checkout, perché dipende dal telaio, dalla larghezza della GPU e dal budget energetico. Chiedete in chat e vi indichiamo il telaio e i tempi di consegna. Due GPU sono due pool di memoria separati: un modello che non entra in una RTX 3090 deve essere suddiviso tra le due dal vostro software.
05In quanto tempo posso avere un server RTX 3080?
Dipende da dove si trova la GPU e ve lo comunichiamo prima del pagamento. Una GPU che abbiamo già in magazzino viene installata entro quattro-ventiquattro ore. Una che dobbiamo acquistare richiede da cinque a dieci giorni lavorativi. Per iniziare oggi, i server istantanei elencano le macchine già montate in rack.
06Cosa succede se la GPU si guasta?
La sostituiamo. Il contratto ci concede quattro ore dal momento in cui segnalate il guasto per telefono o chat dal vivo; oltre tale termine avete diritto a un credito di servizio secondo un piano pubblicato.
07Chi mi aiuta se qualcosa va storto?
Aprite la chat su qualsiasi pagina. Il nostro assistente risponde in pochi secondi, può consultare il vostro account e il vostro server e vi passa a un membro del team ogni volta che lo chiedete. Mantenete sempre l'accesso root completo alla macchina.
Ordinate un server RTX 3080 per il vostro progetto
Scegliete il server, aggiungete la RTX 3080 o una qualsiasi delle altre quattro e vedete il totale mensile prima di pagare. Nessun contratto e porta senza limiti di traffico.