Server GPU · Serie RTX 50
Server dedicato RTX 5090 con 32 GB per i tuoi modelli e render
Un server dedicato RTX 5090 è un'intera macchina che noleggi mensilmente con la RTX 5090 di NVIDIA all'interno: 32 GB di GDDR7, passati direttamente al tuo sistema operativo. Nessun altro usa la GPU o il server, la porta non è misurata e non c'è alcun contratto. Se 16 GB bastano per il tuo lavoro, la RTX 5080 entra negli stessi rack a un prezzo inferiore.
| Voce | RTX 5090 | RTX 5080 |
|---|---|---|
| Memoria GPU | 32 GB GDDR7 | 16 GB GDDR7 |
| Bus di memoria | 512-bit | 256-bit |
| Core CUDA | 21.760 | 10.752 |
| Clock in boost | 2,41 GHz | 2,62 GHz |
| Encoder AV1 | 3 | 2 |
| Alimentazione | 575 W | 360 W |
| Interfaccia GPU | PCIe Gen 5 | PCIe Gen 5 |
Hai una macchina della serie RTX 50 che non usi?
Mettila in vendita sul marketplace di Primcast, scegli tu il prezzo mensile e lascia che chi ha bisogno di potenza di calcolo la noleggi da te.
00Marketplace
Oppure noleggia una GPU della serie RTX 50 da chi la possiede
I proprietari mettono le loro macchine della serie RTX 50 sul nostro marketplace e stabiliscono da sé il prezzo mensile. Un annuncio contrassegnato come gestito dalla nostra società consociata, Server Room, viene noleggiato su serverroom.net invece che qui.
01A cosa serve
Cosa puoi eseguire su un server AI con RTX 5090
È la GPU consumer più grande di NVIDIA, in un rack. Ottieni molta potenza di calcolo e memoria per il prezzo pagato, insieme ai limiti che derivano dall'hardware consumer.
01Modelli AI
Inferenza e fine-tuning in 32 GB
Un modello da 30 miliardi di parametri a 4 bit entra con margine, e così anche un modello da 13 miliardi a 8 bit. Lo stesso modello da 13 miliardi a 16 bit pieni non lascia abbastanza spazio per servirlo. Le tabelle di dimensionamento qui sotto mostrano ogni caso.
02Rendering
Scene grandi che restano nella memoria della GPU
I renderer GPU sono veloci finché la scena entra nella GPU. 32 GB contengono molta più geometria e texture rispetto alle GPU da 24 GB di un gradino sotto, e un lotto di fotogrammi può essere elaborato durante la notte mentre la tua workstation resta libera.
03Video
Tre encoder AV1 su una sola GPU
La RTX 5090 ha tre encoder video hardware e due decoder, quindi può transcodificare più flussi contemporaneamente. Gli acceleratori A100 e H100 non hanno alcun encoder. Per i canali live, vedi i nostri server di transcodifica.
04Limiti
Nessuna memoria con correzione degli errori
Le GPU GeForce non hanno ECC né driver professionali certificati. Va bene quando un risultato errato significa solo ripetere l'elaborazione. Per esecuzioni che durano settimane senza checkpoint, o software con licenza solo per GPU professionali, guarda la RTX PRO 6000 con 96 GB ed ECC.
02Specifiche
Specifiche di NVIDIA RTX 5090 e RTX 5080
I dati che NVIDIA pubblica per le due GPU della serie RTX 50 che installiamo. Entrambe usano l'architettura Blackwell, con Tensor Core di quinta generazione e RT Core di quarta generazione.
RTX 5090
Blackwell
32 GB GDDR7
21,760
512-bit
2.41 GHz
575 W
PCIe Gen 5 x16
3 NVENC (9th generation), 2 NVDEC, AV1
No
RTX 5080
Blackwell
16 GB GDDR7
10,752
256-bit
2.62 GHz
360 W
PCIe Gen 5 x16
2 NVENC (9th generation), 2 NVDEC, AV1
No
03Prima di ordinare
Lo slot PCIe che la tua RTX 5090 riceve in ogni macchina
Entrambe le GPU sono progettate per PCIe Gen 5. Ogni piattaforma in cui le installiamo è Gen 3 o Gen 4, quindi il collegamento tra GPU e server funziona al di sotto di quanto la GPU è stata progettata per fare. Ecco cosa le offre ogni macchina.
Intel Xeon E5-2600 v3/v4
Intel Xeon Silver / Gold
AMD EPYC
Lo diciamo subito perché in passato ha colto di sorpresa un cliente: una RTX 5090 su piattaforma Gen 3 renderizzava più lentamente della RTX 4090 che sostituiva. Uno slot più lento penalizza solo quando il tuo lavoro sposta continuamente dati attraverso di esso, come un ciclo di addestramento che carica un nuovo batch dall'host a ogni passo. Inferenza, transcodifica e server di gioco lo toccano appena una volta caricato tutto. Non sai quale sia il tuo caso? Dicci in chat cosa eseguirai e ti indicheremo la macchina giusta.
04La più piccola
Server RTX 5080: la stessa generazione con 16 GB
La RTX 5080 ha lo stesso design Blackwell, la stessa generazione di encoder AV1 e la stessa interfaccia PCIe Gen 5, con circa la metà dei core CUDA e metà della memoria della RTX 5090.
Quando la RTX 5080 è sufficiente
Il tuo modello entra in 16 GB con margine residuo: un modello da 7 miliardi a 8 bit, o un modello da 13 miliardi a 4 bit. Oppure il lavoro è video, dove i suoi due encoder AV1 fanno il grosso, o un server di gioco che non riempie mai la memoria della GPU.
Quando pagare per la RTX 5090
Il tuo modello o la tua scena superano i 16 GB, oppure vuoi la memoria extra per contesti più lunghi e più utenti contemporaneamente. Il doppio della memoria su un bus largo il doppio è la vera differenza; le velocità di clock sono vicine.
05Dimensionamento
Cosa entra in 32 GB e in 16 GB di memoria GPU
Solo pesi. Lascia spazio in più per il contesto e il runtime.
RTX 5090, 32 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB: fits | 8 GB: fits | 5 GB: fits |
| 13-14 billion parameters | 28 GB: does not fit | 14 GB: fits | 8 GB: fits |
| 30-34 billion parameters | 68 GB: does not fit | 34 GB: does not fit | 19 GB: fits |
| 70 billion parameters | 140 GB: does not fit | 70 GB: does not fit | 38 GB: does not fit |
RTX 5080, 16 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB: does not fit | 8 GB: fits | 5 GB: fits |
| 13-14 billion parameters | 28 GB: does not fit | 14 GB: does not fit | 8 GB: fits |
| 30-34 billion parameters | 68 GB: does not fit | 34 GB: does not fit | 19 GB: does not fit |
| 70 billion parameters | 140 GB: does not fit | 70 GB: does not fit | 38 GB: does not fit |
L'alimentazione è l'altro limite. Una RTX 5090 assorbe fino a 575 W, motivo per cui una seconda nella stessa macchina è una configurazione che quotiamo, non un'opzione al checkout. Per partire dal tuo modello e trovare la GPU di cui ha bisogno, usa la pagina di dimensionamento della memoria per LLM.
06La scelta
Server RTX 5090, RTX 4090D o RTX 3090?
Queste GPU entrano nelle stesse macchine, quindi più nuova non è automaticamente migliore per te. Confronta memoria e prezzo mensile per il tuo lavoro.
| GPU | GPU memory | GPU alone | Cheapest complete machine |
|---|---|---|---|
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
| RTX 5080 | 16 GB GDDR7 | $229 | $312.67 |
| RTX 4090D | 24 GB GDDR6X | $299 | $372.47 |
| RTX 5090 | 32 GB GDDR7 | $399 | $472.47 |
La RTX 4090D e la RTX 3090 hanno entrambe 24 GB. Sono GPU PCIe Gen 4, quindi lo slot le penalizza meno di quanto penalizzi la serie RTX 50. Se il tuo lavoro entra in 24 GB, leggi la pagina del server dedicato RTX 4090 e la pagina dei server della serie RTX 30 prima di decidere.
07Prezzi
Prezzi dei server RTX 5090 e RTX 5080, con la macchina
La tua fattura mostra la GPU su una riga e il server su un'altra. Entrambi provengono dallo stesso catalogo ordini usato dal checkout, e ogni prezzo qui sotto appartiene alla macchina accanto.
| GPU | The machine it goes in | GPU alone | Complete, per month |
|---|---|---|---|
| RTX 5080 | Intel Xeon Silver / Gold | $229 | $312.67 Configure this build → |
| RTX 5090 | Intel Xeon E5-2600 v3/v4 | $399 | $472.47 Configure this build → |
| RTX 5090 | Intel Xeon Silver / Gold | $399 | $482.67 Configure this build → |
| RTX 5090 | AMD EPYC | $399 | $616.59 Configure this build → |
Il traffico non è misurato in nessuna direzione e non ci sono costi di uscita. Ogni server viene fornito con un indirizzo IPv4, paghi mese per mese e puoi andartene alla fine di qualsiasi mese. Per vedere ogni GPU che installiamo, con prezzi nello stesso formato, vai a tutti i server GPU con prezzi.
08Consegna e assistenza
Quando il tuo server RTX 5090 è pronto, e chi ti aiuta
La consegna dipende da dove si trova la GPU quando ordini. Chiedi in chat prima di pagare e ti diremo quale di queste situazioni si applica alla tua configurazione.
- Circa 30 minuti
Già in un rack
Se una macchina in rack ha già la GPU installata, la ricevi circa 30 minuti dopo l'approvazione dell'ordine.
- Da 4 a 24 ore
Sul nostro scaffale
Abbiamo la GPU a portata di mano e la installiamo nel server che hai scelto.
- Da 5 a 10 giorni lavorativi
Ordinata per te
Acquistiamo la GPU da un distributore e la installiamo appena arriva.
Chiedi qualsiasi cosa nella nostra chat, prima o dopo l'ordine. Un assistente AI risponde in pochi secondi e può controllare il tuo account e il tuo server, e una persona del nostro team interviene ogni volta che lo chiedi. Le macchine già in rack e pronte ora sono sui server istantanei.
09Domande
Domande sul noleggio di un server RTX 5090
01Cosa ricevo con un server dedicato RTX 5090?
Un intero server fisico con una RTX 5090 all'interno, noleggiato a canone mensile. La GPU completa viene passata direttamente al tuo sistema operativo, senza hypervisor, senza suddivisione vGPU e senza condivisione del tempo. Installi il driver e la versione CUDA che preferisci e nulla li modifica a tua insaputa.
02Esiste una RTX 5090 Server Edition?
No. NVIDIA non produce una versione server della RTX 5090. La sua GPU Blackwell a raffreddamento passivo per server è la RTX PRO 6000 Blackwell Server Edition, con 96 GB di memoria ed ECC. Montiamo anche la RTX PRO 6000: vedi la pagina del server dedicato RTX PRO 6000. La RTX 5090 che noleggiamo è la parte GeForce di NVIDIA, in esecuzione in un server rack.
03Una RTX 5090 funzionerà a piena velocità nei vostri server?
Il suo collegamento PCIe no. La RTX 5090 è una GPU PCIe Gen 5 e le nostre piattaforme sono Gen 3 e Gen 4, quindi il bus viaggia a metà o a un quarto della velocità di progetto, a seconda della macchina. Questo rallenta l'addestramento che trasferisce dati dall'host a ogni passo. Fa poca differenza per l'inferenza, la transcodifica o il rendering una volta che il lavoro è caricato nella memoria della GPU. Lo slot che ogni macchina offre è indicato in questa pagina.
04Quanto può essere grande un modello di IA eseguibile su un server RTX 5090?
Con 32 GB, un modello da 30 miliardi di parametri entra a 4 bit e un modello da 13 miliardi entra a 8 bit, entrambi con spazio per il contesto. Un modello da 70 miliardi non entra in una singola RTX 5090, nemmeno a 4 bit. Per modelli più grandi, vedi la pagina sul dimensionamento della memoria per LLM.
05RTX 5090 o RTX 5080: quale dovrei noleggiare?
Noleggia la RTX 5080 se il tuo modello o la tua scena rientra in 16 GB con margine, o se il lavoro è principalmente video. Noleggia la RTX 5090 quando ti servono più di 16 GB, o vuoi margine per contesti più lunghi e più utenti. La tabella dei prezzi qui sopra mostra quanto costa ciascuna con la propria macchina.
06Posso avere una RTX 5070 o una RTX 5060?
No. La RTX 5090 e la RTX 5080 sono le uniche GPU della serie RTX 50 nel nostro catalogo ordini, e il configuratore non ne offre altre. Per una GPU più piccola ed economica, confronta il resto su tutti i server GPU con prezzi.
07Posso mettere due GPU RTX 5090 in un solo server?
Sì, come configurazione che quotiamo su richiesta piuttosto che come opzione di checkout. Ciascuna assorbe fino a 575 W, e le GPU GeForce RTX 50 non hanno NVLink, quindi due di esse sono due pool separati da 32 GB. Dicci cosa intendi eseguire, oppure vedi server multi-GPU.
08In quanto tempo posso avere un server RTX 5090?
Circa 30 minuti dopo l'approvazione se una macchina in rack ha già la GPU, da 4 a 24 ore se abbiamo la GPU a magazzino, e da 5 a 10 giorni lavorativi se dobbiamo acquistarla. Chiedi in chat prima di pagare e ti diciamo quale caso si applica.
Scegli la tua configurazione RTX 5090 e vedi il totale mensile
Ogni configurazione qui sopra ha un prezzo che include il server. Scegline una, configurala come preferisci e l'ordine mostra il prezzo mensile completo prima del pagamento.