Server GPU · NVIDIA Blackwell
Server dedicato RTX PRO 6000 con la GPU completa da 96 GB
Un server dedicato RTX PRO 6000 presso di noi è un'intera macchina con una NVIDIA RTX PRO 6000 Blackwell passata direttamente al tuo sistema operativo: 96 GB di GDDR7 con ECC, più degli 80 GB di una A100 o di una H100. La noleggi a canone mensile, nessun altro la utilizza e la porta è senza limiti di traffico, così modelli di grandi dimensioni e video entrano ed escono senza costi aggiuntivi.
- Core CUDA
- 24.064
- Velocità della memoria
- 1.792 GB/s
- Encoder video
- 4 × AV1
- Potenza della scheda
- 600 W
Core Tensor di quinta generazione. Core RT di quarta generazione.
Hai una RTX PRO 6000 non occupata?
Metti la macchina sul marketplace Primcast e guadagna un canone mensile da chi ha bisogno di potenza di calcolo.
00Marketplace
Oppure noleggia una RTX PRO 6000 dal suo proprietario
I proprietari pubblicano le loro macchine sul nostro marketplace e stabiliscono da sé il prezzo mensile. Un annuncio gestito dalla nostra società consociata, Server Room, viene noleggiato su serverroom.net, non qui.
01A cosa serve
Un server GPU da 96 GB per modelli, rendering e video
Noleggi la RTX PRO 6000 quando il lavoro richiede molta memoria su una sola GPU e deve anche disegnare o codificare. Ecco come si traduce nella pratica.
01Capacità
Un modello di grandi dimensioni su una sola GPU
Un modello da 70 miliardi di parametri entra a 4 bit con spazio per il suo contesto, e un modello da 30 miliardi entra a 8 bit. Tutto risiede in un unico spazio di indirizzamento, quindi eviti lo sharding e la seconda macchina.
02Video
Quattro encoder AV1 a bordo
Quattro motori NVENC e quattro NVDEC, tutti con AV1. Puoi transcodificare molti canali live in hardware e lasciare libero il processore. La A100 e la H100 non hanno alcun encoder video.
03Rendering
Ray tracing con spazio per scene grandi
I core RT di quarta generazione eseguono il rendering, e 96 GB contengono scene e texture che farebbero traboccare una GPU da 48 GB. Puoi renderizzare, codificare ed eseguire un modello sulla stessa scheda.
04Un solo tenant
La GPU completa, sul tuo sistema
Nessun profilo vGPU, nessuna condivisione del tempo, nessun altro cliente sulla macchina. Alcune offerte cloud per questa GPU sono una macchina virtuale su un host condiviso, quindi confronta mele con mele prima di confrontare i prezzi.
02Prima di ordinare
Più memoria di una H100. Ecco a cosa rinunci
La RTX PRO 6000 contiene più memoria degli acceleratori per data center che installiamo. Due cose la separano da loro, e una di queste potrebbe essere decisiva per te.
Niente NVLink
Questa GPU non ha un bridge NVLink. Due di esse in una macchina sono due pool separati da 96 GB che dialogano attraverso lo slot PCIe, non un unico pool da 192 GB. Se il tuo modello richiede più di 96 GB in un unico spazio di indirizzamento, guarda la A100 e la H100, che condividono la memoria tramite NVLink.
GDDR7, non HBM impilata
La GDDR7 è veloce, 1.792 GB/s, più della A100 da 40 GB e il doppio della L40S. La A100 da 80 GB legge ancora un po' più velocemente a 1.935 GB/s. Per servire molti utenti con batch di grandi dimensioni, la velocità di lettura stabilisce il ritmo, quindi controlla quella colonna se il tuo obiettivo è il throughput.
Se la tua domanda è “il modello entra in una sola GPU”, la RTX PRO 6000 risponde con il massimo spazio disponibile. Se è “quanti token al secondo per centinaia di utenti”, un acceleratore potrebbe meritare un'occhiata. La tabella comparativa mette memoria e costo mensile fianco a fianco.
03Specifiche
Specifiche RTX PRO 6000 Blackwell: GDDR7, core Tensor e RT
Dati dalla pagina prodotto NVIDIA per la Workstation Edition. La Max-Q Edition è lo stesso chip con gli stessi 96 GB a 300 W.
RTX PRO 6000 Blackwell 96GB
Blackwell
96 GB GDDR7 ECC
24,064
1,792 GB/s
600 W
PCIe Gen 5 x16
4 NVENC, 4 NVDEC, AV1
Yes
- 125 TFLOPS FP32
- 380 TFLOPS RT
- Core Tensor con FP4
- MIG, fino a 4 istanze
04La scelta
RTX PRO 6000 vs H100, A100 e RTX 6000 Ada
Le GPU ad alta memoria che installiamo, con memoria e costo mensile uno accanto all'altro. Memoria e prezzo non crescono insieme su questo scaffale, ed è questo il motivo per leggerlo.
57 GPU models in the catalogue today · none holds more than 96 GB
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| A40 | 48 GB GDDR6 | $499 | $572.47 |
| RTX 6000 ADA | 48 GB GDDR6 ECC | $625 | $698.47 |
| A100 80GB | 80 GB HBM2e | $899 | $972.47 |
| RTX PRO 6000 Blackwell 96GB | 96 GB GDDR7 ECC | $1,299 | $1,382.67 |
| H100 80GB | 80 GB HBM2e | $1,599 | $1,682.67 |
La RTX 6000 Ada è la precedente GPU professionale, con 48 GB di GDDR6. La RTX PRO 6000 raddoppia quel valore su silicio più recente. Se 48 GB sono sufficienti per il tuo lavoro, la Ada è la via d'accesso più economica. Per ogni GPU che installiamo, con prezzi calcolati allo stesso modo, vedi tutti i server GPU con prezzi.
05La macchina
In quale server va e quale collegamento PCIe riceve
La RTX PRO 6000 è una GPU PCIe Gen 5. Ogni macchina qui sotto mostra il collegamento che il suo slot le offre, così puoi vedere cosa ottieni prima di scegliere.
Intel Xeon Silver / Gold
AMD EPYC
Una volta che i pesi sono caricati sulla GPU, lo slot rimane per lo più inattivo, il che copre la maggior parte dell'inferenza, la maggior parte del rendering e tutta la transcodifica. Un ciclo di addestramento che invia un nuovo batch attraverso lo slot a ogni passo è il lavoro che se ne accorge. Dicci cosa eseguirai e ti indicheremo la macchina giusta.
06Dimensionamento
Cosa entra in 96 GB di memoria GPU
Solo pesi. Lascia spazio per la finestra di contesto e il runtime in aggiunta.
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — fits | 8 GB — fits | 5 GB — fits |
| 13-14 billion parameters | 28 GB — fits | 14 GB — fits | 8 GB — fits |
| 30-34 billion parameters | 68 GB — tight | 34 GB — fits | 19 GB — fits |
| 70 billion parameters | 140 GB — does not fit | 70 GB — tight | 38 GB — fits |
Un modello da 70 miliardi a 8 bit si carica ma lascia poco spazio per un contesto lungo o un secondo utente. A 4 bit entra comodamente. Per calcolarlo dal tuo modello alla GPU, usa la pagina di dimensionamento della memoria LLM.
07Prezzi
Noleggia una RTX PRO 6000: prezzi con la macchina
La GPU è una riga della tua fattura e il server un'altra. Entrambe provengono dal catalogo ordini usato dal checkout, quindi ogni prezzo qui sotto appartiene alla macchina che gli sta accanto.
| Card | The machine it goes in | The card | Complete, per month |
|---|---|---|---|
| RTX PRO 6000 Blackwell 96GB | Intel Xeon Silver / Gold | $1,299 | $1,382.67 Configure this build → |
| RTX PRO 6000 Blackwell 96GB | AMD EPYC | $1,299 | $1,516.59 Configure this build → |
La porta è senza limiti di traffico in entrambe le direzioni e senza costi di uscita. Un indirizzo IPv4 e uno IPv6 sono inclusi con il server, paghi un mese alla volta e non c'è alcun contratto. Una configurazione comporta una tariffa di attivazione una tantum, mostrata nell'ordine prima del pagamento.
08Consegna e assistenza
Quanto presto la ricevi e chi risponde
Dipende da dove si trova la GPU in questo momento. Ti viene detto quale di queste opzioni si applica prima del pagamento.
- Circa 30 minuti
Già installata in rack
Una macchina con la GPU montata è in un rack ed è tua circa 30 minuti dopo l'approvazione dell'ordine.
- Da 4 a 24 ore
Sul nostro scaffale
Montiamo una GPU che abbiamo già in magazzino nel server che hai scelto.
- Da 5 a 10 giorni lavorativi
Acquistata su ordinazione
Ordiniamo la GPU da un distributore, poi la montiamo sul tuo server.
- Da 10 a 15 giorni lavorativi
Su allocazione
Quando i distributori razionano una GPU, indichiamo la data prima che tu ti impegni.
Le domande vanno alla nostra chat. Un assistente AI risponde in pochi secondi e può controllare il tuo account e il tuo server, e una persona del nostro team si unisce ogni volta che lo chiedi. Le macchine già in rack e pronte subito sono sui server istantanei.
09Domande
Domande sul noleggio di una RTX PRO 6000
01La RTX PRO 6000 Blackwell è uguale alla RTX 6000 Ada?
No, anche se i nomi sono simili. La RTX 6000 Ada Generation è la precedente GPU professionale, con 48 GB di GDDR6 ed ECC. La RTX PRO 6000 Blackwell, a volte cercata come RTX 6000 Pro, ha 96 GB di GDDR7 con ECC sul più recente chip Blackwell. Montiamo entrambe e la tabella comparativa mostra ciascuna con il prezzo della relativa macchina.
02La RTX PRO 6000 supporta NVLink?
No. Questa GPU non ha un connettore NVLink, quindi due di esse in un server lavorano come due pool separati da 96 GB collegati tramite PCIe. Se servono più di 96 GB riuniti insieme, le A100 e H100 supportano NVLink.
03Quanto costa noleggiare una RTX PRO 6000?
La configurazione completa più economica, GPU e server insieme, costa $1,382.67 al mese oggi. La tabella dei prezzi in questa pagina elenca ogni macchina in cui può essere montata la GPU, letta in tempo reale dal catalogo ordini, con un link per configurare ciascuna. Non c'è alcun contratto e la porta non è misurata.
04Conviene noleggiare una RTX PRO 6000 o una H100?
Noleggia la RTX PRO 6000 quando il modello deve stare su una sola GPU, o quando il lavoro prevede anche rendering o codifica video. Noleggia una H100 quando serve NVLink per riunire più GPU, o memoria HBM per servire con batch di grandi dimensioni. La tabella comparativa mostra la memoria e il costo mensile di entrambe.
05La GPU è condivisa o divisa in GPU virtuali?
No. Ricevi la GPU completa passata direttamente al tuo sistema operativo, su una macchina che nessun altro usa: niente hypervisor, niente profilo vGPU, niente condivisione del tempo. La GPU supporta MIG con fino a quattro istanze, quindi puoi suddividerla tu stesso se il tuo lavoro lo richiede.
06Quale driver NVIDIA e versione CUDA riceverò?
Quelli che scegli tu. Il server arriva con un sistema operativo pulito e accesso root, e installi e blocchi le versioni di driver, CUDA e framework richieste dal tuo codice. Nulla si aggiorna a tua insaputa.
07Posso avere due GPU RTX PRO 6000 in un server?
Sì, come configurazione su preventivo anziché come opzione al checkout. Con un consumo fino a 600 W ciascuna, sono lo chassis e il suo budget energetico a decidere quante possono essere montate e quale edizione va inserita. Dicci cosa intendi eseguire e ti risponderemo con lo chassis, il numero di GPU e i tempi di consegna. Per configurazioni più grandi, vedi server multi-GPU e multi-nodo.
08In quanto tempo posso avere un server con RTX PRO 6000?
Circa 30 minuti dopo l'approvazione se una macchina già montata in rack dispone della GPU, da 4 a 24 ore se ne abbiamo una in magazzino, da 5 a 10 giorni lavorativi se dobbiamo acquistarla, e da 10 a 15 giorni lavorativi quando è in allocazione. Ti viene comunicato quale caso si applica prima del pagamento. Le macchine già montate in rack sono elencate tra i server istantanei.
Scegli la tua macchina, poi aggiungi la GPU
Ogni configurazione con RTX PRO 6000 è prezzata qui sopra insieme al relativo server. Scegline una, configurala e l'ordine mostrerà il totale mensile completo prima del pagamento.