Διακομιστές GPU · NVIDIA Blackwell
Αποκλειστικός διακομιστής RTX PRO 6000 με την πλήρη GPU 96 GB
Ένας αποκλειστικός διακομιστής RTX PRO 6000 από εμάς είναι ένα ολόκληρο μηχάνημα με μια NVIDIA RTX PRO 6000 Blackwell που περνά απευθείας στο δικό σας λειτουργικό σύστημα: 96 GB GDDR7 με ECC, περισσότερα από τα 80 GB μιας A100 ή μιας H100. Το νοικιάζετε ανά μήνα, δεν το χρησιμοποιεί κανένας άλλος, και η θύρα είναι απεριόριστη, οπότε μεγάλα μοντέλα και βίντεο κινούνται μέσα και έξω χωρίς επιπλέον κόστος.
- Πυρήνες CUDA
- 24,064
- Ταχύτητα μνήμης
- 1,792 GB/s
- Κωδικοποιητές βίντεο
- 4 × AV1
- Ισχύς πλακέτας
- 600 W
Πυρήνες Tensor πέμπτης γενιάς. Πυρήνες RT τέταρτης γενιάς.
Έχετε μια RTX PRO 6000 που δεν είναι απασχολημένη;
Βάλτε το μηχάνημα στην αγορά Primcast και κερδίστε μηνιαίο ενοίκιο από ανθρώπους που χρειάζονται την υπολογιστική ισχύ.
00Αγορά
Ή νοικιάστε μια RTX PRO 6000 από τον ιδιοκτήτη της
Οι ιδιοκτήτες καταχωρίζουν τα μηχανήματά τους στην αγορά μας και ορίζουν οι ίδιοι τη μηνιαία τιμή. Μια καταχώριση που διατηρεί η αδελφή μας εταιρεία, Server Room, νοικιάζεται στο serverroom.net, όχι εδώ.
01Σε τι χρησιμεύει
Ένας διακομιστής GPU 96GB για μοντέλα, rendering και βίντεο
Νοικιάζετε την RTX PRO 6000 όταν η εργασία χρειάζεται πολλή μνήμη σε μία GPU και επίσης χρειάζεται να σχεδιάζει ή να κωδικοποιεί. Να πώς μοιάζει αυτό στην πράξη.
01Χωρητικότητα
Ένα μεγάλο μοντέλο σε μία GPU
Ένα μοντέλο 70 δισεκατομμυρίων παραμέτρων χωράει σε 4-bit με χώρο για το πλαίσιό του, και ένα μοντέλο 30 δισεκατομμυρίων χωράει σε 8-bit. Όλα βρίσκονται σε έναν ενιαίο χώρο διευθύνσεων, οπότε παρακάμπτετε τον κατακερματισμό και το δεύτερο μηχάνημα.
02Βίντεο
Τέσσερις κωδικοποιητές AV1 ενσωματωμένοι
Τέσσερις μηχανές NVENC και τέσσερις NVDEC, όλες με AV1. Μπορείτε να μετακωδικοποιήσετε πολλά ζωντανά κανάλια σε υλικό και να κρατήσετε τον επεξεργαστή ελεύθερο. Η A100 και η H100 δεν έχουν καθόλου κωδικοποιητή βίντεο.
03Rendering
Ray tracing με χώρο για μεγάλες σκηνές
Οι πυρήνες RT τέταρτης γενιάς αποδίδουν, και τα 96 GB χωρούν σκηνές και υφές που θα ξεχείλιζαν μια GPU 48 GB. Μπορείτε να αποδώσετε, να κωδικοποιήσετε και να τρέξετε ένα μοντέλο στην ίδια πλακέτα.
04Ένας μισθωτής
Η πλήρης GPU, στο δικό σας σύστημα
Χωρίς προφίλ vGPU, χωρίς καταμερισμό χρόνου, χωρίς άλλον πελάτη στο μηχάνημα. Ορισμένες προσφορές cloud για αυτήν τη GPU είναι μια εικονική μηχανή σε κοινόχρηστο κεντρικό υπολογιστή, οπότε συγκρίνετε όμοια με όμοια πριν συγκρίνετε τιμές.
02Πριν παραγγείλετε
Περισσότερη μνήμη από μια H100. Να τι θυσιάζετε
Η RTX PRO 6000 έχει περισσότερη μνήμη από τους επιταχυντές κέντρων δεδομένων που τοποθετούμε. Δύο πράγματα τη χωρίζουν από αυτούς, και ένα από αυτά μπορεί να αποφασίσει για εσάς.
Χωρίς NVLink
Αυτή η GPU δεν έχει γέφυρα NVLink. Δύο από αυτές σε ένα μηχάνημα είναι δύο ξεχωριστές δεξαμενές 96 GB που μιλούν μέσω της υποδοχής PCIe, όχι μία δεξαμενή 192 GB. Αν το μοντέλο σας χρειάζεται περισσότερα από 96 GB σε έναν χώρο διευθύνσεων, δείτε τις A100 και H100, που συνενώνουν μέσω NVLink.
GDDR7, όχι στοιβαγμένη HBM
Η GDDR7 είναι γρήγορη, 1,792 GB/s, που είναι περισσότερο από την A100 40 GB και διπλάσιο από την L40S. Η A100 80 GB εξακολουθεί να διαβάζει λίγο γρηγορότερα στα 1,935 GB/s. Για την εξυπηρέτηση πολλών χρηστών σε μεγάλο μέγεθος παρτίδας, η ταχύτητα ανάγνωσης καθορίζει τον ρυθμό, οπότε ελέγξτε αυτή τη στήλη αν ο στόχος σας είναι η απόδοση.
Αν η ερώτησή σας είναι “θα χωρέσει το μοντέλο σε μία GPU”, η RTX PRO 6000 απαντά με τον περισσότερο χώρο. Αν είναι “πόσα tokens το δευτερόλεπτο για εκατοντάδες χρήστες”, ένας επιταχυντής μπορεί να αξίζει μια ματιά. Ο πίνακας σύγκρισης βάζει τη μνήμη και το μηνιαίο κόστος δίπλα δίπλα.
03Προδιαγραφές
Προδιαγραφές RTX PRO 6000 Blackwell: GDDR7, πυρήνες Tensor και RT
Στοιχεία από τη σελίδα προϊόντος της NVIDIA για την Workstation Edition. Η Max-Q Edition είναι το ίδιο τσιπ με τα ίδια 96 GB στα 300 W.
RTX PRO 6000 Blackwell 96GB
Blackwell
96 GB GDDR7 ECC
24,064
1,792 GB/s
600 W
PCIe Gen 5 x16
4 NVENC, 4 NVDEC, AV1
Yes
- 125 TFLOPS FP32
- 380 TFLOPS RT
- Πυρήνες Tensor με FP4
- MIG, έως 4 instances
04Επιλογή
RTX PRO 6000 vs H100, A100 και RTX 6000 Ada
Οι GPU μεγάλης μνήμης που τοποθετούμε, με τη μνήμη και το μηνιαίο κόστος δίπλα δίπλα. Η μνήμη και η τιμή δεν ανεβαίνουν μαζί σε αυτό το ράφι, και αυτός είναι ο λόγος να το διαβάσετε.
57 GPU models in the catalogue today · none holds more than 96 GB
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| A40 | 48 GB GDDR6 | $499 | $572.47 |
| RTX 6000 ADA | 48 GB GDDR6 ECC | $625 | $698.47 |
| A100 80GB | 80 GB HBM2e | $899 | $972.47 |
| RTX PRO 6000 Blackwell 96GB | 96 GB GDDR7 ECC | $1,299 | $1,382.67 |
| H100 80GB | 80 GB HBM2e | $1,599 | $1,682.67 |
Η RTX 6000 Ada είναι η προηγούμενη επαγγελματική GPU, με 48 GB GDDR6. Η RTX PRO 6000 διπλασιάζει αυτό σε νεότερο πυρίτιο. Αν τα 48 GB αρκούν για την εργασία σας, η Ada είναι ο φθηνότερος δρόμος εισόδου. Για κάθε GPU που τοποθετούμε, με τιμή με τον ίδιο τρόπο, δείτε όλους τους διακομιστές GPU με τιμές.
05Το μηχάνημα
Σε ποιον διακομιστή μπαίνει, και τη σύνδεση PCIe που παίρνει
Η RTX PRO 6000 είναι μια GPU PCIe Gen 5. Κάθε μηχάνημα παρακάτω δείχνει τη σύνδεση που της δίνει η υποδοχή του, ώστε να βλέπετε τι παίρνετε πριν επιλέξετε.
Intel Xeon Silver / Gold
AMD EPYC
Μόλις φορτωθούν τα βάρη στη GPU, η υποδοχή μένει ως επί το πλείστον αδρανής, κάτι που καλύπτει τα περισσότερα inference, τα περισσότερα rendering και όλη τη μετακωδικοποίηση. Ένας βρόχος εκπαίδευσης που στέλνει μια νέα παρτίδα μέσω της υποδοχής σε κάθε βήμα είναι η εργασία που το παρατηρεί. Πείτε μας τι θα τρέξετε και θα σας κατευθύνουμε στο σωστό μηχάνημα.
06Διαστασιολόγηση
Τι χωράει σε 96 GB μνήμης GPU
Μόνο βάρη. Αφήστε χώρο για το παράθυρο πλαισίου και τον χρόνο εκτέλεσης από πάνω.
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — fits | 8 GB — fits | 5 GB — fits |
| 13-14 billion parameters | 28 GB — fits | 14 GB — fits | 8 GB — fits |
| 30-34 billion parameters | 68 GB — tight | 34 GB — fits | 19 GB — fits |
| 70 billion parameters | 140 GB — does not fit | 70 GB — tight | 38 GB — fits |
Ένα μοντέλο 70 δισεκατομμυρίων σε 8-bit φορτώνει αλλά αφήνει λίγο χώρο για μακρύ πλαίσιο ή δεύτερο χρήστη. Σε 4-bit χωράει άνετα. Για να το υπολογίσετε από το μοντέλο σας στη GPU, χρησιμοποιήστε τη σελίδα διαστασιολόγησης μνήμης LLM.
07Τιμές
Νοικιάστε μια RTX PRO 6000: τιμές με το μηχάνημα
Η GPU είναι μία γραμμή στο τιμολόγιό σας και ο διακομιστής άλλη. Και οι δύο προέρχονται από τον κατάλογο παραγγελιών που χρησιμοποιεί το ταμείο, οπότε κάθε τιμή παρακάτω ανήκει στο μηχάνημα δίπλα της.
| Card | The machine it goes in | The card | Complete, per month |
|---|---|---|---|
| RTX PRO 6000 Blackwell 96GB | Intel Xeon Silver / Gold | $1,299 | $1,382.67 Configure this build → |
| RTX PRO 6000 Blackwell 96GB | AMD EPYC | $1,299 | $1,516.59 Configure this build → |
Η θύρα είναι απεριόριστη και προς τις δύο κατευθύνσεις χωρίς χρέωση εξερχόμενης κίνησης. Μια διεύθυνση IPv4 και μια IPv6 έρχονται με τον διακομιστή, πληρώνετε έναν μήνα κάθε φορά, και δεν υπάρχει συμβόλαιο. Μια σύνθεση φέρει εφάπαξ τέλος εγκατάστασης, που εμφανίζεται στην παραγγελία πριν πληρώσετε.
08Παράδοση και βοήθεια
Πόσο σύντομα το παίρνετε, και ποιος απαντά
Εξαρτάται από το πού βρίσκεται η GPU αυτή τη στιγμή. Σας λέμε ποια από αυτές τις περιπτώσεις ισχύει πριν πληρώσετε.
- Περίπου 30 λεπτά
Ήδη σε rack
Ένα μηχάνημα με τη GPU τοποθετημένη είναι σε rack, και είναι δικό σας περίπου 30 λεπτά μετά την έγκριση της παραγγελίας.
- 4 έως 24 ώρες
Στο ράφι μας
Τοποθετούμε μια GPU που ήδη έχουμε στον διακομιστή που επιλέξατε.
- 5 έως 10 εργάσιμες ημέρες
Αγορασμένη
Παραγγέλνουμε τη GPU από διανομέα και μετά την τοποθετούμε στον διακομιστή σας.
- 10 έως 15 εργάσιμες ημέρες
Σε κατανομή
Όταν οι διανομείς περιορίζουν μια GPU, ονομάζουμε την ημερομηνία πριν δεσμευτείτε.
Οι ερωτήσεις πηγαίνουν στο chat μας. Ένας βοηθός AI απαντά σε δευτερόλεπτα και μπορεί να ελέγξει τον λογαριασμό σας και τον διακομιστή σας, και ένα άτομο από την ομάδα μας συμμετέχει όποτε το ζητήσετε. Μηχανήματα σε rack και έτοιμα αυτή τη στιγμή βρίσκονται στους άμεσους διακομιστές.
09Ερωτήσεις
Ερωτήσεις σχετικά με την ενοικίαση RTX PRO 6000
01Είναι η RTX PRO 6000 Blackwell ίδια με την RTX 6000 Ada;
Όχι, αν και τα ονόματα μοιάζουν. Η RTX 6000 Ada Generation είναι η προηγούμενη επαγγελματική GPU, με 48 GB GDDR6 και ECC. Η RTX PRO 6000 Blackwell, που μερικές φορές αναζητείται ως RTX 6000 Pro, διαθέτει 96 GB GDDR7 με ECC στο νεότερο τσιπ Blackwell. Τοποθετούμε και τις δύο, και ο συγκριτικός πίνακας δείχνει την τιμή καθεμιάς μαζί με το μηχάνημά της.
02Υποστηρίζει η RTX PRO 6000 το NVLink;
Όχι. Αυτή η GPU δεν διαθέτει υποδοχή NVLink, επομένως δύο από αυτές σε έναν διακομιστή λειτουργούν ως δύο ξεχωριστές δεξαμενές 96 GB συνδεδεμένες μέσω PCIe. Εάν χρειάζεστε περισσότερα από 96 GB συγκεντρωμένα μαζί, οι A100 και H100 υποστηρίζουν NVLink.
03Πόσο κοστίζει η ενοικίαση μιας RTX PRO 6000;
Η φθηνότερη πλήρης σύνθεση, η GPU και ο διακομιστής μαζί, κοστίζει $1,382.67 τον μήνα σήμερα. Ο πίνακας τιμών σε αυτή τη σελίδα παραθέτει κάθε μηχάνημα στο οποίο μπαίνει η GPU, διαβάζοντας ζωντανά από τον κατάλογο παραγγελιών, με σύνδεσμο για τη διαμόρφωση καθενός. Δεν υπάρχει συμβόλαιο και η θύρα είναι απεριόριστη.
04Να νοικιάσω RTX PRO 6000 ή H100;
Νοικιάστε την RTX PRO 6000 όταν το μοντέλο πρέπει να χωρέσει σε μία GPU ή όταν η εργασία κάνει επίσης rendering ή κωδικοποίηση βίντεο. Νοικιάστε μια H100 όταν χρειάζεστε NVLink για να συνδυάσετε πολλές GPU ή μνήμη HBM για εξυπηρέτηση σε μεγάλα μεγέθη παρτίδων. Ο συγκριτικός πίνακας δείχνει τη μνήμη και το μηνιαίο κόστος και των δύο.
05Είναι η GPU κοινόχρηστη ή χωρισμένη σε εικονικές GPU;
Όχι. Παίρνετε την πλήρη GPU περασμένη απευθείας στο δικό σας λειτουργικό σύστημα, σε ένα μηχάνημα που δεν χρησιμοποιεί κανείς άλλος: χωρίς hypervisor, χωρίς προφίλ vGPU, χωρίς καταμερισμό χρόνου. Η GPU υποστηρίζει MIG με έως τέσσερις παρουσίες, ώστε να μπορείτε να τη χωρίσετε μόνοι σας αν η εργασία σας το απαιτεί.
06Ποια έκδοση NVIDIA driver και CUDA θα πάρω;
Αυτές που θα επιλέξετε. Ο διακομιστής έρχεται με καθαρό λειτουργικό σύστημα και πρόσβαση root, και εσείς εγκαθιστάτε και καθηλώνετε τις εκδόσεις driver, CUDA και framework που χρειάζεται ο κώδικάς σας. Τίποτα δεν αναβαθμίζεται πίσω από την πλάτη σας.
07Μπορώ να έχω δύο GPU RTX PRO 6000 σε έναν διακομιστή;
Ναι, ως σύνθεση κατόπιν προσφοράς και όχι ως επιλογή ολοκλήρωσης αγοράς. Με έως 600 W η καθεμία, το πλαίσιο και ο προϋπολογισμός ισχύος του καθορίζουν πόσες χωράνε και ποια έκδοση θα μπει. Πείτε μας τι σκοπεύετε να εκτελέσετε και θα σας απαντήσουμε με το πλαίσιο, τον αριθμό και τον χρόνο παράδοσης. Για μεγαλύτερες διατάξεις, δείτε διακομιστές πολλαπλών GPU και πολλαπλών κόμβων.
08Πόσο σύντομα μπορώ να έχω έναν διακομιστή RTX PRO 6000;
Περίπου 30 λεπτά μετά την έγκριση αν ένα μηχάνημα σε rack φέρει ήδη την GPU, 4 έως 24 ώρες αν έχουμε μία διαθέσιμη, 5 έως 10 εργάσιμες ημέρες αν την παραγγείλουμε, και 10 έως 15 εργάσιμες ημέρες όταν είναι σε κατανομή. Θα ενημερωθείτε ποια περίπτωση ισχύει πριν πληρώσετε. Τα μηχανήματα σε rack παρατίθενται στους άμεσους διακομιστές.
Επιλέξτε το μηχάνημά σας και μετά προσθέστε την GPU
Κάθε σύνθεση RTX PRO 6000 κοστολογείται παραπάνω μαζί με τον διακομιστή της. Επιλέξτε μία, διαμορφώστε την και η παραγγελία θα δείξει το πλήρες μηνιαίο σύνολο πριν πληρώσετε.