Διακομιστής GPU · Σειρά RTX 30
Αποκλειστικός διακομιστής RTX 3080 συν τέσσερις ακόμη GPU RTX 30, από 8 GB έως 24 GB
Ένας αποκλειστικός διακομιστής RTX 3080 από τη Primcast είναι ένα ολόκληρο φυσικό μηχάνημα με μια NVIDIA GeForce RTX 3080 παραδομένη στο δικό σας λειτουργικό σύστημα: 10 GB GDDR6X και 8,704 πυρήνες CUDA, χωρίς εικονική μηχανή και χωρίς γείτονες. Αν η εργασία σας χρειάζεται περισσότερη μνήμη, οι διακομιστές μας δέχονται επίσης μια RTX 3080 Ti ή μια 24 GB RTX 3090. Πληρώνετε ανά μήνα, χωρίς συμβόλαιο.
- RTX 30708 GB GDDR65,888
- RTX 3070 Ti8 GB GDDR6X6,144
- RTX 308010 GB GDDR6X8,704
- RTX 3080 Ti12 GB GDDR6X10,240
- RTX 309024 GB GDDR6X10,496
Και οι πέντε: PCIe Gen 4, ένας κωδικοποιητής βίντεο, χωρίς μνήμη ECC.
01Διαλέξτε μία
Ποιος διακομιστής της σειράς RTX 30 ταιριάζει στη δουλειά σας
Ξεκινήστε από την κορυφή αυτού του πίνακα και σταματήστε στην πρώτη GPU με αρκετή μνήμη για ό,τι φορτώνετε. Οι GPU πιο κάτω κάνουν την ίδια δουλειά πιο γρήγορα. Το μόνο που προσθέτουν είναι χώρος για ένα μεγαλύτερο μοντέλο ή μια μεγαλύτερη σκηνή.
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| RTX 3070 | 8 GB GDDR6 | $139 | $209.93 |
| RTX 3070 Ti | 8 GB GDDR6X | $149 | $222.47 |
| RTX 3080 | 10 GB GDDR6X | $159 | $229.93 |
| RTX 3080 Ti | 12 GB GDDR6X | $199 | $272.47 |
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
Η RTX 3080 μας είναι το μοντέλο των 10 GB
Η NVIDIA έφτιαξε δύο RTX 3080. Η δική μας είναι η αρχική, με 10 GB GDDR6X και 8,704 πυρήνες CUDA. Η μεταγενέστερη έκδοση έχει 12 GB και 8.960 πυρήνες, και πολλές καταχωρίσεις αναφέρουν 12 GB για τη φθηνότερη GPU. Υπολογίστε τη δουλειά σας με βάση τα 10 GB. Ένα μοντέλο 13 δισεκατομμυρίων παραμέτρων στα 8-bit χρειάζεται περίπου 14 GB, οπότε δεν χωράει σε καμία από τις δύο εκδόσεις.
Η RTX 3090 είναι το μεγάλο βήμα
Η μετάβαση από την RTX 3080 Ti στην RTX 3090 διπλασιάζει τη μνήμη, από 12 GB σε 24 GB GDDR6X. Είναι η μόνη GPU RTX 30 με 24 GB. Αν το μοντέλο ή η σκηνή σας χρειάζεται τόσα, τίποτα φθηνότερο εδώ δεν θα το τρέξει. Για περισσότερα από 24 GB, δείτε κάθε GPU που τοποθετούμε, με τιμές.
02Σε τι χρησιμεύει
Τι τρέχουν οι άνθρωποι σε έναν διακομιστή GPU RTX 3080
Αυτές οι GPU κυκλοφόρησαν το 2020 και εξακολουθούμε να τις νοικιάζουμε, επειδή πολλή πραγματική δουλειά δεν χρειάζεται τίποτα νεότερο. Για αυτές τις τέσσερις δουλειές μια παλαιότερη GPU κάνει τη δουλειά με λιγότερα χρήματα κάθε μήνα.
01AI
Εκτέλεση ενός μοντέλου που ήδη χωράει
Εξυπηρέτηση ενός μοντέλου 7B, δοκιμή προτροπών ή λεπτομερής ρύθμιση κάτι μικρού. Ένα μοντέλο 7-8B φορτώνει στα 4-bit σε οποιαδήποτε από τις πέντε, και στα 8-bit στην RTX 3080 με ελάχιστο περιθώριο. Η RTX 3090 χωράει ένα μοντέλο 13B στα 8-bit με χώρο να περισσέψει για τα συμφραζόμενα.
02Παιχνίδια
Διακομιστές παιχνιδιών που χρειάζονται πραγματική GPU
Τα παιχνίδια γράφονται και δοκιμάζονται σε GPU GeForce σαν κι αυτές. Αν ο διακομιστής του παιχνιδιού σας αποδίδει ή κάνει streaming, η σειρά RTX 30 τρέχει τους ίδιους οδηγούς GeForce που έχουν οι παίκτες σας στο σπίτι.
03Απόδοση
Ομαδικές αποδόσεις που μπορείτε να επανεκκινήσετε
Blender, Unreal ή η δική σας αλυσίδα εργασιών, καρέ με καρέ. Αν μια εργασία αποτύχει, την τρέχετε ξανά, οπότε δεν χρειάζεται να πληρώνετε για μνήμη διόρθωσης σφαλμάτων. Ξοδέψτε τα χρήματα σε πυρήνες CUDA αντ' αυτού.
04Βίντεο
Κωδικοποίηση H.264 και HEVC
Κάθε GPU έχει έναν κωδικοποιητή υλικού και έναν αποκωδικοποιητή για H.264 και HEVC. Αυτό καλύπτει ζωντανά κανάλια ή μια ουρά μεταφορτώσεων χωρίς να φορτώνει τον επεξεργαστή. Για AV1, ή πολλά κανάλια σε ένα μηχάνημα, δείτε διακομιστές ζωντανής μετακωδικοποίησης βίντεο.
03Πριν παραγγείλετε
Δύο πράγματα που δεν μπορεί να κάνει η σειρά RTX 30
Και τα δύο βρίσκονται στην επίσημη προδιαγραφή της NVIDIA για αυτές τις GPU. Ελέγξτε τα σε σχέση με τη δουλειά σας πριν παραγγείλετε.
Χωρίς κωδικοποίηση AV1
Καμία από τις πέντε δεν μπορεί να κωδικοποιήσει AV1 σε υλικό. Η NVIDIA το πρόσθεσε με τη σειρά RTX 40. Αν η αλυσίδα εργασιών σας στέλνει AV1, επιλέξτε έναν διακομιστή RTX 4090 D ή έναν διακομιστή L40S, που έχει τρεις κωδικοποιητές AV1.
Χωρίς μνήμη ECC, χωρίς επαγγελματικό οδηγό
Ένα αναποδογυρισμένο bit περνά απαρατήρητο. Αυτό είναι εντάξει για δουλειά που μπορείτε να ελέγξετε ή να επαναλάβετε. Για μια εκπαίδευση που διαρκεί εβδομάδες χωρίς σημεία ελέγχου, ή για λογισμικό με άδεια μόνο σε επαγγελματικές GPU, διαλέξτε μία από τη σειρά σταθμών εργασίας στη πλήρη λίστα GPU.
04Προδιαγραφές
Προδιαγραφές RTX 3090, 3080 και 3070
Αρχιτεκτονική Ampere, πυρήνες RT δεύτερης γενιάς, πυρήνες Tensor τρίτης γενιάς και PCIe Gen 4 και στις πέντε. Τα νούμερα είναι της NVIDIA, από τις σελίδες σύγκρισης GeForce.
RTX 3090
Ampere
24 GB GDDR6X
10,496
936 GB/s
350 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3080 Ti
Ampere
12 GB GDDR6X
10,240
912 GB/s
350 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3080
Ampere
10 GB GDDR6X
8,704
760 GB/s
320 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3070 Ti
Ampere
8 GB GDDR6X
6,144
608 GB/s
290 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3070
Ampere
8 GB GDDR6
5,888
448 GB/s
220 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
05Υπολογισμός μεγέθους μοντέλου
Θα χωρέσει το μοντέλο σας σε μια RTX 3080 ή RTX 3090;
Στα 10 GB της RTX 3080, ένα μοντέλο 7-8B χωράει στα 4-bit και είναι οριακό στα 8-bit. Στα 24 GB της RTX 3090, ένα μοντέλο 13B χωράει στα 8-bit και ένα μοντέλο 30B φορτώνει στα 4-bit, με λίγο χώρο να περισσεύει για τα συμφραζόμενα.
RTX 3080, 10 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — does not fit | 8 GB — tight | 5 GB — fits |
| 13-14 billion parameters | 28 GB — does not fit | 14 GB — does not fit | 8 GB — tight |
| 30-34 billion parameters | 68 GB — does not fit | 34 GB — does not fit | 19 GB — does not fit |
| 70 billion parameters | 140 GB — does not fit | 70 GB — does not fit | 38 GB — does not fit |
RTX 3090, 24 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — fits | 8 GB — fits | 5 GB — fits |
| 13-14 billion parameters | 28 GB — does not fit | 14 GB — fits | 8 GB — fits |
| 30-34 billion parameters | 68 GB — does not fit | 34 GB — does not fit | 19 GB — tight |
| 70 billion parameters | 140 GB — does not fit | 70 GB — does not fit | 38 GB — does not fit |
Η RTX 3080 Ti βρίσκεται ανάμεσα στις δύο με 12 GB. Οι RTX 3070 και 3070 Ti έχουν 8 GB, που χωράνε ένα μοντέλο 7-8B στα 4-bit και όχι στα 8-bit. Ξεκινάτε από το μοντέλο; Το LLM server sizing υπολογίζει πόση μνήμη GPU χρειάζεται ένα μοντέλο και ποια GPU την καλύπτει.
06Ο διακομιστής γύρω από αυτήν
Σε ποιον διακομιστή μπαίνει κάθε GPU RTX 30
Κάθε GPU RTX 30 είναι εξάρτημα PCIe Gen 4. Μια υποδοχή Gen 4 της δίνει την πλήρη σύνδεση. Μια υποδοχή Gen 3 της δίνει τη μισή, και η παρακάτω λίστα δείχνει ποιος διακομιστής έχει ποια.
Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2600 v3/v4
Intel Xeon Silver / Gold
AMD EPYC
Για τις περισσότερες εργασίες RTX 30 η υποδοχή σχεδόν δεν έχει σημασία. Μόλις ένα μοντέλο ή μια σκηνή φορτωθεί στη GPU, ελάχιστα περνούν από την υποδοχή. Έχει σημασία για εκπαίδευση που στέλνει νέες παρτίδες από τον διακομιστή σε κάθε βήμα.
07Σύγκριση
RTX 3090 εναντίον RTX 4090 D και RTX 5090
Η RTX 3090 έχει τα ίδια 24 GB με την RTX 4090 D, μία γενιά αργότερα, και η RTX 5090 δύο γενιές μετά έχει 32 GB. Αυτός ο πίνακας δείχνει πόσο κοστίζουν οι νεότερες GPU, καθεμία με το φθηνότερο πλήρες μηχάνημα στο οποίο μπαίνει.
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
| RTX 4090D | 24 GB GDDR6X | $299 | $372.47 |
| RTX 5090 | 32 GB GDDR7 | $399 | $472.47 |
Επιλέξτε τη νεότερη GPU όταν χρειάζεστε ταχύτητα ανά εργασία ή κωδικοποίηση AV1. Όταν πληρώνετε για μνήμη, η RTX 3090 συνήθως κάνει τη δουλειά. Το Γιατί εξακολουθούμε να νοικιάζουμε παλαιότερο υλικό εξηγεί τη λογική.
08Τιμές
Τιμές αποκλειστικού διακομιστή RTX 3080, και των άλλων τεσσάρων
Η GPU είναι μία γραμμή στο τιμολόγιό σας και ο διακομιστής μία άλλη. Κάθε σειρά δείχνει το πλήρες μηχάνημα, τι προσθέτει η GPU και το μηνιαίο σύνολο, διαβασμένο από τον ίδιο κατάλογο που χρησιμοποιεί το ταμείο.
| Card | The machine it goes in | The card | Complete, per month |
|---|---|---|---|
| RTX 3070 | Intel Xeon E5-2600 v1/v2 | $139 | $209.93 Configure this build → |
| RTX 3070 | Intel Xeon E5-2600 v3/v4 | $139 | $212.47 Configure this build → |
| RTX 3070 Ti | Intel Xeon E5-2600 v3/v4 | $149 | $222.47 Configure this build → |
| RTX 3070 | Intel Xeon Silver / Gold | $139 | $222.67 Configure this build → |
| RTX 3080 | Intel Xeon E5-2600 v1/v2 | $159 | $229.93 Configure this build → |
| RTX 3080 | Intel Xeon E5-2600 v3/v4 | $159 | $232.47 Configure this build → |
| RTX 3070 Ti | Intel Xeon Silver / Gold | $149 | $232.67 Configure this build → |
| RTX 3080 | Intel Xeon Silver / Gold | $159 | $242.67 Configure this build → |
| RTX 3080 Ti | Intel Xeon E5-2600 v3/v4 | $199 | $272.47 Configure this build → |
| RTX 3080 Ti | Intel Xeon Silver / Gold | $199 | $282.67 Configure this build → |
| RTX 3090 | Intel Xeon E5-2600 v1/v2 | $239 | $309.93 Configure this build → |
| RTX 3090 | Intel Xeon E5-2600 v3/v4 | $239 | $312.47 Configure this build → |
| RTX 3090 | Intel Xeon Silver / Gold | $239 | $322.67 Configure this build → |
| RTX 3080 | AMD EPYC | $159 | $376.59 Configure this build → |
- ΘύραΑπεριόριστη κίνηση και προς τις δύο κατευθύνσεις, σε μια θύρα που εξυπηρετεί μόνο το δικό σας μηχάνημα.
- ΔιεύθυνσηΜία διεύθυνση IPv4 περιλαμβάνεται.
- ΔιάρκειαΜηνιαία από προεπιλογή, χωρίς συμβόλαιο.
- ΒοήθειαΟ βοηθός συνομιλίας μας απαντά σε δευτερόλεπτα και μπορεί να ελέγξει τον λογαριασμό και τον διακομιστή σας. Ζητήστε έναν άνθρωπο οποιαδήποτε στιγμή.
Χρειάζεστε ένα μηχάνημα σήμερα; Οι Άμεσοι διακομιστές αναφέρουν τι είναι ήδη τοποθετημένο. Για να συγκρίνετε κάθε GPU που τοποθετούμε, δείτε Διακομιστές GPU, όλοι με τιμές.
Αγορά
Νοικιάστε μια GPU της σειράς RTX 30 από τον ιδιοκτήτη της
Οι ιδιοκτήτες καταχωρίζουν τα μηχανήματά τους της σειράς RTX 30 στην αγορά μας και ορίζουν τη δική τους μηνιαία τιμή. Αν μια καταχώριση λέει ότι έρχεται μέσω της αδελφής μας εταιρείας, Server Room, τη νοικιάζετε στο serverroom.net.
09Ερωτήσεις
Ερωτήσεις για τον RTX 3080 server που κάνουν οι πελάτες πριν παραγγείλουν
01Η RTX 3080 σας είναι η έκδοση 10 GB ή 12 GB;
Είναι η έκδοση 10 GB, η αρχική RTX 3080 με 8,704 πυρήνες CUDA. Η έκδοση 12 GB έχει 8.960 πυρήνες και δεν την τοποθετούμε. Αν χρειάζεστε 12 GB, τα έχει η RTX 3080 Ti.
02Server με RTX 3080 ή RTX 3090;
Επιλέξτε την RTX 3080 αν το μοντέλο ή η σκηνή σας χωράει στα 10 GB. Μεταξύ 10 και 12 GB, πάρτε την RTX 3080 Ti. Επιλέξτε την RTX 3090 αν χρειάζεται πάνω από 12 GB: έχει 24 GB GDDR6X, τη μεγαλύτερη από κάθε GPU της σειράς RTX 30, και περισσότερους πυρήνες CUDA. Και οι δύο βρίσκονται στον παραπάνω πίνακα τιμών, η καθεμία με το πλήρες μηχάνημα.
04Μπορώ να βάλω δύο GPU RTX 30 σε έναν server;
Ναι, ως κατασκευή που κοστολογούμε κατόπιν αιτήματος και όχι ως επιλογή στο ταμείο, επειδή εξαρτάται από το πλαίσιο, το πλάτος της GPU και το ενεργειακό budget. Ρωτήστε στο chat και θα σας πούμε το πλαίσιο και τον χρόνο παράδοσης. Δύο GPU σημαίνουν δύο ξεχωριστές δεξαμενές μνήμης: ένα μοντέλο που δεν χωράει σε μία RTX 3090 πρέπει να το χωρίσει το λογισμικό σας και στις δύο.
05Πόσο σύντομα μπορώ να έχω έναν server με RTX 3080;
Εξαρτάται από το πού βρίσκεται η GPU και θα ενημερωθείτε πριν πληρώσετε. Μια GPU που ήδη έχουμε τοποθετείται μέσα σε τέσσερις έως είκοσι τέσσερις ώρες. Μία που πρέπει να αγοράσουμε χρειάζεται πέντε έως δέκα εργάσιμες ημέρες. Για να ξεκινήσετε σήμερα, η σελίδα άμεσοι servers παραθέτει τα μηχανήματα που είναι ήδη σε rack.
06Τι γίνεται αν χαλάσει η GPU;
Την αντικαθιστούμε. Η σύμβαση μας δίνει τέσσερις ώρες από τη στιγμή που θα το αναφέρετε τηλεφωνικά ή μέσω live chat, και μετά από αυτό δικαιούστε πίστωση υπηρεσίας βάσει δημοσιευμένου προγράμματος.
07Ποιος με βοηθάει αν κάτι πάει στραβά;
Ανοίξτε το chat σε οποιαδήποτε σελίδα. Ο βοηθός μας απαντά σε δευτερόλεπτα, μπορεί να δει τον λογαριασμό και τον server σας και σας συνδέει με ένα μέλος της ομάδας μας όποτε το ζητήσετε. Διατηρείτε πλήρη πρόσβαση root στο μηχάνημα καθ' όλη τη διάρκεια.
Αποκτήστε έναν server με RTX 3080 για το έργο σας
Επιλέξτε τον server, προσθέστε την RTX 3080 ή οποιαδήποτε από τις άλλες τέσσερις και δείτε το μηνιαίο σύνολο πριν πληρώσετε. Χωρίς συμβόλαιο και η θύρα είναι χωρίς όριο δεδομένων.