Διακομιστές GPU · Σειρά RTX 40
Αποκλειστικός διακομιστής RTX 4090 και η GPU μέσα του είναι η RTX 4090D
Ο αποκλειστικός μας διακομιστής RTX 4090 φέρει την RTX 4090D, την έκδοση που έφτιαξε η NVIDIA για την Κίνα: τα ίδια 24 GB GDDR6X και η ίδια ταχύτητα μνήμης, με περίπου 11% λιγότερους πυρήνες CUDA. Νοικιάζετε ολόκληρο το μηχάνημα ανά μήνα, ολόκληρη η GPU περνάει στο δικό σας σύστημα και η θύρα είναι χωρίς όριο δεδομένων.
| Στοιχείο | RTX 4090 | RTX 4090D |
|---|---|---|
| Πυρήνες CUDA | 16,384 | 14,592 |
| Πυρήνες Tensor | 512 | 456 |
| Μνήμη | 24 GB GDDR6X | 24 GB GDDR6X |
| Εύρος ζώνης | 1,008 GB/s | 1,008 GB/s |
| Ρολόι boost | 2.52 GHz | 2.52 GHz |
| Κωδικοποιητές AV1 | 2 | 2 |
| Ισχύς πλακέτας | 450 W | 425 W |
Έχετε μια GPU της σειράς RTX 40 σε αδράνεια;
Βάλτε το μηχάνημα στην αγορά Primcast, ορίστε τη δική σας μηνιαία τιμή και νοικιάστε το σε ανθρώπους που χρειάζονται την υπολογιστική ισχύ.
00Αγορά
Ή νοικιάστε μια GPU της σειράς RTX 40 από τον ιδιοκτήτη της
Οι ιδιοκτήτες καταχωρίζουν αυτά τα μηχανήματα στην αγορά μας και ορίζουν τη δική τους τιμή. Μια καταχώριση που διατηρεί η αδελφή μας εταιρεία, Server Room, νοικιάζεται στο serverroom.net, όχι εδώ.
01RTX 4090D έναντι RTX 4090
Τι σημαίνει το D στην RTX 4090D για τη δουλειά σας
Στα τέλη του 2023 ένας κανόνας εξαγωγών των Ηνωμένων Πολιτειών έθεσε την RTX 4090 πάνω από το όριο πώλησης στην Κίνα. Η NVIDIA απάντησε με την RTX 4090D, που κυκλοφόρησε στις 28 December 2023, με 14,592 πυρήνες CUDA εκεί όπου η πλήρης GPU έχει 16,384.
Τι παραμένει ίδιο
Η μνήμη είναι ανέγγιχτη: 24 GB GDDR6X σε δίαυλο 384-bit με 1,008 GB/s. Το ίδιο ισχύει για το ρολόι boost των 2.52 GHz και το ζεύγος κωδικοποιητών AV1. Οτιδήποτε περιορίζεται από το μέγεθος ή την ταχύτητα της μνήμης συμπεριφέρεται ακριβώς όπως θα έκανε σε μια πλήρη 4090: ένα μοντέλο που χωράει στα 24 GB εξακολουθεί να χωράει και διαβάζεται εξίσου γρήγορα.
Οι οδηγοί και το λογισμικό δεν αντιλαμβάνονται διαφορά. Είναι μια GPU GeForce Ada Lovelace, δέχεται τον κανονικό οδηγό GeForce και κάθε έκδοση CUDA, πλαίσιο και αποδότης που τρέχει σε μια 4090 τρέχει και σε αυτήν.
Τι χάνετε
Περίπου το 11% των shaders και των πυρήνων tensor. Η NVIDIA τοποθέτησε την πραγματική διαφορά περίπου στο 5% σε παιχνίδια και δημιουργικές εφαρμογές, επειδή τα ρολόγια και η μνήμη σηκώνουν μεγάλο μέρος του φορτίου. Σε εργασίες που κρατούν κάθε shader απασχολημένο, όπως μια μεγάλη απόδοση ή μια εκπαίδευση, υπολογίστε έως και ένα δέκατο λιγότερο από μια πλήρη 4090.
Σας το λέμε αυτό πριν παραγγείλετε, αντί να τυπώσουμε “RTX 4090” και να σας αφήσουμε να το ανακαλύψετε αργότερα. Αν η δουλειά σας χρειάζεται πραγματικά την πλήρη GPU, ρωτήστε στη συνομιλία και θα σας πούμε αν μπορούμε να βρούμε μία και πόσο χρόνο χρειάζεται.
02Σε τι χρησιμεύει
Τι κάνει καλά ένας διακομιστής GPU 4090 και πού σταματά
Αυτή είναι μια καταναλωτική GPU σε rack. Αυτό κρατά την τιμή χαμηλά και από εκεί πηγάζουν και τα όριά της.
01Υπολογιστική ισχύς ανά ευρώ
Πολλή υπολογιστική ισχύς για τα χρήματα
Το πυρίτιο GeForce είναι ένας από τους φθηνότερους τρόπους να νοικιάσετε τόση υπολογιστική ισχύ. Ταιριάζει σε εργασίες όπου ένα κακό αποτέλεσμα σημαίνει επανεκτέλεση, όχι καταστροφή: μαζική απόδοση, διακομιστές παιχνιδιών, λεπτομερής ρύθμιση μικρών μοντέλων, συμπερασμός που μπορείτε να επαναλάβετε.
02Βίντεο
Κωδικοποιεί βίντεο, οι επιταχυντές όχι
Δύο κωδικοποιητές υλικού με AV1, συν έναν αποκωδικοποιητή, ώστε να μπορεί να κάνει διακωδικοποίηση όλη μέρα. Οι A100 και H100 πιο πάνω στον κατάλογό μας δεν έχουν καθόλου κωδικοποιητή βίντεο. Για οτιδήποτε περιέχει βίντεο, αυτή η GPU είναι η σωστή επιλογή, όχι ο συμβιβασμός. Δείτε τους διακομιστές διακωδικοποίησης για εργασία με ζωντανά κανάλια.
03Μνήμη
Το όριο είναι 24 GB
Ένα μοντέλο 13 δισεκατομμυρίων παραμέτρων χωράει σε 8-bit, το ίδιο μοντέλο σε 16-bit δεν χωράει και ένα μοντέλο 70 δισεκατομμυρίων δεν χωράει σε καμία ακρίβεια. Ο πίνακας μεγεθών πιο κάτω είναι ακριβής σχετικά.
04Μεγάλες εκτελέσεις
Χωρίς μνήμη διόρθωσης σφαλμάτων
Δεν υπάρχει ECC ούτε πιστοποιημένος επαγγελματικός οδηγός. Για μια εκτέλεση που διαρκεί εβδομάδες χωρίς σημεία ελέγχου ή για λογισμικό του οποίου η άδεια ζητά επαγγελματική GPU, δείτε την L40S με 48 GB και ECC.
03Προδιαγραφές
Προδιαγραφές NVIDIA RTX 4090D
Τα στοιχεία για τη GPU που τοποθετούμε, από την τεκμηρίωση της σειράς RTX 40 της NVIDIA και τον πίνακα υποστήριξης κωδικοποίησης και αποκωδικοποίησης της NVIDIA.
RTX 4090D
Ada Lovelace
24 GB GDDR6X
14,592
1,008 GB/s
425 W
PCIe Gen 4 x16
2 NVENC, 1 NVDEC, AV1
No
04Επιλογή
Διακομιστής RTX 4090, RTX 3090 ή RTX 5090;
Και τα τρία βρίσκονται σήμερα στο ράφι μας και μπαίνουν στα ίδια μηχανήματα. Έτσι, το ερώτημα δεν είναι ποιο είναι νεότερο, αλλά ποιο αξίζει τη διαφορά για τη δική σας δουλειά.
| GPU | GPU memory | The GPU | Cheapest complete machine |
|---|---|---|---|
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
| RTX 4090D | 24 GB GDDR6X | $299 | $372.47 |
| RTX 5090 | 32 GB GDDR7 | $399 | $472.47 |
Η RTX 3090 έχει τα ίδια 24 GB και είναι ο παλαιότερος, πιο αργός τρόπος να τα αποκτήσετε. Αν το μέγεθος μνήμης είναι αυτό που χρειάζεστε και η ταχύτητα μετράει λιγότερο, διαβάστε πρώτα τη σελίδα διακομιστών της σειράς RTX 30. Η RTX 5090 ανεβαίνει στα 32 GB GDDR7. Είναι μια GPU PCIe Gen 5 που μπαίνει σε πλατφόρμες Gen 3 και Gen 4, οπότε διαβάστε την επόμενη ενότητα και τη σελίδα διακομιστών RTX 5090 πριν υποθέσετε ότι νεότερο σημαίνει ταχύτερο εδώ.
05Το μηχάνημα
Σε ποιο μηχάνημα μπαίνει η RTX 4090D και η σύνδεσή της PCIe
Η 4090D είναι μια GPU PCIe Gen 4. Κάθε πλατφόρμα παρακάτω δείχνει τη θυρίδα που παίρνει και τι σημαίνει αυτό στην πράξη.
Intel Xeon E5-2600 v3/v4
Intel Xeon Silver / Gold
AMD EPYC
Έχουμε δει πελάτη να μετακινείται σε νεότερη GPU σε παλαιότερη πλατφόρμα και να αποδίδει πιο αργά από πριν. Μόλις η σκηνή ή τα βάρη βρεθούν στη μνήμη της GPU, η θυρίδα είναι ήσυχη και η γενιά της παύει να έχει σημασία. Έχει σημασία όταν η δουλειά σας σπρώχνει δεδομένα μέσω της θυρίδας σε κάθε βήμα. Πείτε μας τι θα τρέξετε και θα σας κατευθύνουμε στο σωστό μηχάνημα.
06Μεγέθη
Τι χωράει σε 24 GB μνήμης GPU
Μόνο βάρη. Αφήστε χώρο για το πλαίσιο και τον χρόνο εκτέλεσης από πάνω.
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB, fits | 8 GB, fits | 5 GB, fits |
| 13-14 billion parameters | 28 GB, does not fit | 14 GB, fits | 8 GB, fits |
| 30-34 billion parameters | 68 GB, does not fit | 34 GB, does not fit | 19 GB, tight |
| 70 billion parameters | 140 GB, does not fit | 70 GB, does not fit | 38 GB, does not fit |
Το άλλο όριο είναι η ισχύς. Μία 4090D καταναλώνει έως 425 W, γι’ αυτό περισσότερες από μία σε ένα μηχάνημα είναι μια σύνθεση που κοστολογούμε, όχι ένα κουτάκι που τσεκάρετε. Για να δουλέψετε το ερώτημα αντίστροφα, από το μοντέλο σας στη GPU που χρειάζεται, χρησιμοποιήστε τη σελίδα μεγεθών μνήμης LLM.
07Τιμές
Τιμές διακομιστή RTX 4090D, με το μηχάνημα
Η GPU είναι μία γραμμή στο τιμολόγιό σας και ο διακομιστής μία άλλη. Και οι δύο προέρχονται από τον κατάλογο παραγγελιών που χρησιμοποιεί το ταμείο, οπότε κάθε τιμή παρακάτω ανήκει στο μηχάνημα δίπλα της.
| GPU | The machine it goes in | The GPU | Complete, per month |
|---|---|---|---|
| RTX 4090D | Intel Xeon E5-2600 v3/v4 | $299 | $372.47 Configure this build → |
| RTX 4090D | Intel Xeon Silver / Gold | $299 | $382.67 Configure this build → |
| RTX 4090D | AMD EPYC | $299 | $516.59 Configure this build → |
Η θύρα είναι χωρίς όριο δεδομένων και προς τις δύο κατευθύνσεις, χωρίς χρέωση εξερχόμενης κίνησης. Μια διεύθυνση IPv4 συνοδεύει τον διακομιστή, δεν υπάρχει συμβόλαιο και πληρώνετε έναν μήνα τη φορά. Για να συγκρίνετε κάθε GPU που τοποθετούμε, με τον ίδιο τρόπο τιμολόγησης, δείτε όλους τους διακομιστές GPU με τιμές.
08Παράδοση και βοήθεια
Πόσο σύντομα το παραλαμβάνετε και ποιος απαντά
Εξαρτάται από το πού βρίσκεται η GPU όταν παραγγείλετε. Σας λέμε ποια από αυτές τις περιπτώσεις ισχύει πριν πληρώσετε.
- Περίπου 30 λεπτά
Ήδη σε rack
Ένα μηχάνημα με τη GPU τοποθετημένη βρίσκεται σε rack. Είναι δικό σας περίπου 30 λεπτά μετά την έγκριση της παραγγελίας.
- 4 έως 24 ώρες
Στο ράφι μας
Τοποθετούμε μια GPU που ήδη διαθέτουμε στον διακομιστή που επιλέξατε.
- 5 έως 10 εργάσιμες ημέρες
Κατόπιν αγοράς
Παραγγέλνουμε τη GPU από διανομέα για εσάς και στη συνέχεια την τοποθετούμε στον διακομιστή σας.
Ερωτήσεις πριν ή μετά την παραγγελία πηγαίνουν στη συνομιλία μας. Ένας βοηθός AI απαντά σε δευτερόλεπτα και μπορεί να αναζητήσει τον λογαριασμό σας και τον διακομιστή σας, ενώ ένα άτομο από την ομάδα μας συμμετέχει όποτε το ζητήσετε. Μηχανήματα σε rack και έτοιμα αυτή τη στιγμή βρίσκονται στους άμεσους διακομιστές.
09Ερωτήσεις
Ερωτήσεις σχετικά με την ενοικίαση διακομιστή RTX 4090
01Είναι η RTX 4090D ίδια με την RTX 4090;
Όχι ακριβώς. Πρόκειται για το ίδιο τσιπ AD102 με την ίδια μνήμη 24 GB GDDR6X, το ίδιο εύρος ζώνης 1,008 GB/s και την ίδια συχνότητα boost, αλλά με 14,592 πυρήνες CUDA αντί για 16,384. Η NVIDIA την κατασκεύασε για την Κίνα αφού ένας κανόνας εξαγωγών των ΗΠΑ κάλυψε την πλήρη 4090. Είναι γνήσια GPU της NVIDIA, όχι μετονομασία.
02Πόσο πιο αργή είναι η RTX 4090D;
Η NVIDIA την τοποθέτησε περίπου στο 5% σε παιχνίδια και δημιουργικές εφαρμογές. Σε εργασίες που κρατούν απασχολημένο κάθε shader, η διαφορά μπορεί να φτάσει το 11% της διαφοράς στον αριθμό πυρήνων. Οτιδήποτε περιορίζεται από το μέγεθος ή την ταχύτητα της μνήμης τρέχει το ίδιο όπως σε μια πλήρη 4090.
03Μπορώ να πάρω αντ' αυτής μια πλήρη RTX 4090;
Όχι από αυτή τη σελίδα. Αυτό που τοποθετούμε είναι η 4090D, και το λέμε εξαρχής. Αν η εργασία σας χρειάζεται πραγματικά τους επιπλέον shaders, πείτε μας στη συνομιλία τι θα εκτελέσετε και θα σας πούμε αν μπορούμε να προμηθευτούμε μια πλήρη 4090 και πόσο χρόνο θα χρειαστεί.
04Λειτουργεί η 4090D με CUDA, PyTorch και τους κανονικούς οδηγούς;
Ναι. Αναφέρεται ως GPU GeForce αρχιτεκτονικής Ada Lovelace και δέχεται τον τυπικό οδηγό GeForce. Κάθε έκδοση CUDA, build framework και renderer που τρέχει σε μια 4090 τρέχει και σε αυτήν. Η διαφορά είναι στον αριθμό πυρήνων, όχι στην αρχιτεκτονική.
05Μοιράζεται η GPU με κάποιον άλλο;
Όχι. Παίρνετε την πλήρη GPU σε ένα μηχάνημα που δεν χρησιμοποιεί κανείς άλλος, περασμένη απευθείας στο δικό σας λειτουργικό σύστημα. Δεν υπάρχει hypervisor, διαχωρισμός vGPU ή κατανομή χρόνου. Εγκαθιστάτε και καρφιτσώνετε τον δικό σας οδηγό και την έκδοση CUDA, και τίποτα δεν αναβαθμίζεται πίσω από την πλάτη σας.
06Να νοικιάσω RTX 4090D ή RTX 3090 για 24 GB;
Αν το μόνο που χρειάζεστε είναι το μέγεθος μνήμης, η RTX 3090 είναι συχνά η καλύτερη αγορά: ίδια 24 GB, παλαιότερη και συνήθως φθηνότερη ανά μήνα, όπως δείχνει ο πίνακας σύγκρισης. Η 4090D είναι σαφώς ταχύτερη και προσθέτει κωδικοποίηση AV1, που λείπει από την 3090. Επιλέξτε την όταν οι εκτελέσεις σας είναι συνεχόμενες ή εργάζεστε με βίντεο.
07Μπορώ να βάλω δύο GPU RTX 4090D σε έναν διακομιστή;
Ναι, ως προσφορά κατασκευής και όχι ως επιλογή ολοκλήρωσης αγοράς. Κάθε μία καταναλώνει έως 425 W και δεν υπάρχει NVLink, οπότε δύο από αυτές είναι δύο ξεχωριστές δεξαμενές 24 GB. Πείτε μας τι σκοπεύετε να εκτελέσετε και θα σας απαντήσουμε με το μηχάνημα, ή δείτε διακομιστές πολλαπλών GPU.
08Πόσο σύντομα μπορώ να έχω έναν αποκλειστικό διακομιστή RTX 4090;
Περίπου 30 λεπτά μετά την έγκριση αν ένα μηχάνημα σε rack διαθέτει ήδη τη GPU, 4 έως 24 ώρες αν έχουμε μία στο ράφι, και 5 έως 10 εργάσιμες ημέρες αν την παραγγείλουμε. Θα ενημερωθείτε ποια περίπτωση ισχύει πριν πληρώσετε. Τα μηχανήματα σε rack παρατίθενται στους άμεσους διακομιστές.
Επιλέξτε τη δική σας κατασκευή RTX 4090D και δείτε την πλήρη τιμή
Κάθε κατασκευή τιμολογείται παραπάνω μαζί με τον διακομιστή της. Επιλέξτε μία, διαμορφώστε την και η παραγγελία θα δείξει το μηνιαίο σύνολό σας πριν πληρώσετε.