RTX 3090 · 3080 Ti · 3080 · 3070 Ti · 3070

Σειρά RTX 30 — πέντε κάρτες, 8 GB έως 24 GB

Καταναλωτικό πυρίτιο Ampere του 2020, ακόμα αποθηκευμένο και ενοικιασμένο, επειδή τίποτα δεν έχει αντικαταστήσει αυτό στο οποίο είναι πραγματικά καλό: την περισσότερη αριθμητική ανά λίβρα στον κατάλογο. Το μόνο ερώτημα που αξίζει μια σελίδα είναι ποιο από τα πέντε, και η ειλικρινής απάντηση συνήθως βασίζεται σε έναν αριθμό - πόση μνήμη χρειάζεστε.

8, 10, 12 και 24 GB Χωρίς ECC Ένας κωδικοποιητής, όχι AV1

Ποιο από τα πέντε

Πρώτα το φθηνότερο. Διαβάστε προς τα κάτω μέχρι η στήλη μνήμης να χωρέσει ό,τι χρειάζεστε και μετά σταματήστε — οι κάρτες από πάνω είναι πιο γρήγορες στην ίδια δουλειά, όχι ικανές για διαφορετική.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
CardCard memoryThe cardCheapest complete machine
RTX 30708 GB GDDR6$139$209.93
RTX 3070 Ti8 GB GDDR6X$149$222.47
RTX 308010 GB GDDR6X$159$229.93
RTX 3080 Ti12 GB GDDR6X$199$272.47
RTX 309024 GB GDDR6X$239$309.93

Η παγίδα στη μέση εκείνου του τραπεζιού

Η RTX 3080 μας είναι η αρχική κάρτα 10 GB , αυτή με 8.704 πυρήνες CUDA. Η NVIDIA αργότερα κυκλοφόρησε μια αναθεωρημένη έκδοση 12 GB με 8.960, και πολλές καταχωρίσεις αλλού αναφέρουν τον αριθμό των 12 GB δίπλα στην φθηνότερη κάρτα. Δέκα gigabyte δεν είναι δώδεκα: είναι η διαφορά μεταξύ της διατήρησης ενός μοντέλου δεκατριών δισεκατομμυρίων παραμέτρων με ακρίβεια οκτώ bit και της μη διατήρησης του. Αν κάνετε διαστάσεις με βάση έναν αριθμό που διαβάζετε κάπου αλλού, κάντε διαστάσεις με βάση τον δικό μας.

Το άλλο που πρέπει να προσέξετε είναι το βήμα από την 3080 Ti στην 3090. Είναι το μεγαλύτερο άλμα χωρητικότητας στην κλίμακα — δώδεκα gigabyte σε είκοσι τέσσερα — και είναι η μόνη από τις πέντε που ξεπερνά τα 24 GB. Αν το χρειάζεστε αυτό, τίποτα φθηνότερο σε αυτήν τη σελίδα δεν θα σας κάνει, και οι εναλλακτικές λύσεις βρίσκονται σε ολόκληρο τον κατάλογο, με τιμές .

Οι προδιαγραφές, όπως τις δημοσιεύει η NVIDIA

Πυρήνες ray-tracing δεύτερης γενιάς, πυρήνες tensor τρίτης γενιάς, PCIe Gen 4 σε όλο το σύστημα. Στοιχεία από τις σελίδες σύγκρισης GeForce της NVIDIA, που αναφέρονται στον πηγαίο κώδικα αυτής της σελίδας.

RTX 3090

Architecture

Ampere

Card memory

24 GB GDDR6X

CUDA cores

10,496

Memory bandwidth

936 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3080 Ti

Architecture

Ampere

Card memory

12 GB GDDR6X

CUDA cores

10,240

Memory bandwidth

912 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3080

Architecture

Ampere

Card memory

10 GB GDDR6X

CUDA cores

8,704

Memory bandwidth

760 GB/s

Board power

320 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3070 Ti

Architecture

Ampere

Card memory

8 GB GDDR6X

CUDA cores

6,144

Memory bandwidth

608 GB/s

Board power

290 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3070

Architecture

Ampere

Card memory

8 GB GDDR6

CUDA cores

5,888

Memory bandwidth

448 GB/s

Board power

220 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

Σε τι είναι καλοί και σε τι όχι

Αυτές οι κάρτες είναι έξι ετών και δεν τις έχουμε αποσύρει, επειδή για ένα μεγάλο μέρος της πραγματικής εργασίας παραμένουν η σωστή αγορά και όχι ο συμβιβασμός.

Καλός σε: φθηνή χωρητικότητα

Η RTX 3090 διαθέτει τα ίδια 24 GB με την RTX 4090 D δύο γενιές αργότερα, με λιγότερα χρήματα κάθε μήνα. Όταν η χωρητικότητα είναι αυτό που αγοράζετε και η ταχύτητα του ρολογιού τοίχου δεν είναι ο δεσμευτικός περιορισμός, η παλαιότερη κάρτα είναι απλώς η καλύτερη αγορά.

Καλός σε: διακομιστές παιχνιδιών και ομαδική εργασία

Το καταναλωτικό πυρίτιο είναι το υλικό με το οποίο γράφεται και δοκιμάζεται το καταναλωτικό λογισμικό. Οι διακομιστές παιχνιδιών, η μαζική απόδοση, η βελτιστοποίηση για χόμπι, η επανεκτέλεση συμπερασμάτων - οτιδήποτε όπου ένα λάθος κομμάτι είναι επανάληψη και όχι καταστροφή - λειτουργεί εδώ σε ένα κλάσμα της επαγγελματικής τιμής.

Κακό σε: σύγχρονους αγωγούς βίντεο

Ένας κωδικοποιητής και ένας αποκωδικοποιητής ανά κάρτα, και καμία κωδικοποίηση AV1 σε καμία από τις πέντε — η κωδικοποίηση AV1 έρχεται με τη σειρά RTX 40. Εάν ο αγωγός σας είναι AV1, αυτή η γενιά δεν μπορεί να το κάνει σε υλικό και η απάντηση είναι μια RTX 4090 D ή μια L40S.

Κακό σε: μεγάλα τρεξίματα χωρίς επίβλεψη χωρίς επίβλεψη

Δεν υπάρχει μνήμη διόρθωσης σφαλμάτων σε κανένα από αυτά, ούτε πιστοποιημένος επαγγελματίας οδηγός. Για μια περίοδο που μετράται σε εβδομάδες χωρίς σημεία ελέγχου ή για λογισμικό με άδεια χρήσης μόνο για επαγγελματικές κάρτες, πάρτε μια κάρτα από το ράφι του σταθμού εργασίας.

Σε ποιο μηχάνημα μπαίνουν και σε ποια σύνδεση φτάνουν εκεί;

Κάθε κάρτα RTX 30 είναι μέρος PCIe Gen 4. Τρεις από τις τέσσερις πλατφόρμες που τις δέχονται είναι Gen 3 και μία είναι Gen 4.

Intel Xeon E5-2600 v1/v2

RTX 3090, RTX 3080, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon E5-2600 v3/v4

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon Silver / Gold

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

AMD EPYC

RTX 3080

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

Για αυτή τη γενιά, η υποδοχή σπάνια αποφασίζει για οτιδήποτε: μια κάρτα που έχει τη δική της σκηνή ή τα δικά της βάρη μόλις που αγγίζει το λεωφορείο μόλις φορτωθεί, και αυτές δεν είναι κάρτες στις οποίες κάποιος στέλνει τεράστιες παρτίδες εκπαίδευσης. Καταγράφεται εδώ επειδή είναι αληθινό και επειδή το δημοσιεύουμε για κάθε κάρτα, όχι επειδή θα έπρεπε να σας αλλάξει γνώμη.

Τι ταιριάζει πραγματικά: η κάρτα 24 GB στην κορυφή της λίστας

Weights only, rounded up. A row counts as fitting when it leaves a fifth of the card’s 24 GB free for the KV cache, the activations and the runtime — which is head-room, not luxury.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB — fits8 GB — fits5 GB — fits
13-14 billion parameters28 GB — does not fit14 GB — fits8 GB — fits
30-34 billion parameters68 GB — does not fit34 GB — does not fit19 GB — fits
70 billion parameters140 GB — does not fit70 GB — does not fit38 GB — does not fit

Διαβάστε αυτόν τον πίνακα ένα σκαλί παρακάτω για κάθε βήμα προς τα κάτω. Η 3080 Ti χωράει δώδεκα gigabyte, η 3080 δέκα, η 3070 Ti και η 3070 οκτώ η καθεμία — άρα ένα μοντέλο επτά έως οκτώ δισεκατομμυρίων παραμέτρων με ακρίβεια οκτώ bit είναι περίπου το σημείο που καταλήγει αυτή η σελίδα, και οτιδήποτε μεγαλύτερο θέλει την 3090 ή ένα εντελώς διαφορετικό ράφι.

Τι κοστίζουν, με τα μηχανήματα που χρησιμοποιούνται

Η κάρτα είναι μία γραμμή στο τιμολόγιο και το μηχάνημα είναι άλλη. Και τα δύο μισά παρακάτω προέρχονται από μία ανάγνωση του καταλόγου παραγγελιών, επομένως η τιμή και οι προδιαγραφές δίπλα της ανήκουν πάντα το ένα στο άλλο.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
CardThe machine it goes inThe cardComplete, per month
RTX 3070Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$139$209.93
Configure this build →
RTX 3070Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$139$212.47
Configure this build →
RTX 3070 TiIntel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$149$222.47
Configure this build →
RTX 3070Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$139$222.67
Configure this build →
RTX 3080Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$159$229.93
Configure this build →
RTX 3080Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$159$232.47
Configure this build →
RTX 3070 TiIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$149$232.67
Configure this build →
RTX 3080Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$159$242.67
Configure this build →
RTX 3080 TiIntel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$199$272.47
Configure this build →
RTX 3080 TiIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$199$282.67
Configure this build →
RTX 3090Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$239$309.93
Configure this build →
RTX 3090Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$239$312.47
Configure this build →
RTX 3090Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$239$322.67
Configure this build →
RTX 3080AMD EPYC
AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0
$159$376.59
Configure this build →

Το εύρος ζώνης είναι απεριόριστο και προς τις δύο κατευθύνσεις χωρίς χρέωση εξόδου, περιλαμβάνεται μία διεύθυνση IPv4, δεν υπάρχει συμβόλαιο και η προεπιλεγμένη διάρκεια είναι ένας μήνας. Για κάθε άλλη κάρτα που τοποθετούμε, η τιμή είναι η ίδια, διαβάστε ολόκληρο τον κατάλογο, η τιμή είναι . Για μηχανήματα που είναι έτοιμα σήμερα, /instant . Για τον λόγο που εξακολουθούμε να νοικιάζουμε υλικό που όλοι οι άλλοι έχουν συνταξιοδοτηθεί, /value .

Ερωτήματα που κάνουν οι άνθρωποι για αυτή τη γενιά

Η RTX 3080 σου είναι η κάρτα των 10 GB ή των 12 GB;

Η κάρτα 10 GB, με 8.704 πυρήνες CUDA — το αρχικό μέρος κυκλοφορίας. Η αναθεωρημένη έκδοση των 12 GB έχει 8.960 πυρήνες και δεν την χωράμε. Αυτό έχει μεγαλύτερη σημασία από ό,τι υποδηλώνουν τα δύο gigabyte, επειδή ένα μοντέλο δεκατριών δισεκατομμυρίων παραμέτρων με ακρίβεια οκτώ bit χρειάζεται περίπου δεκατέσσερα gigabyte και δεν καθαρίζει κανένα από τα δύο, ενώ ένα μικρότερο μοντέλο καθαρίζει άνετα και τα δύο.

Γιατί να νοικιάσω μια κάρτα του 2020;

Επειδή οι περισσότερες εργασίες με GPU δεν αφορούν την εκπαίδευση ενός μοντέλου αιχμής. Είναι η εξυπηρέτηση κάποιου πράγματος που ήδη ταιριάζει, η κωδικοποίηση βίντεο, η απόδοση καρέ ή η εκτέλεση ενός διακομιστή παιχνιδιών, και για όλα αυτά η σωστή κάρτα είναι συχνά δύο γενιές πίσω σε ένα κλάσμα των χρημάτων της. Η RTX 3090 χωράει τα ίδια είκοσι τέσσερα gigabyte με μια κάρτα δύο γενιές νεότερη. Αυτό είναι όλο το επιχείρημα, και το /value αποτελεί την μεγαλύτερη εκδοχή του.

Μπορώ να βάλω δύο από αυτά σε ένα μηχάνημα;

Είναι μια έκδοση που αναφέρουμε και όχι ένα κουτάκι που τσεκάρετε εσείς, επειδή ο αριθμός εξαρτάται από το πλαίσιο, το φυσικό πλάτος της κάρτας και την κατανάλωση ενέργειας. Ρωτήστε και η απάντηση αναφέρει το πλαίσιο, τον αριθμό και τον χρόνο παράδοσης. Σημειώστε ότι δύο κάρτες είναι δύο ξεχωριστές δεξαμενές μνήμης: ένα μοντέλο που δεν χωράει σε μία 3090 δεν χωράει σε δύο χωρίς να χωριστεί σκόπιμα σε αυτά.

Είναι η κάρτα κοινή με κάποιον άλλο;

Όχι. Ένας ένοικος ανά φυσικό μηχάνημα και η κάρτα περνάει απευθείας στο δικό σας λειτουργικό σύστημα — χωρίς hypervisor, χωρίς partition, χωρίς time-slicing. Εγκαθιστάτε και καρφιτσώνετε το δικό σας πρόγραμμα οδήγησης και την έκδοση CUDA και τίποτα δεν αναβαθμίζεται από κάτω σας.

Πόσο σύντομα μπορώ να έχω ένα;

Εξαρτάται από το αν η κάρτα είναι ήδη τοποθετημένη, αν βρίσκεται ήδη στο ράφι μας ή αν πρέπει να αγοραστεί — και σας ενημερώνουμε για το ποιο στοιχείο προτού πληρώσετε. Το /instant παραθέτει μηχανήματα που είναι έτοιμα και τοποθετημένα αυτή τη στιγμή.