RTX 3090 · 3080 Ti · 3080 · 3070 Ti · 3070

Σειρά RTX 30 — πέντε κάρτες, από 8 GB έως 24 GB

Πυρίτιο Ampere για καταναλωτές από το 2020, ακόμα σε ράφια και ακόμα προς ενοικίαση, γιατί τίποτα δεν έχει αντικαταστήσει αυτό στο οποίο είναι πραγματικά καλό: την περισσότερη αριθμητική ισχύ ανά λίρα στον κατάλογο. Το μόνο ερώτημα που αξίζει μια σελίδα είναι ποια από τις πέντε, και η ειλικρινής απάντηση συνήθως εξαρτάται από έναν αριθμό — πόση μνήμη χρειάζεστε.

8, 10, 12 και 24 GB Χωρίς ECC Ένας κωδικοποιητής, χωρίς AV1

Μετατρέψτε τις GPU σας σε παθητικό μηνιαίο εισόδημα

Έχετε αδρανείς διατάξεις GPU σε server ή desktop; Καταχωρίστε τις σήμερα στην αγορά του Primcast και κερδίστε σταθερά μηνιαία ενοίκια από ομάδες τεχνητής νοημοσύνης, προγραμματιστές και επιχειρήσεις που χρειάζονται υπολογιστική ισχύ επιπέδου παραγωγής.

Μετάβαση στην Αγορά

Ποια από τις πέντε

Πρώτα οι φθηνότερες. Διαβάστε προς τα κάτω μέχρι η στήλη μνήμης να καλύπτει αυτό που χρειάζεστε, μετά σταματήστε — οι κάρτες πιο πάνω είναι ταχύτερες στην ίδια εργασία, όχι ικανές για διαφορετική.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
CardCard memoryThe cardCheapest complete machine
RTX 30708 GB GDDR6$139$209.93
RTX 3070 Ti8 GB GDDR6X$149$222.47
RTX 308010 GB GDDR6X$159$229.93
RTX 3080 Ti12 GB GDDR6X$199$272.47
RTX 309024 GB GDDR6X$239$309.93

Η παγίδα στη μέση αυτού του πίνακα

Η RTX 3080 μας είναι η αρχική κάρτα των 10 GB, αυτή με τους 8.704 πυρήνες CUDA. Η NVIDIA αργότερα κυκλοφόρησε μια αναθεώρηση 12 GB με 8.960, και πάρα πολλές καταχωρίσεις αλλού αναφέρουν το νούμερο των 12 GB δίπλα στη φθηνότερη κάρτα. Δέκα gigabytes δεν είναι δώδεκα: είναι η διαφορά ανάμεσα στο να χωράς ένα μοντέλο δεκατριών δισεκατομμυρίων παραμέτρων σε ακρίβεια οκτώ bit και στο να μην το χωράς. Αν υπολογίζετε με βάση ένα νούμερο που διαβάσατε κάπου αλλού, υπολογίστε με βάση το δικό μας.

Το άλλο που πρέπει να προσέξετε είναι το βήμα από την 3080 Ti στην 3090. Είναι το μεγαλύτερο άλμα χωρητικότητας στη σκάλα — από δώδεκα gigabytes σε είκοσι τέσσερα — και είναι η μόνη από τις πέντε που ξεπερνά τα 24 GB. Αν το χρειάζεστε αυτό, τίποτα φθηνότερο σε αυτή τη σελίδα δεν θα κάνει, και οι εναλλακτικές βρίσκονται σε ολόκληρο τον κατάλογο, με τιμές.

Οι προδιαγραφές, όπως τις δημοσιεύει η NVIDIA

Πυρήνες ray-tracing δεύτερης γενιάς, πυρήνες tensor τρίτης γενιάς, PCIe Gen 4 παντού. Νούμερα από τις ίδιες τις σελίδες σύγκρισης GeForce της NVIDIA, με αναφορά στον πηγαίο κώδικα αυτής της σελίδας.

RTX 3090

Architecture

Ampere

Card memory

24 GB GDDR6X

CUDA cores

10,496

Memory bandwidth

936 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3080 Ti

Architecture

Ampere

Card memory

12 GB GDDR6X

CUDA cores

10,240

Memory bandwidth

912 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3080

Architecture

Ampere

Card memory

10 GB GDDR6X

CUDA cores

8,704

Memory bandwidth

760 GB/s

Board power

320 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3070 Ti

Architecture

Ampere

Card memory

8 GB GDDR6X

CUDA cores

6,144

Memory bandwidth

608 GB/s

Board power

290 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3070

Architecture

Ampere

Card memory

8 GB GDDR6

CUDA cores

5,888

Memory bandwidth

448 GB/s

Board power

220 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

Σε τι είναι καλές, και σε τι όχι

Αυτές οι κάρτες είναι έξι ετών και δεν τις έχουμε αποσύρει, γιατί για μεγάλο μερίδιο πραγματικής εργασίας παραμένουν η σωστή αγορά και όχι ο συμβιβασμός.

Καλές σε: φθηνή χωρητικότητα

Η RTX 3090 φέρει τα ίδια 24 GB με την RTX 4090 D δύο γενιές αργότερα, με λιγότερα χρήματα κάθε μήνα. Όταν αυτό που αγοράζετε είναι χωρητικότητα και η ταχύτητα ρολογιού δεν είναι ο δεσμευτικός περιορισμός, η παλαιότερη κάρτα είναι απλώς η καλύτερη αγορά.

Καλές σε: game servers και ομαδικές εργασίες

Το πυρίτιο καταναλωτών είναι αυτό πάνω στο οποίο γράφεται και δοκιμάζεται το λογισμικό καταναλωτών. Game servers, ομαδική απόδοση, ερασιτεχνικό fine-tuning, συμπερασμός που μπορείτε να ξανατρέξετε — οτιδήποτε όπου ένα λάθος bit είναι επανάληψη και όχι καταστροφή — τρέχει εδώ για ένα κλάσμα της τιμής του επαγγελματικού ραφιού.

Κακές σε: σύγχρονους αγωγούς βίντεο

Ένας κωδικοποιητής και ένας αποκωδικοποιητής ανά κάρτα, και καμία κωδικοποίηση AV1 σε καμία από τις πέντε — η κωδικοποίηση AV1 έρχεται με τη σειρά RTX 40. Αν ο αγωγός σας είναι AV1, αυτή η γενιά δεν μπορεί να το κάνει σε υλικό και η απάντηση είναι μια RTX 4090 D ή μια L40S.

Κακές σε: μεγάλες εκτελέσεις χωρίς επίβλεψη

Καμία μνήμη διόρθωσης σφαλμάτων σε καμία από αυτές, και κανένας πιστοποιημένος επαγγελματικός οδηγός. Για εκτέλεση που μετριέται σε εβδομάδες χωρίς checkpointing, ή για λογισμικό με άδεια μόνο για επαγγελματικές κάρτες, πάρτε αντίθετα μια κάρτα από το ράφι σταθμών εργασίας.

Σε ποιο μηχάνημα μπαίνουν, και τι σύνδεση παίρνουν εκεί

Κάθε κάρτα RTX 30 είναι εξάρτημα PCIe Gen 4. Τρεις από τις τέσσερις πλατφόρμες που τις δέχονται είναι Gen 3, και μία είναι Gen 4.

Intel Xeon E5-2600 v1/v2

RTX 3090, RTX 3080, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon E5-2600 v3/v4

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon Silver / Gold

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

AMD EPYC

RTX 3080

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

Για αυτή τη γενιά η υποδοχή σπάνια αποφασίζει κάτι: μια κάρτα που κρατά τη δική της σκηνή ή τα δικά της βάρη μόλις που αγγίζει τον δίαυλο αφού φορτωθεί, και αυτές δεν είναι κάρτες στις οποίες κάποιος στέλνει τεράστιες παρτίδες εκπαίδευσης. Καταγράφεται εδώ επειδή είναι αλήθεια και επειδή το δημοσιεύουμε για κάθε κάρτα, όχι επειδή πρέπει να αλλάξει γνώμη σας.

Τι πραγματικά χωράει: η κάρτα 24 GB στην κορυφή της σκάλας

Weights only, rounded up. Fits means the card’s 24 GB holds the weights 1.5× over — room for the KV cache, the activations and the runtime, and the only verdict the LLM sizing page recommends a card on. Tight clears 1.25× only: the model loads, and a long context or a second user runs the card out.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB — fits8 GB — fits5 GB — fits
13-14 billion parameters28 GB — does not fit14 GB — fits8 GB — fits
30-34 billion parameters68 GB — does not fit34 GB — does not fit19 GB — tight
70 billion parameters140 GB — does not fit70 GB — does not fit38 GB — does not fit

Διαβάστε αυτόν τον πίνακα ένα σκαλί πιο κάτω για κάθε βήμα προς τα κάτω στη σκάλα. Η 3080 Ti χωράει δώδεκα gigabytes, η 3080 δέκα, η 3070 Ti και η 3070 από οκτώ η καθεμία — οπότε ένα μοντέλο επτά έως οκτώ δισεκατομμυρίων παραμέτρων σε ακρίβεια οκτώ bit είναι περίπου εκεί που καταλήγει το κάτω μέρος αυτής της σελίδας, και οτιδήποτε μεγαλύτερο θέλει την 3090 ή ένα εντελώς διαφορετικό ράφι.

Αυτός ο πίνακας απαντά στο “τι χωράει σε αυτή την κάρτα”. Το ερώτημα από την άλλη πλευρά — πόση μνήμη χρειάζεται ένα μοντέλο, και ποια κάρτα την καλύπτει — είναι μια σελίδα από μόνο του.

Πόσο κοστίζουν, με τα μηχανήματα στα οποία μπαίνουν

Η κάρτα είναι μία γραμμή στο τιμολόγιο και το μηχάνημα μία άλλη. Και τα δύο μισά παρακάτω προέρχονται από μία ανάγνωση του καταλόγου παραγγελιών, οπότε η τιμή και η προδιαγραφή δίπλα της ανήκουν πάντα η μία στην άλλη.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
CardThe machine it goes inThe cardComplete, per month
RTX 3070Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$139$209.93
Configure this build →
RTX 3070Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$139$212.47
Configure this build →
RTX 3070 TiIntel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$149$222.47
Configure this build →
RTX 3070Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$139$222.67
Configure this build →
RTX 3080Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$159$229.93
Configure this build →
RTX 3080Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$159$232.47
Configure this build →
RTX 3070 TiIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$149$232.67
Configure this build →
RTX 3080Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$159$242.67
Configure this build →
RTX 3080 TiIntel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$199$272.47
Configure this build →
RTX 3080 TiIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$199$282.67
Configure this build →
RTX 3090Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$239$309.93
Configure this build →
RTX 3090Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$239$312.47
Configure this build →
RTX 3090Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$239$322.67
Configure this build →
RTX 3080AMD EPYC
AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0
$159$376.59
Configure this build →

Το εύρος ζώνης είναι αμέτρητο και προς τις δύο κατευθύνσεις χωρίς χρέωση εξερχόμενης κίνησης, περιλαμβάνεται μία διεύθυνση IPv4, δεν υπάρχει συμβόλαιο και ο ένας μήνας είναι η προεπιλεγμένη διάρκεια. Για κάθε άλλη κάρτα που τοποθετούμε, με τιμή με τον ίδιο τρόπο, διαβάστε ολόκληρο τον κατάλογο, με τιμές. Για μηχανήματα σε ράφια και έτοιμα σήμερα, /instant. Για το γιατί ακόμα νοικιάζουμε υλικό που όλοι οι άλλοι απέσυραν, /value.

Ερωτήσεις που πραγματικά κάνουν οι άνθρωποι για αυτή τη γενιά

Η RTX 3080 σας είναι η κάρτα των 10 GB ή των 12 GB;

Η κάρτα των 10 GB, με 8.704 πυρήνες CUDA — το αρχικό εξάρτημα κυκλοφορίας. Η αναθεώρηση των 12 GB έχει 8.960 πυρήνες και δεν την τοποθετούμε. Αυτό έχει μεγαλύτερη σημασία από ό,τι υποδηλώνουν τα δύο gigabytes, γιατί ένα μοντέλο δεκατριών δισεκατομμυρίων παραμέτρων σε ακρίβεια οκτώ bit χρειάζεται περίπου δεκατέσσερα gigabytes και δεν χωράει σε καμία από τις δύο, ενώ ένα μικρότερο μοντέλο χωράει άνετα και στις δύο.

Γιατί να νοικιάσει κανείς κάρτα του 2020;

Επειδή η περισσότερη εργασία GPU δεν είναι εκπαίδευση ενός μοντέλου αιχμής. Είναι το σερβίρισμα κάτι που ήδη χωράει, η κωδικοποίηση βίντεο, η απόδοση καρέ ή η λειτουργία ενός game server, και για όλα αυτά η σωστή κάρτα είναι συχνά δύο γενιές πίσω σε ένα κλάσμα των χρημάτων. Η RTX 3090 χωράει τα ίδια είκοσι τέσσερα gigabytes με μια κάρτα δύο γενιές νεότερη. Αυτό είναι όλο το επιχείρημα, και το /value κάνει τη μεγαλύτερη εκδοχή του.

Μπορώ να βάλω δύο από αυτές σε ένα μηχάνημα;

Είναι μια σύνθεση που προσφέρουμε κατόπιν αιτήματος και όχι ένα κουτί που τσεκάρετε, γιατί ο αριθμός εξαρτάται από το πλαίσιο, το φυσικό πλάτος της κάρτας και τον προϋπολογισμό ισχύος. Ρωτήστε, και η απάντηση αναφέρει το πλαίσιο, τον αριθμό και τον χρόνο παράδοσης. Σημειώστε ότι δύο κάρτες είναι δύο ξεχωριστές δεξαμενές μνήμης: ένα μοντέλο που δεν χωράει σε μία 3090 δεν χωράει σε δύο χωρίς να χωριστεί σκόπιμα μεταξύ τους.

Την κάρτα τη μοιράζεστε με κάποιον άλλο;

Όχι. Ένας ενοικιαστής ανά φυσικό μηχάνημα, και η κάρτα περνάει απευθείας στο δικό σας λειτουργικό σύστημα — χωρίς hypervisor, χωρίς διαμέριση, χωρίς χρονομερισμό. Εγκαθιστάτε και καρφιτσώνετε τον δικό σας οδηγό και την έκδοση CUDA, και τίποτα δεν αναβαθμίζεται κάτω από εσάς.

Πόσο σύντομα μπορώ να έχω μία;

Εξαρτάται από το αν η κάρτα είναι ήδη τοποθετημένη, ήδη στο ράφι μας ή πρέπει να αγοραστεί — και σας λέμε ποιο από τα τρία ισχύει πριν πληρώσετε. Το /instant παραθέτει μηχανήματα σε ράφια και έτοιμα αυτή τη στιγμή.