Is your RTX 3080 the 10 GB card or the 12 GB card?

The 10 GB card, with 8,704 CUDA cores -- the original launch part. The 12 GB revision has 8,960 cores and Primcast does not fit it. This matters more than the two gigabytes suggest: a thirteen-billion-parameter model at eight-bit precision needs about fourteen gigabytes and clears neither, while a smaller model clears both comfortably.

Why rent a 2020 graphics card at all?

Because most GPU work is not training a frontier model. It is serving something that already fits, encoding video, rendering frames or running a game server, and for all of those the right card is often two generations back at a fraction of the money. The RTX 3090 holds the same twenty-four gigabytes as a card two generations newer.

Can I put two RTX 30 cards in one machine?

It is a build quoted rather than a checkout option, because the count depends on the chassis, the physical width of the card and the power budget. Note that two cards are two separate memory pools: a model that does not fit in one RTX 3090 does not fit in two without being split across them deliberately.

Is the graphics card shared with anyone else?

No. One tenant per physical machine, and the card is passed straight through to your own operating system -- no hypervisor, no partition, no time-slicing. You install and pin your own driver and CUDA release, and nothing upgrades underneath you.

How soon can I have an RTX 30 series server?

It depends on whether the card is already fitted, already on the shelf, or has to be bought in, and you are told which before you pay rather than after. Machines racked and ready right now are listed at https://primcast.com/instant.

RTX 3090 · 3080 Ti · 3080 · 3070 Ti · 3070

Σειρά RTX 30 — πέντε κάρτες, από 8 GB έως 24 GB

Πυρίτιο καταναλωτικής κλάσης Ampere από το 2020, ακόμα σε ράφια και ακόμα ενοικιαζόμενο, γιατί τίποτα δεν έχει αντικαταστήσει αυτό στο οποίο είναι πραγματικά καλό: την περισσότερη αριθμητική ισχύ ανά λίρα στον κατάλογο. Το μόνο ερώτημα που αξίζει μια σελίδα είναι ποια από τις πέντε, και η ειλικρινής απάντηση συνήθως καταλήγει σε έναν αριθμό — πόση μνήμη χρειάζεστε.

8, 10, 12 και 24 GB Χωρίς ECC Ένας κωδικοποιητής, χωρίς AV1

Πόσο κοστίζουν, μαζί με το μηχάνημα

Ampere, GA102 και GA104

Η μνήμη είναι όλη η απόφαση

Και οι πέντε κάρτες μοιράζονται αρχιτεκτονική, οδηγό και σύνολο χαρακτηριστικών. Διαφέρουν στη χωρητικότητα, και η χωρητικότητα είναι αυτό που αποφασίζει αν η εργασία σας τρέχει καθόλου — οπότε ξεκινήστε από το κάτω σκαλί της σκάλας και σταματήστε στην πρώτη κάρτα που χωράει αυτό που φορτώνετε.

Όλα κάτω από αυτή τη γραμμή διαβάζονται από τον κατάλογο παραγγελιών τη στιγμή που σερβιρίστηκε η σελίδα. Κανένα νούμερο σε αυτή τη σελίδα δεν πληκτρολογήθηκε με το χέρι.

Μετατρέψτε τις GPU σας σε παθητικό μηνιαίο εισόδημα

Έχετε αδρανείς διατάξεις GPU σε server ή desktop; Καταχωρίστε τις σήμερα στην αγορά του Primcast και κερδίστε σταθερά μηνιαία ενοίκια από ομάδες τεχνητής νοημοσύνης, προγραμματιστές και επιχειρήσεις που χρειάζονται υπολογιστική ισχύ επιπέδου παραγωγής.

Μετάβαση στην Αγορά

Ή νοικιάστε μια RTX 30-series από τον ιδιοκτήτη της

Οι ιδιοκτήτες καταχωρίζουν τα μηχανήματά τους με RTX 30-series στην αγορά μας και ορίζουν τη δική τους μηνιαία τιμή. Μια κάρτα που αναφέρει ότι καταχωρίζεται μέσω της αδελφής μας εταιρείας, Server Room, νοικιάζεται στο serverroom.net και όχι εδώ.

Δείτε όλες τις καταχωρίσεις της αγοράς →

Ποια από τις πέντε

Πρώτα οι φθηνότερες. Διαβάστε προς τα κάτω μέχρι η στήλη μνήμης να καλύπτει αυτό που χρειάζεστε, μετά σταματήστε — οι κάρτες πάνω από αυτήν είναι ταχύτερες στην ίδια εργασία, όχι ικανές για διαφορετική.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
Card	Card memory	The card	Cheapest complete machine
RTX 3070	8 GB GDDR6	$139	$209.93
RTX 3070 Ti	8 GB GDDR6X	$149	$222.47
RTX 3080	10 GB GDDR6X	$159	$229.93
RTX 3080 Ti	12 GB GDDR6X	$199	$272.47
RTX 3090	24 GB GDDR6X	$239	$309.93

Η παγίδα στη μέση αυτού του πίνακα

Η δική μας RTX 3080 είναι η αρχική κάρτα των 10 GB, αυτή με τους 8.704 πυρήνες CUDA. Η NVIDIA κυκλοφόρησε αργότερα μια αναθεώρηση 12 GB με 8.960, και πάρα πολλές καταχωρίσεις αλλού αναφέρουν το νούμερο των 12 GB δίπλα στη φθηνότερη κάρτα. Δέκα gigabytes δεν είναι δώδεκα: είναι η διαφορά ανάμεσα στο να χωράς ένα μοντέλο δεκατριών δισεκατομμυρίων παραμέτρων σε ακρίβεια οκτώ bit και στο να μην το χωράς. Αν υπολογίζετε με βάση ένα νούμερο που διαβάσατε κάπου αλλού, υπολογίστε με βάση το δικό μας.

Το άλλο που πρέπει να προσέξετε είναι το βήμα από την 3080 Ti στην 3090. Είναι το μεγαλύτερο άλμα χωρητικότητας στη σκάλα — από δώδεκα gigabytes σε είκοσι τέσσερα — και είναι η μόνη από τις πέντε που ξεπερνά τα 24 GB. Αν το χρειάζεστε αυτό, τίποτα φθηνότερο σε αυτή τη σελίδα δεν αρκεί, και οι εναλλακτικές βρίσκονται σε ολόκληρο τον κατάλογο, με τιμές.

Οι προδιαγραφές, όπως τις δημοσιεύει η NVIDIA

Πυρήνες ray-tracing δεύτερης γενιάς, πυρήνες tensor τρίτης γενιάς, PCIe Gen 4 παντού. Τα νούμερα προέρχονται από τις ίδιες τις σελίδες σύγκρισης GeForce της NVIDIA, με αναφορά στον πηγαίο κώδικα αυτής της σελίδας.

RTX 3090

Architecture

Ampere

Card memory

24 GB GDDR6X

CUDA cores

10,496

Memory bandwidth

936 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3080 Ti

Architecture

Ampere

Card memory

12 GB GDDR6X

CUDA cores

10,240

Memory bandwidth

912 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3080

Architecture

Ampere

Card memory

10 GB GDDR6X

CUDA cores

8,704

Memory bandwidth

760 GB/s

Board power

320 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3070 Ti

Architecture

Ampere

Card memory

8 GB GDDR6X

CUDA cores

6,144

Memory bandwidth

608 GB/s

Board power

290 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3070

Architecture

Ampere

Card memory

8 GB GDDR6

CUDA cores

5,888

Memory bandwidth

448 GB/s

Board power

220 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

Σε τι είναι καλές και σε τι όχι

Αυτές οι κάρτες είναι έξι ετών και δεν τις έχουμε αποσύρει, γιατί για μεγάλο μερίδιο πραγματικής εργασίας παραμένουν η σωστή αγορά και όχι ο συμβιβασμός.

Καλές σε: φθηνή χωρητικότητα

Η RTX 3090 φέρει τα ίδια 24 GB με την RTX 4090 D δύο γενιές αργότερα, με λιγότερα χρήματα κάθε μήνα. Όταν αυτό που αγοράζετε είναι χωρητικότητα και η ταχύτητα ρολογιού δεν είναι ο δεσμευτικός περιορισμός, η παλαιότερη κάρτα είναι απλώς η καλύτερη αγορά.

Καλές σε: game servers και ομαδικές εργασίες

Το καταναλωτικό πυρίτιο είναι αυτό πάνω στο οποίο γράφεται και δοκιμάζεται το καταναλωτικό λογισμικό. Game servers, ομαδική απόδοση, ερασιτεχνικό fine-tuning, συμπερασμός που μπορείτε να ξανατρέξετε — οτιδήποτε όπου ένα λάθος bit είναι επανάληψη και όχι καταστροφή — τρέχει εδώ για ένα κλάσμα της τιμής του επαγγελματικού ραφιού.

Κακές σε: σύγχρονους αγωγούς βίντεο

Ένας κωδικοποιητής και ένας αποκωδικοποιητής ανά κάρτα, και καμία κωδικοποίηση AV1 σε καμία από τις πέντε — η κωδικοποίηση AV1 έρχεται με τη σειρά RTX 40. Αν ο αγωγός σας είναι AV1, αυτή η γενιά δεν μπορεί να το κάνει σε hardware και η απάντηση είναι μια RTX 4090 D ή μια L40S.

Κακές σε: μεγάλες εκτελέσεις χωρίς επίβλεψη

Καμία μνήμη διόρθωσης σφαλμάτων σε καμία από αυτές, και κανένας πιστοποιημένος επαγγελματικός οδηγός. Για εκτέλεση που μετριέται σε εβδομάδες χωρίς checkpointing, ή για λογισμικό με άδεια μόνο για επαγγελματικές κάρτες, πάρτε αντίθετα μια κάρτα από το ράφι σταθμών εργασίας.

Σε ποιο μηχάνημα μπαίνουν και τι σύνδεση παίρνουν εκεί

Κάθε κάρτα RTX 30 είναι εξάρτημα PCIe Gen 4. Τρεις από τις τέσσερις πλατφόρμες που τις δέχονται είναι Gen 3, και μία είναι Gen 4.

Intel Xeon E5-2600 v1/v2

RTX 3090, RTX 3080, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon E5-2600 v3/v4

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

Intel Xeon Silver / Gold

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

AMD EPYC

RTX 3080

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

Για αυτή τη γενιά η υποδοχή σπάνια αποφασίζει κάτι: μια κάρτα που κρατά τη δική της σκηνή ή τα δικά της βάρη μόλις που αγγίζει τον δίαυλο αφού φορτωθεί, και αυτές δεν είναι κάρτες στις οποίες στέλνει κανείς τεράστιες παρτίδες εκπαίδευσης. Καταγράφεται εδώ επειδή είναι αλήθεια και επειδή το δημοσιεύουμε για κάθε κάρτα, όχι επειδή πρέπει να αλλάξει γνώμη σας.

Τι πραγματικά χωράει: η κάρτα 24 GB στην κορυφή της σκάλας

Weights only, rounded up. **Fits** means the card’s 24 GB holds the weights 1.5× over — room for the KV cache, the activations and the runtime, and the only verdict the LLM sizing page recommends a card on. **Tight** clears 1.25× only: the model loads, and a long context or a second user runs the card out.
Model	16-bit	8-bit	4-bit
7-8 billion parameters	16 GB — fits	8 GB — fits	5 GB — fits
13-14 billion parameters	28 GB — does not fit	14 GB — fits	8 GB — fits
30-34 billion parameters	68 GB — does not fit	34 GB — does not fit	19 GB — tight
70 billion parameters	140 GB — does not fit	70 GB — does not fit	38 GB — does not fit

Διαβάστε αυτόν τον πίνακα ένα σκαλί πιο κάτω για κάθε βήμα προς τα κάτω στη σκάλα. Η 3080 Ti χωράει δώδεκα gigabytes, η 3080 δέκα, η 3070 Ti και η 3070 από οκτώ η καθεμία — οπότε ένα μοντέλο επτά έως οκτώ δισεκατομμυρίων παραμέτρων σε ακρίβεια οκτώ bit είναι περίπου εκεί που καταλήγει το κάτω μέρος αυτής της σελίδας, και οτιδήποτε μεγαλύτερο θέλει την 3090 ή ένα εντελώς διαφορετικό ράφι.

Αυτός ο πίνακας απαντά στο “τι χωράει σε αυτή την κάρτα”. Το ερώτημα από την άλλη πλευρά — πόση μνήμη χρειάζεται ένα μοντέλο και ποια κάρτα την καλύπτει — είναι μια σελίδα από μόνο του.

Πόσο κοστίζουν, μαζί με τα μηχανήματα στα οποία μπαίνουν

Η κάρτα είναι μία γραμμή στο τιμολόγιο και το μηχάνημα μία άλλη. Και τα δύο μισά παρακάτω προέρχονται από μία ανάγνωση του καταλόγου παραγγελιών, οπότε η τιμή και η προδιαγραφή δίπλα της ανήκουν πάντα η μία στην άλλη.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
Card	The machine it goes in	The card	Complete, per month
RTX 3070	Intel Xeon E5-2600 v1/v2 Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0	$139	$209.93 Configure this build →
RTX 3070	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$139	$212.47 Configure this build →
RTX 3070 Ti	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$149	$222.47 Configure this build →
RTX 3070	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$139	$222.67 Configure this build →
RTX 3080	Intel Xeon E5-2600 v1/v2 Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0	$159	$229.93 Configure this build →
RTX 3080	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$159	$232.47 Configure this build →
RTX 3070 Ti	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$149	$232.67 Configure this build →
RTX 3080	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$159	$242.67 Configure this build →
RTX 3080 Ti	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$199	$272.47 Configure this build →
RTX 3080 Ti	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$199	$282.67 Configure this build →
RTX 3090	Intel Xeon E5-2600 v1/v2 Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0	$239	$309.93 Configure this build →
RTX 3090	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$239	$312.47 Configure this build →
RTX 3090	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$239	$322.67 Configure this build →
RTX 3080	AMD EPYC AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0	$159	$376.59 Configure this build →

Το εύρος ζώνης είναι αμέτρητο και προς τις δύο κατευθύνσεις χωρίς χρέωση εξερχόμενης κίνησης, περιλαμβάνεται μία διεύθυνση IPv4, δεν υπάρχει συμβόλαιο και ο ένας μήνας είναι η προεπιλεγμένη διάρκεια. Για κάθε άλλη κάρτα που τοποθετούμε, με τιμή με τον ίδιο τρόπο, διαβάστε ολόκληρο τον κατάλογο, με τιμές. Για μηχανήματα σε ράφι και έτοιμα σήμερα, /instant. Για το γιατί ακόμα νοικιάζουμε hardware που όλοι οι άλλοι απέσυραν, /value.

Ερωτήσεις που πραγματικά κάνουν οι άνθρωποι για αυτή τη γενιά

Η RTX 3080 σας είναι η κάρτα των 10 GB ή των 12 GB;

Η κάρτα των 10 GB, με 8.704 πυρήνες CUDA — το αρχικό εξάρτημα κυκλοφορίας. Η αναθεώρηση των 12 GB έχει 8.960 πυρήνες και δεν την τοποθετούμε. Αυτό έχει μεγαλύτερη σημασία απ' ό,τι υποδηλώνουν τα δύο gigabytes, γιατί ένα μοντέλο δεκατριών δισεκατομμυρίων παραμέτρων σε ακρίβεια οκτώ bit χρειάζεται περίπου δεκατέσσερα gigabytes και δεν χωράει σε καμία από τις δύο, ενώ ένα μικρότερο μοντέλο χωράει άνετα και στις δύο.

Γιατί να νοικιάσει κανείς μια κάρτα του 2020;

Επειδή η περισσότερη εργασία με GPU δεν είναι η εκπαίδευση ενός μοντέλου αιχμής. Είναι το σερβίρισμα κάτι που ήδη χωράει, η κωδικοποίηση βίντεο, η απόδοση καρέ ή η λειτουργία ενός game server, και για όλα αυτά η σωστή κάρτα είναι συχνά δύο γενιές πίσω σε ένα κλάσμα του κόστους. Η RTX 3090 κρατά τα ίδια είκοσι τέσσερα gigabytes με μια κάρτα δύο γενιές νεότερη. Αυτό είναι όλο το επιχείρημα, και το /value κάνει τη μεγαλύτερη εκδοχή του.

Μπορώ να βάλω δύο από αυτές σε ένα μηχάνημα;

Είναι μια σύνθεση που κοστολογούμε και όχι ένα κουτάκι που τσεκάρετε, γιατί ο αριθμός εξαρτάται από το πλαίσιο, το φυσικό πλάτος της κάρτας και τον προϋπολογισμό ισχύος. Ρωτήστε, και η απάντηση αναφέρει το πλαίσιο, τον αριθμό και τον χρόνο παράδοσης. Σημειώστε ότι δύο κάρτες είναι δύο ξεχωριστές δεξαμενές μνήμης: ένα μοντέλο που δεν χωράει σε μία 3090 δεν χωράει σε δύο χωρίς να μοιραστεί σκόπιμα μεταξύ τους.

Την κάρτα τη μοιράζεστε με κάποιον άλλο;

Όχι. Ένας ενοικιαστής ανά φυσικό μηχάνημα, και η κάρτα περνάει απευθείας στο δικό σας λειτουργικό σύστημα — χωρίς hypervisor, χωρίς διαμέριση, χωρίς χρονομερισμό. Εγκαθιστάτε και καρφιτσώνετε τον δικό σας οδηγό και την έκδοση CUDA, και τίποτα δεν αναβαθμίζεται κάτω από τα πόδια σας.

Πόσο σύντομα μπορώ να έχω μία;

Εξαρτάται από το αν η κάρτα είναι ήδη τοποθετημένη, ήδη στο ράφι μας ή πρέπει να αγοραστεί — και σας λέμε ποιο από τα τρία ισχύει πριν πληρώσετε. Το /instant καταγράφει μηχανήματα σε ράφι και έτοιμα αυτή τη στιγμή.