RTX 3090 · 3080 Ti · 3080 · 3070 Ti · 3070

RTX 30 Serie — fünf Karten, 8 GB bis 24 GB

Ampere-Consumer-Silizium aus dem Jahr 2020, immer noch gerackt und immer noch vermietet, weil nichts das ersetzt hat, worin es wirklich gut ist: die meiste Rechenleistung pro Pfund im Katalog. Die einzige Frage, die eine Seite wert ist, lautet, welche der fünf – und die ehrliche Antwort hängt meist an einer Zahl — wie viel Speicher Sie brauchen.

8, 10, 12 und 24 GB Kein ECC Ein Encoder, kein AV1

Machen Sie aus Ihren GPUs passives monatliches Einkommen

Haben Sie ungenutzte Server- oder Desktop-GPU-Setups? Listen Sie sie noch heute auf dem Primcast-Marktplatz und erzielen Sie stetige monatliche Mieteinnahmen von KI-Teams, Entwicklern und Unternehmen, die Compute in Produktionsqualität benötigen.

Zum Marktplatz

Welche der fünf

Günstigste zuerst. Lesen Sie nach unten, bis die Speicherspalte fasst, was Sie brauchen, dann hören Sie auf — die Karten darüber sind bei derselben Aufgabe schneller, nicht zu einer anderen fähig.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
CardCard memoryThe cardCheapest complete machine
RTX 30708 GB GDDR6$139$209.93
RTX 3070 Ti8 GB GDDR6X$149$222.47
RTX 308010 GB GDDR6X$159$229.93
RTX 3080 Ti12 GB GDDR6X$199$272.47
RTX 309024 GB GDDR6X$239$309.93

Die Falle in der Mitte dieser Tabelle

Unsere RTX 3080 ist die ursprüngliche 10 GB-Karte, die mit 8.704 CUDA-Kernen. NVIDIA brachte später eine 12 GB-Revision mit 8.960 heraus, und sehr viele Angebote anderswo nennen die 12 GB-Zahl neben der günstigeren Karte. Zehn Gigabyte sind nicht zwölf: Es ist der Unterschied, ob ein Modell mit dreizehn Milliarden Parametern bei acht Bit Präzision hineinpasst oder nicht. Wenn Sie gegen eine Zahl rechnen, die Sie anderswo gelesen haben, rechnen Sie gegen unsere.

Der andere Schritt, den man im Auge behalten sollte, ist der von der 3080 Ti zur 3090. Es ist der größte Kapazitätssprung auf der Leiter — zwölf Gigabyte auf vierundzwanzig — und es ist die einzige der fünf, die 24 GB übersteigt. Wenn Sie das brauchen, reicht nichts Günstigeres auf dieser Seite, und die Alternativen finden Sie im gesamten Katalog, mit Preisen.

Die Spezifikationen, wie NVIDIA sie veröffentlicht

Raytracing-Kerne der zweiten Generation, Tensor-Kerne der dritten Generation, durchgehend PCIe Gen 4. Zahlen aus NVIDIAs eigenen GeForce-Vergleichsseiten, zitiert im Quelltext dieser Seite.

RTX 3090

Architecture

Ampere

Card memory

24 GB GDDR6X

CUDA cores

10,496

Memory bandwidth

936 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3080 Ti

Architecture

Ampere

Card memory

12 GB GDDR6X

CUDA cores

10,240

Memory bandwidth

912 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3080

Architecture

Ampere

Card memory

10 GB GDDR6X

CUDA cores

8,704

Memory bandwidth

760 GB/s

Board power

320 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3070 Ti

Architecture

Ampere

Card memory

8 GB GDDR6X

CUDA cores

6,144

Memory bandwidth

608 GB/s

Board power

290 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3070

Architecture

Ampere

Card memory

8 GB GDDR6

CUDA cores

5,888

Memory bandwidth

448 GB/s

Board power

220 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

Worin sie gut sind und worin nicht

Diese Karten sind sechs Jahre alt, und wir haben sie nicht ausgemustert, weil sie für einen großen Teil echter Arbeit weiterhin der richtige Kauf sind statt des Kompromisses.

Gut für: günstige Kapazität

Die RTX 3090 trägt dieselben 24 GB wie die zwei Generationen neuere RTX 4090 D, für jeden Monat weniger Geld. Wenn Sie Kapazität kaufen und die Wanduhr-Geschwindigkeit nicht die bindende Einschränkung ist, ist die ältere Karte schlicht der bessere Kauf.

Gut für: Gameserver und Stapelverarbeitung

Consumer-Silizium ist das, wogegen Consumer-Software geschrieben und getestet wird. Gameserver, Stapel-Rendering, Hobby-Feintuning, Inferenz, die Sie erneut ausführen können — alles, wo ein falsches Bit ein neuer Versuch ist statt einer Katastrophe — läuft hier für einen Bruchteil des Preises professioneller Ware.

Schlecht für: moderne Video-Pipelines

Ein Encoder und ein Decoder pro Karte und keine AV1-Kodierung auf einer der fünf — AV1-Encode kommt mit der RTX-40-Serie. Wenn Ihre Pipeline AV1 ist, kann diese Generation es nicht in Hardware, und die Antwort ist stattdessen eine RTX 4090 D oder eine L40S.

Schlecht für: lange unbeaufsichtigte Läufe

Kein fehlerkorrigierender Speicher auf einer von ihnen und kein zertifizierter professioneller Treiber. Für einen Lauf, der in Wochen gemessen wird ohne Checkpointing, oder für Software, die nur für professionelle Karten lizenziert ist, nehmen Sie stattdessen eine Karte aus dem Workstation-Regal.

In welche Maschine sie kommen und welchen Link sie dort bekommen

Jede RTX-30-Karte ist ein PCIe-Gen-4-Teil. Drei der vier Plattformen, die sie aufnehmen, sind Gen 3, und eine ist Gen 4.

Intel Xeon E5-2600 v1/v2

RTX 3090, RTX 3080, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon E5-2600 v3/v4

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon Silver / Gold

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

AMD EPYC

RTX 3080

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

Für diese Generation entscheidet der Slot selten etwas: Eine Karte, die ihre eigene Szene oder ihre eigenen Gewichte hält, berührt den Bus nach dem Laden kaum, und das sind keine Karten, auf die jemand riesige Trainings-Batches streamt. Es steht hier, weil es wahr ist und weil wir es für jede Karte veröffentlichen, nicht weil es Ihre Meinung ändern sollte.

Was tatsächlich hineinpasst: die 24-GB-Karte an der Spitze der Leiter

Weights only, rounded up. Fits means the card’s 24 GB holds the weights 1.5× over — room for the KV cache, the activations and the runtime, and the only verdict the LLM sizing page recommends a card on. Tight clears 1.25× only: the model loads, and a long context or a second user runs the card out.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB — fits8 GB — fits5 GB — fits
13-14 billion parameters28 GB — does not fit14 GB — fits8 GB — fits
30-34 billion parameters68 GB — does not fit34 GB — does not fit19 GB — tight
70 billion parameters140 GB — does not fit70 GB — does not fit38 GB — does not fit

Lesen Sie diese Tabelle für jede Stufe der Leiter eine Sprosse tiefer. Die 3080 Ti fasst zwölf Gigabyte, die 3080 zehn, die 3070 Ti und 3070 je acht — ein Modell mit sieben bis acht Milliarden Parametern bei acht Bit Präzision ist also ungefähr dort, wo das untere Ende dieser Seite landet, und alles Größere will die 3090 oder ein ganz anderes Regal.

Diese Tabelle beantwortet „was passt in diese Karte“. Die Frage in die andere Richtung — wie viel Speicher ein Modell braucht und welche Karte das schafft — ist eine eigene Seite.

Was sie kosten, mit den Maschinen, in die sie kommen

Die Karte ist eine Zeile auf der Rechnung und die Maschine eine andere. Beide Hälften unten stammen aus einer einzigen Ablesung des Bestellkatalogs, sodass der Preis und die Spezifikation daneben immer zueinander gehören.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
CardThe machine it goes inThe cardComplete, per month
RTX 3070Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$139$209.93
Configure this build →
RTX 3070Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$139$212.47
Configure this build →
RTX 3070 TiIntel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$149$222.47
Configure this build →
RTX 3070Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$139$222.67
Configure this build →
RTX 3080Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$159$229.93
Configure this build →
RTX 3080Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$159$232.47
Configure this build →
RTX 3070 TiIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$149$232.67
Configure this build →
RTX 3080Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$159$242.67
Configure this build →
RTX 3080 TiIntel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$199$272.47
Configure this build →
RTX 3080 TiIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$199$282.67
Configure this build →
RTX 3090Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$239$309.93
Configure this build →
RTX 3090Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$239$312.47
Configure this build →
RTX 3090Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$239$322.67
Configure this build →
RTX 3080AMD EPYC
AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0
$159$376.59
Configure this build →

Bandbreite ist in beide Richtungen ungedrosselt ohne Egress-Gebühr, eine IPv4-Adresse ist enthalten, es gibt keinen Vertrag und ein Monat ist die Standardlaufzeit. Für jede andere Karte, die wir einbauen, auf dieselbe Weise bepreist, lesen Sie den gesamten Katalog, mit Preisen. Für Maschinen, die heute gerackt und bereit sind, /instant. Warum wir Hardware vermieten, die alle anderen ausgemustert haben, /value.

Fragen, die Leute zu dieser Generation tatsächlich stellen

Ist Ihre RTX 3080 die 10-GB-Karte oder die 12-GB-Karte?

Die 10 GB-Karte, mit 8.704 CUDA-Kernen — das ursprüngliche Launch-Modell. Die 12 GB-Revision hat 8.960 Kerne, und wir bauen sie nicht ein. Das zählt mehr, als die zwei Gigabyte vermuten lassen, denn ein Modell mit dreizehn Milliarden Parametern bei acht Bit Präzision braucht etwa vierzehn Gigabyte und schafft keine von beiden, während ein kleineres Modell bequem in beide passt.

Warum überhaupt eine Karte von 2020 mieten?

Weil die meiste GPU-Arbeit nicht das Training eines Frontier-Modells ist. Es ist das Ausliefern von etwas, das bereits passt, Video kodieren, Frames rendern oder einen Gameserver betreiben, und für all das ist die richtige Karte oft zwei Generationen zurück für einen Bruchteil des Geldes. Die RTX 3090 fasst dieselben vierundzwanzig Gigabyte wie eine zwei Generationen neuere Karte. Das ist das ganze Argument, und /value macht die längere Version davon.

Kann ich zwei davon in eine Maschine stecken?

Das ist ein Build, den wir anbieten, statt eines Kästchens, das Sie ankreuzen, denn die Anzahl hängt vom Gehäuse, der physischen Breite der Karte und dem Leistungsbudget ab. Fragen Sie, und die Antwort nennt Gehäuse, Anzahl und Lieferzeit. Beachten Sie, dass zwei Karten zwei getrennte Speicherpools sind: Ein Modell, das nicht in eine 3090 passt, passt auch nicht in zwei, ohne bewusst über sie aufgeteilt zu werden.

Wird die Karte mit jemand anderem geteilt?

Nein. Ein Mieter pro physischer Maschine, und die Karte wird direkt an Ihr eigenes Betriebssystem durchgereicht — kein Hypervisor, keine Partition, kein Time-Slicing. Sie installieren und pinnen Ihren eigenen Treiber und CUDA-Release, und nichts aktualisiert sich unter Ihnen.

Wie schnell kann ich eine haben?

Das hängt davon ab, ob die Karte bereits eingebaut ist, bereits in unserem Regal liegt oder erst beschafft werden muss — und das erfahren Sie, bevor Sie zahlen. /instant listet Maschinen, die jetzt gerackt und bereit sind.