Is your RTX 3080 the 10 GB card or the 12 GB card?

The 10 GB card, with 8,704 CUDA cores -- the original launch part. The 12 GB revision has 8,960 cores and Primcast does not fit it. This matters more than the two gigabytes suggest: a thirteen-billion-parameter model at eight-bit precision needs about fourteen gigabytes and clears neither, while a smaller model clears both comfortably.

Why rent a 2020 graphics card at all?

Because most GPU work is not training a frontier model. It is serving something that already fits, encoding video, rendering frames or running a game server, and for all of those the right card is often two generations back at a fraction of the money. The RTX 3090 holds the same twenty-four gigabytes as a card two generations newer.

Can I put two RTX 30 cards in one machine?

It is a build quoted rather than a checkout option, because the count depends on the chassis, the physical width of the card and the power budget. Note that two cards are two separate memory pools: a model that does not fit in one RTX 3090 does not fit in two without being split across them deliberately.

Is the graphics card shared with anyone else?

No. One tenant per physical machine, and the card is passed straight through to your own operating system -- no hypervisor, no partition, no time-slicing. You install and pin your own driver and CUDA release, and nothing upgrades underneath you.

How soon can I have an RTX 30 series server?

It depends on whether the card is already fitted, already on the shelf, or has to be bought in, and you are told which before you pay rather than after. Machines racked and ready right now are listed at https://primcast.com/instant.

RTX 3090 · 3080 Ti · 3080 · 3070 Ti · 3070

RTX 30-Serie – fünf Karten, 8 GB bis 24 GB

Ampere-Prozessoren für Endverbraucher aus dem Jahr 2020 sind immer noch im Einsatz und werden weiterhin vermietet, denn nichts hat ihre wahre Stärke ersetzt: die höchste Rechenleistung pro Kilogramm im gesamten Sortiment. Die einzige Frage, die einer ausführlichen Beschreibung bedarf, ist, welches der fünf Modelle das richtige ist, und die ehrliche Antwort hängt meist von einer einzigen Zahl ab – dem benötigten Speichervolumen.

8, 10, 12 und 24 GB Kein ECC Ein Encoder, kein AV1

Was sie kosten, mit der Maschine

Welche der fünf

Beginnen Sie mit der günstigsten Karte. Lesen Sie so lange, bis die Spalte „Speicher“ die benötigten Karten enthält, und hören Sie dann auf – die darüber liegenden Karten sind zwar für dieselbe Aufgabe schneller, aber nicht für eine andere geeignet.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
Card	Card memory	The card	Cheapest complete machine
RTX 3070	8 GB GDDR6	$139	$209.93
RTX 3070 Ti	8 GB GDDR6X	$149	$222.47
RTX 3080	10 GB GDDR6X	$159	$229.93
RTX 3080 Ti	12 GB GDDR6X	$199	$272.47
RTX 3090	24 GB GDDR6X	$239	$309.93

Die Falle in der Mitte dieses Tisches

Unsere RTX 3080 ist die ursprüngliche 10-GB -Karte mit 8.704 CUDA-Kernen. NVIDIA brachte später eine 12-GB-Version mit 8.960 CUDA-Kernen heraus, und viele andere Angebote nennen die 12-GB-Variante neben der günstigeren Karte. Zehn Gigabyte sind nicht zwölf: Es ist der Unterschied zwischen der Speicherung eines Modells mit dreizehn Milliarden Parametern in 8-Bit-Genauigkeit und der Speicherung ohne diese Genauigkeit. Wenn Sie die Größe anhand einer anderen Angabe berechnen, orientieren Sie sich an unseren Werten.

Ein weiterer wichtiger Punkt ist der Sprung von der 3080 Ti zur 3090. Das ist der größte Speichersprung – von zwölf auf vierundzwanzig Gigabyte – und sie ist die einzige der fünf Karten, die über 24 GB Speicher verfügt. Falls Sie diese Speicherkapazität benötigen, ist keine günstigere Alternative auf dieser Seite geeignet. Die Alternativen finden Sie im gesamten Katalog zu den angegebenen Preisen .

Die Spezifikationen, wie sie von NVIDIA veröffentlicht werden

Raytracing-Kerne der zweiten Generation, Tensor-Kerne der dritten Generation, durchgehend PCIe Gen 4. Die Angaben stammen von NVIDIAs eigenen GeForce-Vergleichsseiten und sind in der Quelle dieser Seite angegeben.

RTX 3090

Architecture

Ampere

Card memory

24 GB GDDR6X

CUDA cores

10,496

Memory bandwidth

936 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3080 Ti

Architecture

Ampere

Card memory

12 GB GDDR6X

CUDA cores

10,240

Memory bandwidth

912 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3080

Architecture

Ampere

Card memory

10 GB GDDR6X

CUDA cores

8,704

Memory bandwidth

760 GB/s

Board power

320 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3070 Ti

Architecture

Ampere

Card memory

8 GB GDDR6X

CUDA cores

6,144

Memory bandwidth

608 GB/s

Board power

290 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3070

Architecture

Ampere

Card memory

8 GB GDDR6

CUDA cores

5,888

Memory bandwidth

448 GB/s

Board power

220 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

Was sie gut können und was sie nicht können.

Diese Karten sind sechs Jahre alt und wir haben sie nicht ausgemustert, weil sie für einen Großteil der tatsächlichen Arbeit immer noch die richtige Anschaffung und nicht der Kompromiss sind.

Gut geeignet für: günstige Kapazität

Die RTX 3090 verfügt über dieselben 24 GB wie die zwei Generationen spätere RTX 4090 D, ist aber monatlich günstiger. Wenn es Ihnen vor allem auf die Speicherkapazität ankommt und die Taktfrequenz nicht entscheidend ist, ist die ältere Karte schlichtweg die bessere Wahl.

Gut geeignet für: Spielserver und Stapelverarbeitung

Für Consumer-Chips wird Consumer-Software entwickelt und getestet. Spielserver, Stapelverarbeitung, Feinabstimmung für Hobbyprojekte, wiederholbare Inferenz – alles, wo ein Fehler nur einen Wiederholungsversuch und keine Katastrophe bedeutet – läuft hier zu einem Bruchteil des Preises professioneller Hardware.

Schlecht in: modernen Video-Pipelines

Eine Karte pro Modell verfügt über einen Encoder und einen Decoder, AV1-Codierung wird von keiner der fünf Karten unterstützt – diese Funktion ist erst mit der RTX 40-Serie verfügbar. Falls Ihre Pipeline AV1-fähig ist, kann diese Generation dies hardwareseitig nicht umsetzen. In diesem Fall empfiehlt sich eine RTX 4090 D oder eine L40S.

Ungeeignet für: lange, unbeaufsichtigte Läufe

Keine der Karten verfügt über einen Fehlerkorrekturspeicher oder einen zertifizierten professionellen Treiber. Für einen mehrwöchigen Testlauf ohne Zwischenspeicherung oder für Software, die nur für professionelle Karten lizenziert ist, verwenden Sie stattdessen eine Karte aus dem Workstation-Regal.

In welche Maschine sie gehen und welche Verbindung sie dort herstellen.

Jede RTX 30-Karte ist ein PCIe Gen 4-Bauteil. Drei der vier Plattformen, die sie unterstützen, sind Gen 3, eine ist Gen 4.

Intel Xeon E5-2600 v1/v2

RTX 3090, RTX 3080, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon E5-2600 v3/v4

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

Intel Xeon Silver / Gold

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

AMD EPYC

RTX 3080

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

Bei dieser Generation spielt der Slot kaum noch eine Rolle: Eine Karte, die ihre eigene Szene oder ihre eigenen Gewichte speichert, berührt den Bus nach dem Laden kaum noch, und es handelt sich dabei nicht um Karten, auf die riesige Trainingsdatenmengen gestreamt werden. Dies wird hier festgehalten, weil es der Wahrheit entspricht und weil wir es für jede Karte veröffentlichen, nicht weil es Ihre Meinung ändern soll.

Was tatsächlich passt: die 24-GB-Karte ganz oben in der Leiter.

Weights only, rounded up. A row counts as fitting when it leaves a fifth of the card’s 24 GB free for the KV cache, the activations and the runtime — which is head-room, not luxury.
Model	16-bit	8-bit	4-bit
7-8 billion parameters	16 GB — fits	8 GB — fits	5 GB — fits
13-14 billion parameters	28 GB — does not fit	14 GB — fits	8 GB — fits
30-34 billion parameters	68 GB — does not fit	34 GB — does not fit	19 GB — fits
70 billion parameters	140 GB — does not fit	70 GB — does not fit	38 GB — does not fit

Lesen Sie die Tabelle für jede Stufe der Speicherleiter eine Stufe nach unten. Die 3080 Ti verfügt über zwölf Gigabyte, die 3080 über zehn, die 3070 Ti und die 3070 jeweils über acht Gigabyte – ein Modell mit sieben bis acht Milliarden Parametern bei Acht-Bit-Präzision entspricht also in etwa dem unteren Bereich dieser Seite. Alles, was darüber hinausgeht, benötigt entweder die 3090 oder eine ganz andere Grafikkarte.

Was sie kosten, zusammen mit den Maschinen, in die sie eingebaut werden

Die Karte bildet eine Zeile auf der Rechnung, die Maschine eine andere. Beide Hälften stammen aus einem einzigen Durchlauf des Bestellkatalogs, daher gehören Preis und zugehörige Spezifikation immer zusammen.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
Card	The machine it goes in	The card	Complete, per month
RTX 3070	Intel Xeon E5-2600 v1/v2 Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0	$139	$209.93 Configure this build →
RTX 3070	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$139	$212.47 Configure this build →
RTX 3070 Ti	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$149	$222.47 Configure this build →
RTX 3070	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$139	$222.67 Configure this build →
RTX 3080	Intel Xeon E5-2600 v1/v2 Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0	$159	$229.93 Configure this build →
RTX 3080	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$159	$232.47 Configure this build →
RTX 3070 Ti	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$149	$232.67 Configure this build →
RTX 3080	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$159	$242.67 Configure this build →
RTX 3080 Ti	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$199	$272.47 Configure this build →
RTX 3080 Ti	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$199	$282.67 Configure this build →
RTX 3090	Intel Xeon E5-2600 v1/v2 Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0	$239	$309.93 Configure this build →
RTX 3090	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$239	$312.47 Configure this build →
RTX 3090	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$239	$322.67 Configure this build →
RTX 3080	AMD EPYC AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0	$159	$376.59 Configure this build →

Die Bandbreite ist in beide Richtungen unbegrenzt, es fallen keine Gebühren für ausgehende Verbindungen an, eine IPv4-Adresse ist inklusive, es gibt keinen Vertrag und die Standardlaufzeit beträgt einen Monat. Alle anderen von uns verbauten Karten werden zum gleichen Preis angeboten. Lesen Sie dazu unseren vollständigen Katalog . Sofort einsatzbereite Geräte finden Sie unter /instant . Warum wir weiterhin Hardware vermieten, die andere bereits im Ruhestand haben, erfahren Sie unter /value .

Fragen, die die Leute tatsächlich über diese Generation stellen

Ist Ihre RTX 3080 die 10-GB- oder die 12-GB-Karte?

Die 10-GB-Karte mit 8.704 CUDA-Kernen – das ursprüngliche Modell – ist die erste Version. Die 12-GB-Variante mit 8.960 Kernen passt nicht. Das ist wichtiger als die zwei Gigabyte vermuten lassen, denn ein Modell mit dreizehn Milliarden Parametern und acht Bit Genauigkeit benötigt etwa vierzehn Gigabyte und reicht für keine der beiden Speicherkapazitäten aus, während ein kleineres Modell problemlos beide Speicherkapazitäten ausschöpft.

Warum sollte man überhaupt eine 2020-Karte mieten?

Denn die meisten GPU-Aufgaben bestehen nicht im Training neuer Modelle. Sie dienen vielmehr der Ausführung bereits vorhandener Anwendungen wie Videocodierung, Frame-Rendering oder dem Betrieb eines Gameservers. Für all diese Anwendungen ist die passende Grafikkarte oft zwei Generationen älter und kostet nur einen Bruchteil. Die RTX 3090 verfügt über dieselben 24 Gigabyte Speicher wie eine zwei Generationen neuere Karte. Das ist der Kern der Sache, und /value liefert die ausführlichere Version davon.

Kann ich zwei davon in eine Maschine einbauen?

Es handelt sich um eine individuelle Konfiguration, die wir Ihnen anbieten, nicht um eine Standardkonfiguration, da die Anzahl der Grafikkarten vom Gehäuse, der physischen Breite der Karte und dem Stromverbrauch abhängt. Fragen Sie einfach an, und wir nennen Ihnen das Gehäuse, die Anzahl der Grafikkarten und die Lieferzeit. Beachten Sie, dass zwei Grafikkarten zwei separate Speicherpools bilden: Ein Modell, das nicht in eine 3090 passt, passt auch nicht in zwei Grafikkarten, ohne dass es gezielt auf diese aufgeteilt wird.

Wird die Karte mit anderen Personen geteilt?

Nein. Ein Mandant pro physischer Maschine, und die Karte wird direkt an Ihr eigenes Betriebssystem durchgereicht – kein Hypervisor, keine Partitionierung, kein Time-Slicing. Sie installieren und fixieren Ihren eigenen Treiber und Ihre eigene CUDA-Version, und es werden keine Aktualisierungen im Hintergrund durchgeführt.

Wie schnell kann ich eins bekommen?

Das hängt davon ab, ob die Karte bereits installiert, vorrätig oder erst bestellt werden muss – dies wird Ihnen vor der Bezahlung mitgeteilt. /instant listet die aktuell verfügbaren und einsatzbereiten Geräte auf.