Ampere-Consumer-Silizium aus dem Jahr 2020, immer noch gerackt und immer noch vermietet, denn nichts hat das ersetzt, worin es wirklich gut ist: die meiste Rechenleistung pro Pfund im Katalog. Die einzige Frage, die eine Seite wert ist, lautet: welche der fünf – und die ehrliche Antwort hängt meist an einer einzigen Zahl — wie viel Speicher Sie brauchen.
Besitzer listen ihre RTX-30-Maschinen auf unserem Marktplatz und nennen ihren eigenen monatlichen Preis. Eine Karte, die als über unsere Schwestergesellschaft Server Room gelistet angezeigt wird, wird auf serverroom.net statt hier vermietet.
Günstigste zuerst. Lesen Sie nach unten, bis die Speicherspalte fasst, was Sie brauchen, dann hören Sie auf — die Karten darüber sind bei derselben Aufgabe schneller, nicht zu einer anderen fähig.
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| RTX 3070 | 8 GB GDDR6 | $139 | $209.93 |
| RTX 3070 Ti | 8 GB GDDR6X | $149 | $222.47 |
| RTX 3080 | 10 GB GDDR6X | $159 | $229.93 |
| RTX 3080 Ti | 12 GB GDDR6X | $199 | $272.47 |
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
Raytracing-Kerne der zweiten Generation, Tensor-Kerne der dritten Generation, durchgehend PCIe Gen 4. Zahlen aus NVIDIAs eigenen GeForce-Vergleichsseiten, zitiert im Quelltext dieser Seite.
Ampere
24 GB GDDR6X
10,496
936 GB/s
350 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
Ampere
12 GB GDDR6X
10,240
912 GB/s
350 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
Ampere
10 GB GDDR6X
8,704
760 GB/s
320 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
Ampere
8 GB GDDR6X
6,144
608 GB/s
290 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
Ampere
8 GB GDDR6
5,888
448 GB/s
220 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
Diese Karten sind sechs Jahre alt, und wir haben sie nicht ausgemustert, denn für einen großen Teil echter Arbeit bleiben sie der richtige Kauf statt des Kompromisses.
Jede RTX-30-Karte ist ein PCIe-Gen-4-Teil. Drei der vier Plattformen, die sie aufnehmen, sind Gen 3, und eine ist Gen 4.
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — fits | 8 GB — fits | 5 GB — fits |
| 13-14 billion parameters | 28 GB — does not fit | 14 GB — fits | 8 GB — fits |
| 30-34 billion parameters | 68 GB — does not fit | 34 GB — does not fit | 19 GB — tight |
| 70 billion parameters | 140 GB — does not fit | 70 GB — does not fit | 38 GB — does not fit |
Die Karte ist eine Zeile auf der Rechnung und die Maschine eine andere. Beide Hälften unten stammen aus einer einzigen Ablesung des Bestellkatalogs, daher gehören der Preis und die Spezifikation daneben immer zusammen.
| Card | The machine it goes in | The card | Complete, per month |
|---|---|---|---|
| RTX 3070 | Intel Xeon E5-2600 v1/v2 | $139 | $209.93 Configure this build → |
| RTX 3070 | Intel Xeon E5-2600 v3/v4 | $139 | $212.47 Configure this build → |
| RTX 3070 Ti | Intel Xeon E5-2600 v3/v4 | $149 | $222.47 Configure this build → |
| RTX 3070 | Intel Xeon Silver / Gold | $139 | $222.67 Configure this build → |
| RTX 3080 | Intel Xeon E5-2600 v1/v2 | $159 | $229.93 Configure this build → |
| RTX 3080 | Intel Xeon E5-2600 v3/v4 | $159 | $232.47 Configure this build → |
| RTX 3070 Ti | Intel Xeon Silver / Gold | $149 | $232.67 Configure this build → |
| RTX 3080 | Intel Xeon Silver / Gold | $159 | $242.67 Configure this build → |
| RTX 3080 Ti | Intel Xeon E5-2600 v3/v4 | $199 | $272.47 Configure this build → |
| RTX 3080 Ti | Intel Xeon Silver / Gold | $199 | $282.67 Configure this build → |
| RTX 3090 | Intel Xeon E5-2600 v1/v2 | $239 | $309.93 Configure this build → |
| RTX 3090 | Intel Xeon E5-2600 v3/v4 | $239 | $312.47 Configure this build → |
| RTX 3090 | Intel Xeon Silver / Gold | $239 | $322.67 Configure this build → |
| RTX 3080 | AMD EPYC | $159 | $376.59 Configure this build → |