Is your RTX 3080 the 10 GB card or the 12 GB card?

The 10 GB card, with 8,704 CUDA cores -- the original launch part. The 12 GB revision has 8,960 cores and Primcast does not fit it. This matters more than the two gigabytes suggest: a thirteen-billion-parameter model at eight-bit precision needs about fourteen gigabytes and clears neither, while a smaller model clears both comfortably.

Why rent a 2020 graphics card at all?

Because most GPU work is not training a frontier model. It is serving something that already fits, encoding video, rendering frames or running a game server, and for all of those the right card is often two generations back at a fraction of the money. The RTX 3090 holds the same twenty-four gigabytes as a card two generations newer.

Can I put two RTX 30 cards in one machine?

It is a build quoted rather than a checkout option, because the count depends on the chassis, the physical width of the card and the power budget. Note that two cards are two separate memory pools: a model that does not fit in one RTX 3090 does not fit in two without being split across them deliberately.

Is the graphics card shared with anyone else?

No. One tenant per physical machine, and the card is passed straight through to your own operating system -- no hypervisor, no partition, no time-slicing. You install and pin your own driver and CUDA release, and nothing upgrades underneath you.

How soon can I have an RTX 30 series server?

It depends on whether the card is already fitted, already on the shelf, or has to be bought in, and you are told which before you pay rather than after. Machines racked and ready right now are listed at https://primcast.com/instant.

RTX 3090 · 3080 Ti · 3080 · 3070 Ti · 3070

Seria RTX 30 — pięć kart, od 8 GB do 24 GB

Konsumencki krzem Ampere z 2020 roku, wciąż w szafie i wciąż wynajmowany, bo nic nie zastąpiło tego, w czym jest naprawdę dobry: największej arytmetyki w przeliczeniu na funt w katalogu. Jedyne pytanie warte strony brzmi: który z tych pięciu, a szczera odpowiedź zazwyczaj sprowadza się do jednej liczby — ile pamięci potrzebujesz.

8, 10, 12 i 24 GB Brak ECC Jeden enkoder, brak AV1

Ile kosztują z maszyną

Który z pięciu

Najpierw najtańsze. Czytaj w dół, aż kolumna pamięci będzie zawierała to, czego potrzebujesz, a następnie zatrzymaj się — karty powyżej niej są szybsze w tym samym zadaniu i nie są w stanie wykonać innego.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
Card	Card memory	The card	Cheapest complete machine
RTX 3070	8 GB GDDR6	$139	$209.93
RTX 3070 Ti	8 GB GDDR6X	$149	$222.47
RTX 3080	10 GB GDDR6X	$159	$229.93
RTX 3080 Ti	12 GB GDDR6X	$199	$272.47
RTX 3090	24 GB GDDR6X	$239	$309.93

Pułapka na środku tego stołu

Nasza karta RTX 3080 to oryginalna karta 10 GB , z 8704 rdzeniami CUDA. NVIDIA później wprowadziła wersję 12 GB z 8960 rdzeniami, a wiele ofert w innych miejscach podaje wartość 12 GB obok tańszej karty. Dziesięć gigabajtów to nie dwanaście: to różnica między utrzymaniem modelu z trzynastoma miliardami parametrów i ośmiobitową precyzją a jego brakiem. Jeśli dobierasz rozmiar do wartości, którą przeczytałeś gdzie indziej, dobieraj go do naszej.

Kolejną kartą, na którą warto zwrócić uwagę, jest przejście z modelu 3080 Ti na 3090. To największy skok w pojemności – z dwunastu gigabajtów do dwudziestu czterech – i jako jedyna z pięciu kart oferuje ponad 24 GB. Jeśli potrzebujesz czegoś takiego, nic tańszego na tej stronie Ci nie wystarczy, a alternatywy w całym katalogu są dostępne w cenach …

Specyfikacje publikowane przez firmę NVIDIA

Rdzenie ray tracingu drugiej generacji, rdzenie tensorowe trzeciej generacji, PCIe Gen 4 w całym tekście. Dane pochodzą ze stron porównawczych GeForce firmy NVIDIA, cytowanych w źródle tej strony.

RTX 3090

Architecture

Ampere

Card memory

24 GB GDDR6X

CUDA cores

10,496

Memory bandwidth

936 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3080 Ti

Architecture

Ampere

Card memory

12 GB GDDR6X

CUDA cores

10,240

Memory bandwidth

912 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3080

Architecture

Ampere

Card memory

10 GB GDDR6X

CUDA cores

8,704

Memory bandwidth

760 GB/s

Board power

320 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3070 Ti

Architecture

Ampere

Card memory

8 GB GDDR6X

CUDA cores

6,144

Memory bandwidth

608 GB/s

Board power

290 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3070

Architecture

Ampere

Card memory

8 GB GDDR6

CUDA cores

5,888

Memory bandwidth

448 GB/s

Board power

220 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

W czym są dobrzy, a w czym nie

Karty te mają sześć lat i nie wycofaliśmy ich, ponieważ w przypadku dużej części rzeczywistej pracy nadal stanowią trafny zakup, a nie kompromis.

Dobry w: taniej pojemności

Karta RTX 3090 oferuje te same 24 GB, co RTX 4090 D, dwie generacje później, za mniejsze pieniądze miesięcznie. Jeśli zależy Ci na pojemności, a prędkość zegara nie jest Twoim głównym ograniczeniem, starsza karta jest po prostu lepszym wyborem.

Dobry w: serwerach gier i pracy wsadowej

Konsumenckie układy scalone to komponenty, na których tworzone i testowane jest oprogramowanie konsumenckie. Serwery gier, renderowanie wsadowe, dostrajanie hobbystyczne, wnioskowanie z możliwością ponownego uruchomienia – wszystko, gdzie błędny bit oznacza ponowną próbę, a nie katastrofę – działa u nas za ułamek ceny profesjonalnej.

Słaby w: nowoczesnych kanałach wideo

Jeden enkoder i jeden dekoder na kartę, bez kodowania AV1 na żadnej z pięciu kart — kodowanie AV1 jest dostępne w serii RTX 40. Jeśli Twój potok to AV1, ta generacja nie obsługuje tego sprzętowo i rozwiązaniem jest RTX 4090 D lub L40S.

Słaby w: długich biegach bez nadzoru

Żadne z nich nie ma pamięci z korekcją błędów i nie ma certyfikowanego profesjonalnego sterownika. W przypadku pracy mierzonej w tygodniach bez punktów kontrolnych lub oprogramowania z licencją wyłącznie na karty profesjonalne, zamiast tego należy wybrać kartę z półki stacji roboczej.

Do jakiej maszyny wejdą i jakim łączem się tam dostaną

Każda karta RTX 30 jest częścią PCIe Gen 4. Trzy z czterech platform, które je obsługują, to Gen 3, a jedna to Gen 4.

Intel Xeon E5-2600 v1/v2

RTX 3090, RTX 3080, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon E5-2600 v3/v4

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

Intel Xeon Silver / Gold

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

AMD EPYC

RTX 3080

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

W tym pokoleniu slot rzadko decyduje o czymkolwiek: karta, która ma swoją własną scenę lub ciężar, ledwo dotyka magistrali po załadowaniu, a to nie są karty, do których ktokolwiek przesyła strumieniowo ogromne partie treningowe. Jest to tutaj rejestrowane, ponieważ jest prawdziwe i ponieważ publikujemy je dla każdej karty, a nie dlatego, że powinno zmienić twoje zdanie.

Co tak naprawdę się zmieściło: karta 24 GB na szczycie drabiny

Weights only, rounded up. A row counts as fitting when it leaves a fifth of the card’s 24 GB free for the KV cache, the activations and the runtime — which is head-room, not luxury.
Model	16-bit	8-bit	4-bit
7-8 billion parameters	16 GB — fits	8 GB — fits	5 GB — fits
13-14 billion parameters	28 GB — does not fit	14 GB — fits	8 GB — fits
30-34 billion parameters	68 GB — does not fit	34 GB — does not fit	19 GB — fits
70 billion parameters	140 GB — does not fit	70 GB — does not fit	38 GB — does not fit

Przeczytaj tę tabelę szczebel niżej dla każdego stopnia w dół drabiny. Model 3080 Ti mieści dwanaście gigabajtów, 3080 dziesięć, 3070 Ti i 3070 osiem – więc model z siedmioma do ośmiu miliardami parametrów i ośmiobitową precyzją ląduje mniej więcej na dole tej strony, a wszystko, co większe, wymaga 3090 lub zupełnie innej półki.

Ile kosztują i jakie maszyny wchodzą w ich skład

Karta to jedna linia na fakturze, a maszyna to druga. Obie połówki poniżej pochodzą z jednego odczytu katalogu zamówień, więc cena i specyfikacja obok zawsze są ze sobą powiązane.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
Card	The machine it goes in	The card	Complete, per month
RTX 3070	Intel Xeon E5-2600 v1/v2 Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0	$139	$209.93 Configure this build →
RTX 3070	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$139	$212.47 Configure this build →
RTX 3070 Ti	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$149	$222.47 Configure this build →
RTX 3070	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$139	$222.67 Configure this build →
RTX 3080	Intel Xeon E5-2600 v1/v2 Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0	$159	$229.93 Configure this build →
RTX 3080	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$159	$232.47 Configure this build →
RTX 3070 Ti	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$149	$232.67 Configure this build →
RTX 3080	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$159	$242.67 Configure this build →
RTX 3080 Ti	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$199	$272.47 Configure this build →
RTX 3080 Ti	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$199	$282.67 Configure this build →
RTX 3090	Intel Xeon E5-2600 v1/v2 Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0	$239	$309.93 Configure this build →
RTX 3090	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$239	$312.47 Configure this build →
RTX 3090	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$239	$322.67 Configure this build →
RTX 3080	AMD EPYC AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0	$159	$376.59 Configure this build →

Przepustowość jest nielimitowana w obu kierunkach, bez opłat za wyjście, w cenie jest jeden adres IPv4, nie ma umowy, a domyślny okres wynosi jeden miesiąc. Za każdą inną kartę, którą montujemy, cena jest taka sama, przeczytaj cały katalog, cena . Dla maszyn gotowych do użycia już dziś, /natychmiast . Dlaczego nadal wynajmujemy sprzęt, skoro wszyscy inni są już na emeryturze, /wartość .

Pytania, które ludzie faktycznie zadają na temat tego pokolenia

Czy Twoja karta RTX 3080 ma pojemność 10 GB czy 12 GB?

Karta 10 GB z 8704 rdzeniami CUDA — oryginalna wersja startowa. Wersja 12 GB ma 8960 rdzeni i nie jest przez nas montowana. Ma to większe znaczenie niż sugerują dwa gigabajty, ponieważ model z trzynastoma miliardami parametrów i ośmiobitową precyzją potrzebuje około czternastu gigabajtów i nie obsługuje żadnego z nich, podczas gdy mniejszy model bez problemu obsługuje oba.

Po co w ogóle wypożyczać kartę na rok 2020?

Ponieważ większość pracy z GPU nie polega na trenowaniu modelu pionierskiego. Chodzi o obsługę czegoś, co już pasuje, na przykład kodowanie wideo, renderowanie klatek lub uruchamianie serwera gier, a do wszystkich tych zadań odpowiednia karta często jest o dwie generacje starsza i kosztuje ułamek tej ceny. RTX 3090 ma te same dwadzieścia cztery gigabajty, co karta o dwie generacje nowsza. To jest cały argument, a /value stanowi jego dłuższą wersję.

Czy mogę umieścić dwa z nich w jednym urządzeniu?

To wycena, a nie pole, które zaznaczasz, ponieważ liczba zależy od obudowy, fizycznej szerokości karty i budżetu mocy. Zapytaj, a otrzymasz odpowiedź, która będzie zawierać nazwę obudowy, liczbę i czas realizacji. Pamiętaj, że dwie karty to dwa oddzielne pule pamięci: model, który nie mieści się w jednym 3090, nie mieści się w dwóch bez celowego podziału.

Czy karta jest udostępniana komuś innemu?

Nie. Jeden użytkownik na maszynę fizyczną, a karta jest przekazywana bezpośrednio do Twojego systemu operacyjnego — bez hiperwizora, partycji i ograniczeń czasowych. Instalujesz i przypinasz własne sterowniki i wersję CUDA, a nic nie aktualizuje się automatycznie.

Jak szybko mogę go otrzymać?

Zależy to od tego, czy karta jest już zamontowana, czy znajduje się na naszej półce, czy trzeba ją kupić — o czym dowiesz się przed dokonaniem płatności. /instant wyświetla listę maszyn ustawionych w stojakach i gotowych do użycia od zaraz.