GPU-Server · RTX-30-Serie
RTX 3080 Dedicated Server plus vier weitere RTX-30-GPUs, 8 GB bis 24 GB
Ein RTX 3080 Dedicated Server von Primcast ist eine vollständige physische Maschine mit einer NVIDIA GeForce RTX 3080, die Ihrem eigenen Betriebssystem übergeben wird: 10 GB GDDR6X und 8,704 CUDA-Kerne, ohne virtuelle Maschine und ohne Nachbarn. Wenn Ihre Arbeit mehr Speicher benötigt, nehmen unsere Server auch eine RTX 3080 Ti oder eine 24 GB RTX 3090 auf. Sie zahlen monatlich, ohne Vertragsbindung.
- RTX 30708 GB GDDR65,888
- RTX 3070 Ti8 GB GDDR6X6,144
- RTX 308010 GB GDDR6X8,704
- RTX 3080 Ti12 GB GDDR6X10,240
- RTX 309024 GB GDDR6X10,496
Alle fünf: PCIe Gen 4, ein Video-Encoder, kein ECC-Speicher.
01Wählen Sie eine
Welcher RTX-30-Serie-Server zu Ihrer Aufgabe passt
Beginnen Sie oben in dieser Tabelle und stoppen Sie bei der ersten GPU mit genügend Speicher für das, was Sie laden. Die GPUs weiter unten erledigen dieselbe Arbeit schneller. Das Einzige, was sie hinzufügen, ist Platz für ein größeres Modell oder eine größere Szene.
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| RTX 3070 | 8 GB GDDR6 | $139 | $209.93 |
| RTX 3070 Ti | 8 GB GDDR6X | $149 | $222.47 |
| RTX 3080 | 10 GB GDDR6X | $159 | $229.93 |
| RTX 3080 Ti | 12 GB GDDR6X | $199 | $272.47 |
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
Unsere RTX 3080 ist das 10-GB-Modell
NVIDIA hat zwei RTX 3080 gebaut. Unsere ist das Original, mit 10 GB GDDR6X und 8,704 CUDA-Kernen. Die spätere Version hat 12 GB und 8.960 Kerne, und viele Angebote nennen 12 GB für die günstigere GPU. Planen Sie Ihre Arbeit mit 10 GB. Ein Modell mit 13 Milliarden Parametern benötigt bei 8-Bit etwa 14 GB, passt also in keine der beiden Versionen.
Die RTX 3090 ist der große Schritt
Der Wechsel von der RTX 3080 Ti zur RTX 3090 verdoppelt den Speicher, von 12 GB auf 24 GB GDDR6X. Sie ist die einzige RTX-30-GPU mit 24 GB. Wenn Ihr Modell oder Ihre Szene so viel benötigt, läuft es auf nichts Günstigerem hier. Für mehr als 24 GB sehen Sie alle GPUs, die wir einbauen, mit Preisen.
02Wofür er gedacht ist
Was Leute auf einem RTX 3080 GPU-Server ausführen
Diese GPUs kamen 2020 heraus und wir vermieten sie immer noch, weil viele echte Arbeiten nichts Neueres benötigen. Für diese vier Aufgaben erledigt eine ältere GPU die Arbeit für weniger Geld pro Monat.
01KI
Ein Modell ausführen, das bereits passt
Ein 7B-Modell bereitstellen, Prompts testen oder etwas Kleines feinabstimmen. Ein 7-8B-Modell lädt mit 4-Bit auf jeder der fünf, und mit 8-Bit auf der RTX 3080 mit wenig Spielraum. Die RTX 3090 fasst ein 13B-Modell mit 8-Bit und lässt noch Platz für Kontext.
02Spiele
Game-Server, die eine echte GPU brauchen
Spiele werden auf GeForce-GPUs wie diesen geschrieben und getestet. Wenn Ihr Game-Server rendert oder streamt, führt die RTX-30-Serie dieselben GeForce-Treiber aus, die Ihre Spieler zu Hause haben.
03Rendering
Batch-Renderings, die Sie neu starten können
Blender, Unreal oder Ihre eigene Pipeline, Bild für Bild. Wenn ein Auftrag fehlschlägt, führen Sie ihn erneut aus, daher müssen Sie nicht für fehlerkorrigierenden Speicher zahlen. Geben Sie das Geld stattdessen für CUDA-Kerne aus.
04Video
H.264- und HEVC-Kodierung
Jede GPU hat einen Hardware-Encoder und einen Decoder für H.264 und HEVC. Das deckt Live-Kanäle oder eine Warteschlange von Uploads ab, ohne den Prozessor zu belasten. Für AV1 oder viele Kanäle auf einer Maschine sehen Sie Live-Video-Transcoding-Server.
03Bevor Sie bestellen
Zwei Dinge, die die RTX-30-Serie nicht kann
Beides steht in NVIDIAs eigener Spezifikation für diese GPUs. Prüfen Sie es gegen Ihre Aufgabe, bevor Sie bestellen.
Keine AV1-Kodierung
Keine der fünf kann AV1 in Hardware kodieren. NVIDIA hat das mit der RTX-40-Serie hinzugefügt. Wenn Ihre Pipeline AV1 sendet, wählen Sie einen RTX 4090 D Server oder einen L40S Server, der drei AV1-Encoder hat.
Kein ECC-Speicher, kein professioneller Treiber
Ein gekipptes Bit bleibt unbemerkt. Das ist in Ordnung für Arbeiten, die Sie prüfen oder wiederholen können. Für einen Trainingslauf, der wochenlang ohne Checkpoints dauert, oder für Software, die nur auf professionellen GPUs lizenziert ist, wählen Sie eine aus dem Workstation-Bereich auf der vollständigen GPU-Liste.
04Spezifikation
RTX 3090, 3080 und 3070 Spezifikationen
Ampere-Architektur, RT-Kerne der zweiten Generation, Tensor-Kerne der dritten Generation und PCIe Gen 4 auf allen fünf. Die Zahlen stammen von NVIDIA, aus den GeForce-Vergleichsseiten.
RTX 3090
Ampere
24 GB GDDR6X
10,496
936 GB/s
350 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3080 Ti
Ampere
12 GB GDDR6X
10,240
912 GB/s
350 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3080
Ampere
10 GB GDDR6X
8,704
760 GB/s
320 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3070 Ti
Ampere
8 GB GDDR6X
6,144
608 GB/s
290 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3070
Ampere
8 GB GDDR6
5,888
448 GB/s
220 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
05Modellgrößen
Passt Ihr Modell auf eine RTX 3080 oder RTX 3090?
Auf den 10 GB der RTX 3080 passt ein 7-8B-Modell mit 4-Bit und ist mit 8-Bit knapp. Auf den 24 GB der RTX 3090 passt ein 13B-Modell mit 8-Bit und ein 30B-Modell lädt mit 4-Bit, mit wenig verbleibendem Platz für Kontext.
RTX 3080, 10 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — does not fit | 8 GB — tight | 5 GB — fits |
| 13-14 billion parameters | 28 GB — does not fit | 14 GB — does not fit | 8 GB — tight |
| 30-34 billion parameters | 68 GB — does not fit | 34 GB — does not fit | 19 GB — does not fit |
| 70 billion parameters | 140 GB — does not fit | 70 GB — does not fit | 38 GB — does not fit |
RTX 3090, 24 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — fits | 8 GB — fits | 5 GB — fits |
| 13-14 billion parameters | 28 GB — does not fit | 14 GB — fits | 8 GB — fits |
| 30-34 billion parameters | 68 GB — does not fit | 34 GB — does not fit | 19 GB — tight |
| 70 billion parameters | 140 GB — does not fit | 70 GB — does not fit | 38 GB — does not fit |
Die RTX 3080 Ti liegt mit 12 GB zwischen den beiden. Die RTX 3070 und 3070 Ti haben 8 GB, was ein 7-8B-Modell mit 4-Bit fasst und mit 8-Bit nicht. Gehen Sie stattdessen vom Modell aus? LLM-Server-Dimensionierung berechnet, wie viel GPU-Speicher ein Modell benötigt und welche GPU ihn bereitstellt.
06Der Server darum herum
In welchen Server jede RTX-30-GPU kommt
Jede RTX-30-GPU ist ein PCIe-Gen-4-Teil. Ein Gen-4-Steckplatz gibt ihr die volle Verbindung. Ein Gen-3-Steckplatz gibt ihr die Hälfte, und die Liste unten zeigt, welcher Server welchen hat.
Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2600 v3/v4
Intel Xeon Silver / Gold
AMD EPYC
Für die meisten RTX-30-Arbeiten spielt der Steckplatz kaum eine Rolle. Sobald ein Modell oder eine Szene auf der GPU geladen ist, fließt sehr wenig über den Steckplatz. Er ist wichtig für Training, das bei jedem Schritt neue Batches vom Server streamt.
07Vergleichen
RTX 3090 vs. RTX 4090 D und RTX 5090
Die RTX 3090 hat dieselben 24 GB wie die RTX 4090 D, eine Generation später, und die RTX 5090 zwei Generationen weiter hat 32 GB. Diese Tabelle zeigt, was die neueren GPUs kosten, jeweils mit der günstigsten vollständigen Maschine, in die sie passen.
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
| RTX 4090D | 24 GB GDDR6X | $299 | $372.47 |
| RTX 5090 | 32 GB GDDR7 | $399 | $472.47 |
Wählen Sie die neuere GPU, wenn Sie Geschwindigkeit pro Auftrag oder AV1-Kodierung benötigen. Wenn Sie für Speicher zahlen, erledigt die RTX 3090 die Aufgabe in der Regel. Warum wir noch ältere Hardware vermieten erklärt die Überlegung.
08Preise
RTX 3080 Dedicated Server Preise und die anderen vier
Die GPU ist eine Zeile auf Ihrer Rechnung und der Server eine andere. Jede Zeile zeigt die vollständige Maschine, was die GPU hinzufügt und die monatliche Summe, gelesen aus demselben Katalog, den die Kasse verwendet.
| Card | The machine it goes in | The card | Complete, per month |
|---|---|---|---|
| RTX 3070 | Intel Xeon E5-2600 v1/v2 | $139 | $209.93 Configure this build → |
| RTX 3070 | Intel Xeon E5-2600 v3/v4 | $139 | $212.47 Configure this build → |
| RTX 3070 Ti | Intel Xeon E5-2600 v3/v4 | $149 | $222.47 Configure this build → |
| RTX 3070 | Intel Xeon Silver / Gold | $139 | $222.67 Configure this build → |
| RTX 3080 | Intel Xeon E5-2600 v1/v2 | $159 | $229.93 Configure this build → |
| RTX 3080 | Intel Xeon E5-2600 v3/v4 | $159 | $232.47 Configure this build → |
| RTX 3070 Ti | Intel Xeon Silver / Gold | $149 | $232.67 Configure this build → |
| RTX 3080 | Intel Xeon Silver / Gold | $159 | $242.67 Configure this build → |
| RTX 3080 Ti | Intel Xeon E5-2600 v3/v4 | $199 | $272.47 Configure this build → |
| RTX 3080 Ti | Intel Xeon Silver / Gold | $199 | $282.67 Configure this build → |
| RTX 3090 | Intel Xeon E5-2600 v1/v2 | $239 | $309.93 Configure this build → |
| RTX 3090 | Intel Xeon E5-2600 v3/v4 | $239 | $312.47 Configure this build → |
| RTX 3090 | Intel Xeon Silver / Gold | $239 | $322.67 Configure this build → |
| RTX 3080 | AMD EPYC | $159 | $376.59 Configure this build → |
- PortUnbegrenzter Datenverkehr in beide Richtungen, auf einem Port, der allein Ihre Maschine bedient.
- AdresseEine IPv4-Adresse inklusive.
- LaufzeitStandardmäßig monatlich, ohne Vertragsbindung.
- HilfeUnser Chat-Assistent antwortet in Sekunden und kann Ihr Konto und Ihren Server prüfen. Fragen Sie jederzeit nach einer Person.
Brauchen Sie heute eine Maschine? Sofort-Server listet, was bereits eingebaut ist. Um jede GPU zu vergleichen, die wir einbauen, sehen Sie GPU-Server, alle mit Preisen.
Marktplatz
Mieten Sie eine RTX-30-Serie-GPU von ihrem Besitzer
Besitzer listen ihre RTX-30-Serie-Maschinen auf unserem Marktplatz und legen ihren eigenen monatlichen Preis fest. Wenn ein Inserat angibt, dass es über unsere Schwesterfirma Server Room läuft, mieten Sie es auf serverroom.net.
09Fragen
Fragen zu RTX-3080-Servern, die Kunden vor der Bestellung stellen
01Ist Ihre RTX 3080 die 10-GB- oder die 12-GB-Version?
Es ist die 10-GB-Version, die ursprüngliche RTX 3080 mit 8,704 CUDA-Kernen. Die 12-GB-Version hat 8.960 Kerne, und wir verbauen sie nicht. Wenn Sie 12 GB benötigen, bietet die RTX 3080 Ti diese Kapazität.
02RTX 3080 oder RTX 3090 Server?
Wählen Sie die RTX 3080, wenn Ihr Modell oder Ihre Szene in 10 GB passt. Zwischen 10 und 12 GB nehmen Sie die RTX 3080 Ti. Wählen Sie die RTX 3090, wenn mehr als 12 GB benötigt werden: Sie hat 24 GB GDDR6X, das Maximum aller RTX-30-GPUs, und mehr CUDA-Kerne. Beide stehen in der Preistabelle oben, jeweils mit der kompletten Maschine.
04Kann ich zwei RTX-30-GPUs in einen Server einbauen?
Ja, als individuell kalkulierte Konfiguration statt als Checkout-Option, da dies vom Gehäuse, der Breite der GPU und dem Leistungsbudget abhängt. Fragen Sie im Chat, und wir nennen Ihnen das Gehäuse und die Lieferzeit. Zwei GPUs bedeuten zwei getrennte Speicherpools: Ein Modell, das nicht auf eine RTX 3090 passt, muss von Ihrer Software auf beide aufgeteilt werden.
05Wie schnell kann ich einen RTX-3080-Server bekommen?
Das hängt davon ab, wo sich die GPU befindet, und Sie erfahren es vor der Bezahlung. Eine GPU, die wir bereits vorrätig haben, wird innerhalb von vier bis vierundzwanzig Stunden eingebaut. Eine, die wir erst beschaffen müssen, dauert fünf bis zehn Werktage. Um noch heute zu starten, finden Sie unter Sofort-Server die bereits montierten Maschinen.
06Was passiert, wenn die GPU ausfällt?
Wir ersetzen sie. Die Vereinbarung gibt uns vier Stunden ab dem Zeitpunkt, an dem Sie den Ausfall telefonisch oder per Live-Chat melden; danach steht Ihnen eine Gutschrift nach einem veröffentlichten Schema zu.
07Wer hilft mir, wenn etwas schiefgeht?
Öffnen Sie den Chat auf einer beliebigen Seite. Unser Assistent antwortet in Sekunden, kann Ihr Konto und Ihren Server einsehen und verbindet Sie auf Wunsch jederzeit mit einem Mitglied unseres Teams. Sie behalten während der gesamten Zeit vollen Root-Zugriff auf die Maschine.
Holen Sie sich einen RTX-3080-Server für Ihr Projekt
Wählen Sie den Server, fügen Sie die RTX 3080 oder eine der anderen vier hinzu und sehen Sie die monatliche Summe, bevor Sie bezahlen. Kein Vertrag, und der Port ist unlimitiert.