Die volle GPU, kein Stück davon
Jede GPU wird direkt an Ihr Betriebssystem durchgereicht. Kein Hypervisor, keine MIG-Partition, kein vGPU-Profil und kein Time-Slicing, damit Ihre Treiber und Frameworks die Hardware so sehen, wie sie ist.
Dedizierte KI-Server · Training, Serving, Rendering
Ein dedizierter KI-Server ist eine vollständige physische Maschine, deren GPUs direkt an Ihr eigenes Betriebssystem durchgereicht werden, sodass das Modell, das Sie trainieren oder bereitstellen, die Hardware mit niemandem teilt. Wenn eine Maschine nicht ausreicht, können Sie ihr GPUs hinzufügen oder weitere Maschinen danebenstellen. Diese Seite zeigt, was jeder Weg kostet, wie schnell die Maschinen miteinander kommunizieren können und welche unserer 5-Städte welche Plattform bereithält.
Monatlich, ohne Vertrag. Der Port jeder Maschine gehört am Switch Ihnen allein, und nichts misst, was darüber läuft.
01Was jede Maschine mitbringt
Dieselben vier Dinge auf jedem Knoten, von einer Maschine für einen Feinabstimmungsjob bis zu mehreren für einen Trainingslauf.
Jede GPU wird direkt an Ihr Betriebssystem durchgereicht. Kein Hypervisor, keine MIG-Partition, kein vGPU-Profil und kein Time-Slicing, damit Ihre Treiber und Frameworks die Hardware so sehen, wie sie ist.
Der Netzwerkport ist am Zugangs-Switch ungeteilt, und nichts misst ihn, in keiner Richtung. Das Kopieren eines Datensatzes oder eines Checkpoints zwischen Ihren Knoten schlägt sich nicht auf der Rechnung nieder.
Jede Maschine läuft in ihrer eigenen einmonatigen Laufzeit ohne Vertrag. Bei Zahlung für drei, sechs oder zwölf Monate gibt es bis zu 15% Rabatt.
Unser KI-Chat antwortet in Sekunden und kann dabei auf Ihr Konto und Ihre Server schauen. Fragen Sie jederzeit nach einem Menschen, wenn Sie einen möchten.
02Skalierung über eine GPU hinaus
Es klingt nach derselben Entscheidung, aber die Kosten sind unterschiedlich, die Liefertermine sind unterschiedlich und die Gründe, warum sie an Grenzen stoßen, sind unterschiedlich. Finden Sie heraus, welche Variante Sie brauchen, bevor Sie irgendetwas anderes vergleichen.
AMaschine ausbauen
Wählen Sie das, wenn Ihnen GPU-Speicher oder GPU-Geschwindigkeit fehlt und der Rest der Maschine passt. Mehrere GPUs in einem Gehäuse sind ein Build, den wir anbieten, statt ein Kästchen, das Sie an der Kasse ankreuzen: Wie viele hineinpassen, hängt davon ab, wie breit die gewählte GPU ist und wie viel Strom das Gehäuse ihr liefern kann.
BCluster ausbauen
Wählen Sie das, wenn die Maschine selbst voll ist: keine Prozessoren mehr, kein Arbeitsspeicher mehr oder kein Platz für den nächsten Job. Die größte Plattform hier endet bei 2 Prozessorsockeln und 1 TB Arbeitsspeicher, und darüber hinaus lautet die Antwort: ein weiterer Server.
03Die Plattformen
Jede Plattform, in die wir eine GPU einbauen, verglichen nach dem, was zählt, sobald Sie über eine Maschine hinausgehen. Lesen Sie die beiden mittleren Spalten zusammen: Die Plattform mit dem breitesten Pfad zur GPU hat den langsamsten Top-Port, und der schnellste Port sitzt auf einem älteren Bus.
| Plattform | Lanes zur GPU | Top-Port | Sockel | Arbeitsspeicher, bis zu | Städte |
|---|---|---|---|---|---|
| Intel Xeon Silver / Gold | 48 lanes per socketPCIe 3.0 | 100 Gbps1 Gbps incl. | 2 | 1 TB | 5 |
| Intel Xeon E5-2600 v3/v4 | 40 lanes per socketPCIe 3.0 | 40 Gbps1 Gbps incl. | 2 | 1 TB | 5 |
| Intel Xeon E5-2600 v1/v2 | 40 lanes per socketPCIe 3.0 | 20 Gbps1 Gbps incl. | 2 | 256 GB | 3 |
| AMD EPYC | 128 lanes per socketPCIe 4.0 | 20 Gbps1 Gbps incl. | 2 | 1 TB | 2 |
Welche GPU in jede dieser Plattformen passt und was sie monatlich kostet, steht unter GPU-Dedicated-Server, jeder Preis neben der Maschine, zu der er gehört. Diese Seite bepreist keine GPU, damit eine Zahl nie neben dem falschen Server landet.
04Die Verbindung zwischen Maschinen
Die Netzwerkverbindung ist Teil jedes Servers, also bedeuten vier Maschinen mit 10 Gbps jeden Monat vier 10-Gbps-Ports. Genau diese Zeile überrascht alle, die bisher nur einen einzelnen Server kalkuliert haben – die Tabelle unten übernimmt das Multiplizieren für Sie.
| Port | Ein Server | Zwei | Vier | Plattformen |
|---|---|---|---|---|
| 1 Gbps | incl. | incl. | incl. | 4 / 4 |
| 2 Gbps | $189 | $378 | $756 | 4 / 4 |
| 3 Gbps | $299 | $598 | $1,196 | 4 / 4 |
| 5 Gbps | $459 | $918 | $1,836 | 4 / 4 |
| 10 Gbps | $529 | $1,058 | $2,116 | 4 / 4 |
| 20 Gbps | $1,629 | $3,258 | $6,516 | 4 / 4 |
| 40 Gbps | $2,799 | $5,598 | $11,196 | 2 / 4 |
| 100 Gbps | $3,999 | $7,998 | $15,996 | 1 / 4 |
Ein breiterer Cluster kann weniger kosten als ein schnellerer. An manchen Stellen dieser Tabelle kosten zwei Maschinen eine Stufe darunter weniger als eine Maschine eine Stufe darüber – und Sie erhalten einen zusätzlichen Server. Das lohnt sich nur, wenn sich Ihre Arbeit auf mehrere Maschinen aufteilen lässt.
Was wir zwischen Maschinen nicht verkaufen. Unser Katalog führt ausschließlich Ethernet-Ports: keine InfiniBand-Fabric und keine NVLink-Bridge. Falls Ihr Build eines von beiden benötigt, fragen Sie vor der Bestellung nach. Die Antwort ist ein Angebot – und sie kann auch Nein lauten. Das kleinste Multi-Node-Setup, das wir vermieten, ist der NVIDIA DGX Spark, bei dem sich bis zu vier Einheiten über ConnectX-7 zusammenschalten lassen.
Der Port einer einzelnen Maschine für sich allein wird unter unmetered bandwidth behandelt.
05Wo es stehen kann
Maschinen, die zusammenarbeiten, gehören in ein Gebäude – und nicht alle unsere Rechenzentren führen dieselben Plattformen. Wählen Sie zuerst die Plattform, kann es sein, dass die gewünschte Stadt sie nicht anbietet. New York and Bucharest führen jede einzelne.
Jedes Gebäude und seine Anbindung ist unter Rechenzentren beschrieben. Wenn Ihr Setup zwei Städte überspannen muss, bitten Sie den Support, vor der Bestellung die Latenz zwischen ihnen zu messen.
06Lieferzeiten
Ein solcher Build besteht oft aus mehreren Maschinen und Teilen, die nicht im Regal liegen. Sie erhalten daher ein Datum, bevor Sie zahlen – abgelesen an denselben Schritten wie bei unseren Custom-Server-Builds.
Es wird nichts eingebaut oder umgezogen. Instant-Server listet die sofort verfügbaren Maschinen – ein erster Blick lohnt sich, wenn Ihre Nodes gewöhnliche sind.
Der übliche Fall. Techniker setzen die GPUs ein, richten die Disks ein und installieren das Betriebssystem auf jeder Maschine – parallel statt nacheinander.
Etwas in der Spezifikation gehört nicht zu unseren vorrätigen Teilen, also bestellen wir es und bauen dann. Bei mehreren GPUs in einer Maschine dauert meist das Gehäuse am längsten.
Beschleuniger der aktuellen Generation werden nach Zuteilung ausgeliefert, und das Datum stammt vom Distributor. Wo wir Hardware für einen einzelnen Kunden beschaffen, bitten wir um drei Monate Vorauszahlung.
Jeder Schritt beginnt, sobald die Bestellung Zahlung und Betrugsprüfung durchlaufen hat. Die meisten sind innerhalb weniger Stunden durch; eine große Erstbestellung von einem neuen Konto kann länger dauern, und eine Überweisung oder Stablecoin-Zahlung ist oft schneller abgewickelt als eine Kartenzahlung.
Marktplatz
Besitzer listen Maschinen mit mehreren GPUs sowie verbundene Paare auf unserem Marktplatz zu einem monatlichen Preis, den sie selbst festlegen. Angebote unserer Schwestergesellschaft Server Room werden über serverroom.net vermietet.
Listen Sie ihn auf dem Primcast-Marktplatz und vermieten Sie ihn monatlich an KI-Teams – zu einem Preis, den Sie wählen.
07Fragen
Es ist ein physischer Server, der ausschließlich an Sie vermietet wird und mit einer oder mehreren GPUs für Training, Feinabstimmung oder das Bereitstellen von Modellen ausgestattet ist. Hier werden die GPUs direkt an Ihr eigenes Betriebssystem durchgereicht, ohne Hypervisor und ohne andere Nutzer auf der Maschine, und Sie zahlen monatlich ohne Vertragsbindung.
Ja. Jeder GPU-Server, den wir vermieten, ist Bare Metal: Sie erhalten Root-Zugriff auf die gesamte Maschine und installieren den Treiber, die CUDA-Version und das Framework, das Ihr Code erwartet. Die GPUs und ihre monatlichen Preise finden Sie unter GPU-Dedicated-Server, jeweils der Maschine zugeordnet, in die sie passt.
Ja, als individuell kalkuliertes Angebot und nicht als Checkout-Option. Wie viele passen, hängt von der Breite der GPU und der Leistung ab, die das Gehäuse liefern kann. Teilen Sie uns daher im Chat mit, welche GPU Sie möchten, und die Antwort nennt Gehäuse, Anzahl und Datum.
Bestellen Sie die Maschinen in derselben Stadt, auf einer Plattform, die die benötigte Portgeschwindigkeit erreicht, und wählen Sie diese Geschwindigkeit bei jeder Maschine. Sie bleiben getrennte Server auf getrennten Rechnungen, sodass Sie mit zwei beginnen und später weitere hinzufügen können. Nennen Sie uns zuerst die Anzahl der Nodes und den Job, und wir prüfen Stadt und Plattform, bevor Sie zahlen.
Nicht als gelistete Option. Maschinen verbinden sich über Ethernet-Ports mit bis zu 100 Gbps. Wenn Ihr Aufbau InfiniBand oder eine NVLink-Brücke benötigt, fragen Sie vor der Bestellung: Es wäre ein individuelles Angebot, und die Antwort kann auch Nein lauten.
Das hängt davon ab, wie kontinuierlich Sie ihn nutzen. Ein dedizierter KI-Server kostet jeden Monat gleich viel, ob er unter Volllast läuft oder ungenutzt bleibt, und eignet sich daher für lange Trainingsläufe und Modelle, die rund um die Uhr bereitgestellt werden. Der Datenverkehr wird hier nicht gemessen, sodass das Verschieben von Datensätzen zwischen Nodes oder das Senden von Ergebnissen an Nutzer nichts extra kostet. Für einen Job, der nur wenige Stunden im Monat läuft, kann stundenweise Miete günstiger sein.
HPC bedeutet High-Performance-Computing: Simulationen, Rendering, wissenschaftlicher Code und Modelltraining, verteilt auf viele Prozessoren oder GPUs. Wir vermieten die Bausteine, also Maschinen mit bis zu 2 Sockeln und 1 TB Arbeitsspeicher, GPUs darin und Ports dazwischen. Den Scheduler richten Sie selbst ein, Slurm oder Kubernetes oder was auch immer Ihr Team bereits nutzt.
Maschine und GPU werden gemeinsam auf GPU-Dedicated-Server bepreist. Ein schnellerer Port als der enthaltene ist die Tabelle auf dieser Seite, pro Maschine und pro Monat. Bei Zahlung für drei, sechs oder zwölf Monate erhalten Sie bis zu 15% Rabatt, und ein individueller Aufbau ist mit einer einmaligen Einrichtungsgebühr verbunden, die der Konfigurator vor der Zahlung anzeigt.
Etwa vier bis vierundzwanzig Stunden, wenn wir die Teile vorrätig haben, fünf bis zehn Werktage, wenn sie erst beschafft werden müssen, und zehn bis fünfzehn Werktage für ein seltenes Teil. Eine Maschine, die bereits wie gewünscht gerackt ist, kann in etwa 30 Minuten laufen.
Ja. Sie haben eine eigene Seite, CMP-170HX-Server, mit den Konfigurationen und ihren monatlichen Preisen.
In New York, Miami, San Francisco, Amsterdam und Bukarest. Nicht jede Plattform ist in jeder Stadt verfügbar; New York and Bucharest beherbergen alle, was sie zu den einfachsten Orten macht, um einen Cluster zu erweitern.
Unser KI-Chat antwortet in Sekunden und kann während der Hilfe Ihr Konto und Ihre Server prüfen, und ein Mensch übernimmt, wann immer Sie es wünschen. Reaktionszeiten und Hardware-Austausch finden Sie unter Support.
08Verwandte Seiten
Planen Sie es mit uns
Die Anzahl der Nodes, ob die Arbeit teilbar ist und womit sie kommunizieren muss. Unser KI-Chat antwortet in Sekunden, ein Mensch steigt auf Wunsch ein, und wenn eine einzige Maschine die Aufgabe erledigen würde, sagen wir es Ihnen.