Dedizierte KI-Server · Training, Serving, Rendering

Dediziertes KI-Server-Hosting von einer GPU bis zum vollständigen Cluster

Ein dedizierter KI-Server ist eine vollständige physische Maschine, deren GPUs direkt an Ihr eigenes Betriebssystem durchgereicht werden, sodass das Modell, das Sie trainieren oder bereitstellen, die Hardware mit niemandem teilt. Wenn eine Maschine nicht ausreicht, können Sie ihr GPUs hinzufügen oder weitere Maschinen danebenstellen. Diese Seite zeigt, was jeder Weg kostet, wie schnell die Maschinen miteinander kommunizieren können und welche unserer 5-Städte welche Plattform bereithält.

Monatlich, ohne Vertrag. Der Port jeder Maschine gehört am Switch Ihnen allein, und nichts misst, was darüber läuft.

cluster.primcastVier Knoten, eine Stadt
GPU-Plattformen4
Schnellster Port100 Gbps
Arbeitsspeicher pro Maschine1 TB
Langzeitrabatt15%
Plattformen vergleichen

01Was jede Maschine mitbringt

Das erhalten Sie bei einem dedizierten KI-Server hier

Dieselben vier Dinge auf jedem Knoten, von einer Maschine für einen Feinabstimmungsjob bis zu mehreren für einen Trainingslauf.

Die volle GPU, kein Stück davon

Jede GPU wird direkt an Ihr Betriebssystem durchgereicht. Kein Hypervisor, keine MIG-Partition, kein vGPU-Profil und kein Time-Slicing, damit Ihre Treiber und Frameworks die Hardware so sehen, wie sie ist.

Ein Port, der Ihnen gehört

Der Netzwerkport ist am Zugangs-Switch ungeteilt, und nichts misst ihn, in keiner Richtung. Das Kopieren eines Datensatzes oder eines Checkpoints zwischen Ihren Knoten schlägt sich nicht auf der Rechnung nieder.

Monat für Monat

Jede Maschine läuft in ihrer eigenen einmonatigen Laufzeit ohne Vertrag. Bei Zahlung für drei, sechs oder zwölf Monate gibt es bis zu 15% Rabatt.

Antworten in Sekunden

Unser KI-Chat antwortet in Sekunden und kann dabei auf Ihr Konto und Ihre Server schauen. Fragen Sie jederzeit nach einem Menschen, wenn Sie einen möchten.

02Skalierung über eine GPU hinaus

Mehr GPUs in einem Server oder mehr Server?

Es klingt nach derselben Entscheidung, aber die Kosten sind unterschiedlich, die Liefertermine sind unterschiedlich und die Gründe, warum sie an Grenzen stoßen, sind unterschiedlich. Finden Sie heraus, welche Variante Sie brauchen, bevor Sie irgendetwas anderes vergleichen.

AMaschine ausbauen

GPUs zum vorhandenen Server hinzufügen

Wählen Sie das, wenn Ihnen GPU-Speicher oder GPU-Geschwindigkeit fehlt und der Rest der Maschine passt. Mehrere GPUs in einem Gehäuse sind ein Build, den wir anbieten, statt ein Kästchen, das Sie an der Kasse ankreuzen: Wie viele hineinpassen, hängt davon ab, wie breit die gewählte GPU ist und wie viel Strom das Gehäuse ihr liefern kann.

Was entscheidend ist
Die GPU, die Sie wählen. Nennen Sie sie im Chat, und die Antwort nennt das Gehäuse, wie viele hineinpassen und das Datum.
Gut zu wissen
Zwei GPUs sind keine größere GPU. Ihr Speicher addiert sich nur, wenn Ihre Software das Modell auf beide aufteilt (Tensor- oder Pipeline-Parallelität, die gängige Trainings- und Serving-Tools unterstützen), und etwas Geschwindigkeit geht für den Verkehr zwischen ihnen drauf. Wenn Ihre Arbeit aus vielen getrennten Jobs besteht, schaffen zwei GPUs einfach doppelt so viele.

BCluster ausbauen

Maschinen neben die erste stellen

Wählen Sie das, wenn die Maschine selbst voll ist: keine Prozessoren mehr, kein Arbeitsspeicher mehr oder kein Platz für den nächsten Job. Die größte Plattform hier endet bei 2 Prozessorsockeln und 1 TB Arbeitsspeicher, und darüber hinaus lautet die Antwort: ein weiterer Server.

Was entscheidend ist
Die Stadt und der Port. Maschinen, die zusammenarbeiten, gehören in dasselbe Gebäude, und die Verbindung zwischen ihnen ist der Netzwerkport an jeder Maschine, pro Maschine bezahlt.
Gut zu wissen
Es gibt kein Cluster-Produkt und keine Mindestanzahl an Knoten. Jeder Server wird einzeln bestellt, abgerechnet, aufgerüstet und ersetzt, sodass Sie mit zwei anfangen und nächsten Monat einen dritten hinzufügen können.

03Die Plattformen

Wählen Sie Ihren Machine-Learning-Server nach dem, was Sie begrenzt

Jede Plattform, in die wir eine GPU einbauen, verglichen nach dem, was zählt, sobald Sie über eine Maschine hinausgehen. Lesen Sie die beiden mittleren Spalten zusammen: Die Plattform mit dem breitesten Pfad zur GPU hat den langsamsten Top-Port, und der schnellste Port sitzt auf einem älteren Bus.

Aus dem Bestellkatalog, nach dem unsere Kasse abrechnet, gelesen beim Laden dieser Seite.
PlattformLanes zur GPUTop-PortSockelArbeitsspeicher, bis zuStädte
Intel Xeon Silver / Gold48 lanes per socketPCIe 3.0100 Gbps1 Gbps incl.21 TB5
Intel Xeon E5-2600 v3/v440 lanes per socketPCIe 3.040 Gbps1 Gbps incl.21 TB5
Intel Xeon E5-2600 v1/v240 lanes per socketPCIe 3.020 Gbps1 Gbps incl.2256 GB3
AMD EPYC128 lanes per socketPCIe 4.020 Gbps1 Gbps incl.21 TB2
  • Lanes zur GPUWie schnell Daten zwischen Prozessor und GPU fließen. Das zählt, wenn Sie Trainingsbatches streamen oder ein Renderer in jedem Frame Szenendaten liefert, und kaum noch, sobald ein Modell geladen ist und im GPU-Speicher bleibt.
  • Top-PortWie schnell eine Maschine mit der nächsten spricht. Ein einzelner Server, der seine eigene Arbeit erledigt, merkt davon nichts. Für einen Job, der auf mehrere Maschinen verteilt ist, ist das die entscheidende Frage.
  • AlsoEin Job, der in eine Maschine passt und auf den Bus angewiesen ist, will die breitesten Lanes. Ein Job, der über mehrere Maschinen verteilt ist, will den Port und kann mit einem älteren Bus leben. Beides gleichzeitig ist die eine Mischung, die wir nicht haben, und das sollten Sie erfahren, bevor Sie zahlen.

Welche GPU in jede dieser Plattformen passt und was sie monatlich kostet, steht unter GPU-Dedicated-Server, jeder Preis neben der Maschine, zu der er gehört. Diese Seite bepreist keine GPU, damit eine Zahl nie neben dem falschen Server landet.

04Die Verbindung zwischen Maschinen

Ein Multi-Node-GPU-Cluster zahlt den Port auf jedem Node

Die Netzwerkverbindung ist Teil jedes Servers, also bedeuten vier Maschinen mit 10 Gbps jeden Monat vier 10-Gbps-Ports. Genau diese Zeile überrascht alle, die bisher nur einen einzelnen Server kalkuliert haben – die Tabelle unten übernimmt das Multiplizieren für Sie.

Pro Monat, zusätzlich zu jeder Maschine. Dollar in New York, Miami und San Francisco; derselbe Betrag wird in Amsterdam und Bucharest in Euro berechnet. Die letzte Spalte zeigt, wie viele GPU-Plattformen diese Geschwindigkeit anbieten.
PortEin ServerZweiVierPlattformen
1 Gbpsincl.incl.incl.4 / 4
2 Gbps$189$378$7564 / 4
3 Gbps$299$598$1,1964 / 4
5 Gbps$459$918$1,8364 / 4
10 Gbps$529$1,058$2,1164 / 4
20 Gbps$1,629$3,258$6,5164 / 4
40 Gbps$2,799$5,598$11,1962 / 4
100 Gbps$3,999$7,998$15,9961 / 4

Ein breiterer Cluster kann weniger kosten als ein schnellerer. An manchen Stellen dieser Tabelle kosten zwei Maschinen eine Stufe darunter weniger als eine Maschine eine Stufe darüber – und Sie erhalten einen zusätzlichen Server. Das lohnt sich nur, wenn sich Ihre Arbeit auf mehrere Maschinen aufteilen lässt.

Was wir zwischen Maschinen nicht verkaufen. Unser Katalog führt ausschließlich Ethernet-Ports: keine InfiniBand-Fabric und keine NVLink-Bridge. Falls Ihr Build eines von beiden benötigt, fragen Sie vor der Bestellung nach. Die Antwort ist ein Angebot – und sie kann auch Nein lauten. Das kleinste Multi-Node-Setup, das wir vermieten, ist der NVIDIA DGX Spark, bei dem sich bis zu vier Einheiten über ConnectX-7 zusammenschalten lassen.

Der Port einer einzelnen Maschine für sich allein wird unter unmetered bandwidth behandelt.

05Wo es stehen kann

Für einen GPU-Cluster wählen Sie zuerst die Stadt

Maschinen, die zusammenarbeiten, gehören in ein Gebäude – und nicht alle unsere Rechenzentren führen dieselben Plattformen. Wählen Sie zuerst die Plattform, kann es sein, dass die gewünschte Stadt sie nicht anbietet. New York and Bucharest führen jede einzelne.

  • New York4 / 4Intel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4 · Intel Xeon E5-2600 v1/v2 · AMD EPYC
  • Bucharest4 / 4Intel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4 · Intel Xeon E5-2600 v1/v2 · AMD EPYC
  • Miami3 / 4Intel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4 · Intel Xeon E5-2600 v1/v2
  • San Francisco2 / 4Intel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4
  • Amsterdam2 / 4Intel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4

Jedes Gebäude und seine Anbindung ist unter Rechenzentren beschrieben. Wenn Ihr Setup zwei Städte überspannen muss, bitten Sie den Support, vor der Bestellung die Latenz zwischen ihnen zu messen.

06Lieferzeiten

Wie schnell Ihre KI-Server laufen

Ein solcher Build besteht oft aus mehreren Maschinen und Teilen, die nicht im Regal liegen. Sie erhalten daher ein Datum, bevor Sie zahlen – abgelesen an denselben Schritten wie bei unseren Custom-Server-Builds.

  1. ~30 min

    Bereits gerackt, wie es ist

    Es wird nichts eingebaut oder umgezogen. Instant-Server listet die sofort verfügbaren Maschinen – ein erster Blick lohnt sich, wenn Ihre Nodes gewöhnliche sind.

  2. 4–24 Stunden

    Teile, die wir vorrätig haben

    Der übliche Fall. Techniker setzen die GPUs ein, richten die Disks ein und installieren das Betriebssystem auf jeder Maschine – parallel statt nacheinander.

  3. 5–10 Werktage

    Teile, die wir beschaffen

    Etwas in der Spezifikation gehört nicht zu unseren vorrätigen Teilen, also bestellen wir es und bauen dann. Bei mehreren GPUs in einer Maschine dauert meist das Gehäuse am längsten.

  4. 10–15 Werktage

    Ein knappes Teil

    Beschleuniger der aktuellen Generation werden nach Zuteilung ausgeliefert, und das Datum stammt vom Distributor. Wo wir Hardware für einen einzelnen Kunden beschaffen, bitten wir um drei Monate Vorauszahlung.

Jeder Schritt beginnt, sobald die Bestellung Zahlung und Betrugsprüfung durchlaufen hat. Die meisten sind innerhalb weniger Stunden durch; eine große Erstbestellung von einem neuen Konto kann länger dauern, und eine Überweisung oder Stablecoin-Zahlung ist oft schneller abgewickelt als eine Kartenzahlung.

Besitzen Sie einen GPU-Server, der ungenutzt herumsteht?

Listen Sie ihn auf dem Primcast-Marktplatz und vermieten Sie ihn monatlich an KI-Teams – zu einem Preis, den Sie wählen.

Zum Marktplatz

07Fragen

Fragen zu dedizierten KI-Servern

01Was ist ein dedizierter KI-Server?

Es ist ein physischer Server, der ausschließlich an Sie vermietet wird und mit einer oder mehreren GPUs für Training, Feinabstimmung oder das Bereitstellen von Modellen ausgestattet ist. Hier werden die GPUs direkt an Ihr eigenes Betriebssystem durchgereicht, ohne Hypervisor und ohne andere Nutzer auf der Maschine, und Sie zahlen monatlich ohne Vertragsbindung.

02Kann ich einen Bare-Metal-GPU-Server für Deep Learning mieten?

Ja. Jeder GPU-Server, den wir vermieten, ist Bare Metal: Sie erhalten Root-Zugriff auf die gesamte Maschine und installieren den Treiber, die CUDA-Version und das Framework, das Ihr Code erwartet. Die GPUs und ihre monatlichen Preise finden Sie unter GPU-Dedicated-Server, jeweils der Maschine zugeordnet, in die sie passt.

03Kann ein Server mehr als eine GPU enthalten?

Ja, als individuell kalkuliertes Angebot und nicht als Checkout-Option. Wie viele passen, hängt von der Breite der GPU und der Leistung ab, die das Gehäuse liefern kann. Teilen Sie uns daher im Chat mit, welche GPU Sie möchten, und die Antwort nennt Gehäuse, Anzahl und Datum.

04Wie baue ich mit Ihnen einen GPU-Cluster auf?

Bestellen Sie die Maschinen in derselben Stadt, auf einer Plattform, die die benötigte Portgeschwindigkeit erreicht, und wählen Sie diese Geschwindigkeit bei jeder Maschine. Sie bleiben getrennte Server auf getrennten Rechnungen, sodass Sie mit zwei beginnen und später weitere hinzufügen können. Nennen Sie uns zuerst die Anzahl der Nodes und den Job, und wir prüfen Stadt und Plattform, bevor Sie zahlen.

05Bieten Sie InfiniBand oder NVLink zwischen Servern an?

Nicht als gelistete Option. Maschinen verbinden sich über Ethernet-Ports mit bis zu 100 Gbps. Wenn Ihr Aufbau InfiniBand oder eine NVLink-Brücke benötigt, fragen Sie vor der Bestellung: Es wäre ein individuelles Angebot, und die Antwort kann auch Nein lauten.

06Ist ein dedizierter Server besser als Cloud-GPUs für maschinelles Lernen?

Das hängt davon ab, wie kontinuierlich Sie ihn nutzen. Ein dedizierter KI-Server kostet jeden Monat gleich viel, ob er unter Volllast läuft oder ungenutzt bleibt, und eignet sich daher für lange Trainingsläufe und Modelle, die rund um die Uhr bereitgestellt werden. Der Datenverkehr wird hier nicht gemessen, sodass das Verschieben von Datensätzen zwischen Nodes oder das Senden von Ergebnissen an Nutzer nichts extra kostet. Für einen Job, der nur wenige Stunden im Monat läuft, kann stundenweise Miete günstiger sein.

07Was ist ein HPC-Server, und vermieten Sie solche?

HPC bedeutet High-Performance-Computing: Simulationen, Rendering, wissenschaftlicher Code und Modelltraining, verteilt auf viele Prozessoren oder GPUs. Wir vermieten die Bausteine, also Maschinen mit bis zu 2 Sockeln und 1 TB Arbeitsspeicher, GPUs darin und Ports dazwischen. Den Scheduler richten Sie selbst ein, Slurm oder Kubernetes oder was auch immer Ihr Team bereits nutzt.

08Wie viel kostet ein dedizierter KI-Server?

Maschine und GPU werden gemeinsam auf GPU-Dedicated-Server bepreist. Ein schnellerer Port als der enthaltene ist die Tabelle auf dieser Seite, pro Maschine und pro Monat. Bei Zahlung für drei, sechs oder zwölf Monate erhalten Sie bis zu 15% Rabatt, und ein individueller Aufbau ist mit einer einmaligen Einrichtungsgebühr verbunden, die der Konfigurator vor der Zahlung anzeigt.

09Wie lange dauert es, bis ich einen erhalte?

Etwa vier bis vierundzwanzig Stunden, wenn wir die Teile vorrätig haben, fünf bis zehn Werktage, wenn sie erst beschafft werden müssen, und zehn bis fünfzehn Werktage für ein seltenes Teil. Eine Maschine, die bereits wie gewünscht gerackt ist, kann in etwa 30 Minuten laufen.

10Vermieten Sie CMP-170HX-Server für KI?

Ja. Sie haben eine eigene Seite, CMP-170HX-Server, mit den Konfigurationen und ihren monatlichen Preisen.

11Wo stehen Ihre GPU-Server?

In New York, Miami, San Francisco, Amsterdam und Bukarest. Nicht jede Plattform ist in jeder Stadt verfügbar; New York and Bucharest beherbergen alle, was sie zu den einfachsten Orten macht, um einen Cluster zu erweitern.

12Welche Hilfe bekomme ich, wenn etwas ausfällt?

Unser KI-Chat antwortet in Sekunden und kann während der Hilfe Ihr Konto und Ihre Server prüfen, und ein Mensch übernimmt, wann immer Sie es wünschen. Reaktionszeiten und Hardware-Austausch finden Sie unter Support.

Planen Sie es mit uns

Sagen Sie uns, was Ihr Modell leisten muss

Die Anzahl der Nodes, ob die Arbeit teilbar ist und womit sie kommunizieren muss. Unser KI-Chat antwortet in Sekunden, ein Mensch steigt auf Wunsch ein, und wenn eine einzige Maschine die Aufgabe erledigen würde, sagen wir es Ihnen.

GPU-Preise ansehen