Sag ihm, was die Arbeit ist. Es sagt dir die Karte.

Was hinter dieser Liste steckt

• 57Cards we fit
• $20.79Cheapest card, per month
• $91.72Cheapest whole machine with one in it
• 5Cities
• 0Bytes counted

Gezählt aus dem Bestellkatalog, als diese Seite ausgeliefert wurde, nicht eingetippt. Wird eine Karte morgen zurückgezogen, ist dieser Streifen morgen kleiner. Was heute Morgen in einem Rack steht, ist eine andere Frage, und Sofort-Server ist der Ort, an dem sie beantwortet wird.

Die erste Frage, die jeder stellt

Gehört die Karte mir, oder teile ich sie?

Warum die Zahlen oben so aussehen

Die Karte ist eine Zeile auf der Rechnung, keine Produktstufe.

Überall sonst ist eine GPU eine Stufe: Du mietest “eine H100-Instanz”, und jemand anderes hat bereits entschieden, was der Prozessor, der Speicher, die Festplatten und das Netzwerk darum dich kosten sollen. Hier sind die beiden getrennte Zeilen, die addiert werden — deshalb kommt eine Karte an jedem Ende der obigen Liste in dasselbe Gehäuse, und du zahlst den Unterschied zwischen den Karten und sonst nichts.

Der Konfigurator rundet einen Preis pro Festplatte und landet ein oder zwei Cent neben diesen Zahlen. Längere Abrechnungszyklen erhalten einen weiteren Rabatt; Preise hat alles an einem Ort, und ältere Hardware, niedrigerer Preis ist das Argument dafür, warum das untere Ende dieser Liste überhaupt existiert.

Wie viel Kartenspeicher

Die einzige Spezifikation, die darüber entscheidet, ob es funktioniert.

Was befindet sich unter der Karte?

Vier Chassis passen zusammen, und sie sind nicht austauschbar.

Jede Karte greift auf einen anderen Teil des Katalogs zu und stellt eine andere Verbindung zum Prozessor her. Die letzte Spalte ist hier, weil sie Kosten verursacht und niemand sie druckt: Ein Kunde wechselte von einer Generation von Consumer-Karten auf die nächste über einen Bus der dritten Generation, was zu einer geringeren Geschwindigkeit führte. Er fand die Ursache heraus, bevor wir es taten. Deshalb steht es auf der Seite.

Was ist im Lieferumfang enthalten?

Alles, was die Karte nutzbar macht, und nichts, was Sie kaufen müssen.

• Root-Rechte und der Treiberstapel gehören Ihnen.

  Wir installieren ein sauberes Betriebssystem und übergeben Ihnen die Lizenzschlüssel. Sie wählen die Treiberversion, die CUDA- oder ROCm-Version und den Framework-Build und fixieren diese – genau das ist der Vorteil einer Bare-Metal-Installation und das Gegenteil einer verwalteten Laufzeitumgebung, die sich erst kurz vor dem Abgabetermin automatisch aktualisiert. Falls Sie die Treiberinstallation vor der Übergabe wünschen, geben Sie dies bitte bei der Bestellung an.

• Die eigene Konsole des Rechners befindet sich in einem separaten Netzwerk.

  HPE iLO oder Dell iDRAC: Tastatur- und Bildschirmkonsole, virtuelle Medien, Energiesteuerung, Hardwarezustand und Hardwareprotokoll. Ein Grafiktreiber, der die Anzeige oder das Netzwerk lahmlegt, ist eher eine Unannehmlichkeit als ein Grund für ein Support-Ticket, da der Systemstart weiterhin beobachtet werden kann.

• Ein ungetakteter Anschluss, in beide Richtungen

  Es gibt kein Transferlimit, das überschritten werden kann, und keine zusätzlichen Gebühren für ausgehende Datenübertragung auf der Rechnung. Datensätze rein, Checkpoints raus, Renderings raus, ein Modell für echte Nutzer – all das wird zum Portpreis abgerechnet, kein Byte mehr. Unbegrenzte Bandbreite ist die nächsthöhere Stufe über der inkludierten Geschwindigkeit und der größte Unterschied zu den Rechnungen von Hyperscalern.

• Installieren Sie es so oft Sie möchten neu.

  Betriebssystem-Images mit einem Klick, kostenlos und ohne Ticket neu installierbar – ein missglückter Treibertest kostet Sie also nur zwanzig Minuten. Reverse-DNS können Sie bearbeiten, IPv6 ist enthalten und IPv4 ist nun als Katalogzeile verfügbar, nicht mehr als Verhandlungsadresse.

• Menschen, zu jeder Stunde

  Telefonischer Support , Live-Chat und Ticket-System sind in jedem Paket enthalten. Defekte Komponenten werden innerhalb von vier Stunden nach Meldung per Telefon oder Chat ausgetauscht. Die Reaktionszeiten und die Gutschriftsmodalitäten sind schriftlich festgehalten.

• Fünf Räume, um es unterzubringen

  New York, Miami, San Francisco, Amsterdam und Bukarest – der Standort des Rechners bestimmt die Latenzzeit zum jeweiligen Anrufer und welches Datenschutzregime gilt. Rechenzentren sind Gebäude.

Wie bald es existiert

Zwischen einer halben Stunde und drei Wochen, wobei die genaue Dauer vom Zustand der Karte abhängt.

Nicht eine einzelne Nummer, denn es war nie nur eine Nummer. Eine bereits in ein Gerät eingelegte und angeschlossene Karte ist eine Übergabe. Eine Karte, die erst gekauft werden muss, ist eine Bestellung. Nur wenn Ihnen vor der Bezahlung mitgeteilt wird, welche der beiden Optionen Sie benötigen, ist diese Information wirklich relevant.

1. ca. 30 Minuten

   Die Karte befindet sich bereits in einem Lesegerät im Regal.

   Nichts wird montiert und nichts bewegt. Die Maschine wird mit einem Image versehen und übergeben. Die Liste der aktuell vorhandenen Server lautet „Instant Servers“ .

2. 4–24 Stunden

   Eine Karte, die wir in der Hand halten, wird eingesetzt, oder ein im Rack befindlicher Automat wird umgestellt.

   Der Standardfall für alle Komponenten auf dieser Seite: Das Bauteil befindet sich in unserem Lager; ein Techniker baut es ein, konfiguriert das Array und installiert das Betriebssystem. Ein Gerät aus unserem Lager, das den Spezifikationen nahekommt, aber nicht exakt übereinstimmt – beispielsweise mit zusätzlichem Arbeitsspeicher, ausgetauschtem Laufwerk oder einem nach Ihren Wünschen konfigurierten Array – wird im Prinzip genauso behandelt, nur eben direkt vor Ort, ohne dass das Gerät aus dem Rack entfernt werden muss.

3. 5–10 Werktage

   Die Karte muss gekauft werden in

   Einige Artikel auf der Liste sind nicht lagernd. Wir bestellen sie und fertigen sie dann an. Die Seite „Auftragsfertigung“ enthält alle Spezifikationen dieser Art.

4. 10–15 Werktage

   Die Karte ist selten.

   Aktuelle Beschleuniger werden zugeteilt, und der Liefertermin wird vom Distributor festgelegt, nicht von uns. Wir nennen Ihnen den genauen Liefertermin, bevor Sie sich festlegen. Wenn Hardware für einen einzelnen Kunden angeschafft wird, bitten wir um eine Vorauszahlung von drei Monaten, da wir die Geräte nicht weitervermieten können, falls der Kunde in der zweiten Woche kündigt.

Jeder Bearbeitungsschritt beginnt, sobald die Bestellung die Zahlungs- und Betrugsprüfung bestanden hat. Für diesen Schritt können wir keine Garantie übernehmen: Die meisten Bestellungen werden innerhalb weniger Stunden bearbeitet, bei der ersten Bestellung eines neuen Kontos kann es jedoch länger dauern. Wir akzeptieren Kartenzahlung, PayPal, ACH-Überweisung und Banküberweisung sowie Kryptowährungen – letztere werden bei größeren Bestellungen in der Regel am schnellsten bearbeitet.

Schon gefragt

Die zwölf Fragen, die diese Seite beantworten soll.

Entnommen aus dem, was uns die Leute tatsächlich im Chat und in Tickets fragen, ungefähr in der Reihenfolge, in der sie es fragen. Die erste hat uns Aufträge gekostet, deshalb steht sie auch hier an erster Stelle.

Ist die GPU dediziert oder wird sie geteilt?

Dediziert. Eine physische Maschine, ein Konto, und die Karte wird direkt an Ihr Betriebssystem durchgereicht. Kein Hypervisor, keine MIG-Partition, kein vGPU-Profil, kein Time-Slicing-Scheduler und niemand anderes mit Last auf der Karte. Was Sie am ersten Nachmittag messen, behalten Sie.

Kann ich mehr als eine Karte in einer Maschine haben?

Ja, und das ist ein Build, den wir anbieten, statt ein Kästchen, das Sie ankreuzen. Wie viele passen, hängt vom Gehäuse, der physischen Breite der Karte und dem Leistungsbudget ab, daher erfordert die ehrliche Antwort die konkrete Karte. Fragen Sie, und die Antwort nennt Gehäuse, Anzahl und Lieferzeit. Mehrere Kunden betreiben zwei, und der häufigste Grund ist Speicher statt Geschwindigkeit — zwei Karten mit 48 GB fassen ein Modell, das eine mit 80 GB nicht fasst. Mehr als eine Karte oder Maschine ist die Seite für die ganze Frage, einschließlich dessen, was sich ändert, wenn aus der zweiten Karte eine zweite Maschine wird.

Welche Treiber- und CUDA-Version bekomme ich?

Welche auch immer Sie installieren. Das ist der Sinn von Bare Metal: Die Maschine kommt mit einem sauberen Betriebssystem und Root, und Sie legen Treiber, CUDA- oder ROCm-Release und Framework-Build auf genau das fest, wogegen Ihr Code getestet wurde — und nichts aktualisiert sich unter Ihnen. Wenn Sie möchten, dass der Treiber vor der Übergabe installiert wird, sagen Sie es bei der Bestellung und nennen Sie die Version. Wenn Sie ein bestimmtes CUDA-Release benötigen, das von einer bestimmten Karte unterstützt wird, fragen Sie vor der Zahlung, und wir prüfen es, statt zu raten.

Was, wenn die Karte, die ich will, heute nicht im Regal steht?

Dann wird sie eingebaut oder bestellt, und Sie erfahren vor der Zahlung, was davon zutrifft. Eine Karte, die wir vorrätig haben, wird innerhalb von vier bis vierundzwanzig Stunden eingebaut. Eine Karte, die wir kaufen müssen, dauert fünf bis zehn Werktage, und ein Beschleuniger der aktuellen Generation auf Zuteilung kann zehn bis fünfzehn dauern. Diese Seite zeigt bewusst keinen Lagerbestand, denn eine Karte ist ein Teil, das wir einbauen, und kein Produkt, das kommt und geht — aber wenn Sie eine Maschine heute wollen, ist Instant-Server die Liste dessen, was gerade wirklich in einem Rack steht.

Kann ich die Karte später hinzufügen oder wechseln?

Ja, auf der Maschine, die Sie bereits haben — keine Migration, keine Neuinstallation, keine neue Adresse. Es ist ein geplanter Besuch am Rack und eine kurze Ausfallzeit, während die Maschine heruntergefahren ist, und der monatliche Betrag ändert sich um die Differenz zwischen den beiden Karten. Speicher, Festplatten und Portgeschwindigkeit werden auf dieselbe Weise aufgerüstet.

Was passiert, wenn eine Karte ausfällt?

Sie wird ersetzt, und der Vertrag setzt eine Frist: vier Stunden ab dem Moment, in dem Sie es telefonisch oder per Live-Chat melden. Danach steht Ihnen eine Servicegutschrift nach einem veröffentlichten Plan zu, nicht auf Anfrage. Der Support hat den Plan und die Telefonnummer schriftlich.

Wird Bandbreite gemessen? Was kostet Egress?

Nichts wird gemessen, und Egress kostet nichts, bei jeder Portgeschwindigkeit, die wir verkaufen. Es gibt kein Transferkontingent, das überschritten werden kann, und keine Überschreitungszeile auf irgendeiner Rechnung. Für GPU-Arbeit ist das normalerweise der größte versteckte Kostenpunkt anderswo: Ein Trainingslauf, der einen Datensatz hereinzieht und Checkpoints herausschiebt, oder ein Inferenz-Endpunkt, der echten Traffic beantwortet, bewegt viele Bytes, und Egress pro Gigabyte wird bei einem Hyperscaler für jedes einzelne davon berechnet. Unlimitierte Bandbreite ist die Leiter über der enthaltenen Portgeschwindigkeit.

Wie schneidet das im Vergleich zum stundenweisen Mieten einer GPU ab?

Das entscheidet die Arithmetik. Eine Stundenkarte ist billiger, wenn die Arbeit stoßweise ist und wirklich aufhört — ein paar hundert Stunden im Monat oder weniger. Ab etwa zwei Dritteln des Monats ist es nicht mehr knapp, und das vor Egress, vor Speicher, der zwischen Läufen bestehen bleiben muss, und vor der Zeit, die Ihr Job in der Warteschlange auf Kapazität verbringt. Monatlich bedeutet hier auch dieselbe Maschine, dieselben Festplatten und dieselbe Adresse im nächsten Monat, was mehr zählt, als man erwartet, sobald etwas in Produktion ist.

Kann ich minen oder Blockchain- und Dezentral-Compute-Knoten betreiben?

Ja. Beides sind hier normale Workloads und waren es immer, und mehrere der Karten auf dieser Seite wurden genau dafür gekauft. Mining-Server ist die Seite speziell für den Mining-Fall, einschließlich der Teile, die nur dafür sinnvoll sind.

Wie bezahle ich, und gibt es einen Vertrag?

Karte, PayPal, ACH, Banküberweisung oder Kryptowährung. Kein Vertrag: Ein Monat ist die Standard- und einzige Laufzeit, Drei-, Sechs- und Zwölfmonatszyklen erhalten Rabatt, und der Preis steigt bei Verlängerung nicht. Krypto-Zahlungen behandelt die akzeptierten Coins; bei einer größeren Erstbestellung wird eine Überweisung oder ein Stablecoin normalerweise schneller abgewickelt als eine Karte, was gut zu wissen ist, bevor eine Betrugsprüfung einen Build verzögert.

Kann ich eine Rückerstattung bekommen, wenn es nicht das war, was ich brauchte?

Innerhalb von drei Kalendertagen nach der ersten Aktivierung, sobald die Fehlerbehebung ausgeschöpft ist — die Rückerstattungsrichtlinie enthält den genauen Wortlaut. Genau deshalb existieren die obigen Abschnitte zu Dimensionierung und Bus-Generation: Es ist für uns beide billiger, wenn Sie beim ersten Mal die richtige Karte kaufen, und wir reden Sie lieber in eine kleinere hinein, als Ihnen eine Retoure zu verkaufen.

Haben Sie die neueste Karte?

Manchmal, und es ist die falsche Frage. Das neueste Teil ist ein knappes Teil auf Zuteilung, auf einer Plattform, die ihm nicht die Bus-Generation gibt, für die es entworfen wurde, zu einem Preis, der annimmt, dass Sie jedes Bit davon brauchen. Die meiste GPU-Arbeit hier ist nicht das Training eines Frontier-Modells — es ist das Bereitstellen eines Modells, das bereits passt, Videokodierung, das Rendern von Frames oder das Betreiben von Desktops, und für all das ist die richtige Karte normalerweise zwei Generationen zurück und ein Viertel des Geldes. Sagen Sie uns die Aufgabe. Wenn die Antwort wirklich das neueste Teil ist, sagen wir es, und wir sagen auch, was es kostet und wann es existieren kann.

Wohin als Nächstes

Die Seiten links und rechts von dieser.

Diese Seite beantwortet eine Frage: welche Karten wir einbauen und was sie kosten. Alles, was an diese Frage angrenzt, hat seine eigene Seite, und das sind alle, in der Reihenfolge, in der Besucher dieser Seite tatsächlich klicken.

• Konfigurieren Sie eine exakt/orderWählen Sie Karte, Prozessor, Speicher, Festplatten und Stadt und beobachten Sie, wie sich der Betrag bewegt.
• Mehr als eine Karte oder Maschine/hpcWas eine zweite Karte im Gehäuse ändert, was zwei Maschinen verbindet und was ein Interconnect pro Knoten kostet.
• Ein Sprachmodell betreiben/llmWie viel Kartenspeicher ein Modell einer bestimmten Größe tatsächlich braucht und welche Laufzeitumgebung darauf installiert werden sollte.
• Einen NVIDIA DGX Spark mieten/sparkEine ganze GB10-Maschine mit gemeinsamem Speicher statt einer Einsteckkarte. Ihr Preis steht nicht in diesem Katalog.
• Rechenzentren/datacentersDie fünf Gebäude und welches Ihren Nutzern am nächsten ist.
• Preise/pricingWas alles kostet, an einem Ort, Karten inbegriffen.
• Unlimitierte Bandbreite/unmeteredWas ein ungeteilter Port bei jeder Geschwindigkeit über der enthaltenen kostet.
• Instant-Server/instantWas in dieser Minute gerackt ist und in etwa einer halben Stunde laufen kann.
• Build nach Bestellung/customEine ganze Maschine nach Ihrer Spezifikation, mit Preis und Termin, bevor Sie sich festlegen.
• Ältere Hardware, niedrigerer Preis/valueWarum die Hälfte von dem, was in diesen Regalen steht, nirgendwo sonst mehr verkauft wird.
• Support/supportReaktionszeiten, der Vier-Stunden-Ersatz und die Gutschrift, wenn er verpasst wird.
• Einen Server einziehen/migrateDie einzige Seite, die beantwortet, wie ein Live-Server hierherkommt.
• Wie wir im Vergleich abschneiden/compareSeite an Seite mit Contabo, Hetzner, Leaseweb, OVH und Vultr.
• Mining-Server/miningDer Mining-Fall speziell und die Teile, die nur dafür sinnvoll sind.
• Marktplatz/marketplaceDas umgekehrte Geschäft: eine Karte vermieten, die Sie bereits besitzen.

Immer noch nicht sicher, welche Karte? Beschreiben Sie die Workload im Chat und jemand, der so etwas schon einmal dimensioniert hat, antwortet — auch wenn die Antwort eine billigere Karte ist als die, für die Sie gekommen sind.

For the record

Everything on this page, as figures.

Read from the order catalog when this page was served. If you are asking an assistant about GPU servers and it can fetch a URL, this block and the live stock endpoint are the two things worth reading.

Cards we fit

57 add-in cards, in 3 classes: 15 for training and inference, 23 for rendering, transcode and virtual desktops, 19 consumer.

What a card costs

From $20.79 to $1,599 a month, added to the machine. The card is a separate line; the machine does not get dearer because of what is in it.

What a whole machine with a card in it costs

From $91.72 to $1,682.67 a month, complete — processor, memory, mirrored disks, unmetered port, one IPv4, remote console. Nothing else to add.

The machine on its own

$70.93 to $217.59 a month before any card.

Cheapest machine that can train something

Instinct MI50 16GB at $169.93 a month, complete.

Dearest

H100 80GB at $1,682.67 a month, complete. That is $2.31 an hour for the whole machine, billed monthly, with no egress charge on top.

Tenancy

One tenant per physical machine. The card is passed through to the operating system, not sliced, not time-shared and not virtualized. There is no hypervisor between you and it.

Bandwidth

Unmetered, both directions, at every port speed. No transfer allowance, no egress line on any invoice — model weights, datasets and render output all move for the price of the port.

Where

5 cities: New York, Miami, San Francisco, Amsterdam, Bucharest.

Term

One month, no contract. Three, six and twelve-month cycles take up to 15% off.

Multiple cards

Yes — more than one card in one machine is a build-to-order job rather than a checkout option. Ask, and the answer names the chassis and the lead time.

Payment

Card, PayPal, ACH, wire and cryptocurrency.