Sagen Sie ihm, worum es sich bei der Arbeit handelt. Es zeigt Ihnen die Karte an.

Was verbirgt sich hinter dieser Liste?

• 56Cards we fit
• $20.79Cheapest card, per month
• $91.72Cheapest whole machine with one in it
• 5Cities
• 0Bytes counted

Die Zählung erfolgte anhand des Bestellkatalogs zum Zeitpunkt der Seitenerstellung, nicht manuell eingegeben. Wird morgen eine Karte eingezogen, ist dieser Streifen morgen kleiner. Was heute Morgen im Regal liegt, ist eine andere Frage, die erst bei den Sofortbedienungen beantwortet wird.

Die erste Frage, die sich jeder stellt

Gehört die Karte mir, oder teile ich sie?

Warum die obigen Zahlen so aussehen

Die Karte ist eine Position auf der Rechnung, keine Produktstufe.

Überall sonst ist die GPU eine eigene Kategorie: Man mietet eine „H100-Instanz“, und jemand anderes hat bereits festgelegt, was Prozessor, Arbeitsspeicher, Festplatten und das dazugehörige Netzwerk kosten. Hier sind die beiden Komponenten separate Kategorien, die addiert werden – deshalb kommt eine Karte an jedem Ende der obigen Liste in dasselbe Gehäuse, und man zahlt nur die Differenz zwischen den Kartenpreisen.

Der Konfigurator rundet den Preis pro Festplatte und reduziert ihn um ein bis zwei Cent. Längere Abrechnungszyklen ermöglichen einen weiteren Rabatt; die Preisgestaltung ist übersichtlich dargestellt, und ältere Hardware ist günstiger – das ist der Grund, warum diese Liste überhaupt am Ende steht.

Wie viel Kartenspeicher

Die einzige Spezifikation, die darüber entscheidet, ob es funktioniert.

Was befindet sich unter der Karte?

Vier Chassis passen zusammen, und sie sind nicht austauschbar.

Jede Karte greift auf einen anderen Teil des Katalogs zu und stellt eine andere Verbindung zum Prozessor her. Die letzte Spalte ist hier, weil sie Kosten verursacht und niemand sie druckt: Ein Kunde wechselte von einer Generation von Consumer-Karten auf die nächste über einen Bus der dritten Generation, was zu einer geringeren Geschwindigkeit führte. Er fand die Ursache heraus, bevor wir es taten. Deshalb steht es auf der Seite.

Was ist im Lieferumfang enthalten?

Alles, was die Karte nutzbar macht, und nichts, was Sie kaufen müssen.

• Root-Rechte und der Treiberstapel gehören Ihnen.

  Wir installieren ein sauberes Betriebssystem und übergeben Ihnen die Lizenzschlüssel. Sie wählen die Treiberversion, die CUDA- oder ROCm-Version und den Framework-Build und fixieren diese – genau das ist der Vorteil einer Bare-Metal-Installation und das Gegenteil einer verwalteten Laufzeitumgebung, die sich erst kurz vor dem Abgabetermin automatisch aktualisiert. Falls Sie die Treiberinstallation vor der Übergabe wünschen, geben Sie dies bitte bei der Bestellung an.

• Die eigene Konsole des Rechners befindet sich in einem separaten Netzwerk.

  HPE iLO oder Dell iDRAC: Tastatur- und Bildschirmkonsole, virtuelle Medien, Energiesteuerung, Hardwarezustand und Hardwareprotokoll. Ein Grafiktreiber, der die Anzeige oder das Netzwerk lahmlegt, ist eher eine Unannehmlichkeit als ein Grund für ein Support-Ticket, da der Systemstart weiterhin beobachtet werden kann.

• Ein ungetakteter Anschluss, in beide Richtungen

  Es gibt kein Transferlimit, das überschritten werden kann, und keine zusätzlichen Gebühren für ausgehende Datenübertragung auf der Rechnung. Datensätze rein, Checkpoints raus, Renderings raus, ein Modell für echte Nutzer – all das wird zum Portpreis abgerechnet, kein Byte mehr. Unbegrenzte Bandbreite ist die nächsthöhere Stufe über der inkludierten Geschwindigkeit und der größte Unterschied zu den Rechnungen von Hyperscalern.

• Installieren Sie es so oft Sie möchten neu.

  Betriebssystem-Images mit einem Klick, kostenlos und ohne Ticket neu installierbar – ein missglückter Treibertest kostet Sie also nur zwanzig Minuten. Reverse-DNS können Sie bearbeiten, IPv6 ist enthalten und IPv4 ist nun als Katalogzeile verfügbar, nicht mehr als Verhandlungsadresse.

• Menschen, zu jeder Stunde

  Telefonischer Support , Live-Chat und Ticket-System sind in jedem Paket enthalten. Defekte Komponenten werden innerhalb von vier Stunden nach Meldung per Telefon oder Chat ausgetauscht. Die Reaktionszeiten und die Gutschriftsmodalitäten sind schriftlich festgehalten.

• Fünf Räume, um es unterzubringen

  New York, Miami, San Francisco, Amsterdam und Bukarest – der Standort des Rechners bestimmt die Latenzzeit zum jeweiligen Anrufer und welches Datenschutzregime gilt. Rechenzentren sind Gebäude.

Wie bald es existiert

Zwischen einer halben Stunde und drei Wochen, wobei die genaue Dauer vom Zustand der Karte abhängt.

Nicht eine einzelne Nummer, denn es war nie nur eine Nummer. Eine bereits in ein Gerät eingelegte und angeschlossene Karte ist eine Übergabe. Eine Karte, die erst gekauft werden muss, ist eine Bestellung. Nur wenn Ihnen vor der Bezahlung mitgeteilt wird, welche der beiden Optionen Sie benötigen, ist diese Information wirklich relevant.

1. ca. 30 Minuten

   Die Karte befindet sich bereits in einem Lesegerät im Regal.

   Nichts wird montiert und nichts bewegt. Die Maschine wird mit einem Image versehen und übergeben. Die Liste der aktuell vorhandenen Server lautet „Instant Servers“ .

2. 4–24 Stunden

   Eine Karte, die wir in der Hand halten, wird eingesetzt, oder ein im Rack befindlicher Automat wird umgestellt.

   Der Standardfall für alle Komponenten auf dieser Seite: Das Bauteil befindet sich in unserem Lager; ein Techniker baut es ein, konfiguriert das Array und installiert das Betriebssystem. Ein Gerät aus unserem Lager, das den Spezifikationen nahekommt, aber nicht exakt übereinstimmt – beispielsweise mit zusätzlichem Arbeitsspeicher, ausgetauschtem Laufwerk oder einem nach Ihren Wünschen konfigurierten Array – wird im Prinzip genauso behandelt, nur eben direkt vor Ort, ohne dass das Gerät aus dem Rack entfernt werden muss.

3. 5–10 Werktage

   Die Karte muss gekauft werden in

   Einige Artikel auf der Liste sind nicht lagernd. Wir bestellen sie und fertigen sie dann an. Die Seite „Auftragsfertigung“ enthält alle Spezifikationen dieser Art.

4. 10–15 Werktage

   Die Karte ist selten.

   Aktuelle Beschleuniger werden zugeteilt, und der Liefertermin wird vom Distributor festgelegt, nicht von uns. Wir nennen Ihnen den genauen Liefertermin, bevor Sie sich festlegen. Wenn Hardware für einen einzelnen Kunden angeschafft wird, bitten wir um eine Vorauszahlung von drei Monaten, da wir die Geräte nicht weitervermieten können, falls der Kunde in der zweiten Woche kündigt.

Jeder Bearbeitungsschritt beginnt, sobald die Bestellung die Zahlungs- und Betrugsprüfung bestanden hat. Für diesen Schritt können wir keine Garantie übernehmen: Die meisten Bestellungen werden innerhalb weniger Stunden bearbeitet, bei der ersten Bestellung eines neuen Kontos kann es jedoch länger dauern. Wir akzeptieren Kartenzahlung, PayPal, ACH-Überweisung und Banküberweisung sowie Kryptowährungen – letztere werden bei größeren Bestellungen in der Regel am schnellsten bearbeitet.

Gefragt vor

Die zwölf Fragen, die diese Seite beantworten soll.

Diese Fragen basieren auf den tatsächlichen Anfragen im Chat und über Tickets, ungefähr in der Reihenfolge ihres Auftretens. Die erste Frage hat uns bereits Bestellungen gekostet, daher steht sie auch hier an erster Stelle.

Ist die GPU dediziert oder wird sie gemeinsam genutzt?

Dediziert. Ein physischer Rechner, ein Benutzerkonto und die Grafikkarte wird direkt an Ihr Betriebssystem durchgereicht. Kein Hypervisor, keine MIG-Partition, kein vGPU-Profil, kein Time-Slicing-Scheduler und keine fremde Auslastung der Karte. Was Sie am ersten Nachmittag messen, behalten Sie.

Kann ich mehr als eine Karte in einem Automaten verwenden?

Ja, und es handelt sich um eine individuelle Konfiguration, die wir Ihnen anbieten, nicht um eine Standardlösung. Die benötigte Anzahl hängt vom Gehäuse, der Breite der Grafikkarte und dem Stromverbrauch ab. Für eine genaue Antwort benötigen wir daher die genaue Grafikkarte. Fragen Sie einfach nach, und wir nennen Ihnen das Gehäuse, die benötigte Anzahl und die Lieferzeit. Einige Kunden verwenden zwei Grafikkarten, und der häufigste Grund dafür ist der höhere Speicherbedarf, nicht die höhere Geschwindigkeit – zwei 48-GB-Karten unterstützen ein Modell, das mit einer 80-GB-Karte nicht auskommt. Wenn Sie mehrere Grafikkarten oder Geräte verwenden, finden Sie auf der entsprechenden Seite weitere Informationen zu dieser Frage, einschließlich der Änderungen, wenn die zweite Karte in einem zweiten Gerät verbaut wird.

Welchen Treiber und welche CUDA-Version benötige ich?

Egal, was Sie installieren. Das ist der Vorteil von Bare-Metal-Systemen: Die Maschine kommt mit einem sauberen Betriebssystem und Root-Zugriff. Sie legen den Treiber, die CUDA- oder ROCm-Version und den Framework-Build fest, die auf die Version passen, mit der Ihr Code getestet wurde – und es werden keine automatischen Updates im Hintergrund installiert. Falls Sie den Treiber vor der Übergabe installiert haben möchten, geben Sie dies bitte bei der Bestellung an und nennen Sie die gewünschte Version. Benötigen Sie eine bestimmte CUDA-Version, die von einer bestimmten Grafikkarte unterstützt wird? Fragen Sie vor der Bezahlung nach, damit wir dies prüfen können, anstatt nur Vermutungen anzustellen.

Was ist, wenn die Karte, die ich möchte, heute nicht im Regal steht?

Dann wird das Gerät entweder eingebaut oder bestellt, und Sie erfahren vor der Bezahlung, was zutrifft. Eine Karte, die wir vorrätig haben, ist innerhalb von vier bis vierundzwanzig Stunden verfügbar. Eine Karte, die wir erst kaufen müssen, benötigt fünf bis zehn Werktage, und ein aktueller Beschleuniger der nächsten Generation kann zehn bis fünfzehn Werktage dauern. Auf dieser Seite wird bewusst kein Lagerbestand angezeigt, da eine Karte ein Bauteil ist, das wir einbauen, und kein Produkt, das ständig im Umlauf ist. Wenn Sie jedoch heute noch ein Gerät benötigen, finden Sie unter „Sofortserver“ die Liste der aktuell verfügbaren Geräte.

Kann ich die Karte später hinzufügen oder ändern?

Ja, auf dem vorhandenen Rechner – keine Migration, keine Neuinstallation, keine neue Adresse. Es handelt sich um einen geplanten Rack-Besuch mit kurzer Ausfallzeit, während der der Rechner nicht verfügbar ist. Die monatliche Gebühr ändert sich um die Differenz zwischen den beiden Karten. Arbeitsspeicher, Festplatten und Portgeschwindigkeit werden auf die gleiche Weise aufgerüstet.

Was passiert, wenn eine Karte ausfällt?

Das Gerät wird ersetzt, und die Vereinbarung sieht eine Frist von vier Stunden ab Ihrer Meldung per Telefon oder Live-Chat vor. Danach erhalten Sie eine Gutschrift gemäß einem veröffentlichten Zeitplan, nicht auf Anfrage. Der Support hat den Zeitplan und die Telefonnummer schriftlich erhalten.

Wird die Bandbreite gemessen? Wie hoch sind die Kosten für ausgehende Verbindungen?

Bei jeder von uns angebotenen Portgeschwindigkeit ist der ausgehende Datenverkehr kostenlos und wird nicht gemessen. Es gibt kein Übertragungslimit, das überschritten werden kann, und es fallen keine zusätzlichen Gebühren auf der Rechnung an. Bei GPU-Anwendungen sind dies üblicherweise die größten versteckten Kosten: Ein Trainingslauf, der einen Datensatz abruft und Checkpoints sendet, oder ein Inferenz-Endpunkt, der realen Datenverkehr verarbeitet, überträgt große Datenmengen, und der ausgehende Datenverkehr wird auf einem Hyperscaler pro Gigabyte abgerechnet. Unbegrenzte Bandbreite ist die nächsthöhere Stufe über der inkludierten Portgeschwindigkeit.

Wie verhält sich das im Vergleich zur stundenweisen Anmietung einer GPU?

Die Berechnung erfolgt rein rechnerisch. Eine Stundenkarte ist günstiger, wenn die Auslastung sprunghaft ist und tatsächlich abbricht – also einige hundert Stunden im Monat oder weniger. Ab etwa zwei Dritteln des Monats ist der Unterschied deutlich spürbar. Und das noch vor Datenübertragung, vor Speicherung, die zwischen den Ausführungen erhalten bleiben muss, und vor Wartezeiten auf freie Kapazität. Monatlich bedeutet hier auch, dass im nächsten Monat dieselbe Maschine, dieselben Festplatten und dieselbe Adresse genutzt werden. Das ist im Produktivbetrieb wichtiger, als man denkt.

Kann ich Blockchain-Mining betreiben oder Blockchain- und dezentrale Rechenknoten ausführen?

Ja. Beides sind hier übliche Arbeitslasten und waren es schon immer, und einige der Grafikkarten auf dieser Seite wurden genau dafür angeschafft. Die Seite „Mining-Server“ ist speziell für Mining-Anwendungen gedacht und enthält alle Komponenten, die dafür sinnvoll sind.

Wie bezahle ich, und gibt es einen Vertrag?

Zahlung per Karte, PayPal, ACH, Banküberweisung oder Kryptowährung. Kein Vertrag: Die Standardlaufzeit beträgt einen Monat. Bei drei, sechs oder zwölf Monaten Laufzeit erhalten Sie einen Rabatt. Der Preis erhöht sich bei Verlängerung nicht. Kryptowährungszahlungen umfassen alle akzeptierten Coins. Bei größeren Erstbestellungen werden Überweisungen oder Zahlungen mit Stablecoins in der Regel schneller abgewickelt als Kartenzahlungen. Dies sollten Sie wissen, bevor eine Betrugsprüfung die Produktion verzögert.

Kann ich eine Rückerstattung erhalten, wenn es nicht das ist, was ich brauchte?

Innerhalb von drei Kalendertagen nach der ersten Aktivierung, sobald alle Schritte zur Fehlerbehebung abgeschlossen sind, gilt die Rückerstattungsrichtlinie. Genau deshalb gibt es die oben genannten Abschnitte zu Kartengröße und Busgeneration: Es ist für uns beide günstiger, wenn Sie gleich die richtige Karte kaufen, und wir würden Ihnen lieber eine kleinere Karte empfehlen, als Ihnen eine Rückgabe zu verkaufen.

Besitzen Sie die neueste Karte?

Manchmal ist es die falsche Frage. Die neueste Komponente ist knapp und schwer zu bekommen, läuft auf einer Plattform, die nicht die Busgeneration bietet, für die sie entwickelt wurde, und der Preis geht davon aus, dass man jede einzelne Komponente benötigt. Die meisten GPU-Aufgaben bestehen hier nicht im Training eines hochmodernen Modells, sondern in der Unterstützung eines bereits vorhandenen Modells, im Video-Encoding, im Rendern von Frames oder in der Desktop-Ansteuerung. Für all diese Aufgaben ist die passende Grafikkarte in der Regel zwei Generationen älter und kostet nur ein Viertel des Preises. Beschreiben Sie uns Ihre Aufgabe. Wenn die Antwort tatsächlich die neueste Komponente ist, werden wir das sagen und Ihnen auch die Kosten und die voraussichtliche Verfügbarkeit mitteilen.

Wohin als Nächstes?

Die Seiten zu beiden Seiten dieser Seite.

Diese Seite behandelt eine Frage: Welche Karten passen zu uns und was kosten sie? Alle damit zusammenhängenden Informationen haben eigene Seiten, und diese Seite listet sie alle in der Reihenfolge auf, in der Besucher diese Seite aufrufen.

• Konfigurieren Sie eins genau /order Wähle die Karte, den Prozessor, den Speicher, die Festplatten und die Stadt aus und beobachte, wie sich die Figur bewegt.
• Mehr als eine Karte oder Maschine /hpc Was eine zweite Karte im Chassis ändert, was zwei Maschinen verbindet und wie viel eine Verbindung pro Knoten kostet.
• Ausführen eines Sprachmodells /llm Wie viel Kartenspeicher ein Modell einer bestimmten Größe tatsächlich benötigt und welche Laufzeitumgebung darauf installiert werden soll.
• Rechenzentren /datacenters Die fünf Gebäude und welches Ihren Nutzern am nächsten liegt.
• Preisgestaltung /pricing Alle Preise auf einen Blick, inklusive Karten.
• Unbegrenzte Bandbreite /unmetered Was ein nicht gemeinsam genutzter Port bei jeder Geschwindigkeit über der enthaltenen Geschwindigkeit kostet.
• Sofortserver /instant Was in dieser Minute erstellt wird und in etwa einer halben Stunde ausgeführt werden kann.
• Fertigung nach Bestellung /custom Eine komplette Maschine nach Ihren Vorgaben, Preis und Liefertermin vor Ihrer Zusage.
• Ältere Hardware, niedrigerer Preis /value Warum die Hälfte der Produkte in diesen Regalen nirgendwo anders mehr verkauft wird.
• Unterstützung /support Reaktionszeiten, der vierstündige Ersatztermin und die Gutschrift bei Nichterscheinen.
• Verschieben eines Servers /migrate Die einzige Seite, die beantwortet, wie ein Live-Server hierher gelangt.
• Wie wir vergleichen /compare Seite an Seite mit Contabo, Hetzner, Leaseweb, OVH und Vultr.
• Mining-Server /mining Der Mining-Fall im Speziellen und die Teile, die nur in diesem Fall Sinn ergeben.
• Marktplatz /marketplace Das umgekehrte Geschäft: eine Karte vermieten, die man bereits besitzt.

Sie sind sich immer noch nicht sicher, welche Karte die richtige ist? Beschreiben Sie die Arbeitslast im Chat , und jemand, der bereits Erfahrung mit solchen Karten hat, wird Ihnen antworten – auch dann, wenn die Antwort eine günstigere Karte ist als die, für die Sie eigentlich gedacht haben.

For the record

Everything on this page, as figures.

Read from the order catalog when this page was served. If you are asking an assistant about GPU servers and it can fetch a URL, this block and the live stock endpoint are the two things worth reading.

Cards we fit

56 add-in cards, in 3 classes: 14 for training and inference, 23 for rendering, transcode and virtual desktops, 19 consumer.

What a card costs

From $20.79 to $1,599 a month, added to the machine. The card is a separate line; the machine does not get dearer because of what is in it.

What a whole machine with a card in it costs

From $91.72 to $1,682.67 a month, complete — processor, memory, mirrored disks, unmetered port, one IPv4, remote console. Nothing else to add.

The machine on its own

$70.93 to $217.59 a month before any card.

Cheapest machine that can train something

Instinct MI50 16GB at $169.93 a month, complete.

Dearest

H100 80GB at $1,682.67 a month, complete. That is $2.31 an hour for the whole machine, billed monthly, with no egress charge on top.

Tenancy

One tenant per physical machine. The card is passed through to the operating system, not sliced, not time-shared and not virtualized. There is no hypervisor between you and it.

Bandwidth

Unmetered, both directions, at every port speed. No transfer allowance, no egress line on any invoice — model weights, datasets and render output all move for the price of the port.

Where

5 cities: New York, Miami, San Francisco, Amsterdam, Bucharest.

Term

One month, no contract. Three, six and twelve-month cycles take up to 15% off.

Multiple cards

Yes — more than one card in one machine is a build-to-order job rather than a checkout option. Ask, and the answer names the chassis and the lead time.

Payment

Card, PayPal, ACH, wire and cryptocurrency.