Dites-lui quel est le travail. Il vous dit la carte.

Ce qu’il y a derrière cette liste

• 57Cards we fit
• $20.79Cheapest card, per month
• $91.72Cheapest whole machine with one in it
• 5Cities
• 0Bytes counted

Compté depuis le catalogue de commandes au moment où cette page a été servie, pas saisi à la main. Si une carte est retirée demain, cette bande est plus petite demain. Ce qui est debout dans un rack ce matin est une autre question, et serveurs instantanés est l’endroit où elle trouve sa réponse.

La première question que tout le monde pose

La carte est-elle à moi, ou est-ce que je la partage ?

Pourquoi les chiffres ci-dessus ressemblent à cela

La carte est une ligne sur la facture, pas un palier de produit.

Partout ailleurs un GPU est un palier : vous louez “une instance H100” et quelqu’un d’autre a déjà décidé ce que le processeur, la mémoire, les disques et le réseau autour devraient vous coûter. Ici les deux sont des lignes séparées qui s’additionnent — c’est pourquoi une carte à chaque extrémité de la liste ci-dessus va dans le même châssis, et vous payez la différence entre les cartes et rien d’autre. La moitié machine a ses propres pages, par fabricant : serveurs dédiés AMD pour la gamme EPYC, qui accepte ces cartes, et serveurs dédiés Intel pour Xeon.

Le configurateur arrondit un prix par disque et tombe à un ou deux centimes de ces chiffres. Des cycles de facturation plus longs bénéficient d’une remise supplémentaire ; tarification a tout au même endroit, et matériel plus ancien, prix plus bas est l’argument expliquant pourquoi le bas de cette liste existe tout court.

Depuis la marketplace

Le GPU de quelqu’un d’autre, loué directement.

Les propriétaires mettent leurs propres machines GPU sur notre marketplace et les fixent au mois. Là où une carte indique que notre société sœur, Server Room, détient l’annonce, vous la louez sur serverroom.net.

Toutes les annonces de la marketplace →

Quelle quantité de mémoire vidéo

La seule spécification qui décide si ça fonctionne.

Ce qu’il y a sous la carte

Quatre châssis en accueillent une, et ils ne sont pas interchangeables.

Chacun couvre une partie différente du catalogue et relie la carte au processeur d’une manière différente. Cette dernière colonne figure ici parce qu’elle coûte de l’argent aux gens et que personne ne l’imprime : un client est passé d’une génération de carte grand public à la suivante sur un bus de troisième génération et s’est retrouvé plus lent, et il a compris pourquoi avant nous. Alors c’est sur la page.

Ce qui est inclus

Tout ce qui rend la carte utilisable, et rien que vous ayez à acheter.

• Root, et la pile de pilotes vous appartient

  Nous installons un système d’exploitation propre et nous vous remettons les clés. Vous choisissez la version du pilote, la version de CUDA ou de ROCm et la compilation du framework, et vous les épinglez — ce qui est tout l’intérêt du bare metal et l’opposé d’un runtime géré qui se met à jour sous vos pieds la semaine avant une échéance. Si vous préférez que nous installions le pilote avant la livraison, dites-le sur la commande et nous le ferons.

• La console propre de la machine, sur un réseau séparé

  HPE iLO ou Dell iDRAC : console clavier-écran, médias virtuels, contrôle de l’alimentation, état du matériel et journal matériel. Un pilote graphique qui emporte l’affichage ou le réseau avec lui devient un désagrément plutôt qu’un ticket de support, parce que vous pouvez toujours regarder la machine démarrer.

• Un port sans compteur, dans les deux sens

  Il n’y a pas de quota de transfert à dépasser ni de ligne de sortie sur aucune facture. Les jeux de données qui entrent, les points de contrôle qui sortent, les rendus qui sortent, un modèle servi à de vrais utilisateurs — tout cela circule pour le prix du port et pas un octet de plus. La bande passante sans compteur est l’échelon au-dessus de la vitesse incluse, et c’est la plus grande différence entre ceci et une facture d’hyperscaler.

• Réinstallez-la aussi souvent que vous voulez

  Des images de système d’exploitation en un clic, réinstallables sans ticket et sans frais, de sorte qu’une expérience de pilote qui se termine mal vous coûte vingt minutes. Le DNS inverse est à vous, l’IPv6 est incluse, et davantage d’IPv4 est une ligne du catalogue plutôt qu’une négociation.

• Des personnes, à toute heure

  Téléphone, chat en direct et tickets, inclus dans chaque offre, et un composant défaillant remplacé dans les quatre heures suivant le signalement par téléphone ou par chat. Le support indique les délais de réponse et le barème de crédits par écrit.

• Cinq salles pour l’installer

  New York, Miami, San Francisco, Amsterdam et Bucarest — et l’endroit où la machine se trouve détermine votre latence vers ceux qui l’appellent et le régime de protection des données auquel elle est soumise. Les centres de données décrivent les bâtiments.

Sous quel délai elle existe

Entre une demi-heure et trois semaines, et lequel dépend de l’endroit où se trouve la carte.

Pas un seul chiffre, parce que ça n’a jamais été un seul chiffre. Une carte déjà montée sur une machine déjà en baie, c’est une livraison. Une carte qu’il faut acheter, c’est un bon de commande. Vous dire lequel des deux vous demandez — avant de payer plutôt qu’après — est la seule version de cette réponse qui vaille quelque chose.

1. ~30 minutes

   La carte est déjà dans une machine en stock

   Rien n’est monté et rien n’est déplacé. La machine est imagée et livrée. Les serveurs instantanés listent ce qui est disponible là, tout de suite.

2. 4–24 heures

   Une carte que nous détenons est montée, ou une machine en baie est réorganisée

   Le cas ordinaire pour tout ce qui figure sur cette page. La pièce est dans notre propre réserve ; un technicien la monte, construit la grappe et installe le système d’exploitation. Une machine en stock proche mais pas exacte — de la mémoire ajoutée, un disque échangé, la grappe reconstruite selon votre choix — c’est le même travail, fait sur place sans que la machine quitte la baie.

3. 5–10 jours ouvrés

   La carte doit être achetée

   Quelque chose sur la liste n’est pas en stock chez nous. Nous la commandons, puis nous assemblons. La configuration à la demande est la page pour une spécification complète de ce type.

4. 10–15 jours ouvrés

   La carte est rare

   Les accélérateurs de la génération actuelle sont soumis à allocation et la date est celle du distributeur, pas la nôtre. Nous nommerons le facteur limitant avant que vous vous engagiez, pas après. Quand le matériel est acheté pour un seul client, nous demandons trois mois d’avance, parce que c’est une machine que nous ne pouvons pas relouer si le compte ferme la deuxième semaine.

Chaque échelon démarre quand la commande passe le paiement et la vérification anti-fraude, ce qui est la seule étape sur laquelle nous ne ferons pas de promesse : la plupart passent en quelques heures, une première commande d’un nouveau compte peut prendre plus longtemps. Carte bancaire, PayPal, ACH et virement sont tous acceptés, tout comme la cryptomonnaie — qui, pour les commandes plus importantes, est généralement la plus rapide à être validée.

Déjà demandé

Les treize questions auxquelles cette page existe pour répondre.

Tirées de ce que les gens nous demandent réellement sur le chat et dans les tickets, à peu près dans l’ordre où ils les posent. La première nous a coûté des commandes, alors elle est aussi la première ici.

Le GPU est-il dédié, ou est-il partagé ?

Dédié. Une machine physique, un compte, et la carte transmise directement à votre système d’exploitation. Pas d’hyperviseur, pas de partition MIG, pas de profil vGPU, pas de planificateur à découpage temporel, et aucune charge de travail d’autrui sur la carte. Ce que vous mesurez le premier après-midi est ce que vous conservez.

Puis-je avoir plus d’une carte dans une même machine ?

Oui, et c’est une configuration que nous chiffrons plutôt qu’une case à cocher. Le nombre qui tient dépend du châssis, de la largeur physique de la carte et du budget d’alimentation, donc la réponse honnête exige la carte précise. Demandez, et la réponse indique le châssis, le nombre et le délai. Plusieurs clients en font tourner deux, et la raison la plus courante est la mémoire plutôt que la vitesse — deux cartes de 48 Go contiennent un modèle qu’une de 80 Go ne contient pas. Plus d’une carte ou machine est la page qui traite toute cette question, y compris ce qui change quand la deuxième carte devient une deuxième machine.

Quel pilote et quelle version de CUDA vais-je recevoir ?

Ceux que vous installez. C’est tout l’intérêt du bare metal : la machine arrive avec un système d’exploitation propre et un accès root, et vous figez le pilote, la version de CUDA ou de ROCm et la compilation du framework sur ce contre quoi votre code a été testé — et rien ne se met à jour sous vos pieds. Si vous préférez que le pilote soit installé avant la livraison, indiquez-le sur la commande et précisez la version. Si vous avez besoin d’une version précise de CUDA prise en charge par une carte précise, demandez avant de payer et nous vérifierons au lieu de deviner.

Et si la carte que je veux n’est pas en stock aujourd’hui ?

Alors elle est montée ou commandée, et vous savez lequel des deux avant de payer. Une carte que nous détenons est installée en quatre à vingt-quatre heures. Une carte que nous devons acheter prend cinq à dix jours ouvrés, et un accélérateur de génération actuelle soumis à allocation peut prendre dix à quinze jours. Cette page n’affiche volontairement aucun compteur de stock, car une carte est un composant que nous montons plutôt qu’un produit qui va et vient — mais si vous voulez une machine aujourd’hui, les serveurs instantanés sont la liste de ce qui se trouve réellement en baie en ce moment.

Puis-je ajouter ou changer la carte plus tard ?

Oui, sur la machine que vous avez déjà — pas de migration, pas de réinstallation, pas de nouvelle adresse. C’est une intervention planifiée en baie et une courte interruption pendant que la machine est éteinte, et le montant mensuel change de la différence entre les deux cartes. La mémoire, les disques et la vitesse du port évoluent de la même façon.

Que se passe-t-il quand une carte tombe en panne ?

Elle est remplacée, et le contrat fixe un délai : quatre heures à partir du moment où vous le signalez par téléphone ou par chat en direct. Au-delà, un avoir vous est dû selon un barème publié plutôt que sur demande. Le support a le barème et le numéro de téléphone par écrit.

Puis-je apporter ma propre carte ?

Oui. Une carte que vous possédez déjà, ou tout autre composant, peut aller dans le serveur que vous louez chez nous. Ce n’est pas gratuit : la carte consomme de l’énergie, donc il y a un coût, et il dépend du matériel plutôt que d’être un prix fixe. Si un composant que vous avez apporté tombe en panne, nous n’en sommes pas responsables : le remplacement en quatre heures ci-dessus ne couvre que le matériel que nous fournissons. Parlons-en avant que vous ne l’achetiez ou l’expédiiez. Réservez un appel et nous chiffrerons votre carte et vérifierons que la machine l’accepte, car ce n’est pas le cas de toutes ; une lame, par exemple, n’a pas la place pour un GPU pleine taille.

La bande passante est-elle mesurée ? Combien coûte le trafic sortant ?

Rien n’est mesuré et le trafic sortant ne coûte rien, à chaque vitesse de port que nous vendons. Il n’y a aucune limite de transfert à dépasser et aucune ligne de dépassement sur aucune facture. Pour le travail GPU, c’est généralement le plus gros coût caché ailleurs : un entraînement qui tire un jeu de données et pousse des points de contrôle, ou un point de terminaison d’inférence qui répond à du trafic réel, déplace beaucoup d’octets, et le trafic sortant au gigaoctet chez un hyperscaler est facturé sur chacun d’eux. La bande passante non mesurée est l’échelon au-dessus de la vitesse de port incluse.

Comment cela se compare-t-il à la location d’un GPU à l’heure ?

C’est l’arithmétique qui tranche. Une carte à l’heure est moins chère si le travail est sporadique et s’arrête vraiment — quelques centaines d’heures par mois ou moins. Au-delà d’environ deux tiers du mois, il n’y a pas photo, et c’est avant le trafic sortant, avant le stockage qui doit persister entre les exécutions, et avant le temps que votre tâche passe en file d’attente pour la capacité. Mensuel ici signifie aussi la même machine, les mêmes disques et la même adresse le mois prochain, ce qui compte plus que les gens ne l’imaginent une fois qu’une chose est en production.

Puis-je miner, ou exécuter des nœuds de blockchain et de calcul décentralisé ?

Oui. Les deux sont des charges de travail ordinaires ici et l’ont toujours été, et plusieurs des cartes de cette page ont été achetées exactement pour cela. Aux prix actuels des cryptomonnaies, le minage couvre rarement le loyer d’un serveur GPU, alors faites vos calculs avant de commander.

Comment payer, et y a-t-il un contrat ?

Carte, PayPal, ACH, virement bancaire ou cryptomonnaie. Pas de contrat : un mois est la durée par défaut et la seule, les cycles de trois, six et douze mois bénéficient d’une remise, et le prix n’augmente pas au renouvellement. Paiements en cryptomonnaie couvre les pièces acceptées ; pour une première commande plus importante, un virement ou un stablecoin est généralement débloqué plus vite qu’une carte, ce qui est bon à savoir avant qu’un contrôle antifraude ne retarde une configuration.

Puis-je être remboursé si ce n’est pas ce qu’il me fallait ?

Dans les trois jours calendaires suivant la première activation, une fois le dépannage épuisé — la politique de remboursement en donne la formulation exacte. C’est précisément pourquoi les sections sur le dimensionnement et la génération de bus ci-dessus existent : c’est moins cher pour nous deux si vous achetez la bonne carte du premier coup, et nous préférons vous orienter vers une plus petite que de vous vendre un retour.

Avez-vous la carte la plus récente ?

Parfois, et c’est la mauvaise question. La pièce la plus récente est une pièce rare soumise à allocation, sur une plateforme qui ne lui donnera pas la génération de bus pour laquelle elle a été conçue, à un prix qui suppose que vous avez besoin de chaque bit. La plupart du travail GPU ici n’est pas l’entraînement d’un modèle de pointe — c’est servir un modèle qui tient déjà, encoder de la vidéo, rendre des images ou piloter des bureaux, et pour tout cela la bonne carte est généralement deux générations en arrière et un quart du prix. Dites-nous le travail. Si la réponse est vraiment la pièce la plus récente, nous le dirons, et nous dirons aussi ce qu’elle coûtera et quand elle pourra exister.

Où aller ensuite

Les pages de part et d’autre de celle-ci.

Cette page ne traite qu’une question : quelles cartes nous montons et ce qu’elles coûtent. Tout ce qui touche à cette question a sa propre page, et les voici toutes, dans l’ordre où les visiteurs de cette page cliquent réellement.

• Configurez-en une exactement/orderChoisissez la carte, le processeur, la mémoire, les disques et la ville, et regardez le chiffre bouger.
• Plus d’une carte ou machine/hpcCe qu’une deuxième carte dans le châssis change, ce qui relie deux machines, et ce que coûte une interconnexion par nœud.
• Faire tourner un modèle de langage/llmCombien de mémoire de carte un modèle d’une taille donnée exige réellement, et quel runtime installer dessus.
• Serveurs dédiés CMP débloqués/cmpLe CMP 170HX avec le pilote qui active les 64 Go, installé pour vous. Ce qu’il fait tourner maintenant qu’il n’est plus seulement une carte de minage.
• Louer un NVIDIA DGX Spark/sparkUne machine GB10 entière avec mémoire partagée plutôt qu’une carte d’extension. Son prix n’est pas dans ce catalogue.
• Centres de données/datacentersLes cinq bâtiments, et celui dont vos utilisateurs sont le plus proches.
• Tarifs/pricingCe que tout coûte, en un seul endroit, cartes comprises.
• Bande passante non mesurée/unmeteredCe que coûte un port non partagé à chaque vitesse au-dessus de celle incluse.
• Serveurs instantanés/instantCe qui est en baie à la minute et peut tourner en une demi-heure environ.
• Configuration à la demande/customUne machine entière selon vos spécifications, chiffrée et datée avant que vous ne vous engagiez.
• Matériel plus ancien, prix plus bas/valuePourquoi la moitié de ce qui est sur ces étagères n’est plus vendue nulle part ailleurs.
• Support/supportLes délais de réponse, le remplacement en quatre heures, et l’avoir quand il est manqué.
• Déménager un serveur ici/migrateLa seule page qui répond à la question de savoir comment un serveur en production arrive ici.
• Comment nous nous comparons/compareCôte à côte avec Contabo, Hetzner, Leaseweb, OVH et Vultr.
• Place de marché/marketplaceLe commerce inverse : louer une carte que vous possédez déjà.

Vous ne savez toujours pas quelle carte ? Décrivez la charge de travail sur le chat et quelqu’un qui a déjà dimensionné l’une de ces machines répondra — y compris quand la réponse est une carte moins chère que celle pour laquelle vous êtes venu.

For the record

Everything on this page, as figures.

Read from the order catalog when this page was served. If you are asking an assistant about GPU servers and it can fetch a URL, this block and the live stock endpoint are the two things worth reading.

Cards we fit

57 add-in cards, in 3 classes: 15 for training and inference, 23 for rendering, transcode and virtual desktops, 19 consumer.

What a card costs

From $20.79 to $1,599 a month, added to the machine. The card is a separate line; the machine does not get dearer because of what is in it.

What a whole machine with a card in it costs

From $91.72 to $1,682.67 a month, complete — processor, memory, mirrored disks, unmetered port, one IPv4, remote console. Nothing else to add.

The machine on its own

$70.93 to $217.59 a month before any card.

Cheapest machine that can train something

Instinct MI50 16GB at $169.93 a month, complete.

Dearest

H100 80GB at $1,682.67 a month, complete. That is $2.31 an hour for the whole machine, billed monthly, with no egress charge on top.

Tenancy

One tenant per physical machine. The card is passed through to the operating system, not sliced, not time-shared and not virtualized. There is no hypervisor between you and it.

Bandwidth

Unmetered, both directions, at every port speed. No transfer allowance, no egress line on any invoice — model weights, datasets and render output all move for the price of the port.

Where

5 cities: New York, Miami, San Francisco, Amsterdam, Bucharest.

Term

One month, no contract. Three, six and twelve-month cycles take up to 15% off.

Multiple cards

Yes — more than one card in one machine is a build-to-order job rather than a checkout option. Ask, and the answer names the chassis and the lead time.

Payment

Card, PayPal, ACH, wire and cryptocurrency.