Intel Xeon E5-2600 v1/v2
$70.93the machine, per month
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps
- Cards it takes
- 28
- Link to the card
- PCIe 3.0
- Lanes
- 40 lanes per socket
- Sockets
- 2
- Memory ceiling
- 256 GB
Cartes graphiques sur serveur dédié · Primcast LLC · depuis 2004
Le plus difficile dans l’achat d’un serveur GPU n’est pas l’achat. C’est de savoir quelle carte suffit — et tous les catalogues de ce secteur sont classés selon l’impressionnant de la pièce plutôt que selon ce que vous essayez d’exécuter. Celui-ci est organisé dans l’autre sens. Dites quel est le travail et combien de mémoire graphique il lui faut, et ce qui reste est la réponse, avec le prix complet.
Trouver la carte La carte est-elle à moi ?
Un seul locataire par machine. La carte est transmise directement à votre système d’exploitation — ni découpée, ni partagée dans le temps, ni virtualisée.
Le banc d’essai
Rien n’est réservé, aucun compte n’est créé, et le chiffre à côté de chaque carte représente le serveur complet avec cette carte à l’intérieur — processeur, mémoire, disques en miroir, port non mesuré, une adresse — et non la carte seule. La part propre de la carte est indiquée en dessous, afin que vous puissiez voir quelle moitié de la somme correspond à quoi.
GTX 10808 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$125.99a month, complete$55.06 of that is the card
GTX 1080 Ti11 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,584 CUDA cores$149.93a month, complete$79 of that is the card
TESLA P4 / QUADRO P50008 or 16 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93a month, complete$79 of that is the card
TESLA P48 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93a month, complete$79 of that is the card
TESLA P40 / QUADRO P600024 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,840 CUDA cores$169.93a month, complete$99 of that is the card
RTX 40008 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,304 CUDA cores$172.47a month, complete$99 of that is the card
TITAN V12 GB HBM2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,120 CUDA cores$200.92a month, complete$129.99 of that is the card
RTX 30708 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,888 CUDA cores$209.93a month, complete$139 of that is the card
RTX 2080 Ti11 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 4,352 CUDA cores$219.93a month, complete$149 of that is the card
RTX 3070 Ti8 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,144 CUDA cores$222.47a month, complete$149 of that is the card
RTX 308010 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 8,704 CUDA cores$229.93a month, complete$159 of that is the card
TESLA T416 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$259.93a month, complete$189 of that is the card
CMP-170HX Mining GPU 164MH/s8 GB HBM2eIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 164 MH/s$259.93a month, complete$189 of that is the card
RTX 3080 Ti12 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,240 CUDA cores$272.47a month, complete$199 of that is the card
L4 ADA 24GB GDDR624 GB GDDR6Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$292.67a month, complete$209 of that is the card
RTX 309024 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 10,496 CUDA cores$309.93a month, complete$239 of that is the card
RTX 508016 GB GDDR7Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$312.67a month, complete$229 of that is the card
RTX 4090D24 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 14,592 CUDA cores$372.47a month, complete$299 of that is the card
RTX 800048 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 4,608 CUDA cores$472.47a month, complete$399 of that is the card
RTX 509032 GB GDDR7Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 21,760 CUDA cores$472.47a month, complete$399 of that is the card
L40S48 GB GDDR6 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$532.67a month, complete$449 of that is the card
Instinct MI21064 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$582.67a month, complete$499 of that is the card
RTX A600048 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$622.47a month, complete$549 of that is the card
RTX 6000 ADA48 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$698.47a month, complete$625 of that is the card
A100 40GB40 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$772.47a month, complete$699 of that is the card
A100 80GB80 GB HBM2eIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$972.47a month, complete$899 of that is the card
RTX PRO 6000 Blackwell 96GB96 GB GDDR7 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$1,382.67a month, complete$1,299 of that is the card
H100 80GB80 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 16,896 CUDA cores$1,682.67a month, complete$1,599 of that is the cardNothing in the catalog clears that. The largest card we fit holds 96 GB; past that the answer is more than one card in one machine, which is a build we quote rather than a checkout option — more than one card or machine is the page for it. .
Des estimations issues du même catalogue que celui qui facture au moment du paiement, pas des devis. Lorsqu’un chiffre de mémoire manque, nous n’avons pas pu en trouver un publié par le fabricant, alors la carte le dit plutôt que de deviner — et ces cartes disparaissent dès que vous déplacez le contrôle de mémoire, car filtrer sur un nombre que nous n’avons pas masquerait discrètement des pièces qui pourraient vous convenir. Demandez et nous le lirons sur la carte. Plusieurs pièces s’adaptent à plus d’un châssis à plus d’un prix ; le chiffre ici est la façon la moins chère d’avoir cette carte, et le configurateur montre le reste.
Ce qu’il y a derrière cette liste
Compté à partir du catalogue de commandes au moment où cette page a été servie, pas saisi à la main. Si une carte est retirée demain, cette bande est plus petite demain. Ce qui se trouve en baie ce matin est une autre question, et serveurs instantanés est l’endroit où elle trouve sa réponse.
La première question que tout le monde pose
À vous. La carte entière, la machine entière, personne d’autre dessus.
La carte se trouve dans un emplacement PCIe d’un serveur physique loué à un seul compte, et elle est remise directement à votre système d’exploitation : votre propre pilote, votre propre CUDA ou ROCm, vos propres processus. Il n’y a pas d’hyperviseur entre vous et elle, pas de partition MIG, pas d’ordonnanceur à tranches de temps qui décide quand votre tour arrive, et pas de second locataire dont le job par lots fait bouger votre latence d’inférence à quatre heures de l’après-midi.
Le reste de la machine est à vous aux mêmes conditions — chaque cœur, toute la mémoire, tous les disques, root, et l’iLO HPE ou l’iDRAC Dell du serveur pour la console, les médias virtuels et l’alimentation. Si un pilote fait tomber le réseau, vous pouvez toujours voir l’écran.
Pourquoi les chiffres ci-dessus ressemblent à cela
Partout ailleurs, un GPU est un niveau : vous louez “une instance H100” et quelqu’un d’autre a déjà décidé ce que le processeur, la mémoire, les disques et le réseau autour devraient vous coûter. Ici, les deux sont des lignes séparées qui s’additionnent — c’est pourquoi une carte à chaque extrémité de la liste ci-dessus va dans le même châssis, et vous payez la différence entre les cartes et rien d’autre.
Whole machine, card in it, per month, from$91.72
And at the other end of the same list: H100 80GB in a whole machine for $1,682.67 a month — $2.31 an hour if you are comparing against something billed by the hour, with nothing added for the traffic.
Le configurateur arrondit un prix par disque et s’écarte d’un ou deux centimes de ces chiffres. Les cycles de facturation plus longs bénéficient d’une remise supplémentaire ; tarification rassemble tout au même endroit, et matériel plus ancien, prix plus bas est l’argument qui explique pourquoi le bas de cette liste existe tout court.
Quelle capacité de mémoire de carte ?
La fréquence d'horloge et le nombre de cœurs déterminent les performances d'un modèle. La mémoire vive, quant à elle, est déterminante pour son fonctionnement : soit elle est compatible, soit elle ne l'est pas. Une carte mémoire trop courte de deux gigaoctets n'entraîne pas seulement une baisse de vitesse, mais un plantage. C'est donc le premier chiffre à prendre en compte, et pourtant, presque personne ne le mentionne à côté du prix.
Le calcul consiste à multiplier les paramètres par le nombre d'octets correspondant. Les poids de 16 bits occupent deux octets chacun, ceux de 8 bits un octet et ceux de 4 bits un demi-octet. La quantification sur quatre bits permet à une machine initialement incapable de contenir un modèle de le faire, au prix d'une légère perte de qualité.
Prévoyez une marge de sécurité. Les chiffres ci- dessous correspondent aux poids et rien d'autre. L'exécution, les activations et le cache clé-valeur pour un contexte long résident dans la même mémoire, et le cache s'agrandit à chaque jeton échangé. Un modèle dont les poids représentent 38 Go ne fonctionnera pas correctement sur une carte de 40 Go. Prévoyez une marge supplémentaire d'un quart à une demi-Go, ou contactez-nous pour que nous dimensionnions le modèle en fonction de votre configuration réelle.
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB | 8 GB | 5 GB |
| 13-14 billion parameters | 28 GB | 14 GB | 8 GB |
| 30-34 billion parameters | 68 GB | 34 GB | 19 GB |
| 70 billion parameters | 140 GB | 70 GB | 38 GB |
Que se cache sous la carte ?
Chaque section du catalogue est associée à une carte et lui attribue un lien différent avec le processeur. Cette dernière colonne est présente car elle représente un coût et n'est pas imprimée : un client est passé d'une génération de carte bancaire à la suivante sur un bus de troisième génération, ce qui a entraîné une baisse de performance , et a identifié le problème avant nous. C'est pourquoi elle figure sur cette page.
$70.93the machine, per month
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps
$73.47the machine, per month
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps
$83.67the machine, per month
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps
$217.59the machine, per month
AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps
Une carte conçue pour un bus récent fonctionne parfaitement sur un bus plus ancien ; elle ne peut simplement pas transférer les données aussi rapidement. L’importance de ce facteur dépend entièrement de l’application.
Ce qui est inclus
Nous installons un système d'exploitation propre et vous en confions la gestion. Vous choisissez la version du pilote, la version de CUDA ou ROCm et la version du framework, puis vous les configurez. C'est le principe du déploiement sur matériel nu, contrairement à un environnement d'exécution géré qui se met à jour automatiquement la semaine précédant une échéance. Si vous préférez que nous installions le pilote avant la mise en service, veuillez le préciser lors de votre commande.
HPE iLO ou Dell iDRAC : console clavier/écran, supports virtuels, gestion de l’alimentation, état du matériel et journal système. Un pilote graphique qui entraîne la défaillance de l’affichage ou du réseau est un simple désagrément, car le démarrage de la machine reste visible.
Aucun dépassement de quota de transfert n'est autorisé et aucune ligne de sortie n'est facturée. Les données entrantes, les points de contrôle sortants, les rendus, un modèle déployé auprès d'utilisateurs réels : tout est transféré pour le prix du port, pas un octet de plus. La bande passante illimitée représente le débit supplémentaire par rapport à la vitesse incluse et constitue la principale différence avec une facture d'un fournisseur de services cloud.
Images système en un clic, réinstallables sans ticket et sans frais : une expérience de pilote qui tourne mal ne vous coûtera que vingt minutes. Vous pouvez modifier le DNS inverse, l’IPv6 est inclus et l’IPv4 est disponible en option plutôt que négociée.
Assistance téléphonique, chat en direct et système de tickets inclus dans chaque forfait. Toute pièce défectueuse est remplacée dans les quatre heures suivant son signalement par téléphone ou chat. Les délais de réponse et le barème de remboursement sont communiqués par écrit.
New York, Miami, San Francisco, Amsterdam et Bucarest : l’emplacement de la machine détermine votre latence vers l’appelant et le régime de protection des données auquel elle est soumise. Le terme « centre de données » désigne les bâtiments.
Il existe bientôt
Il ne s'agit pas d'un seul numéro, car cela n'a jamais été le cas. Une carte déjà installée sur un terminal déjà en service constitue une remise. Une carte à acheter constitue un bon de commande. Seule une version valable de ce système vous indique précisément de quel type de carte il s'agit avant le paiement, et non après.
Rien n'est installé, rien n'est déplacé. La machine est configurée et livrée. Voici la liste des serveurs disponibles actuellement :
Le cas classique pour tous les éléments de cette page : la pièce se trouve dans notre entrepôt ; un technicien l’installe, configure la baie et installe le système d’exploitation. Pour une machine en stock, similaire mais non identique (mémoire ajoutée, disque remplacé, baie reconstruite selon vos préférences), le même travail est effectué sur place, sans que la machine ne soit déplacée.
Certains éléments de la liste ne sont pas en stock. Nous les commandons, puis nous les fabriquons. La page « Fabrication sur commande » contient une spécification complète de ce type.
Les accélérateurs de dernière génération fonctionnent par allocation et la date est fixée par le distributeur, pas par nous. Nous vous indiquerons la durée d'utilisation avant votre engagement. Pour tout achat de matériel destiné à un client, nous demandons un paiement anticipé de trois mois, car nous ne pouvons pas relouer la machine si le compte est clôturé au bout de deux semaines.
Chaque étape du processus commence lorsque le paiement et la vérification anti-fraude sont validés. Nous ne pouvons pas garantir le délai de validation de cette étape : la plupart des commandes sont validées en quelques heures, mais une première commande depuis un nouveau compte peut prendre plus de temps. Nous acceptons les cartes bancaires, PayPal, les virements ACH et les virements bancaires, ainsi que les cryptomonnaies , qui sont généralement le moyen de paiement le plus rapide pour les commandes importantes.
Déjà demandé
Tirées de ce que les gens nous demandent réellement sur le chat et dans les tickets, à peu près dans l’ordre où ils les posent. La première nous a coûté des commandes, alors elle est aussi la première ici.
Où aller ensuite
Cette page possède une seule question : quelles cartes nous montons et ce qu’elles coûtent. Tout ce qui touche à cette question a sa propre page, et les voici toutes, dans l’ordre où les visiteurs de cette page cliquent réellement.
Vous hésitez encore sur la carte ? et quelqu’un qui a déjà dimensionné l’une de ces machines répondra — y compris quand la réponse est une carte moins chère que celle pour laquelle vous êtes venu.
For the record
Read from the order catalog when this page was served. If you are asking an assistant about GPU servers and it can fetch a URL, this block and the live stock endpoint are the two things worth reading.