Cartes graphiques sur boîtier nu · Primcast LLC · depuis 2004

Indiquez-lui la tâche. Il vous indiquera la carte.

La principale difficulté lors de l'achat d'un serveur GPU ne réside pas dans l'achat lui-même, mais dans le choix de la carte graphique adaptée. Or, dans ce secteur, tous les catalogues sont classés selon les performances du composant plutôt que selon l'application visée. Ici, c'est différent : indiquez votre besoin et la capacité de mémoire requise, et vous trouverez la solution idéale, avec son prix.

Trouvez la carte Cette carte est-elle à moi ?

Un seul utilisateur par machine. La carte est transmise directement à votre système d'exploitation — sans découpage, sans partage de temps, sans virtualisation.

Le banc

Deux questions.

Aucune réservation n'est effectuée, aucun compte n'est créé, et le montant indiqué à côté de chaque carte correspond à l'ensemble du serveur équipé de cette carte (processeur, mémoire, disques en miroir, port illimité, une adresse IP), et non à la carte seule. La part de chaque carte est imprimée en dessous, ce qui permet de distinguer clairement la contribution de chacun.

What is it for?

How much card memory?

anygigabytes or more

  • 5 GB7-8 billion parameters, 4-bit
  • 8 GB13-14 billion parameters, 4-bit
  • 19 GB30-34 billion parameters, 4-bit
  • 38 GB70 billion parameters, 4-bit

  1. 3000M2 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 240 CUDA cores$91.72a month, complete$20.79 of that is the card
  2. K3100M4 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 768 CUDA cores$102.52a month, complete$31.59 of that is the card
  3. M3000M4 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 1,280 CUDA cores$109.12a month, complete$38.19 of that is the card
  4. TESLA M68 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 1,536 CUDA cores$113.42a month, complete$42.49 of that is the card
  5. TESLA M608 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,048 CUDA cores$119.42a month, complete$48.49 of that is the card
  6. GTX 1070M8 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,048 CUDA cores$124.32a month, complete$53.39 of that is the card
  7. GTX 10808 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$125.99a month, complete$55.06 of that is the card
  8. GTX 10708 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 1,920 CUDA cores$135.22a month, complete$64.29 of that is the card
  9. GTX 1070 Ti8 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,432 CUDA cores$146.22a month, complete$75.29 of that is the card
  10. GTX 1080 Ti11 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,584 CUDA cores$149.93a month, complete$79 of that is the card
  11. TESLA P4 / QUADRO P50008 or 16 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93a month, complete$79 of that is the card
  12. TESLA P48 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93a month, complete$79 of that is the card
  13. RTX 20708 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,304 CUDA cores$159.93a month, complete$89 of that is the card
  14. TESLA P40 / QUADRO P600024 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,840 CUDA cores$169.93a month, complete$99 of that is the card
  15. Instinct MI50 16GB16 GB HBM2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps$169.93a month, complete$99 of that is the card
  16. RTX 2070 Super8 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,560 CUDA cores$172.47a month, complete$99 of that is the card
  17. RTX 40008 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,304 CUDA cores$172.47a month, complete$99 of that is the card
  18. Instinct MI5016 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps$172.47a month, complete$99 of that is the card
  19. TESLA M602 x 8 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 4,096 CUDA cores$178.82a month, complete$107.89 of that is the card
  20. RTX 20808 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,994 CUDA cores$189.93a month, complete$119 of that is the card
  21. RTX 500016 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,072 CUDA cores$189.93a month, complete$119 of that is the card
  22. RTX 2080 Super8 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,072 CUDA cores$199.93a month, complete$129 of that is the card
  23. TITAN V12 GB HBM2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,120 CUDA cores$200.92a month, complete$129.99 of that is the card
  24. RTX A2000 40 Mh/s6 or 12 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 40 MH/s$202.47a month, complete$129 of that is the card
  25. RTX 30708 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,888 CUDA cores$209.93a month, complete$139 of that is the card
  26. TESLA P10016 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 3,584 CUDA cores$212.47a month, complete$139 of that is the card
  27. P500016 GB GDDR5XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,560 CUDA cores$214.06a month, complete$140.59 of that is the card
  28. RTX 2080 Ti11 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 4,352 CUDA cores$219.93a month, complete$149 of that is the card
  29. RTX 3070 Ti8 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,144 CUDA cores$222.47a month, complete$149 of that is the card
  30. RTX A400016 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,144 CUDA cores$222.47a month, complete$149 of that is the card
  31. RTX 308010 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 8,704 CUDA cores$229.93a month, complete$159 of that is the card
  32. TESLA T416 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$259.93a month, complete$189 of that is the card
  33. CMP-170HX Mining GPU 164MH/s8 GB HBM2eIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 164 MH/s$259.93a month, complete$189 of that is the card
  34. RTX 407012 GB GDDR6XIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 5,888 CUDA cores$262.67a month, complete$179 of that is the card
  35. RTX 3080 Ti12 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,240 CUDA cores$272.47a month, complete$199 of that is the card
  36. Tenstorrent Blackhole p100a28 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps$272.47a month, complete$199 of that is the card
  37. L4 ADA 24GB GDDR624 GB GDDR6Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$292.67a month, complete$209 of that is the card
  38. RTX A500024 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 8,192 CUDA cores$302.47a month, complete$229 of that is the card
  39. Tesla V100 32GB32 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 5,120 CUDA cores$302.47a month, complete$229 of that is the card
  40. RTX 309024 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 10,496 CUDA cores$309.93a month, complete$239 of that is the card
  41. RTX 508016 GB GDDR7Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$312.67a month, complete$229 of that is the card
  42. P600024 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,840 CUDA cores$320.52a month, complete$249.59 of that is the card
  43. RTX 4500 Ada Generation24 GB GDDR6 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 7,680 CUDA cores$332.67a month, complete$249 of that is the card
  44. RTX 4090D24 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 14,592 CUDA cores$372.47a month, complete$299 of that is the card
  45. RTX 600024 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 4,608 CUDA cores$372.47a month, complete$299 of that is the card
  46. RTX 800048 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 4,608 CUDA cores$472.47a month, complete$399 of that is the card
  47. RTX 509032 GB GDDR7Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 21,760 CUDA cores$472.47a month, complete$399 of that is the card
  48. L40S48 GB GDDR6 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$532.67a month, complete$449 of that is the card
  49. A4048 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$572.47a month, complete$499 of that is the card
  50. Instinct MI21064 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$582.67a month, complete$499 of that is the card
  51. RTX A600048 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$622.47a month, complete$549 of that is the card
  52. RTX 6000 ADA48 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$698.47a month, complete$625 of that is the card
  53. A100 40GB40 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$772.47a month, complete$699 of that is the card
  54. A100 80GB80 GB HBM2eIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$972.47a month, complete$899 of that is the card
  55. RTX PRO 6000 Blackwell 96GB96 GB GDDR7 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$1,382.67a month, complete$1,299 of that is the card
  56. H100 80GB80 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 16,896 CUDA cores$1,682.67a month, complete$1,599 of that is the card

Les estimations proviennent du même catalogue que les factures, et non de devis. Lorsqu'une information concernant la mémoire est manquante, nous n'avons pas trouvé d'information publiée par le fabricant ; l'information est donc indiquée sur la fiche plutôt que d'être estimée. Ces fiches disparaissent dès que vous modifiez le paramètre de mémoire, car filtrer sur une valeur que nous ne possédons pas masquerait des composants qui pourraient vous convenir. N'hésitez pas à nous demander l'information, nous la communiquerons. Certains composants sont compatibles avec plusieurs châssis et proposés à différents prix ; le prix affiché ici correspond à la solution la plus économique pour obtenir cette fiche, et le configurateur présente les autres options.

Que cache cette liste ?

  • 56Cards we fit
  • $20.79Cheapest card, per month
  • $91.72Cheapest whole machine with one in it
  • 5Cities
  • 0Bytes counted

Ce nombre est basé sur le catalogue de commandes au moment de la consultation de cette page, et non sur une saisie manuelle. Si une carte est retirée demain, cette bande sera plus courte. La liste des cartes disponibles dans un présentoir ce matin est une autre question, et c'est aux serveurs instantanés que vous trouverez la réponse.

La première question que tout le monde pose

Cette carte est-elle à moi ou est-ce que je la partage ?

À vous. La carte entière, la machine entière, personne d'autre dessus.

La carte est installée dans un emplacement PCIe d'un serveur physique loué à un seul compte et est directement reliée à votre système d'exploitation : votre propre pilote, votre propre CUDA ou ROCm, vos propres processus. Aucun hyperviseur ne s'interpose entre vous et elle, aucune partition MIG, aucun planificateur de temps de traitement ne décide de votre tour, et aucun autre utilisateur ne perturbe votre latence d'inférence en cours d'après-midi.

Le reste de la machine vous appartient aux mêmes conditions : tous les cœurs, toute la mémoire, tous les disques, la racine, ainsi que le système HPE iLO ou Dell iDRAC dédié au serveur pour la console, les médias virtuels et l’alimentation. Même en cas de panne réseau due à un pilote, l’écran reste visible.

  • Pas de partitionnement. Pas de MIG, pas de vGPU, pas d'allocation fractionnée. Une carte, un locataire.
  • Pas de file d'attente. Rien n'interrompt votre processus. La carte est inactive lorsque vous êtes inactif.
  • Pas un conteneur . Serveur physique. Chargez vos propres modules noyau, spécifiez votre propre version de pilote.
  • Pas de mesure des poids en entrée, des points de contrôle en sortie, des rendus en sortie. Rien ne compte les octets.

Pourquoi les chiffres ci-dessus ont-ils cet aspect ?

La carte correspond à une ligne sur la facture, et non à un niveau de produit.

Partout ailleurs, le GPU est un élément à part entière : vous louez une « instance H100 » et le coût du processeur, de la mémoire, des disques et du réseau est déjà fixé par un tiers. Ici, ces deux éléments sont distincts et s’additionnent ; c’est pourquoi une carte située en haut ou en bas de la liste ci-dessus peut être installée dans le même châssis, et vous ne payez que la différence de prix entre les cartes.

  1. The machineIntel Xeon E5-2600 v1/v2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps$70.93
  2. The cardAnything on the shelves belowCheapest to dearest, $20.79 to $1,599$20.79
  3. The portUnmetered, both directionsNo allowance to exceed, no egress line, everincluded
  4. SetupNothingNo contract; one month is the default term

Whole machine, card in it, per month, from$91.72

And at the other end of the same list: H100 80GB in a whole machine for $1,682.67 a month — $2.31 an hour if you are comparing against something billed by the hour, with nothing added for the traffic.

Le configurateur arrondit le prix par disque et applique une réduction de quelques centimes. Les cycles de facturation plus longs donnent droit à une remise supplémentaire ; le prix est centralisé et, pour les matériels plus anciens, le prix est plus bas, ce qui explique la présence du bas de cette liste.

Quelle capacité de mémoire de carte ?

La seule spécification qui détermine si cela fonctionne.

La fréquence d'horloge et le nombre de cœurs déterminent les performances d'un modèle. La mémoire vive, quant à elle, est déterminante pour son fonctionnement : soit elle est compatible, soit elle ne l'est pas. Une carte mémoire trop courte de deux gigaoctets n'entraîne pas seulement une baisse de vitesse, mais un plantage. C'est donc le premier chiffre à prendre en compte, et pourtant, presque personne ne le mentionne à côté du prix.

Le calcul consiste à multiplier les paramètres par le nombre d'octets correspondant. Les poids de 16 bits occupent deux octets chacun, ceux de 8 bits un octet et ceux de 4 bits un demi-octet. La quantification sur quatre bits permet à une machine initialement incapable de contenir un modèle de le faire, au prix d'une légère perte de qualité.

Prévoyez une marge de sécurité. Les chiffres ci- dessous correspondent aux poids et rien d'autre. L'exécution, les activations et le cache clé-valeur pour un contexte long résident dans la même mémoire, et le cache s'agrandit à chaque jeton échangé. Un modèle dont les poids représentent 38 Go ne fonctionnera pas correctement sur une carte de 40 Go. Prévoyez une marge supplémentaire d'un quart à une demi-Go, ou contactez-nous pour que nous dimensionnions le modèle en fonction de votre configuration réelle.

Weights only. Add head-room for the runtime and the context window before choosing a card.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB8 GB5 GB
13-14 billion parameters28 GB14 GB8 GB
30-34 billion parameters68 GB34 GB19 GB
70 billion parameters140 GB70 GB38 GB

Que se cache sous la carte ?

Quatre châssis en prennent un, et ils ne sont pas interchangeables.

Chaque section du catalogue est associée à une carte et lui attribue un lien différent avec le processeur. Cette dernière colonne est présente car elle représente un coût et n'est pas imprimée : un client est passé d'une génération de carte bancaire à la suivante sur un bus de troisième génération, ce qui a entraîné une baisse de performance , et a identifié le problème avant nous. C'est pourquoi elle figure sur cette page.

Intel Xeon E5-2600 v1/v2

$70.93the machine, per month

Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps

Cards it takes
28
Link to the card
PCIe 3.0
Lanes
40 lanes per socket
Sockets
2
Memory ceiling
256 GB

Configure this machine →

Intel Xeon E5-2600 v3/v4

$73.47the machine, per month

Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps

Cards it takes
43
Link to the card
PCIe 3.0
Lanes
40 lanes per socket
Sockets
2
Memory ceiling
1 TB

Configure this machine →

Intel Xeon Silver / Gold

$83.67the machine, per month

Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps

Cards it takes
47
Link to the card
PCIe 3.0
Lanes
48 lanes per socket
Sockets
2
Memory ceiling
1 TB

Configure this machine →

AMD EPYC

$217.59the machine, per month

AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps

Cards it takes
10
Link to the card
PCIe 4.0
Lanes
128 lanes per socket
Sockets
2
Memory ceiling
1 TB

Configure this machine →

Ce que la nouvelle génération de bus change réellement

Une carte conçue pour un bus récent fonctionne parfaitement sur un bus plus ancien ; elle ne peut simplement pas transférer les données aussi rapidement. L’importance de ce facteur dépend entièrement de l’application.

  • Cela a son importance lorsque des données transitent continuellement par le bus : une boucle d’entraînement qui diffuse des lots de données depuis le disque ou la mémoire système, un rendu qui alimente la carte graphique en données de scène à chaque image, ou tout ce qui déborde de la mémoire de la carte.
  • Une fois les poids définis et maintenus , cela n'a plus d'importance : inférence sur un modèle adapté, transcodage vidéo, la plupart des simulations. Le lien transporte des requêtes et des résultats, et ces derniers sont de petite taille.
  • N'hésitez pas à poser des questions en cas de doute. Indiquez-nous la charge de travail et nous vous dirons clairement si la plateforme constitue un goulot d'étranglement, y compris lorsque la réponse honnête est qu'une carte moins chère avec une meilleure connexion est préférable à une carte plus chère avec une connexion moins performante.

Ce qui est inclus

Tout ce qui rend la carte utilisable, et rien à acheter.

  • Racine, et la pile de pilotes vous appartient.

    Nous installons un système d'exploitation propre et vous en confions la gestion. Vous choisissez la version du pilote, la version de CUDA ou ROCm et la version du framework, puis vous les configurez. C'est le principe du déploiement sur matériel nu, contrairement à un environnement d'exécution géré qui se met à jour automatiquement la semaine précédant une échéance. Si vous préférez que nous installions le pilote avant la mise en service, veuillez le préciser lors de votre commande.

  • La console propre à la machine, sur un réseau distinct

    HPE iLO ou Dell iDRAC : console clavier/écran, supports virtuels, gestion de l’alimentation, état du matériel et journal système. Un pilote graphique qui entraîne la défaillance de l’affichage ou du réseau est un simple désagrément, car le démarrage de la machine reste visible.

  • Port non mesuré, dans les deux sens

    Aucun dépassement de quota de transfert n'est autorisé et aucune ligne de sortie n'est facturée. Les données entrantes, les points de contrôle sortants, les rendus, un modèle déployé auprès d'utilisateurs réels : tout est transféré pour le prix du port, pas un octet de plus. La bande passante illimitée représente le débit supplémentaire par rapport à la vitesse incluse et constitue la principale différence avec une facture d'un fournisseur de services cloud.

  • Réinstallez-le autant de fois que vous le souhaitez

    Images système en un clic, réinstallables sans ticket et sans frais : une expérience de pilote qui tourne mal ne vous coûtera que vingt minutes. Vous pouvez modifier le DNS inverse, l’IPv6 est inclus et l’IPv4 est disponible en option plutôt que négociée.

  • Les gens, à toute heure

    Assistance téléphonique, chat en direct et système de tickets inclus dans chaque forfait. Toute pièce défectueuse est remplacée dans les quatre heures suivant son signalement par téléphone ou chat. Les délais de réponse et le barème de remboursement sont communiqués par écrit.

  • Cinq pièces pour l'installer

    New York, Miami, San Francisco, Amsterdam et Bucarest : l’emplacement de la machine détermine votre latence vers l’appelant et le régime de protection des données auquel elle est soumise. Le terme « centre de données » désigne les bâtiments.

Il existe bientôt

Entre une demi-heure et trois semaines, et cela dépend de la position de la carte.

Il ne s'agit pas d'un seul numéro, car cela n'a jamais été le cas. Une carte déjà installée sur un terminal déjà en service constitue une remise. Une carte à acheter constitue un bon de commande. Seule une version valable de ce système vous indique précisément de quel type de carte il s'agit avant le paiement, et non après.

  1. ~30 minutes

    La carte est déjà dans un distributeur automatique sur l'étagère.

    Rien n'est installé, rien n'est déplacé. La machine est configurée et livrée. Voici la liste des serveurs disponibles actuellement :

  2. 4 à 24 heures

    Une carte que nous tenons est ajustée, ou une machine en rack est réorganisée.

    Le cas classique pour tous les éléments de cette page : la pièce se trouve dans notre entrepôt ; un technicien l’installe, configure la baie et installe le système d’exploitation. Pour une machine en stock, similaire mais non identique (mémoire ajoutée, disque remplacé, baie reconstruite selon vos préférences), le même travail est effectué sur place, sans que la machine ne soit déplacée.

  3. 5 à 10 jours ouvrables

    La carte doit être achetée en

    Certains éléments de la liste ne sont pas en stock. Nous les commandons, puis nous les fabriquons. La page « Fabrication sur commande » contient une spécification complète de ce type.

  4. 10 à 15 jours ouvrables

    La carte est rare.

    Les accélérateurs de dernière génération fonctionnent par allocation et la date est fixée par le distributeur, pas par nous. Nous vous indiquerons la durée d'utilisation avant votre engagement. Pour tout achat de matériel destiné à un client, nous demandons un paiement anticipé de trois mois, car nous ne pouvons pas relouer la machine si le compte est clôturé au bout de deux semaines.

Chaque étape du processus commence lorsque le paiement et la vérification anti-fraude sont validés. Nous ne pouvons pas garantir le délai de validation de cette étape : la plupart des commandes sont validées en quelques heures, mais une première commande depuis un nouveau compte peut prendre plus de temps. Nous acceptons les cartes bancaires, PayPal, les virements ACH et les virements bancaires, ainsi que les cryptomonnaies , qui sont généralement le moyen de paiement le plus rapide pour les commandes importantes.

Demandé avant

Cette page a pour but de répondre aux douze questions suivantes.

Voici une liste des questions que les gens nous posent réellement par chat et via les tickets, plus ou moins dans l'ordre où elles apparaissent. La première question nous a fait perdre des commandes, c'est pourquoi elle figure en premier ici aussi.

La carte graphique est-elle dédiée ou partagée ?
Dédiée. Une seule machine physique, un seul compte, et la carte est directement intégrée à votre système d'exploitation. Aucun hyperviseur, aucune partition MIG, aucun profil vGPU, aucun planificateur de partage de temps, et aucune autre charge de travail n'est utilisée sur la carte. Les résultats obtenus le premier après-midi sont conservés.
Puis-je insérer plusieurs cartes dans un même appareil ?
Oui, et il s'agit d'une configuration personnalisée, pas d'une simple case à cocher. Le nombre de cartes compatibles dépend du châssis, de la largeur physique de la carte et de sa consommation électrique. Pour une réponse précise, il faut donc connaître la carte en question. N'hésitez pas à poser la question : nous vous indiquerons le châssis, le nombre de cartes et le délai de livraison. Plusieurs clients utilisent deux cartes, généralement pour des raisons de mémoire plutôt que de vitesse : deux cartes de 48 Go peuvent gérer un modèle qu'une carte de 80 Go ne peut pas prendre en charge. La page dédiée à la gestion de plusieurs cartes ou machines aborde cette question dans son intégralité, et notamment les modifications apportées lorsqu'une deuxième carte est utilisée pour une deuxième machine.
Quel pilote et quelle version de CUDA dois-je obtenir ?
Quel que soit votre choix, c'est le principe du bare metal : la machine est livrée avec un système d'exploitation et un système racine vierges. Vous spécifiez le pilote, la version de CUDA ou ROCm et la version du framework avec la configuration utilisée pour tester votre code, et aucune mise à jour ne sera effectuée automatiquement. Si vous préférez que le pilote soit installé avant la livraison, veuillez le préciser lors de votre commande et indiquer la version. Si vous avez besoin d'une version spécifique de CUDA compatible avec une carte graphique particulière, veuillez nous en informer avant de payer ; nous effectuerons les vérifications nécessaires au lieu de procéder par supposition.
Et si la carte que je veux n'est pas en rayon aujourd'hui ?
Ensuite, la carte est installée ou commandée, et vous en êtes informé avant le paiement. Une carte en stock est installée sous quatre à vingt-quatre heures. Une carte que nous devons acheter nécessite cinq à dix jours ouvrables, et un accélérateur de dernière génération en cours d'attribution peut prendre de dix à quinze jours. Cette page n'affiche volontairement aucun stock, car une carte est un composant que nous installons et non un produit dont la disponibilité est limitée. Toutefois, si vous souhaitez une machine aujourd'hui , la liste des serveurs disponibles immédiatement est celle des machines réellement en stock.
Puis-je ajouter ou modifier la carte ultérieurement ?
Oui, sur votre machine actuelle : aucune migration, aucune réinstallation, aucune nouvelle adresse. Il s’agit d’une intervention planifiée sur votre serveur, entraînant une brève interruption de service. Le coût mensuel varie en fonction de la différence entre les deux cartes. La mémoire, les disques et la vitesse des ports sont mis à niveau de la même manière.
Que se passe-t-il lorsqu'une carte tombe en panne ?
L'appareil est remplacé, et le contrat prévoit un délai : quatre heures à compter de votre signalement par téléphone ou chat. Passé ce délai, vous bénéficiez d'un crédit de service selon un barème établi, et non sur demande. Le service client dispose de ce barème et du numéro de téléphone par écrit.
La bande passante est-elle mesurée ? Quel est le coût de la sortie ?
Aucun débit n'est facturé et la bande passante sortante est gratuite, quel que soit le débit proposé. Il n'y a pas de limite de transfert à dépasser et aucune ligne de dépassement ne figure sur les factures. Pour les applications GPU, ce coût caché est généralement ailleurs : une session d'entraînement qui importe un jeu de données et envoie des points de contrôle, ou un point de terminaison d'inférence répondant à un trafic réel, transfère un grand nombre d'octets, et chaque gigaoctet de données sortantes est facturé chez un hyperscaler. La bande passante illimitée correspond à l'option supplémentaire au-delà du débit inclus.
Comment cela se compare-t-il à la location d'un GPU à l'heure ?
C'est un calcul arithmétique qui tranche. Une carte facturée à l'heure est plus économique si l'activité est intermittente et s'interrompt régulièrement (quelques centaines d'heures par mois, voire moins). Au-delà des deux tiers du mois environ, la comparaison est beaucoup moins pertinente, et ce, avant même de prendre en compte les données sortantes, le stockage persistant entre les exécutions et le temps d'attente pour la capacité. Dans ce contexte, un abonnement mensuel signifie également l'utilisation de la même machine, des mêmes disques et de la même adresse IP le mois suivant, un détail plus important qu'on ne le pense généralement une fois le système en production.
Puis-je miner, ou exécuter des nœuds de blockchain et de calcul décentralisé ?
Oui. Ce sont deux charges de travail courantes ici, et ça l'a toujours été ; plusieurs des cartes présentées sur cette page ont d'ailleurs été achetées précisément à cette fin. La page « Serveurs de minage » est dédiée au minage en général, et notamment aux composants qui lui sont spécifiquement destinés.
Comment dois-je payer, et y a-t-il un contrat ?
Carte, PayPal, virement ACH, virement bancaire ou cryptomonnaie. Sans engagement : la durée par défaut est d’un mois. Les abonnements de trois, six et douze mois bénéficient d’une réduction, et le prix reste fixe au renouvellement. Les paiements en cryptomonnaie sont acceptés. Pour une première commande importante, un virement bancaire ou un paiement en stablecoin est généralement plus rapide qu’un paiement par carte. Il est donc important de le savoir avant qu’un contrôle anti-fraude ne retarde la construction.
Puis-je obtenir un remboursement si ce n'est pas ce dont j'avais besoin ?
Dans les trois jours calendaires suivant la première activation, une fois le dépannage épuisé, la politique de remboursement est formulée exactement comme indiqué. C'est précisément la raison d'être des sections sur le dimensionnement et la génération de bus ci-dessus : il est plus avantageux pour nous deux que vous achetiez la carte adaptée dès le départ, et nous préférons vous convaincre d'opter pour un modèle inférieur plutôt que de vous vendre un produit retourné.
Avez-vous la carte la plus récente ?
Parfois, et c'est une question mal posée. La dernière version est rare, sur une plateforme qui ne prend pas en charge la génération de bus pour laquelle elle a été conçue, à un prix qui suppose que vous en ayez besoin de toutes les fonctionnalités. La plupart des tâches GPU ne consistent pas à entraîner un modèle de pointe, mais à exécuter un modèle existant, à encoder de la vidéo, à effectuer le rendu d'images ou à gérer des applications de bureau. Pour toutes ces tâches, la carte graphique adéquate date généralement de deux générations et coûte quatre fois moins cher. Décrivez-nous votre besoin. Si la réponse est effectivement la dernière version, nous vous le dirons, et nous vous indiquerons également son prix et sa date de disponibilité.

Où aller ensuite

Les pages qui encadrent celle-ci.

Cette page répond à une seule question : quelles cartes sont compatibles et quel est leur prix ? Tout ce qui est lié à cette question possède sa propre page, et vous trouverez ici toutes ces pages, dans l’ordre où les visiteurs cliquent sur cette page.

Vous hésitez encore sur le choix de la carte ? et une personne ayant déjà dimensionné ce type de carte vous répondra, même si la solution proposée est une carte moins chère que celle que vous recherchez.

For the record

Everything on this page, as figures.

Read from the order catalog when this page was served. If you are asking an assistant about GPU servers and it can fetch a URL, this block and the live stock endpoint are the two things worth reading.

Cards we fit
56 add-in cards, in 3 classes: 14 for training and inference, 23 for rendering, transcode and virtual desktops, 19 consumer.
What a card costs
From $20.79 to $1,599 a month, added to the machine. The card is a separate line; the machine does not get dearer because of what is in it.
What a whole machine with a card in it costs
From $91.72 to $1,682.67 a month, complete — processor, memory, mirrored disks, unmetered port, one IPv4, remote console. Nothing else to add.
The machine on its own
$70.93 to $217.59 a month before any card.
Cheapest machine that can train something
Instinct MI50 16GB at $169.93 a month, complete.
Dearest
H100 80GB at $1,682.67 a month, complete. That is $2.31 an hour for the whole machine, billed monthly, with no egress charge on top.
Tenancy
One tenant per physical machine. The card is passed through to the operating system, not sliced, not time-shared and not virtualized. There is no hypervisor between you and it.
Bandwidth
Unmetered, both directions, at every port speed. No transfer allowance, no egress line on any invoice — model weights, datasets and render output all move for the price of the port.
Where
5 cities: New York, Miami, San Francisco, Amsterdam, Bucharest.
Term
One month, no contract. Three, six and twelve-month cycles take up to 15% off.
Multiple cards
Yes — more than one card in one machine is a build-to-order job rather than a checkout option. Ask, and the answer names the chassis and the lead time.
Payment
Card, PayPal, ACH, wire and cryptocurrency.