Hébergement de serveurs IA dédiés d’un seul GPU à un cluster complet

C’est un serveur physique loué pour vous seul et équipé d’un ou plusieurs GPU pour l’entraînement, le réglage fin ou la mise en service de modèles. Ici, les GPU sont transmis directement à votre propre système d’exploitation, sans hyperviseur ni personne d’autre sur la machine, et vous payez au mois, sans engagement.

Oui. Chaque serveur GPU que nous louons est bare metal : vous disposez d’un accès root sur toute la machine et installez le pilote, la version CUDA et le framework attendus par votre code. Les GPU et leurs prix mensuels figurent sur la page Serveurs GPU dédiés, chacun étant indiqué avec la machine qui l’accueille.

Oui, sous forme de configuration sur devis plutôt que d’option au moment du paiement. Le nombre possible dépend de la largeur du GPU et de la puissance que le châssis peut fournir ; indiquez-nous donc sur le chat quel GPU vous voulez, et la réponse précisera le châssis, le nombre et la date.

Commandez les machines dans la même ville, sur une plateforme qui atteint la vitesse de port dont vous avez besoin, puis choisissez cette vitesse sur chacune. Elles restent des serveurs distincts avec des factures distinctes, ce qui vous permet de commencer avec deux et d’en ajouter plus tard. Indiquez-nous d’abord le nombre de nœuds et la tâche, et nous vérifierons la ville et la plateforme avant que vous ne payiez.

Pas comme option répertoriée. Les machines se connectent via des ports Ethernet jusqu’à 100 Gbps. Si votre configuration nécessite InfiniBand ou un pont NVLink, demandez avant de commander : ce serait un devis, et la réponse pourrait être non.

Cela dépend de la régularité de votre utilisation. Un serveur IA dédié coûte le même prix chaque mois, qu’il tourne à plein régime ou reste inactif ; il convient donc aux longs entraînements et aux modèles servis en continu. Le trafic n’est pas mesuré ici, donc déplacer des jeux de données entre les nœuds ou envoyer des résultats aux utilisateurs n’ajoute rien. Pour une tâche qui ne tourne que quelques heures par mois, la location à l’heure peut revenir moins cher.

HPC signifie calcul haute performance : simulations, rendu, code scientifique et entraînement de modèles répartis sur de nombreux processeurs ou GPU. Nous louons les composants, c’est-à-dire des machines avec jusqu’à 2 sockets et 1 TB de mémoire, des GPU à l’intérieur et des ports entre elles. Vous configurez vous-même l’ordonnanceur, Slurm ou Kubernetes ou tout autre outil déjà utilisé par votre équipe.

La machine et son GPU sont tarifés ensemble sur la page Serveurs GPU dédiés. Un port plus rapide que celui inclus figure dans le tableau de cette page, par machine et par mois. Payer pour trois, six ou douze mois donne jusqu’à 15% de remise, et une configuration personnalisée entraîne des frais d’installation uniques que le configurateur affiche avant le paiement.

Environ quatre à vingt-quatre heures lorsque nous avons les pièces en stock, cinq à dix jours ouvrés lorsqu’elles doivent être commandées, et dix à quinze jours ouvrés pour une pièce rare. Une machine déjà montée comme vous le souhaitez peut fonctionner en environ 30 minutes.

Oui. Ils ont leur propre page, Serveurs CMP 170HX, avec les configurations et leurs prix mensuels.

À New York, Miami, San Francisco, Amsterdam et Bucarest. Toutes les plateformes ne sont pas dans chaque ville ; New York and Bucharest les possèdent toutes, ce qui en fait les endroits les plus simples pour faire grandir un cluster.

Notre chat IA répond en quelques secondes et peut vérifier votre compte et vos serveurs pendant qu’il vous aide, et une personne prend le relais dès que vous le demandez. Les délais de réponse et le remplacement du matériel figurent sur la page Support.