Φιλοξενία αποκλειστικών διακομιστών AI από μία GPU έως ένα πλήρες cluster

Είναι ένας φυσικός διακομιστής που νοικιάζεται αποκλειστικά σε εσάς και είναι εξοπλισμένος με μία ή περισσότερες GPU για εκπαίδευση, βελτιστοποίηση ή εξυπηρέτηση μοντέλων. Εδώ οι GPU περνούν απευθείας στο δικό σας λειτουργικό σύστημα, χωρίς hypervisor και χωρίς κανέναν άλλο στο μηχάνημα, και πληρώνετε μηνιαία χωρίς συμβόλαιο.

Ναι. Κάθε διακομιστής GPU που νοικιάζουμε είναι bare metal: έχετε root σε ολόκληρο το μηχάνημα και εγκαθιστάτε τον οδηγό, την έκδοση CUDA και το framework που περιμένει ο κώδικάς σας. Οι GPU και οι μηνιαίες τιμές τους βρίσκονται στους αποκλειστικούς διακομιστές GPU, καθεμία δίπλα στο μηχάνημα στο οποίο ταιριάζει.

Ναι, ως προσφορά κατά παραγγελία και όχι ως επιλογή στο καλάθι. Το πόσες χωράνε εξαρτάται από το πλάτος της GPU και την ισχύ που μπορεί να δώσει το chassis, οπότε πείτε μας ποια GPU θέλετε στο chat και η απάντηση θα αναφέρει το chassis, τον αριθμό και την ημερομηνία.

Παραγγείλτε τα μηχανήματα στην ίδια πόλη, σε μια πλατφόρμα που φτάνει την ταχύτητα θύρας που χρειάζεστε, και επιλέξτε αυτή την ταχύτητα σε καθένα. Παραμένουν ξεχωριστοί διακομιστές με ξεχωριστά τιμολόγια, ώστε να μπορείτε να ξεκινήσετε με δύο και να προσθέσετε περισσότερους αργότερα. Πείτε μας πρώτα τον αριθμό κόμβων και την εργασία και θα ελέγξουμε την πόλη και την πλατφόρμα πριν πληρώσετε.

Όχι ως καταχωρισμένη επιλογή. Τα μηχανήματα συνδέονται μέσω θυρών Ethernet έως 100 Gbps. Αν η κατασκευή σας χρειάζεται InfiniBand ή γέφυρα NVLink, ρωτήστε πριν την παραγγελία: θα ήταν προσφορά και η απάντηση μπορεί να είναι όχι.

Εξαρτάται από το πόσο σταθερά τον χρησιμοποιείτε. Ένας αποκλειστικός διακομιστής AI κοστίζει το ίδιο κάθε μήνα είτε λειτουργεί στο φουλ είτε μένει αδρανής, οπότε ταιριάζει σε μακρές εκπαιδεύσεις και μοντέλα που εξυπηρετούνται όλο το εικοσιτετράωρο. Η κίνηση δεν μετριέται εδώ, οπότε η μεταφορά συνόλων δεδομένων μεταξύ κόμβων ή η αποστολή αποτελεσμάτων σε χρήστες δεν προσθέτει τίποτα. Για μια εργασία που τρέχει λίγες ώρες τον μήνα, η ενοικίαση ανά ώρα μπορεί να κοστίσει λιγότερο.

HPC σημαίνει υπολογιστική υψηλών επιδόσεων: προσομοιώσεις, rendering, επιστημονικός κώδικας και εκπαίδευση μοντέλων κατανεμημένα σε πολλούς επεξεργαστές ή GPU. Νοικιάζουμε τα εξαρτήματα, δηλαδή μηχανήματα με έως 2 υποδοχές και 1 TB μνήμης, GPU μέσα τους και θύρες μεταξύ τους. Στήνετε τον χρονοπρογραμματιστή μόνοι σας, Slurm ή Kubernetes ή ό,τι χρησιμοποιεί ήδη η ομάδα σας.

Το μηχάνημα και η GPU του τιμολογούνται μαζί στους αποκλειστικούς διακομιστές GPU. Μια θύρα ταχύτερη από την περιλαμβανόμενη είναι ο πίνακας σε αυτή τη σελίδα, ανά μηχάνημα και ανά μήνα. Η πληρωμή για τρεις, έξι ή δώδεκα μήνες αφαιρεί έως 15%, και μια προσαρμοσμένη κατασκευή έχει εφάπαξ τέλος εγκατάστασης που ο διαμορφωτής εμφανίζει πριν πληρώσετε.

Περίπου τέσσερις έως είκοσι τέσσερις ώρες όταν έχουμε τα εξαρτήματα, πέντε έως δέκα εργάσιμες ημέρες όταν πρέπει να αγοραστούν και δέκα έως δεκαπέντε εργάσιμες ημέρες για ένα σπάνιο εξάρτημα. Ένα μηχάνημα που είναι ήδη τοποθετημένο όπως το θέλετε μπορεί να λειτουργήσει σε περίπου 30 λεπτά.

Ναι. Έχουν τη δική τους σελίδα, διακομιστές CMP 170HX, με τις κατασκευές και τις μηνιαίες τιμές τους.

Στη Νέα Υόρκη, το Μαϊάμι, το Σαν Φρανσίσκο, το Άμστερνταμ και το Βουκουρέστι. Δεν βρίσκεται κάθε πλατφόρμα σε κάθε πόλη· New York and Bucharest τις έχουν όλες, γεγονός που τις καθιστά τα ευκολότερα μέρη για να αναπτύξετε ένα cluster.

Το AI chat μας απαντά σε δευτερόλεπτα και μπορεί να ελέγξει τον λογαριασμό και τους διακομιστές σας ενώ βοηθά, και ένα άτομο αναλαμβάνει όποτε το ζητήσετε. Οι χρόνοι απόκρισης και η αντικατάσταση υλικού βρίσκονται στην υποστήριξη.