Φθηνός dedicated server με GPU

Ο φθηνός server με GPU που είναι πραγματικός υπολογιστής, όχι μερίδιο ενός

Πήραμε επιτραπέζιους υπολογιστές Intel Core i5-9500, τοποθετήσαμε σε καθέναν μια NVIDIA GeForce RTX 3050 6GB και τους εγκαταστήσαμε σε Bucharest με απεριόριστο gigabit. Νοικιάζετε έναν ολόκληρο: την κάρτα, τον επεξεργαστή, 32 GB μνήμης και τον 256 GB NVMe SSD, με πρόσβαση root και μία σταθερή μηνιαία τιμή.

Αξιολόγηση μεγέθους

Θα είναι αρκετά τα 6 GB μνήμης GPU για τη δουλειά σας;

Η μνήμη της κάρτας καθορίζει τι φορτώνει καν. Δείτε πώς συγκρίνονται κοινά μοντέλα με το 6 GB GDDR6 σε αυτό το σημείο.

Φόρτος εργασίαςΒάρη στη μνήμηΣε αυτή την κάρτα
Llama 3.1 8B, 4-bit (Q4_K_M)4.92 GBΧωράει
Whisper large-v3 ομιλία σε κείμενο, 16-bitπερίπου 3.1 GBΧωράει
Stable Diffusion 1.5 δημιουργία εικόνας, 16-bitπερίπου 2 GBΧωράει
SDXL base δημιουργία εικόνας, 16-bitπερίπου 6.9 GBΧρειάζεται offloading
Ένα γλωσσικό μοντέλο 13B, 4-bit (Q4_K_M)7.87 GBΠολύ μεγάλο

Μόνο βάρη, όπως δημοσιεύονται στο Hugging Face· αφήστε λίγο χώρο για το παράθυρο περιβάλλοντος και το runtime. Όταν το μοντέλο σας ξεπερνά τα 6 GB, οι διακομιστές σειράς RTX 30 φτάνουν έως 24 GB και η σελίδα αποκλειστικών διακομιστών GPU παραθέτει κάθε κάρτα που τοποθετούμε.

Εκεί που αποδίδει τα μέγιστα

Τρία πράγματα που βάζουν οι άνθρωποι σε έναν οικονομικό αποκλειστικό διακομιστή GPU

  1. Το δικό σας endpoint τεχνητής νοημοσύνης, χωρίς κανείς να διαβάζει τα prompts

    Τρέξτε το Ollama ή το llama.cpp με ένα μοντέλο 8B, προσθέστε το Whisper για ομιλία και συνδέστε την εφαρμογή σας σε ένα API που ζει στο δικό σας μηχάνημα αντί για τον λογαριασμό κάποιου ανά token. Οι πυρήνες CUDA 2,304 και οι πυρήνες Tensor 3ης γενιάς κάνουν τη δουλειά.

  2. Ζωντανή και κατά παραγγελία μετατροπή βίντεο

    Ένα τσιπ NVENC 7ης γενιάς κωδικοποιεί H.264 και HEVC σε hardware ενώ οι έξι πυρήνες του επεξεργαστή παραμένουν ελεύθεροι. Με τον driver της NVIDIA 550.54.14 ή νεότερο, μια κάρτα GeForce τρέχει έως και 8 κωδικοποιήσεις παράλληλα, και η απεριόριστη θύρα σημαίνει ότι οι θεατές δεν μετατρέπονται ποτέ σε τιμολόγιο bandwidth.

  3. Ένα desktop Windows ή Linux που φτάνετε από οπουδήποτε

    Επιλέξτε Windows στη φόρμα παραγγελίας και χρησιμοποιήστε το ως απομακρυσμένο σταθμό εργασίας με πραγματικά γραφικά: κάντε render στο Blender, επεξεργαστείτε ή δοκιμάστε ένα build παιχνιδιού, από ένα laptop που δεν θα μπορούσε ποτέ να το κάνει μόνο του.

Ξεκάθαρες απαντήσεις

Τι παίρνετε με €82.29 και τι όχι

Περιλαμβάνεται

  • NVIDIA GeForce RTX 3050 6GB: 6 GB GDDR6, 96-bit, 70 W
  • Intel Core i5-9500: 6 πυρήνες, έως 4.4 GHz
  • 32 GB μνήμης DDR4
  • 256 GB NVMe SSD για το σύστημα και τα αρχεία σας
  • 1 Gbps θύρα χωρίς καταμέτρηση κίνησης και μία διεύθυνση IPv4
  • Πρόσβαση root ή διαχειριστή και βασική υποστήριξη, όλο το εικοσιτετράωρο

Δεν περιλαμβάνεται

  • Δεύτερος δίσκος ή RAID: υπάρχει ένας δίσκος, γι' αυτό κρατάτε αντίγραφα ασφαλείας (στη φόρμα παραγγελίας προσφέρεται νυχτερινό backup)
  • Απομακρυσμένη κονσόλα: οι επιτραπέζιοι υπολογιστές δεν διαθέτουν IPMI· η ενεργοποίηση γίνεται απομακρυσμένα και το προσωπικό μας στο Bucharest επανεκκινεί ένα μηχάνημα που έχει παγώσει
  • Χώρος για μεγάλες εργασίες εκπαίδευσης: τα 6 GB προορίζονται για συμπερασματολογία, κωδικοποίηση και ανάπτυξη
  • Άλλες πόλεις: όλα αυτά τα μηχανήματα βρίσκονται στο Bucharest, ΕΕ

Από την παραγγελία στη σύνδεση

Ήδη έτοιμο, οπότε είναι δικό σας σε περίπου 30 λεπτά

  1. Επιλέξτε το σύστημα

    Ανοίξτε τη φόρμα παραγγελίας, διαλέξτε Linux ή Windows και τυχόν πρόσθετα, και ελέγξτε το μηνιαίο σύνολο πριν πληρώσετε.

  2. Εγκρίνουμε την παραγγελία

    Πρώτα γίνεται η πληρωμή και ένας σύντομος έλεγχος ασφαλείας· η αναμονή αυτή ποικίλλει, η εγκατάσταση μετά όχι.

  3. Συνδεθείτε

    Περίπου 30 λεπτά μετά την έγκριση, το μηχάνημα είναι online και τα στοιχεία σύνδεσής σας βρίσκονται στον πίνακα ελέγχου.

Συχνές ερωτήσεις

Ερωτήσεις για τον οικονομικό dedicated server με GPU

Γιατί αυτός ο GPU server είναι τόσο φθηνότερος από τους άλλους;

Επειδή βασίζεται σε μια κάρτα 70 W μέσα σε επιτραπέζιο υπολογιστή αντί για πλαίσιο rack φτιαγμένο για GPUs data-center. Πληρώνετε για μια πραγματική RTX 3050, όχι για τροφοδοτικά και ψύξη διαστασιολογημένα για κάρτες πολλαπλάσια πιο απαιτητικές.

Μοιράζομαι την κάρτα γραφικών με κάποιον άλλο;

Όχι. Κάθε επιτραπέζιος υπολογιστής ενοικιάζεται σε έναν πελάτη και η κάρτα περνά απευθείας στο λειτουργικό σας σύστημα, οπότε όλα τα 6 GB GDDR6 και κάθε πυρήνας CUDA είναι δικά σας.

Είναι κατάλληλος για εκτέλεση μοντέλων AI;

Για inference σε μοντέλα έως περίπου 8 δισεκατομμύρια παραμέτρους στα 4-bit, αναγνώριση ομιλίας με Whisper και δημιουργία εικόνων με Stable Diffusion 1.5, ναι. Μεγαλύτερα μοντέλα και εκπαίδευση χρειάζονται κάρτα με περισσότερη μνήμη.

Μπορώ να εγκαταστήσω Windows;

Ναι. Τα Windows προσφέρονται στη φόρμα παραγγελίας δίπλα στις διανομές Linux και το Proxmox VE, και έχετε πλήρη πρόσβαση διαχειριστή για να εγκαταστήσετε δικό σας λογισμικό και τους drivers της NVIDIA.

Πού βρίσκονται οι servers και πώς χρεώνεται η τιμή;

Όλοι βρίσκονται στο data center μας Bucharest στην ΕΕ. Η τιμή είναι €82.29 τον μήνα σε ευρώ για ολόκληρο το μηχάνημα, με μηνιαία χρέωση.

Υπάρχει όριο κίνησης;

Όχι. Η θύρα 1 Gbps είναι απεριόριστη: ό,τι στέλνετε και λαμβάνετε δεν μετριέται ούτε χρεώνεται ποτέ.

Σταματήστε να νοικιάζετε χρόνο GPU με την ώρα

Ένας RTX 3050 επιτραπέζιος υπολογιστής, αποκλειστικά δικός σας, με €82.29 τον μήνα και απεριόριστο gigabit στο Bucharest.