ΝέοRTX 3050 dedicated, ξεκλείδωτη σε Linux

Ίδιο RTX 3050, ίδια ισχύς, πολύ περισσότερη AI ανά δευτερόλεπτο

Οι επιτραπέζιοι υπολογιστές RTX 3050 φεύγουν πλέον από το rack με την tensor απόδοση της κάρτας ξεκλείδωτη. Η κάρτα είναι αυτή που ξέρετε, με 6 GB GDDR6 και όριο 70 W. Αυτό που αλλάζει είναι το πόσο γρήγορα ολοκληρώνει τους υπολογισμούς μητρών μισής ακρίβειας πίσω από inference, fine-tuning και δημιουργία εικόνων. Νοικιάζετε ολόκληρο το μηχάνημα: Intel Core i5-9500, 32 GB RAM, 256 GB NVMe SSD, σε Bucharest.

01Εργοστασιακή ρύθμιση έναντι ξεκλειδωμένης

Οι αριθμοί από τον πάγκο μας, και στις τέσσερις ακρίβειες

Εκκινήσαμε την ίδια RTX 3050 δύο φορές από πλήρη απενεργοποίηση, μία με εργοστασιακές ρυθμίσεις και μία ξεκλειδωμένη, και χρονομετρήσαμε την ίδια εργασία PyTorch κάθε φορά: πολλαπλασιάζοντας δύο πίνακες 8192 επί 8192, ξανά και ξανά. Ο οδηγός, ο πυρήνας και το όριο 70 W δεν άλλαξαν μεταξύ των εκτελέσεων.

TFLOPS ανά ακρίβεια, ψηλότερα σημαίνει ταχύτερα

Πολλαπλασιασμός πινάκων PyTorch, οδηγός NVIDIA 595, μέσος όρος πέντε εκτελέσεων

  • Εργοστασιακή
  • Ξεκλειδωμένη
  • 14.0 21.3
  • 14.2 22.0
  • 6.9 10.8
  • 3.7 3.7
2x

Ο ακατέργαστος ρυθμός τανυστών είναι διπλάσιος από το εργοστασιακό νούμερο: 36.1 αντί για 17.9 τρισεκατομμύρια πράξεις FP16 ανά δευτερόλεπτο με συσσώρευση FP32. Ένας πλήρους μεγέθους πολλαπλασιασμός προσγειώνεται περίπου στο μιάμιση φορά, καθώς η κάρτα ήδη λειτουργεί στο μέγιστο στα 70 W και οι ταχύτεροι πυρήνες μοιράζονται τον ίδιο προϋπολογισμό ισχύος.

Διαβάστε τα αποτελέσματα ως πίνακα
ΑκρίβειαΕργοστασιακήΞεκλειδωμένηΔιαφορά
FP16, TFLOPS14.021.3+52%
BF16, TFLOPS14.222.0+54%
TF32, TFLOPS6.910.8+56%
FP32, TFLOPS3.73.7καμία αλλαγή
Μέγιστος ρυθμός τανυστών, συσσώρευση FP32, TF/s17.936.12x

Αυτές είναι οι μετρήσεις μας σε μία κάρτα. Ένας πραγματικός φόρτος εργασίας περνά επίσης χρόνο εκτός των πυρήνων τανυστών, οπότε αναμένετε το δικό σας κέρδος να βρίσκεται κάπου κάτω από αυτά τα νούμερα.

02Επιταχύνεται η εργασία σας;

Ελέγξτε την εργασία σας με αυτή τη λίστα πριν παραγγείλετε

Το ξεκλείδωμα είναι στενό επίτηδες. Αγγίζει τους πυρήνες tensor και τίποτε άλλο, έτσι βοηθά την εργασία AI σε μισή ακρίβεια και αφήνει την υπόλοιπη κάρτα όπως ήρθε.

Μεγάλα prompts και έγγραφα για ένα γλωσσικό μοντέλο

Το μοντέλο διαβάζει την είσοδό σας ως μία μεγάλη παρτίδα μαθηματικών πινάκων πριν γράψει λέξη.

Ταχύτερα

LoRA και άλλα μικρά fine-tunes

Βήματα εκπαίδευσης σε BF16 ή FP16 σε ένα μοντέλο που χωρά σε 6 GB GDDR6.

Ταχύτερα

Stable Diffusion και άλλα μοντέλα εικόνας

Κάθε βήμα αποθορυβοποίησης είναι εργασία tensor μισής ακρίβειας.

Ταχύτερα

Ομαδικές εργασίες: embeddings, tagging, μεταγραφή

Πολλές είσοδοι που περνούν ταυτόχρονα από ένα μοντέλο κρατούν τους πυρήνες tensor απασχολημένους.

Ταχύτερα

Ένα chatbot που γράφει την απάντησή του λέξη προς λέξη

Η ταχύτητα παραγωγής καθορίζεται από το πόσο γρήγορα διαβάζει η κάρτα τη μνήμη της.

Ίδιο

Κωδικοποίηση βίντεο με NVENC

Ο κωδικοποιητής είναι δικό του μπλοκ στο τσιπ και διατηρεί την εργοστασιακή του ταχύτητα.

Ίδιο

Παιχνίδια, rendering και FP32 CUDA

Κανένα από αυτά δεν περνά από το ξεκλείδωτο μονοπάτι.

Ίδιο

03Από την παραγγελία στην πρώτη εκκίνηση

Εσείς επιλέγετε το σύστημα, εμείς αναλαμβάνουμε το ξεκλείδωμα

  1. Παραγγελία

    Επιλέξτε Ubuntu ή Debian

    Το μηχάνημα παραδίδεται με τον οδηγό της NVIDIA και το ξεκλείδωμα ήδη ενεργοποιημένα και συνδέεται περίπου 30 λεπτά μετά την έγκριση.

  2. Κάθε εκκίνηση

    Ορίζεται εκ νέου και ελέγχεται

    Η ρύθμιση παραμένει στη μνήμη και όχι στο firmware της κάρτας. Εφαρμόζεται κατά την εκκίνηση του συστήματος και επαληθεύεται κάθε φορά.

  3. Εφεδρική λύση

    Εργοστασιακή ταχύτητα, ποτέ χαλασμένη

    Σε εκκίνηση όπου δεν μπορεί να εφαρμοστεί, η κάρτα λειτουργεί απλώς στην εργοστασιακή της συχνότητα μέχρι την επόμενη επανεκκίνηση.

Ubuntu, Debian

Παραδίδεται ξεκλείδωτο, με πρόσβαση root για να προσθέσετε CUDA, PyTorch και τα υπόλοιπα εργαλεία της στοίβας σας.

Windows

Διαθέσιμο επίσης στο ίδιο μηχάνημα, με την κάρτα στην εργοστασιακή της ταχύτητα: το ξεκλείδωμα αφορά μόνο το Linux.

04Σημειώσεις εργαστηρίου

Τι ελέγξαμε πριν το ενεργοποιήσουμε για τους πελάτες

Ένας από αυτούς τους επιτραπέζιους υπολογιστές πέρασε ένα απόγευμα στον πάγκο μας στο Bucharest με Ubuntu 24.04 και οδηγό NVIDIA 595. Αυτά είναι τα αποτελέσματα που είχαν σημασία για εμάς.

  • 5 / 5οι εκκινήσεις ήρθαν ξεκλείδωτες, κρύες και ζεστές
  • 45 λεπτάσε πλήρες φορτίο χωρίς ούτε ένα σφάλμα GPU
  • 0αποτελέσματα που διέφεραν από την πρώτη εκτέλεση, ελεγμένα bit προς bit
  • 70 Wόριο ισχύος, το ίδιο και στις δύο καταστάσεις
  • 2xο μέγιστος ρυθμός tensor με συσσώρευση FP32
  • 3.7FP32 TFLOPS, αμετάβλητα, όπως αναμενόταν

05Συχνές ερωτήσεις

Ξεκλείδωτος διακομιστής RTX 3050: σύντομες απαντήσεις

Είναι διαφορετική κάρτα από μια κανονική RTX 3050;

Όχι. Είναι η ίδια RTX 3050 6GB με το ίδιο 6 GB GDDR6 και όριο 70 W. Το ξεκλείδωμα αλλάζει μία ρύθμιση κατά την εκκίνηση: τον ρυθμό με τον οποίο οι πυρήνες tensor πολλαπλασιάζουν σε FP16, BF16 και TF32 ενώ προσθέτουν σε FP32.

Πόσο πιο γρήγορη είναι στην πραγματικότητα;

Στη δοκιμή μας με PyTorch, +52% σε FP16, +54% σε BF16 και +56% σε TF32, με το FP32 αμετάβλητο. Μια πλήρης εργασία τεχνητής νοημοσύνης κερδίζει λιγότερο, επειδή μέρος του χρόνου της πηγαίνει σε εργασίες που δεν εκτελούν οι πυρήνες tensor.

Ποια λειτουργικά συστήματα λαμβάνουν την ξεκλείδωτη κάρτα;

Ubuntu και Debian. Αν παραγγείλετε το μηχάνημα με Windows, η κάρτα λειτουργεί στην εργοστασιακή ταχύτητα.

Γράφεται κάτι στην κάρτα;

Όχι. Δεν γίνεται εγγραφή υλικολογισμικού. Η ρύθμιση εφαρμόζεται κάθε φορά που ξεκινά το μηχάνημα και εξαφανίζεται όταν απενεργοποιείται, γι' αυτό και ελέγχεται σε κάθε εκκίνηση.

Τι γίνεται αν θέλω πίσω την εργοστασιακή συμπεριφορά;

Ζητήστε το από την υποστήριξη ή αφαιρέστε μόνοι σας τη μία επιλογή εκκίνησης και μετά απενεργοποιήστε και ενεργοποιήστε το μηχάνημα. Η κάρτα ξεκινά από τότε στην εργοστασιακή της ταχύτητα.

Πόσο κοστίζει;

Τίποτα επιπλέον πέρα από το μηχάνημα: €89.00 τον μήνα για τον επιτραπέζιο υπολογιστή με την ξεκλείδωτη κάρτα του, 32 GB RAM, 256 GB NVMe SSD, μία διεύθυνση IPv4 και μια απεριόριστη θύρα 1 Gbps.

Αξιοποιήστε το ξεκλείδωτο RTX 3050 με €89.00 τον μήνα

Ένα αποκλειστικό desktop σε Bucharest, tensor cores σε πλήρη ταχύτητα σε Ubuntu ή Debian, πρόσβαση root και απεριόριστο 1 Gbps.

Τα NVIDIA, GeForce και RTX είναι εμπορικά σήματα της NVIDIA Corporation. Το ξεκλείδωμα υπολογιστικής ισχύος γίνεται από εμάς και δεν αποτελεί προϊόν της NVIDIA.