L40S — η κάρτα που κάνει και τις τρεις λειτουργίες

Η παγίδα, πρώτα

Δύο πράγματα δεν μπορεί να κάνει αυτή η κάρτα, και τα δύο είναι ο λόγος που είναι φθηνότερη από τους επιταχυντές που κάθεται δίπλα.

Η μνήμη του είναι γρήγορη, όχι συσσωρευμένη. Το L40S διαβάζει στα 864 GB/s. Το A100 δίπλα του διαβάζει στα 1.555 GB/s με 40 GB και 1.935 GB/s με 80 GB — περίπου διπλάσιος ρυθμός. Για τη δημιουργία διακριτικών σε μεγάλο μέγεθος παρτίδας, αυτός ο ρυθμός ανάγνωσης είναι το ανώτατο όριο και η αριθμητική όχι, επομένως ένα A100 θα εξυπηρετεί περισσότερα αιτήματα ανά δευτερόλεπτο σε σχέση με το ίδιο μοντέλο, παρόλο που το L40S έχει περισσότερο ακατέργαστο υπολογιστικό υλικό σε χαρτί. Αν η απόδοση εξυπηρέτησης είναι ολόκληρο το πρόβλημά σας, ο επιταχυντής είναι η σωστή αγορά.

Δεν υπάρχει NVLink σε αυτό το σημείο. Δύο κάρτες L40S σε ένα μηχάνημα είναι δύο ξεχωριστές ομάδες των 48 GB που επικοινωνούν μέσω της ίδιας υποδοχής, όχι μία ομάδα των 96 GB. Οι A100 και H100 μπορούν να χρησιμοποιήσουν την ομάδα, αυτό δεν μπορεί. Όταν πραγματικά χρειάζεστε έναν χώρο διευθύνσεων μεγαλύτερο από 48 GB, αυτή δεν είναι η κάρτα που σας φέρνει εκεί — η παρακάτω σκάλα δείχνει τι το κάνει.

Across the 56 cards in the catalogue: L40S holds 48 GB, 4 cards we fit hold more, and 8 cost more per month. Read the whole ladder on the whole catalogue, priced.

Η προδιαγραφή, όπως δημοσιεύεται από την NVIDIA

Ada Lovelace, πυρήνες τενσόρ τέταρτης γενιάς, πυρήνες ray-tracing τρίτης γενιάς. Σχήματα από τη σελίδα προϊόντος L40S της NVIDIA, που αναφέρονται στον πηγαίο κώδικα αυτής της σελίδας.

Η NVIDIA δημοσιεύει επίσης 91,6 teraFLOPS FP32, 212 teraFLOPS απόδοσης ray-tracing και 1.466 teraFLOPS απόδοσης τενσόρ FP8 με αραιότητα, από 142 πυρήνες RT και 568 πυρήνες τενσόρ. Αυτά είναι τα μέγιστα ποσοστά υπό ιδανικές συνθήκες. Το εύρος ζώνης μνήμης που αναφέρεται παραπάνω είναι αυτό που συνήθως καθορίζει τι πραγματικά λαμβάνετε.

Τι αντικατέστησε και τι βρίσκεται εκατέρωθεν αυτού

Από τα δικά μας ράφια και όχι από έναν χάρτη πορείας προμηθευτών. Όλα αυτά είναι διαθέσιμα για παραγγελία σήμερα.

Η A40 είναι η κάρτα Ampere που διαδέχθηκε η L40S — τα ίδια 48 GB, παλαιότερη αρχιτεκτονική, χωρίς AV1 και χωρίς FP8. Η RTX 6000 Ada είναι η κάρτα σταθμού εργασίας με την ίδια χωρητικότητα και την ίδια γενιά. Οι A100 είναι αυτές στις οποίες προχωράτε όταν το εύρος ζώνης ή η ομαδοποίηση είναι ο περιορισμός σύνδεσης και όχι η χωρητικότητα, και η σελίδα επιτάχυνσης καλύπτει αυτά λεπτομερώς.

Σε ποιο μηχάνημα μπαίνει και σε ποια σύνδεση φτάνει εκεί;

Η L40S είναι μια κάρτα PCIe Gen 4. Μία από τις δύο πλατφόρμες που την υποστηρίζουν είναι η Gen 3 και η άλλη η Gen 4.

Για ένα τελικό σημείο συμπερασμάτων ή έναν transcoder, η δημιουργία slot είναι σχεδόν άσχετη — τα βάρη είναι μόνιμα και τα πλαίσια είναι μικρά. Έχει σημασία για έναν βρόχο εκπαίδευσης που μεταδίδει νέες παρτίδες από τον κεντρικό υπολογιστή σε κάθε βήμα, και σε αυτήν την περίπτωση η πλατφόρμα Gen 4 αξίζει τη διαφορά.

Τι χωράει πραγματικά σε 48 GB

Η κάρτα γραφικών καταναλώνει έως και 350 W, κάτι που είναι μέτριο για την κατηγορία της και εν μέρει εξηγεί γιατί ταιριάζει σε σασί που δεν ταιριάζει με ένα μεγαλύτερο γκάζι.

Πόσο κοστίζει, με το μηχάνημα που μπαίνει μέσα

Η κάρτα είναι μία γραμμή στο τιμολόγιο και το μηχάνημα είναι άλλη. Και τα δύο μισά παρακάτω προέρχονται από μία ανάγνωση του καταλόγου παραγγελιών, επομένως η τιμή και οι προδιαγραφές δίπλα της ανήκουν πάντα το ένα στο άλλο.

Το εύρος ζώνης είναι απεριόριστο και προς τις δύο κατευθύνσεις χωρίς χρέωση εξόδου, περιλαμβάνεται μία διεύθυνση IPv4, δεν υπάρχει συμβόλαιο και η προεπιλεγμένη διάρκεια είναι ένας μήνας. Για κάθε άλλη κάρτα που τοποθετούμε, με την ίδια τιμή, διαβάστε ολόκληρο τον κατάλογο, με τιμή . Για μηχανήματα που είναι έτοιμα σήμερα, /instant .