YeniRTX 3050 dedicated, Linux'ta kilidi açıldı
Aynı RTX 3050, aynı güç, saniyede çok daha fazla AI
RTX 3050 masaüstü makinelerimiz artık raftan kartın tensör işlem hacmi kilidi açılmış olarak çıkıyor. Kart bildiğiniz kart: 6 GB GDDR6 ve 70 W sınırıyla. Değişen şey, çıkarım, ince ayar ve görüntü üretiminin arkasındaki yarı hassasiyetli matris matematiğini ne kadar hızlı işlediği. Makinenin tamamını kiralıyorsunuz: Intel Core i5-9500, 32 GB RAM, 256 GB NVMe SSD, Bucharest içinde.
01Fabrika ayarları, kilit açılmış hale karşı
Tezgahımızdan çıkan rakamlar, dört hassasiyetin tamamında
Aynı RTX 3050 modelini güç kapalıyken iki kez başlattık; birinde stok haliyle, diğerinde kilidi açılmış olarak ve her iki durumda da aynı PyTorch işini süreledik: iki 8192 ile 8192 matrisini defalarca çarptık. Sürücü, çekirdek ve 70 W sınırı çalıştırmalar arasında değişmedi.
Hassasiyet başına TFLOPS, daha yüksek çubuk daha hızlı demektir
PyTorch matris çarpımı, NVIDIA sürücüsü 595, beş çalıştırmanın ortalaması
- Fabrika
- Kilit açık
- 14.0 21.3
- 14.2 22.0
- 6.9 10.8
- 3.7 3.7
Ham tensör hızı fabrika değerinin iki katıdır: FP32 biriktirmeli saniyede 17.9 trilyon FP16 işlemi yerine 36.1. Tam boyutlu bir çarpma yaklaşık bir buçuk katına ulaşır; kart zaten 70 W değerinde tam kapasite çalıştığından ve daha hızlı çekirdekler aynı güç bütçesini paylaştığından.
Sonuçları tablo olarak okuyun
| Hassasiyet | Fabrika | Kilit açık | Fark |
|---|---|---|---|
| FP16, TFLOPS | 14.0 | 21.3 | +52% |
| BF16, TFLOPS | 14.2 | 22.0 | +54% |
| TF32, TFLOPS | 6.9 | 10.8 | +56% |
| FP32, TFLOPS | 3.7 | 3.7 | değişiklik yok |
| Tepe tensör hızı, FP32 biriktirme, TF/s | 17.9 | 36.1 | 2x |
Bunlar tek bir kart üzerindeki ölçümlerimizdir. Gerçek bir iş yükü tensör çekirdeklerinin dışında da zaman harcar; bu nedenle kendi kazancınızın bu değerlerin bir miktar altında kalmasını bekleyin.
02İşiniz hızlanır mı?
Sipariş vermeden önce işinizi bu listeyle karşılaştırın
Kilit açma bilinçli olarak dar tutulmuştur. Yalnızca tensör çekirdeklerine dokunur, başka hiçbir şeye değil; böylece yarı hassasiyetteki yapay zekâ işlerine yardımcı olur ve kartın geri kalanını geldiği gibi bırakır.
Bir dil modeli için uzun istemler ve belgeler
Model, tek bir kelime yazmadan önce girdinizi büyük bir matris işlemi yığını olarak okur.
Daha hızlıLoRA ve diğer küçük ince ayarlar
6 GB GDDR6 sığan bir modelde BF16 veya FP16 ile eğitim adımları.
Daha hızlıStable Diffusion ve diğer görüntü modelleri
Her gürültü giderme adımı yarı hassasiyetli tensör işlemidir.
Daha hızlıToplu işler: gömmeler, etiketleme, transkripsiyon
Aynı anda bir modelden geçirilen çok sayıda girdi tensör çekirdeklerini meşgul tutar.
Daha hızlıYanıtını kelime kelime yazan bir sohbet robotu
Üretim hızı, kartın belleğini ne kadar hızlı okuduğuna bağlıdır.
AynıNVENC ile video kodlama
Kodlayıcı çip üzerinde kendi bloğudur ve fabrika hızını korur.
AynıOyunlar, render ve FP32 CUDA
Bunların hiçbiri kilit açılan yoldan geçmez.
Aynı03Siparişten ilk açılışa
Sistemi siz seçin, kilit açma işini biz üstlenelim
- Sipariş
Ubuntu veya Debian seçin
Makine, NVIDIA sürücüsü ve kilit açma hazır şekilde kurulur ve onaydan yaklaşık 30 dakika sonra çevrimiçi olur.
- Her açılışta
Önce ayarlanır, sonra doğrulanır
Ayar, kartın ürün yazılımında değil bellekte tutulur. Sistem başlarken uygulanır ve her seferinde doğrulanır.
- Yedek durum
Fabrika hızı, asla bozulmaz
Uygulanamadığı bir başlangıçta kart, bir sonraki yeniden başlatmaya kadar stok hızında çalışır.
Kilit açılmış olarak teslim edilir; CUDA, PyTorch ve yığınınızın geri kalanını eklemek için root erişimiyle birlikte.
Aynı makinede, kart fabrika hızında olacak şekilde de sunulur: kilit açma yalnızca Linux içindir.
04Laboratuvar notları
Müşteriler için açmadan önce kontrol ettiklerimiz
Bu masaüstü bilgisayarlardan biri, Bucharest adresindeki tezgahımızda Ubuntu 24.04 ve NVIDIA sürücüsü 595 ile bir öğleden sonra geçirdi. Bizim için önemli olan sonuçlar bunlardı.
- 5 / 5başlatmalar soğuk ve sıcak olarak kilit açık şekilde geldi
- 45 dktam yükte tek bir GPU hatası olmadan
- 0ilk çalıştırmadan farklı sonuç, bit bit kontrol edildi
- 70 Wgüç sınırı, her iki durumda da aynı
- 2xFP32 biriktirmeli en yüksek tensör hızı
- 3.7FP32 TFLOPS, beklendiği gibi değişmedi
05Sık sorulanlar
Kilidi açılmış RTX 3050 sunucu: kısa yanıtlar
Bu, normal bir RTX 3050'den farklı bir kart mı?
Hayır. Aynı RTX 3050 6GB, aynı 6 GB GDDR6 ve 70 W sınırıyla. Kilit açma işlemi başlangıçta tek bir ayarı değiştirir: tensör çekirdeklerinin FP32'de toplama yaparken FP16, BF16 ve TF32'de çarpma hızını.
Gerçekte ne kadar daha hızlı?
PyTorch testimizde FP16'da +52%, BF16'da +54% ve TF32'de +56%, FP32 değişmeden kalır. Tam bir yapay zeka işi daha az kazanır, çünkü süresinin bir kısmı tensör çekirdeklerinin yapmadığı işlere gider.
Kilidi açılmış kart hangi işletim sistemlerinde çalışır?
Ubuntu ve Debian. Makineyi Windows ile sipariş ederseniz kart fabrika hızında çalışır.
Karta herhangi bir şey yazılıyor mu?
Hayır. Hiçbir şey flaşlanmaz. Ayar, makine her başlatıldığında uygulanır ve güç kapatıldığında kaybolur; bu yüzden her açılışta kontrol edilir.
Fabrika davranışını geri istersem ne olur?
Destek ekibine sorun ya da tek açılış seçeneğini kendiniz kaldırın, ardından makineyi kapatıp açın. Kart bundan sonra stok hızında başlar.
Maliyeti nedir?
Makinenin üzerine hiçbir ek ücret yok: kilidi açılmış kartlı masaüstü için ayda €89.00, 32 GB RAM, 256 GB NVMe SSD, bir IPv4 adresi ve limitsiz 1 Gbps port.
Kilidi açılmış RTX 3050 modelini ayda €89.00 karşılığında kullanmaya başlayın
Bucharest içinde özel bir masaüstü, Ubuntu veya Debian üzerinde tam hızda tensor çekirdekleri, root erişimi ve sınırsız 1 Gbps.
NVIDIA, GeForce ve RTX, NVIDIA Corporation'ın ticari markalarıdır. Hesaplama kilidi açma işlemi tarafımızca yapılır ve bir NVIDIA ürünü değildir.