Yalnızca size ait bir sohbet robotu
Llama, Qwen veya Mistral gibi açık bir modeli başka kimsenin kullanmadığı bir sunucuda çalıştırın. İstemler, belgeler ve yanıtlar başka birinin API’sine gitmek yerine makinenizde kalır.
NVIDIA CMP 170HX · biz kurduğumuzda kilidi açılır
NVIDIA, CMP 170HX’i madencilik için üretti ve geri kalanını kilitledi: kart 8 GB bellek gösteriyor ve kayan nokta hesaplarını ağır aksak yapıyordu. Kilidin yazılımsal olduğu ortaya çıktı. Bu kilidi kaldıran bir sürücü kuruyoruz; böylece sunucunuz, 64 GB çok hızlı belleğe sahip ve yapay zeka modellerini çipinin tasarlandığı gibi çalıştıran bir kartla elinize ulaşıyor.
Aynı kart, aynı çip. Gri kısım NVIDIA’nın açık bıraktığı; geri kalanı sürücünün etkinleştirdiği.
Şu anda iyi olduğu şey
Llama, Qwen veya Mistral gibi açık bir modeli başka kimsenin kullanmadığı bir sunucuda çalıştırın. İstemler, belgeler ve yanıtlar başka birinin API’sine gitmek yerine makinenizde kalır.
70 milyar parametreli bir model, kilidi açılmış tek bir karta 4-bit olarak sığar. Kilidi açılmamış bir kartta tavan yaklaşık 8 milyar parametreli bir modeldir.
Modelin kullanmadığı her şey bağlamına gider; böylece uzun belgeler ve uzun sohbetler yarıda yer kalmadan devam eder.
Bir sohbet modeli, arama için bir gömme modeli ve istekleri yönlendiren küçük bir model, sırayla çalışmak yerine hep birlikte yüklü kalabilir.
Kartta da bant genişliğinde de tek sabit aylık ücret ve sayaç yok. Hafta sonu boyunca bir toplu işi çalışır durumda bırakın, fatura yerinden oynamaz.
Yalnızca ağırlıklar; sohbetin kendisi için ayrıca dörtte bir ila yarım oranında boş alan bırakılır. Tam boyutlandırma kılavuzu LLM sayfamızda.
Aynı kart, öncesi ve sonrası
LTT Labs, Eylül 2026'da bir CMP 170HX'in kilidini açtı ve aynı modelleri her iki şekilde de üzerinde çalıştırdı. Bunlar bizim değil, onların sonuçları. Hızlar modele ve yazılıma göre değişir; bu yüzden bunları bizi bağlayan bir sayı olarak değil, sıçramanın büyüklüğü olarak değerlendirin.
Bu sayılar, kendi test makinelerinde llama.cpp çalıştıran LTT Labs'in Eylül 2026 tarihli yazısından alınmıştır. Kilidin kendisi, Amogh Munikote tarafından geliştirilen açık kaynaklı bir proje olan cmpunlocker'dır.
Sipariş verdikten sonra ne olur
Yapılandırıcıda Ubuntu 22.04, 24.04 veya 26.04 seçin. Kilit açma bir Linux sürücüsüdür, bu yüzden önemli olan tek seçim budur.
Kart takılır, Ubuntu kurulur ve kilit açılmış sürücü, sunucunuzun çalıştıracağı tam çekirdek için içine yerleştirilir.
Sunucu tamamen kapatılıp yeniden açılır; kilit açmanın gerektirdiği budur ve sunucu teslim edilmeden önce her kartın tam belleği kontrol edilir.
Ubuntu yeni bir çekirdek kurduğunda, sürücü kendini buna uyacak şekilde yeniden oluşturur. Her kartın durumunu görmek istediğinizde cmp-unlock status yazın.
Satın almadan önce bilmeye değer
Maliyeti nedir
Kart faturada kendi satırında, sunucu da ayrı bir satırda yer alır; böylece her birinin maliyetini görebilirsiniz. Gösterilen tutar, kartı alan en küçük sunucudaki tek kart içindir. Yapılandırıcıda bellek, daha büyük diskler veya daha fazla kart eklediğinizde yeni toplam anında görüntülenir.
Kart siparişinize göre takıldığı için bir kerelik kurulum ücreti alınır. Bant genişliği limitsizdir, geçerli olduğu yerlerde ABD satış vergisi ödeme adımında eklenir ve yenilemede aylık fiyat aynı kalır.
$272.67/month
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps
Sorular
NVIDIA, CMP 170HX'i bir madencilik kartı olarak sattı ve yazılımda çoğunu kapattı: 8 GB bellek gösteriyordu ve kayan nokta matematiğini çok yavaş yapıyordu. cmpunlocker adlı bir topluluk sürücüsü bu parçaları yeniden açar. Kilidi açılmış bir kart 64 GB belleğe sahiptir ve içindeki çipin hızında çalışır; bu çip, A100 ile aynı çiptir.
Kartın 8 GB sürümünde 64 GB, nvidia-smi'de göreceğiniz de budur. 10 GB sürümü 40 GB'a açılır, çünkü bundan fazlası onda güvenilir değildir. Kilidi açılmış sürücü olmadan her ikisi de sevk edildikleri belleği gösterir.
Hayır. Sunucuyu Ubuntu 22.04, 24.04 veya 26.04 ile sipariş edin, kilidi açılmış olarak gelir. Sürücüyü kurar, çekirdeğiniz için kilidi derler ve sunucuyu teslim etmeden önce her kartı kontrol ederiz.
Evet. Kilidi açılmış sürücü sunucu her başladığında yüklenir ve Ubuntu yeni bir çekirdek kurduğunda kilit onun için kendini yeniden derler. Bir kart bir kez 8 GB gösterirse, sunucuyu kontrol panelinden kapatıp açın ve bu sorunu çözmezse bize bildirin.
NVIDIA kartları için yapılmış her şey: PyTorch, llama.cpp, Ollama, vLLM ve diğerleri. CUDA araç setini apt install cuda-toolkit ile kurun. cuda ve cuda-drivers adlı paketlerden kaçının; bunlar ikinci bir sürücü ekler; sunucuyu bunları reddedecek şekilde ayarladık.
Çalıştırabilirsiniz, ancak kilit yalnızca Linux için mevcuttur, bu yüzden Windows'ta kart orijinal sınırlarıyla 8 GB'da kalır. Belleğe ihtiyaç duyan her şey için Ubuntu'yu seçin.
Dörde kadar. İki kilidi açılmış kart birlikte 128 GB tutar; bu, 8-bit'te 70 milyar parametreli bir model için yeterlidir.
Evet, kilit açma hiçbir şeyi geri almaz. Yine de asıl plan madencilikse, madencilik sayfamız bunun için kartları ve maliyetleri kapsar.
Kart siparişinize göre takılır, bu da sunucuyu özel bir yapı hâline getirir ve özel yapılar tek seferlik kurulum ücreti taşır. Bir kez alınır ve yenilediğinizde aylık fiyat artmaz.