Özel AI sunucuları · eğitim, sunum, render

Özel AI sunucu barındırma tek GPU’dan tam kümeye kadar

Özel AI sunucusu, GPU’ları doğrudan kendi işletim sisteminize aktarılan komple bir fiziksel makinedir; böylece eğittiğiniz ya da sunduğunuz model donanımı kimseyle paylaşmaz. Tek makine yetmediğinde GPU ekleyebilir ya da yanına yeni makineler koyabilirsiniz. Bu sayfa her yolun maliyetini, makinelerin birbiriyle ne kadar hızlı konuşabildiğini ve 5 şehirlerimizden hangisinde hangi platformun bulunduğunu gösterir.

GPU seçin ve fiyatları görün GPU kümesi planlayın

Aylık, sözleşmesiz. Her makinenin portu anahtarda yalnızca size aittir ve içinden geçen hiçbir şey ölçülmez.

cluster.primcastDört düğüm, tek şehir

GPU platformları4

En hızlı port100 Gbps

Makine başına bellek1 TB

Uzun vadeli indirim15%

Platformları karşılaştırın

01Her makineyle birlikte gelenler

Burada özel bir AI sunucusuyla elde ettikleriniz

İnce ayar işi için tek makineden eğitim çalışması için birkaç makineye kadar her düğümde aynı dört şey.

Tam GPU, dilim değil

Her GPU doğrudan işletim sisteminize aktarılır. Hipervizör yok, MIG bölümü yok, vGPU profili yok ve zaman dilimleme yok; böylece sürücüleriniz ve çatılarınız donanımı olduğu gibi görür.

Size ait bir port

Ağ portu erişim anahtarında paylaşımsızdır ve hiçbir yönde ölçülmez. Düğümleriniz arasında veri kümesi ya da kontrol noktası kopyalamak faturaya hiçbir şey eklemez.

Aydan aya

Her makine sözleşmesiz, kendi bir aylık dönemiyle çalışır. Üç, altı veya on iki ay ödemek 15%’a varan indirim sağlar.

Saniyeler içinde yanıt

AI sohbetimiz saniyeler içinde yanıt verir ve yardım ederken hesabınıza ve sunucularınıza bakabilir. İstediğiniz zaman bir insanla görüşmeyi isteyebilirsiniz.

02Tek GPU’nun ötesine geçmek

Tek sunucuda daha fazla GPU mu, yoksa daha fazla sunucu mu?

Kulağa aynı karar gibi gelir ama maliyetleri farklıdır, farklı tarihlerde gelir ve farklı nedenlerle tükenir. Başka hiçbir şeyi karşılaştırmadan önce hangisine ihtiyacınız olduğunu belirleyin.

AMakineyi büyütün

Elinizdeki sunucuya GPU ekleyin

GPU belleği ya da GPU hızı yetersiz kaldığında ve makinenin geri kalanı yeterli olduğunda bunu seçin. Tek kasada birden fazla GPU, ödeme adımında işaretlediğiniz bir kutu değil, fiyat teklifi verdiğimiz bir yapıdır: kaç tanesinin sığacağı seçtiğiniz GPU’nun genişliğine ve kasanın ona sağlayabileceği güce bağlıdır.

Bunu belirleyen: Seçtiğiniz GPU. Sohbette adını söyleyin, yanıt kasayı, kaç tanesinin sığacağını ve tarihi söylesin.
Bilmeye değer: İki GPU, daha büyük tek GPU değildir. Bellekleri yalnızca yazılımınız modeli ikisine böldüğünde toplanır (yaygın eğitim ve sunum araçlarının desteklediği tensör veya boru hattı paralelliği) ve hızın bir kısmı aralarındaki trafiğe gider. İşiniz çok sayıda ayrı görevse, iki GPU yalnızca iki kat fazla iş bitirir.

BKümeyi büyütün

İlkinin yanına makineler ekleyin

Makinenin kendisi dolduğunda bunu seçin: işlemci tükendi, bellek tükendi ya da bir sonraki iş için yer kalmadı. Buradaki en büyük platform 2 işlemci soketinde ve 1 TB bellekte durur; bunun ötesinde yanıt başka bir sunucudur.

Bunu belirleyen: Şehir ve port. Birlikte çalışan makineler aynı binada olmalıdır ve aralarındaki bağlantı her birindeki ağ portudur; makine başına ödenir.
Bilmeye değer: Küme ürünü ve asgari düğüm sayısı yoktur. Her sunucu kendi başına sipariş edilir, faturalanır, yükseltilir ve değiştirilir; böylece ikiyle başlayıp gelecek ay üçüncüyü ekleyebilirsiniz.

03Platformlar

Makine öğrenimi sunucunuzu sizi sınırlayan şeye göre seçin

GPU taktığımız her platform, tek makinenin ötesine geçtiğinizde önemli olan ölçütlere göre karşılaştırıldı. Ortadaki iki sütunu birlikte okuyun: GPU’ya en geniş yolu olan platform en yavaş üst porta sahiptir ve en hızlı port daha eski bir veri yolunda bulunur.

Ödeme adımımızın faturaladığı sipariş kataloğundan, bu sayfa yüklendiğinde okundu.
Platform	GPU’ya giden hatlar	Üst port	Soketler	Bellek, en fazla	Şehirler
Intel Xeon Silver / Gold	48 lanes per socketPCIe 3.0	100 Gbps1 Gbps incl.	2	1 TB	5
Intel Xeon E5-2600 v3/v4	40 lanes per socketPCIe 3.0	40 Gbps1 Gbps incl.	2	1 TB	5
Intel Xeon E5-2600 v1/v2	40 lanes per socketPCIe 3.0	20 Gbps1 Gbps incl.	2	256 GB	3
AMD EPYC	128 lanes per socketPCIe 4.0	20 Gbps1 Gbps incl.	2	1 TB	2

GPU’ya giden hatlarİşlemci ile GPU arasında verinin ne kadar hızlı taşındığı. Eğitim yığınlarını akışla gönderdiğinizde ya da bir render her karede sahne verisi beslediğinde önemlidir; model yüklendikten ve GPU belleğinde kaldıktan sonra neredeyse hiç önemli değildir.
Üst portBir makinenin sonrakiyle ne kadar hızlı konuştuğu. Kendi işini yapan tek sunucu bunu hiç fark etmez. Birkaç makineye bölünmüş bir iş için asıl soru budur.
YaniTek makineye sığan ve veri yoluna yaslanan bir iş en geniş hatları ister. Birkaç makineye yayılan bir iş portu ister ve daha eski bir veri yoluyla idare edebilir. İkisinin aynı anda olduğu karışım bizde bulunmayan tek seçenektir ve bunu ödemeden önce duymalısınız.

Bunların her birine hangi GPU’nun girdiği ve aylık ne eklediği GPU özel sunucuları sayfasındadır; her fiyat ait olduğu makinenin yanında gösterilir. Bu sayfa hiçbir GPU için fiyat vermez, böylece bir rakam asla yanlış sunucunun yanına düşmez.

04Makineler arasındaki bağlantı

Çok düğümlü bir GPU kümesi, her düğümdeki port için ödeme yapar

Ağ bağlantısı her sunucunun bir parçasıdır; bu yüzden 10 Gbps hızında dört makine, her ay dört adet 10 Gbps port anlamına gelir. Bu kalem, yalnızca tek bir sunucu fiyatı görmüş kişileri en çok şaşırtan satırdır; aşağıdaki tablo çarpma işlemini sizin yerinize yapıyor.

Aylık, her makinenin üzerine eklenir. New York, Miami ve San Francisco'da dolar; aynı tutar Amsterdam ve Bükreş'te euro olarak faturalanır. Son sütun, bu hızı sunan GPU platformlarının sayısını gösterir.
Port	Tek sunucu	İki	Dört	Platformlar
1 Gbps	incl.	incl.	incl.	4 / 4
2 Gbps	$189	$378	$756	4 / 4
3 Gbps	$299	$598	$1,196	4 / 4
5 Gbps	$459	$918	$1,836	4 / 4
10 Gbps	$529	$1,058	$2,116	4 / 4
20 Gbps	$1,629	$3,258	$6,516	4 / 4
40 Gbps	$2,799	$5,598	$11,196	2 / 4
100 Gbps	$3,999	$7,998	$15,996	1 / 4

Daha geniş bir küme, daha hızlı olandan daha ucuza gelebilir. Tablodaki bazı noktalarda, bir kademe aşağıdaki iki makine, bir kademe yukarıdaki tek makineden daha ucuza gelir ve elinizde fazladan bir sunucu kalır. Bu yalnızca işiniz makineler arasında bölünebiliyorsa kârlı olur.

Makineler arasında satmadığımız şeyler. Kataloğumuzda Ethernet portlarından başka bir şey yoktur: InfiniBand dokusu ve NVLink köprüsü bulunmaz. Yapınız bunlardan birini gerektiriyorsa sipariş vermeden önce sorun. Yanıt bir tekliftir ve hayır da olabilir. Kiraladığımız en küçük çok düğümlü kurulum, dört birime kadar ConnectX-7 üzerinden birbirine bağlanan NVIDIA DGX Spark modelidir.

Tek bir makinedeki port, kendi başına, sınırsız bant genişliği sayfasında ele alınmıştır.

05Nerede yaşayabileceği

Bir GPU kümesi için önce şehri seçin

Birlikte çalışan makineler tek bir binada bulunmalıdır ve veri merkezlerimizin hepsi aynı platformları barındırmaz. Önce platformu seçerseniz, ihtiyacınız olan şehrin onu taşımadığını görebilirsiniz. New York and Bucharest hepsini barındırır.

New York4 / 4Intel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4 · Intel Xeon E5-2600 v1/v2 · AMD EPYC
Bucharest4 / 4Intel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4 · Intel Xeon E5-2600 v1/v2 · AMD EPYC
Miami3 / 4Intel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4 · Intel Xeon E5-2600 v1/v2
San Francisco2 / 4Intel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4
Amsterdam2 / 4Intel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4

Her bina ve bağlandığı noktalar veri merkezleri sayfasında açıklanmıştır. Kurulumunuz iki şehre yayılmak zorundaysa, sipariş vermeden önce destek ekibinden aralarındaki gecikmeyi ölçmesini isteyin.

06Teslim süreleri

Yapay zeka sunucularınız ne kadar sürede çalışır

Böyle bir yapı genellikle rafta hazır olmayan birkaç makine ve parçadan oluşur; bu yüzden ödeme yapmadan önce, özel sunucu yapılarımızla aynı adımlardan okunan bir tarih alırsınız.

~30 dk
Olduğu gibi rafa yerleştirilmiş
Hiçbir şey takılmaz veya taşınmaz. Anında sunucular, düğümleriniz sıradan makinelerse ilk bakmaya değer hazır makineleri listeler.
4–24 saat
Elimizde tuttuğumuz parçalar
Olağan durum. Teknisyenler GPU'ları takar, diskleri oluşturur ve işletim sistemini her makineye sırayla değil, paralel olarak kurar.
5–10 iş günü
Dışarıdan aldığımız parçalar
Spesifikasyondaki bir şey elimizde tuttuğumuz bir parça değildir; bu yüzden sipariş eder ve sonra kurarız. Tek makinede birden fazla GPU olduğunda genellikle en uzun süreyi kasa alır.
10–15 iş günü
Nadir bulunan bir parça
Güncel nesil hızlandırıcılar tahsisle gönderilir ve tarih dağıtıcının verdiği tarihtir. Tek bir müşteri için donanım satın aldığımızda üç ay önceden ödeme isteriz.

Her adım, sipariş ödeme ve dolandırıcılık incelemesinden geçtikten sonra başlar. Çoğu birkaç saat içinde tamamlanır; yeni bir hesaptan gelen büyük bir ilk sipariş daha uzun sürebilir ve havale veya sabit coin ödemesi genellikle kart ödemesinden daha hızlı sonuçlanır.

Boşta duran bir GPU sunucunuz mu var?

Onu Primcast pazar yerinde listeleyin ve seçtiğiniz fiyatla aylık olarak yapay zeka ekiplerine kiralayın.

Pazar yerine git

07Sorular

Özel AI sunucuları hakkında sorular

01Özel AI sunucusu nedir?

Yalnızca size kiralanan, model eğitme, ince ayar yapma veya sunma için bir veya daha fazla GPU ile donatılmış fiziksel bir sunucudur. Burada GPU'lar doğrudan kendi işletim sisteminize aktarılır; hipervizör yoktur, makinede başka kimse yoktur ve sözleşmesiz, aylık ödeme yaparsınız.

02Derin öğrenme için bare metal GPU sunucusu kiralayabilir miyim?

Evet. Kiraladığımız her GPU sunucusu bare metal'dir: tüm makinede root yetkisine sahip olursunuz ve kodunuzun beklediği sürücüyü, CUDA sürümünü ve çerçeveyi siz kurarsınız. GPU'lar ve aylık fiyatları GPU özel sunucuları sayfasında, her biri uyduğu makineyle birlikte gösterilir.

03Bir sunucu birden fazla GPU alabilir mi?

Evet, ödeme seçeneği olarak değil, teklif üzerine yapılan bir yapılandırma olarak. Kaç tanesinin sığacağı GPU'nun genişliğine ve kasanın sağlayabileceği güce bağlıdır; bu yüzden sohbette hangi GPU'yu istediğinizi söyleyin, yanıt kasa, adet ve tarihi belirtsin.

04Sizinle nasıl GPU kümesi kurarım?

Makineleri aynı şehirde, ihtiyacınız olan port hızına ulaşan bir platformda sipariş edin ve her birinde o hızı seçin. Ayrı sunucular olarak ayrı faturalarda kalırlar; böylece ikiyle başlayıp sonradan daha fazla ekleyebilirsiniz. Önce düğüm sayısını ve işi söyleyin, ödeme yapmadan önce şehri ve platformu kontrol edelim.

05Sunucular arasında InfiniBand veya NVLink sunuyor musunuz?

Listelenen bir seçenek olarak hayır. Makineler 100 Gbps hızına kadar Ethernet portları üzerinden bağlanır. Yapınız InfiniBand veya NVLink köprüsü gerektiriyorsa siparişten önce sorun: bu bir teklif olur ve yanıt hayır olabilir.

06Makine öğrenimi için özel sunucu bulut GPU'larından daha mı iyidir?

Ne kadar düzenli kullandığınıza bağlıdır. Özel bir AI sunucusu ister tam kapasite çalışsın ister boşta dursun her ay aynı ücrete tabidir; bu yüzden uzun eğitim süreçlerine ve gün boyu sunulan modellere uygundur. Burada trafik ölçülmez; düğümler arasında veri kümesi taşımak veya kullanıcılara sonuç göndermek hiçbir ek ücret getirmez. Ayda birkaç saat çalışan bir iş için saatlik kiralama daha ucuza gelebilir.

07HPC sunucusu nedir ve bunları kiralıyor musunuz?

HPC, yüksek performanslı hesaplama anlamına gelir: birçok işlemci veya GPU'ya yayılmış simülasyonlar, render, bilimsel kod ve model eğitimi. Parçaları kiralıyoruz; yani 2 sokete ve 1 TB belleğe kadar makineler, içlerinde GPU'lar ve aralarında portlar. Zamanlayıcıyı kendiniz kurarsınız; Slurm, Kubernetes veya ekibinizin halihazırda kullandığı her neyse.

08Özel bir AI sunucusunun maliyeti ne kadardır?

Makine ve GPU'su GPU özel sunucuları sayfasında birlikte fiyatlandırılır. Dahil edilenden daha hızlı bir port, bu sayfadaki tabloda makine başına ve aylık olarak yer alır. Üç, altı veya on iki aylık ödeme 15% indirim sağlar ve özel bir yapı, yapılandırıcının ödemeden önce gösterdiği tek seferlik kurulum ücreti taşır.

09Bir tane edinmek ne kadar sürer?

Parçalar elimizdeyken yaklaşık dört ila yirmi dört saat, satın alınması gerektiğinde beş ila on iş günü, nadir bir parça için on ila on beş iş günü. İstediğiniz gibi rafa yerleştirilmiş bir makine yaklaşık 30 dakikada çalışır duruma gelebilir.

10AI için CMP 170HX sunucuları kiralıyor musunuz?

Evet. Yapıları ve aylık fiyatlarıyla kendi sayfaları var: CMP 170HX sunucuları.

11GPU sunucularınız nerede?

New York, Miami, San Francisco, Amsterdam ve Bükreş'te. Her platform her şehirde yok; New York and Bucharest hepsini barındırır, bu da onları küme büyütmek için en kolay yerler yapar.

12Bir şey bozulursa ne tür yardım alırım?

AI sohbetimiz saniyeler içinde yanıt verir ve yardım ederken hesabınızı ve sunucularınızı kontrol edebilir; istediğinizde bir kişi devralır. Yanıt süreleri ve donanım değişimi destek sayfasındadır.

08İlgili sayfalar

Sonraki adım neresi

Bizimle planlayın

Modelinizin ne yapması gerektiğini bize söyleyin

Düğüm sayısı, işin bölünüp bölünmediği ve neyle konuşması gerektiği. AI sohbetimiz saniyeler içinde yanıt verir, istediğinizde bir kişi katılır ve tek bir makine işi görürse bunu söyleriz.

GPU fiyatlarını görün