Kayıt

4Platforms that take a card
100 GbpsFastest port on any of them
2Sockets in one machine, at most
1 TBMemory in one machine, at most
2Rooms holding every platform

Bu sayfa sunulduğunda sipariş kataloğundan okunur, elle yazılmaz. Bu sabah rafta neyin durduğu farklı bir sorudur ve anında sunucular bunun yanıtlandığı yerdir.

GPU'larınızı pasif aylık gelire dönüştürün

Boşta duran sunucu veya masaüstü GPU kurulumlarınız mı var? Bugün Primcast pazar yerinde listeleyin ve üretim düzeyinde hesaplama gücüne ihtiyaç duyan yapay zeka ekiplerinden, geliştiricilerden ve kuruluşlardan düzenli aylık kira kazanın.

Pazar Yerine Git

Pazar yeri

Sahiplerinden, birden fazla GPU veya birbirine kabloyla bağlı iki makine.

Sahipler, pazar yerimizde çok GPU'lu makineleri ve bağlantılı çiftleri, her biri kendi seçtikleri aylık fiyatla listeler. Kardeş şirketimiz Server Room tarafından tutulan listeler serverroom.net üzerinden kiralanır.

Tüm listeler →

İki farklı soru

Aslında hangisini soruyorsunuz?

İnsanlar buraya “daha fazlasına ihtiyacım var” kararını vermiş olarak gelirler, ama neyin daha fazlası olduğuna karar vermeden. İki yanıtın maliyeti farklıdır, teslim şekli farklıdır ve farklı şeylerle sınırlıdır; bu yüzden bir satır daha okumadan önce açık olmakta fayda var.

Bir makinede daha fazla kart

Aynı kasada ikinci bir kart

Kart belleğiniz ya da verimliliğiniz yetersiz ve makinenin geri kalan her şeyi iyi durumda. Bu, ödeme sayfasında işaretlediğiniz bir kutu değil, teklif verdiğimiz bir yapıdır; çünkü kaç kartın sığacağı, belirli kartın fiziksel genişliğine ve belirli kasanın güç bütçesine bağlıdır — katalogda olmayan ve tahmin etmeyeceğimiz iki olgu.

Bunu belirleyen: platform değil, kart. Parçayı adıyla sorun, yanıt kasayı, sayıyı ve teslim süresini söylesin.

İnsanların bekleyip alamadığı şey: iki kart, daha büyük tek kart değildir. Bellekleri yalnızca çalıştırdığınız şey bir modeli ikisine birden bölebiliyorsa toplanır — her ciddi çalışma zamanının desteklediği ve aralarındaki trafiğe bir miktar verim kaybettiren tensör veya boru hattı paralelliği. Zaten çok sayıda bağımsız iş olan işler için iki kart, makinenin iki katıdır ve hiçbir şeyin değişmesi gerekmez.

Yanında daha fazla makine

İlkinin yanında ikinci bir makine

Karttan değil, makineden tükendiniz: soketlerden, bellekten, bir sonraki işi koyacak yerden. Aşağıdaki platformların en iyisinde bu tavan 2 sockets and 1 TB kadardır ve bunların ikisinden birini aştığınızda yanıt daha büyük bir sunucu değil, başka bir sunucudur.

Bunu belirleyen: oda ve bağlantı noktası. Birbiriyle konuşması gereken iki makine aynı binada olmak zorundadır ve onları birleştiren şey her birindeki bağlantı noktasıdır — makine başına satın alınır, yani dört düğümün altındaki doku dört bağlantı noktasıdır.

İnsanların bekleyip alamadığı şey: burada küme ürünü yoktur ve asgari düğüm sayısı yoktur. Her makine kendi başına sipariş edilir, faturalanır, yükseltilir ve değiştirilir; bu yüzden bu sayfada hiçbir şey küme fiyatı vermez — bir küme n faturadır.

Takas

Bunlardan birinde en iyi olan platform, diğerinde en kötüdür.

Kart taktığımız her platform, tek bir makine yerine bir kümeyi belirleyen eksenlerde. Ortadaki iki sütunu birlikte okuyun; bu sayfanın tüm argümanı onlardadır: zıt yönlerde hareket ederler. Veri yolu nesli, GPU sayfasının yayınladığı aynı rakamdır, aynı tablodan; böylece iki sayfa bir bağlantı hakkında çelişemez.

Read from the order catalogue when this page was served. The two middle columns are the trade.
Platform	Lanes to the card	Network ceiling	Sockets	Memory ceiling	Rooms
Intel Xeon Silver / Gold	48 lanes per socketPCIe 3.0	100 Gbps1 Gbps included	2	1 TB	5
Intel Xeon E5-2600 v3/v4	40 lanes per socketPCIe 3.0	40 Gbps1 Gbps included	2	1 TB	5
Intel Xeon E5-2600 v1/v2	40 lanes per socketPCIe 3.0	20 Gbps1 Gbps included	2	256 GB	3
AMD EPYC	128 lanes per socketPCIe 4.0	20 Gbps1 Gbps included	2	1 TB	2

O tabloyu okumak

Karta giden hatlar, verinin işlemci ile hızlandırıcı arasında ne kadar hızlı geçtiğini belirler. Yığınları akıtan bir eğitim döngüsü için, her karede sahne verisi besleyen bir render için ve kart belleğinden taşan her şey için sürekli önemlidir. Bir model yerleşik hale gelip orada kaldığında neredeyse tamamen önemini yitirir.
Ağ tavanı, bir makinenin bir sonrakine ne kadar hızlı konuşabileceğini belirler. Kendi işini yapan tek bir sunucu için önemsizdir ve birkaçına bölünmüş bir iş için tüm sorudur.
Odalar, seçeneğin ihtiyacınız olan yerde mevcut olup olmadığını belirler ve insanların en son okuyup ilk okuması gereken sütundur — aşağıya bakın.
Yani: tek bir makineye sığan ve veri yolunu zorlayan bir iş, en geniş hatları ister ve bağlantı noktasını umursamaz. Birkaç makineye yayılmış bir iş, bağlantı noktasını ister ve daha eski bir veri yoluyla yaşayabilir. İkisini birden istemek, kataloğumuzun tutmadığı tek kombinasyondur ve bunu ödedikten sonra değil, burada söylemeyi tercih ederiz.

Bunlardan herhangi birine hangi kart girer ve her biri ayda ne ekler, GPU özel sunucuları sayfasındadır — taktığımız her kart, rakamının ait olduğu tam makineye göre fiyatlandırılır. Bu sayfa bilinçli olarak hiçbir kartı fiyatlandırmaz: o parayı tek bir sayfa sahiplenir.

Onları birleştiren şey

Ara bağlantı makine başına satın alınır ve insanların yanlış yaptığı aritmetik budur.

Bir bağlantı noktası, tek bir sunucunun özelliğidir. Belirli bir hızda dört makine, o hızın dört katıdır, her ay ve rahat bir küme bütçesini rahatsız bir bütçeye çeviren kalem budur. Aşağıda, çarpma işlemi zaten yapılmış merdiven var; çünkü birden fazla makine hakkında bir sayfa, bunu size bırakıyorsa işini yapmıyor demektir.

Per month, on top of the machine. The port is bought per node, so the right-hand columns are what the same speed costs across a cluster.
Port	One machine	Two	Four	Offered on
1 Gbps	included	included	included	every platform
2 Gbps	$189	$378	$756	every platform
3 Gbps	$299	$598	$1,196	every platform
5 Gbps	$459	$918	$1,836	every platform
10 Gbps	$529	$1,058	$2,116	every platform
20 Gbps	$1,629	$3,258	$6,516	every platform
40 Gbps	$2,799	$5,598	$11,196	2 of 4
100 Gbps	$3,999	$7,998	$15,996	1 of 4

Bir basamak seçmeden önce fark edilmeye değer iki şey

Merdiven doğrusal değildir, bu yüzden daha geniş bir küme daha hızlı olandan daha ucuz olabilir. Basamakları hiçbir şeyle değil, birbirleriyle karşılaştırın: o tablodaki birkaç noktada, bir basamak aşağıdaki iki makine, bir basamak yukarıdaki tek makineden daha ucuza gelir ve size iki makine verir. Bunun iyi bir takas olup olmadığı tamamen işinizin bölünüp bölünmediğine bağlıdır.
Merdivenin tepesi her platformda yoktur. Sağdaki sütun, her hıza kaç tanesinin ulaştığını söyler ve en hızlı basamaklar, karta daha eski bir veri yolu veren bir platforma daralır. Bu, yukarıdaki tabloyla aynı takastır, diğer yönden gelir.

Açıkça söylersek, sahip olmadıklarımız

Kataloğumuzda makineler arasında bir Ethernet bağlantı noktasının ötesinde hiçbir şey yoktur. Listelenmiş InfiniBand dokusu yoktur ve listelenmiş karttan karta köprü yoktur; bu sayfa, etrafından dolaşarak birini ima etmeyecektir. Bir yapı bunlardan birine ihtiyaç duyuyorsa, siparişten sonra değil önce sorun: yanıt bir tekliftir ve yanıt hayır olabilir. Bu, evet olabileceği izlenimini bırakan bir sayfadan size daha değerlidir.

Yukarıdaki her hız, her iki yönde de ölçümsüzdür; hiçbir faturada aktarım kotası ve çıkış kalemi yoktur — yani düğümlerinizin birbirine gönderdiği şey her hacimde ücretsizdir; bu, genellikle başka yerlerde ölçülen kısımdır. Ölçümsüz bant genişliği, tek başına ele alınan bir bağlantı noktasının sayfasıdır, tek bir makinede.

Var olabileceği yer

Tek bir makine için önce platformu seçersiniz. Birkaçı için önce odayı seçin.

Birbiriyle konuşması gereken makineler aynı binaya aittir ve odalarımızın hepsi aynı platformları barındırmaz. Önce platformu seçin; ihtiyacınız olan odanın onu taşımadığını görebilirsiniz. Bu, diğer her şeyle aynı katalogdan türetilir; böylece yeni bir şehre gelen bir hat burada kendiliğinden görünür.

New York, US4 of 4 platformsIntel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4 · Intel Xeon E5-2600 v1/v2 · AMD EPYC
Bucharest, EU4 of 4 platformsIntel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4 · Intel Xeon E5-2600 v1/v2 · AMD EPYC
Miami, US3 of 4 platformsIntel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4 · Intel Xeon E5-2600 v1/v2
San Francisco, US2 of 4 platformsIntel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4
Amsterdam, EU2 of 4 platformsIntel Xeon Silver / Gold · Intel Xeon E5-2600 v3/v4

Binanın gerçekte nerede olduğu, neye bağlı olduğu ve içinde başka kimlerin olduğu — veri merkezleri beşini de anlatır. İki şehrimiz arasındaki gecikme, pazarlama rakamı değil gerçek bir sayıdır ve destek, haritadan tahmin etmeniz yerine istek üzerine çiftiniz için ölçer.

Nasıl teklif edilir ve ne kadar sürede var olur

Çok düğümlü iş, ödenmeden önce tarihlendirilir, sonra değil.

Bu tür bir yapı, birkaç makine ve çoğu zaman rafta olmayan birkaç parçadır; bu yüzden yayınlanacak dürüst şey bir teslimat vaadi değil, tarihin indiği merdivendir — siparişe göre üretim ve GPU sayfasının kullandığı merdivenin aynısı, aynı sözlerle.

~30 dakika
Makineler oldukları gibi rafta
Hiçbir şey takılmaz ve hiçbir şey taşınmaz. Anında sunucular, şu anda orada duranların listesidir ve sıradan düğümlerden oluşan bir küme için önce okumaya değer.
4–24 saat
Parçalar elimizde olanlar
Sıradan durum. Teknisyenler kartları takar, dizileri kurar ve işletim sistemlerini yükler — makine başına, paralel olarak, birbiri ardına değil.
5–10 iş günü
Parçaların satın alınması gerekir
Spesifikasyondaki bir şey, taşıdığımız stok değildir. Sipariş ederiz, sonra kurarız. Çok kartlı bir kasa için en yaygın basamak budur; çünkü uzun direk genellikle kart değil, kasadır.
10–15 iş günü
Bir parça kıt
Mevcut nesil hızlandırıcılar tahsisle çalışır ve tarih dağıtıcınındır, bizim değil. Taahhüt etmeden önce uzun direği söyleriz, sonra değil. Donanımın tek bir müşteri için satın alındığı durumlarda üç ay peşin isteriz; çünkü hesap ikinci haftada kapanırsa yeniden kiraya veremeyeceğimiz bir makinedir.

Her basamak, sipariş ödeme ve dolandırıcılık incelemesinden geçtiğinde başlar; bu, üzerine söz koymayacağımız tek adımdır — çoğu birkaç saat içinde geçer ve yeni bir hesaptan gelen büyük bir ilk sipariş daha uzun sürebilir. Bu boyutta bir yapı için havale veya sabit coin genellikle karttan daha hızlı geçer; bunu bilmek, dolandırıcılık kontrolü bir raf ziyaretini geciktirmeden önce değerlidir.

Çok düğümlü veya çok kartlı bir yapıyı anlatmak, bir formdan çok bir cümlede daha hızlıdır. — düğüm sayısı, işin bölünüp bölünmediği ve neyle konuşması gerektiği — ve bunlardan birini daha önce teklif etmiş biri yanıtlar; yanıtın tek bir makinenin iş göreceği olduğu durumlar dahil.

Sonraki adım

Bu sayfanın iki yanındaki sayfalar.

Bu sayfa tek bir soruyu sahiplenir: birden fazla kartın ve birden fazla makinenin neye benzediği. Bitişik her şeyin kendi sayfası vardır ve bunların hepsi buradadır.

Daha geniş gitmek, daha büyük gitmekle aynı iş değildir.