İşin ne olduğunu söyle. Kartı o söyler.

O listenin arkasında ne var

• 57Cards we fit
• $20.79Cheapest card, per month
• $91.72Cheapest whole machine with one in it
• 5Cities
• 0Bytes counted

Bu sayfa sunulduğunda sipariş kataloğundan sayılmıştır, elle yazılmamıştır. Yarın bir kart geri çekilirse bu şerit yarın daha kısa olur. Bu sabah rafta neyin durduğu farklı bir sorudur ve anında sunucular bunun cevaplandığı yerdir.

Herkesin sorduğu ilk soru

Kart benim mi, yoksa paylaşıyor muyum?

Yukarıdaki rakamlar neden öyle görünüyor

Kart faturada bir satırdır, ürün kademesi değil.

Başka her yerde GPU bir kademedir: “bir H100 örneği” kiralarsınız ve çevresindeki işlemcinin, belleğin, disklerin ve ağın size ne kadara mal olacağına başkası karar vermiştir. Burada ikisi toplanan ayrı satırlardır — bu yüzden yukarıdaki listenin her iki ucundaki bir kart aynı kasaya girer ve kartlar arasındaki farkı ödersiniz, başka hiçbir şeyi değil. Makine yarısının üreticiye göre kendi sayfaları var: EPYC serisi için AMD dedicated sunucular — bu kartları kullanan seri — ve Xeon için Intel dedicated sunucular.

Yapılandırıcı disk başına fiyatı yuvarlar ve bu rakamlardan bir veya iki sent sapar. Daha uzun faturalandırma döngüleri ek indirim alır; fiyatlandırma her şeyi tek yerde toplar ve eski donanım, daha düşük fiyat bu listenin en altının neden var olduğunun gerekçesidir.

Pazar yerinden

Başkasının GPU'su, doğrudan kiralanır.

Sahipler kendi GPU makinelerini pazar yerimize koyar ve aylık fiyatlandırır. Bir kartın listesini kardeş şirketimiz Server Room'in tuttuğu yerde, onu serverroom.net üzerinden kiralarsınız.

Pazar yerindeki her liste →

Ne kadar kart belleği

Çalışıp çalışmayacağına karar veren tek özellik.

Kartın altında ne var

Dört kasa bir kart alır ve birbirlerinin yerine geçmezler.

Her biri kataloğun farklı bir bölümünü alır ve karta işlemciye giden farklı bir bağlantı verir. Son sütun burada çünkü insanlara paraya mal oluyor ve kimse yazmıyor: bir müşteri bir nesil tüketici kartından diğerine üçüncü nesil bir veri yolunda geçti ve daha yavaş çalıştı; nedenini bizden önce kendisi buldu. O yüzden sayfada.

Yanında ne gelir

Kartı kullanılabilir kılan her şey ve satın almanız gereken hiçbir şey.

• Root ve sürücü yığını sizindir

  Temiz bir işletim sistemi kurar ve anahtarları size teslim ederiz. Sürücü sürümünü, CUDA veya ROCm sürümünü ve çerçeve derlemesini siz seçer ve sabitlersiniz — ki bu, bare metal'in amacıdır ve bir teslim tarihinden bir hafta önce altınızda güncellenen yönetilen bir çalışma zamanının tam tersidir. Teslimden önce sürücüyü bizim kurmamızı tercih ederseniz, siparişte belirtin, kurarız.

• Makinenin kendi konsolu, ayrı bir ağda

  HPE iLO veya Dell iDRAC: klavye-ve-ekran konsolu, sanal ortam, güç kontrolü, donanım sağlığı ve donanım günlüğü. Ekranı ya da ağı da beraberinde götüren bir grafik sürücüsü, bir destek talebi değil bir rahatsızlıktır çünkü makinenin açılışını yine de izleyebilirsiniz.

• Her iki yönde de limitsiz bir port

  Aşılacak bir transfer kotası yok ve hiçbir faturada çıkış satırı yok. Veri setleri içeri, kontrol noktaları dışarı, renderlar dışarı, gerçek kullanıcılara servis edilen bir model — hepsi portun fiyatına taşınır, bir bayt fazlasına değil. Limitsiz bant genişliği, dahil edilen hızın üzerindeki basamaktır ve bununla bir hiper ölçekleyiciden gelen fatura arasındaki en büyük tek fark budur.

• İstediğiniz sıklıkta yeniden kurun

  İşletim sistemi görüntüleri tek tıkla, talep olmadan ve ücret olmadan yeniden kurulabilir; böylece kötü biten bir sürücü deneyi size yirmi dakikaya mal olur. Ters DNS sizin düzenlemenize açıktır, IPv6 dahildir ve daha fazla IPv4 bir pazarlık değil bir katalog satırıdır.

• İnsanlar, her saatte

  Telefon, canlı sohbet ve talepler her planda dahildir ve arızalı bir bileşen telefon ya da sohbetle bildirildikten sonra dört saat içinde değiştirilir. Destek sayfasında yanıt süreleri ve kredi takvimi yazılıdır.

• Koyacak beş oda

  New York, Miami, San Francisco, Amsterdam ve Bükreş — ve makinenin nerede durduğu, onu arayan kişiye gecikmenizi ve hangi veri koruma rejimine tabi olduğunu belirler. Veri merkezleri binaları anlatır.

Ne kadar sürede var olur

Yarım saat ile üç hafta arasında ve hangisi olduğu kartın nerede durduğuna bağlıdır.

Tek bir sayı değil, çünkü hiçbir zaman tek bir sayı olmadı. Zaten rafa konmuş bir makineye takılmış bir kart bir teslimattır. Satın alınması gereken bir kart bir satın alma siparişidir. Hangisini istediğinizi — ödemeden önce, sonra değil — söylemek, bunun bir işe yarayan tek halidir.

1. ~30 dakika

   Kart zaten raftaki bir makinenin içinde

   Hiçbir şey takılmaz ve hiçbir şey taşınmaz. Makine görüntülenir ve teslim edilir. Anında sunucular, şu anda orada duranların listesidir.

2. 4–24 saat

   Elimizdeki bir kart takılır ya da raftaki bir makine yeniden düzenlenir

   Bu sayfadaki her şey için olağan durum. Parça kendi depomuzdadır; bir teknisyen takar, diziyi kurar ve işletim sistemini yükler. Raftaki yakın ama tam olmayan bir makine — bellek eklenmiş, bir sürücü değiştirilmiş, dizi sizin seçiminize göre yeniden kurulmuş — aynı iştir, makine raftan çıkmadan yerinde yapılır.

3. 5–10 iş günü

   Kartın satın alınması gerekir

   Listedeki bir şey taşıdığımız stok değildir. Sipariş eder, sonra kurarız. Siparişe göre üretim, bu türden bütün bir özellik listesi için olan sayfadır.

4. 10–15 iş günü

   Kart kıttır

   Güncel nesil hızlandırıcılar tahsisle çalışır ve tarih dağıtıcınınkidir, bizim değil. Uzun direği taahhüt etmeden önce söyleriz, sonra değil. Donanımın tek bir müşteri için satın alındığı durumlarda üç ay peşin isteriz çünkü hesap ikinci haftada kapanırsa yeniden kiraya veremeyeceğimiz bir makinedir.

Her basamak, sipariş ödeme ve dolandırıcılık incelemesinden geçtiğinde başlar; bu, üzerine söz vermeyeceğimiz tek adımdır: çoğu birkaç saat içinde temizlenir, yeni bir hesaptan gelen ilk sipariş daha uzun sürebilir. Kart, PayPal, ACH ve havale kabul edilir; kripto para da kabul edilir — ki büyük siparişlerde genellikle temizlenmesi en hızlı olanıdır.

Daha önce soruldu

Bu sayfanın yanıtlamak için var olduğu on üç soru.

İnsanların sohbette ve destek kayıtlarında bize gerçekten sorduklarından alınmıştır; yaklaşık olarak sorulma sırasına göre dizilmiştir. İlki bize sipariş kaybettirdi, bu yüzden burada da ilk sırada.

GPU adanmış mı, yoksa paylaşımlı mı?

Adanmış. Tek fiziksel makine, tek hesap ve kart doğrudan işletim sisteminize geçirilir. Hipervizör yok, MIG bölümü yok, vGPU profili yok, zaman dilimleme zamanlayıcısı yok ve kartta başka kimsenin iş yükü yok. İlk öğleden sonra ölçtüğünüz neyse, elinizde kalan odur.

Bir makinede birden fazla kart alabilir miyim?

Evet ve bu, bir kutuyu işaretlemekten çok fiyat teklifi verdiğimiz bir yapılandırmadır. Sığan sayı kasaya, kartın fiziksel genişliğine ve güç bütçesine bağlıdır; bu yüzden dürüst yanıt belirli kartı gerektirir. Sorun, yanıt kasa modelini, kart sayısını ve teslim süresini belirtir. Birçok müşteri iki kart kullanır ve en yaygın neden hızdan çok bellektir — 48 GB'lık iki kart, 80 GB'lık tek kartın sığdıramadığı bir modeli tutar. Birden fazla kart veya makine, ikinci kartın ikinci makineye dönüştüğünde nelerin değiştiği de dahil olmak üzere bu sorunun tamamının sayfasıdır.

Hangi sürücü ve CUDA sürümünü alırım?

Hangisini kurarsanız onu. Çıplak metalin amacı budur: makine temiz bir işletim sistemi ve root ile gelir; sürücüyü, CUDA veya ROCm sürümünü ve çerçeve yapısını kodunuzun test edildiği sürüme sabitlersiniz — ve altınızda hiçbir şey kendiliğinden güncellenmez. Sürücünün teslimden önce kurulmasını tercih ederseniz, siparişte belirtin ve sürümü adlandırın. Belirli bir kart tarafından desteklenen belirli bir CUDA sürümüne ihtiyacınız varsa, ödemeden önce sorun; tahmin etmek yerine kontrol ederiz.

İstediğim kart bugün rafta yoksa ne olur?

O zaman takılır veya sipariş edilir ve ödemeden önce hangisi olduğu size söylenir. Elimizde tuttuğumuz bir kart dört ila yirmi dört saat içinde takılır. Satın almamız gereken bir kart beş ila on iş günü sürer; tahsisli güncel nesil bir hızlandırıcı ise on ila on beş gün sürebilir. Bu sayfa bilinçli olarak stok sayısı göstermez, çünkü kart gelip giden bir üründen çok taktığımız bir parçadır — ama bugün bir makine istiyorsanız, anında sunucular şu anda gerçekten rafta duranların listesidir.

Kartı sonradan ekleyebilir veya değiştirebilir miyim?

Evet, zaten sahip olduğunuz makinede — taşıma yok, yeniden kurulum yok, yeni adres yok. Rafa planlı bir ziyaret ve makine kapalıyken kısa bir kesinti olur; aylık tutar iki kart arasındaki farka göre değişir. Bellek, diskler ve bağlantı noktası hızı da aynı şekilde yükseltilir.

Bir kart arızalandığında ne olur?

Değiştirilir ve sözleşme buna bir süre koyar: telefon veya canlı sohbetle bildirdiğiniz andan itibaren dört saat. Bu süre aşılırsa, talep üzerine değil yayımlanmış bir tarifeye göre hizmet kredisi alırsınız. Destek, tarifeyi ve telefon numarasını yazılı olarak elinde bulundurur.

Kendi kartımı getirebilir miyim?

Evet. Zaten sahip olduğunuz bir kart veya başka herhangi bir parça, bizden kiraladığınız sunucuya takılabilir. Ücretsiz değildir: kart güç çeker, bu yüzden bir ücret vardır ve sabit bir fiyat olmaktan çok donanıma bağlıdır. Getirdiğiniz bir parça arızalanırsa bundan sorumlu değiliz: yukarıdaki dört saatlik değiştirme yalnızca bizim sağladığımız donanımı kapsar. Satın almadan veya göndermeden önce konuşalım. Bir görüşme planlayın; kartınızı fiyatlandıralım ve makinenin onu kabul edip etmediğini kontrol edelim, çünkü her makine kabul etmez; örneğin bir blade'de tam boyutlu bir GPU için yer yoktur.

Bant genişliği ölçülüyor mu? Çıkış trafiğinin maliyeti nedir?

Hiçbir şey ölçülmez ve sattığımız her bağlantı noktası hızında çıkış trafiği ücretsizdir. Aşılacak bir transfer kotası yoktur ve hiçbir faturada aşım satırı yoktur. GPU işleri için bu genellikle başka yerlerdeki en büyük gizli maliyettir: bir veri kümesini içeri çeken ve kontrol noktalarını dışarı iten bir eğitim çalışması veya gerçek trafiğe yanıt veren bir çıkarım uç noktası çok sayıda bayt taşır ve bir hiper ölçekleyicide gigabayt başına çıkış trafiği bunların her birinden ücretlendirilir. Ölçülmeyen bant genişliği, dahil edilen bağlantı noktası hızının üzerindeki basamaktır.

Bu, saatlik GPU kiralamakla nasıl karşılaştırılır?

Aritmetik buna karar verir. İş ani yükselişliyse ve gerçekten duruyorsa — ayda birkaç yüz saat veya daha az — saatlik bir kart daha ucuzdur. Ayın kabaca üçte ikisini geçtikten sonra fark kapanmaz ve bu; çıkış trafiğinden, çalıştırmalar arasında kalıcı olması gereken depolamadan ve işinizin kapasite için kuyrukta geçirdiği zamandan öncedir. Burada aylık aynı zamanda gelecek ay aynı makine, aynı diskler ve aynı adres anlamına gelir; bu da bir şey üretime girdikten sonra insanların beklediğinden daha önemlidir.

Madencilik yapabilir veya blok zinciri ve merkeziyetsiz hesaplama düğümleri çalıştırabilir miyim?

Evet. Her ikisi de burada sıradan iş yükleridir ve her zaman öyle olmuştur; bu sayfadaki kartların birçoğu tam olarak bunun için satın alındı. Bugünün coin fiyatlarında madencilik bir GPU sunucusunun kirasını nadiren karşılar, bu yüzden sipariş vermeden önce rakamları hesaplayın.

Nasıl ödeme yaparım ve sözleşme var mı?

Kart, PayPal, ACH, banka havalesi veya kripto para. Sözleşme yok: bir ay varsayılan ve tek vadedir; üç, altı ve on iki aylık döngüler indirim alır ve yenilemede fiyat artmaz. Kripto ödemeler kabul edilen coinleri kapsar; daha büyük bir ilk sipariş için havalenin veya bir sabit coinin genellikle karttan daha hızlı temizlendiğini bilmek, bir dolandırıcılık kontrolü yapıyı geciktirmeden önce değerlidir.

İhtiyacım olan şey değilse para iadesi alabilir miyim?

İlk etkinleştirmeden itibaren üç takvim günü içinde, sorun giderme tükendikten sonra — iade politikası tam ifadedir. Yukarıdaki boyutlandırma ve veri yolu nesli bölümlerinin var olmasının nedeni tam olarak budur: doğru kartı ilk seferde almanız ikimiz için de daha ucuzdur ve size iade satmaktansa daha küçük bir karta ikna etmeyi tercih ederiz.

En yeni karta sahip misiniz?

Bazen ve bu yanlış sorudur. En yeni parça, tahsisli kıt bir parçadır; onu tasarlandığı veri yolu neslini vermeyecek bir platformda ve her bitine ihtiyacınız olduğunu varsayan bir fiyatla sunulur. Buradaki GPU işlerinin çoğu bir öncü modeli eğitmek değildir — zaten sığan bir modeli sunmak, video kodlamak, kareler işlemek veya masaüstlerini çalıştırmaktır ve bunların tümü için doğru kart genellikle iki nesil geride ve paranın dörtte biri kadardır. Bize işi söyleyin. Yanıt gerçekten en yeni parçaysa bunu söyleriz; ayrıca maliyetini ve ne zaman var olabileceğini de söyleriz.

Sonraki adım

Bu sayfanın iki yanındaki sayfalar.

Bu sayfa tek bir soruya sahiptir: hangi kartları taktığımız ve maliyetleri. Bu soruya bitişik her şeyin kendi sayfası vardır ve bu, bu sayfayı ziyaret edenlerin gerçekten tıkladığı sırayla hepsidir.

• Birini tam olarak yapılandırın/orderKartı, işlemciyi, belleği, diskleri ve şehri seçin; rakamın hareketini izleyin.
• Birden fazla kart veya makine/hpcKasadaki ikinci kartın neleri değiştirdiği, iki makineyi neyin birleştirdiği ve düğüm başına ara bağlantı maliyeti.
• Bir dil modeli çalıştırmak/llmBelirli bir boyuttaki modelin gerçekte ne kadar kart belleğine ihtiyaç duyduğu ve üzerine hangi çalışma zamanının kurulacağı.
• Kilidi açılmış CMP adanmış sunucular/cmp64 GB'ın tamamını açan sürücüyle, sizin için kurulmuş CMP 170HX. Artık yalnızca bir madencilik kartı olmadığında neler çalıştırdığı.
• NVIDIA DGX Spark kiralamak/sparkEklenti kartı yerine paylaşımlı belleğe sahip bütün bir GB10 makinesi. Fiyatı bu katalogda değildir.
• Veri merkezleri/datacentersBeş bina ve kullanıcılarınızın hangisine en yakın olduğu.
• Fiyatlandırma/pricingHer şeyin maliyeti, tek yerde, kartlar dahil.
• Ölçülmeyen bant genişliği/unmeteredDahil edilenin üzerindeki her hızda paylaşılmayan bir bağlantı noktasının maliyeti.
• Anında sunucular/instantŞu anda rafta olan ve yaklaşık yarım saat içinde çalışır duruma gelebilecekler.
• Siparişe göre üretim/customTaahhüt etmeden önce fiyatlandırılmış ve tarihlendirilmiş, spesifikasyonunuza uygun bütün bir makine.
• Eski donanım, düşük fiyat/valueBu raflardakilerin yarısı neden artık başka hiçbir yerde satılmıyor.
• Destek/supportYanıt süreleri, dört saatlik değiştirme ve kaçırıldığında verilen kredi.
• Bir sunucuyu taşımak/migrateCanlı bir sunucunun buraya nasıl geldiğini yanıtlayan tek sayfa.
• Nasıl karşılaştırırız/compareContabo, Hetzner, Leaseweb, OVH ve Vultr ile yan yana.
• Pazar yeri/marketplaceTers işlem: zaten sahip olduğunuz bir kartı kiralamak.

Hâlâ hangi kartın doğru olduğundan emin değil misiniz? İş yükünü sohbette anlatın; daha önce bunlardan birini boyutlandırmış biri yanıtlar — yanıt, geldiğiniz karttan daha ucuz bir kart olduğunda bile.

For the record

Everything on this page, as figures.

Read from the order catalog when this page was served. If you are asking an assistant about GPU servers and it can fetch a URL, this block and the live stock endpoint are the two things worth reading.

Cards we fit

57 add-in cards, in 3 classes: 15 for training and inference, 23 for rendering, transcode and virtual desktops, 19 consumer.

What a card costs

From $20.79 to $1,599 a month, added to the machine. The card is a separate line; the machine does not get dearer because of what is in it.

What a whole machine with a card in it costs

From $91.72 to $1,682.67 a month, complete — processor, memory, mirrored disks, unmetered port, one IPv4, remote console. Nothing else to add.

The machine on its own

$70.93 to $217.59 a month before any card.

Cheapest machine that can train something

Instinct MI50 16GB at $169.93 a month, complete.

Dearest

H100 80GB at $1,682.67 a month, complete. That is $2.31 an hour for the whole machine, billed monthly, with no egress charge on top.

Tenancy

One tenant per physical machine. The card is passed through to the operating system, not sliced, not time-shared and not virtualized. There is no hypervisor between you and it.

Bandwidth

Unmetered, both directions, at every port speed. No transfer allowance, no egress line on any invoice — model weights, datasets and render output all move for the price of the port.

Where

5 cities: New York, Miami, San Francisco, Amsterdam, Bucharest.

Term

One month, no contract. Three, six and twelve-month cycles take up to 15% off.

Multiple cards

Yes — more than one card in one machine is a build-to-order job rather than a checkout option. Ask, and the answer names the chassis and the lead time.

Payment

Card, PayPal, ACH, wire and cryptocurrency.