İşin ne olduğunu söyle. Kartı o söyler.

O listenin arkasında ne var

• 57Cards we fit
• $20.79Cheapest card, per month
• $91.72Cheapest whole machine with one in it
• 5Cities
• 0Bytes counted

Bu sayfa sunulduğunda sipariş kataloğundan sayıldı, elle yazılmadı. Yarın bir kart geri çekilirse bu şerit yarın daha kısa olur. Bu sabah rafta neyin durduğu farklı bir sorudur ve cevabı anında sunucular sayfasındadır.

Herkesin sorduğu ilk soru

Kart benim mi, yoksa paylaşıyor muyum?

Yukarıdaki rakamlar neden öyle görünüyor

Kart faturada bir satırdır, bir ürün kademesi değil.

Başka her yerde GPU bir kademedir: “bir H100 örneği” kiralarsınız ve çevresindeki işlemcinin, belleğin, disklerin ve ağın size neye mal olacağına başkası karar vermiştir. Burada ikisi ayrı satırlardır ve toplanır — bu yüzden yukarıdaki listenin iki ucundaki kart da aynı kasaya girer ve kartlar arasındaki farkı ödersiniz, başka hiçbir şeyi değil.

Yapılandırıcı disk başına fiyatı yuvarlar ve bu rakamlardan bir veya iki sent sapar. Daha uzun faturalama döngüleri ek indirim alır; fiyatlandırma her şeyi tek yerde toplar ve eski donanım, düşük fiyat bu listenin en altının neden var olduğunun gerekçesidir.

Kart hafızası ne kadar?

Çalışıp çalışmayacağına karar veren tek özellik budur.

Kartın altında ne var?

Dört şasi bir tane kullanır ve bunlar birbirinin yerine kullanılamaz.

Her biri kataloğun farklı bir bölümünü alıyor ve karta işlemciye farklı bir bağlantı veriyor. Son sütun burada çünkü insanlara para kaybettiriyor ve kimse bunu basmıyor: Bir müşteri, üçüncü nesil bir veri yolu üzerinde bir sonraki nesil tüketici kartına geçti ve daha yavaş çalıştı ve bunun nedenini bizden önce anladı. Bu yüzden sayfada yer alıyor.

Bununla birlikte neler gelir?

Kartın kullanılabilirliğini sağlayan her şey ve satın almanız gereken hiçbir şey yok.

• Root erişimi ve sürücü yığını sizin elinizde.

  Temiz bir işletim sistemi kuruyoruz ve anahtarları size teslim ediyoruz. Sürücü sürümünü, CUDA veya ROCm sürümünü ve çerçeve yapısını seçip sabitliyorsunuz; bu, bare metal kurulumunun amacı ve son teslim tarihinden bir hafta önce sizin altınızda yükseltme yapan yönetilen bir çalışma ortamının tam tersidir. Sürücüyü teslimden önce kurmamızı tercih ederseniz, siparişte belirtin, biz de kurarız.

• Makinenin kendi konsolu, ayrı bir ağ üzerinde yer almaktadır.

  HPE iLO veya Dell iDRAC: klavye ve ekran konsolu, sanal ortam, güç kontrolü, donanım sağlığı ve donanım günlüğü. Ekranı veya ağı da beraberinde götüren bir grafik sürücüsü, destek talebi oluşturmaktan ziyade bir rahatsızlıktır, çünkü makinenin önyüklemesini yine de izleyebilirsiniz.

• Her iki yönde de ölçüm yapılmayan bir liman.

  Herhangi bir faturada aşılmaması gereken bir transfer limiti veya çıkış satırı bulunmamaktadır. Veri kümeleri içeri, kontrol noktaları dışarı, render işlemleri dışarı, gerçek kullanıcılara sunulan bir model – bunların hepsi port ücreti karşılığında ve bir bayt fazlası olmadan aktarılır. Sınırsız bant genişliği , dahil edilen hızın bir üst basamağıdır ve bu, bir hiper ölçekli sağlayıcının faturasından en büyük farkı oluşturur.

• İstediğiniz sıklıkta yeniden yükleyin.

  İşletim sistemi imajları tek tıklamayla indirilebilir, yeniden kurulum için bilet gerekmez ve ücret alınmaz; bu sayede kötü sonuçlanan bir sürücü denemesi size yirmi dakikaya mal olur. Ters DNS'i düzenleyebilirsiniz, IPv6 dahildir ve daha fazla IPv4, pazarlık konusu olmaktan ziyade katalogda yer alır.

• İnsanlar, herhangi bir saatte

  Her plana dahil olan telefon, canlı sohbet ve destek biletleri ile arızalı bir parça, telefon veya sohbet yoluyla bildirildikten sonra dört saat içinde değiştirilir. Destek ekibi , yanıt sürelerini ve kredi planını yazılı olarak bildirir.

• İçine koymak için beş oda

  New York, Miami, San Francisco, Amsterdam ve Bükreş — ve makinenin nerede bulunduğu, onu arayan kişiye olan gecikme sürenizi ve hangi veri koruma rejimine tabi olduğunu belirler. Veri merkezleri ise binaları tanımlar.

Ne kadar çabuk var olur?

Yarım saat ile üç hafta arasında değişir ve hangisi olacağı kartın nerede durduğuna bağlıdır.

Tek bir sayı değil, çünkü hiçbir zaman tek bir sayı olmadı. Makineye zaten takılmış, rafa yerleştirilmiş bir kart, bir teslimattır. Satın alınması gereken bir kart ise bir satın alma siparişidir. Ödeme yapmadan önce, yani sonrasında değil, hangisini istediğinizi size söylemek, bunun tek değerli versiyonudur.

1. ~30 dakika

   Kart zaten raftaki bir makinede.

   Hiçbir şey takılmıyor ve hiçbir şey yerinden oynatılmıyor. Makine imajlanıyor ve teslim ediliyor. Instant Servers, şu anda orada bulunanların listesidir.

2. 4–24 saat

   Elimizdeki bir kart takılıyor veya rafa yerleştirilmiş bir makine yeniden düzenleniyor.

   Bu sayfadaki her şey için olağan durum şöyledir: Parça kendi depomuzda bulunur; bir teknisyen onu takar, diziyi oluşturur ve işletim sistemini kurar. Rafta bulunan, benzer ancak tam olarak aynı olmayan bir makine (bellek eklenmiş, sürücü değiştirilmiş, dizi sizin tercihinize göre yeniden oluşturulmuş) aynı işi, makine raftan çıkarılmadan yerinde yapar.

3. 5-10 iş günü

   Kartın satın alınması gerekiyor.

   Listede yer alan bazı ürünler stoklarımızda bulunmamaktadır. Sipariş verip üretiyoruz. Siparişe göre üretim sayfası, bu tür ürünlerin tüm özelliklerini içermektedir.

4. 10-15 iş günü

   Bu kart nadirdir.

   Mevcut nesil hızlandırıcılar tahsisat esasına göre çalışır ve tarih bizim değil, dağıtımcınındır. Taahhütte bulunmadan önce uzun direğin adını vereceğiz, sonrasında değil. Donanım tek bir müşteri için satın alındığında, üç aylık peşinat talep ediyoruz çünkü hesap ikinci haftada kapanırsa makineyi yeniden kiralayamayız.

Her aşama, siparişin ödeme ve dolandırıcılık kontrolünden geçmesiyle başlar; bu aşama için kesin bir söz veremiyoruz: çoğu sipariş birkaç saat içinde tamamlanır, yeni bir hesaptan verilen ilk sipariş daha uzun sürebilir. Kart, PayPal, ACH ve banka havalesi kabul edilir, ayrıca kripto para birimi de kabul edilir; büyük siparişler için genellikle en hızlı tamamlanan yöntem kripto paradır .

Daha önce soruldu

Bu sayfanın var olma nedeni olan on iki soru.

İnsanların sohbette ve destek kayıtlarında bize gerçekten sorduklarından, yaklaşık olarak sorulma sırasına göre derlendi. İlki bize sipariş kaybettirdi, bu yüzden burada da ilk sırada.

GPU özel mi, yoksa paylaşımlı mı?

Özel. Tek fiziksel makine, tek hesap ve kart doğrudan işletim sisteminize geçirilir. Hipervizör yok, MIG bölümü yok, vGPU profili yok, zaman dilimleme zamanlayıcısı yok ve kartta başka hiç kimsenin iş yükü yok. İlk öğleden sonra ölçtüğünüz neyse, sahip olduğunuz odur.

Bir makinede birden fazla kart alabilir miyim?

Evet ve bu, işaretlediğiniz bir kutu değil, fiyat teklifi verdiğimiz bir yapılandırmadır. Sığacak sayı kasaya, kartın fiziksel genişliğine ve güç bütçesine bağlıdır; bu yüzden dürüst cevap belirli kartı gerektirir. Sorun, yanıt kasa, sayı ve teslim süresini belirtsin. Birçok müşteri iki kart kullanıyor ve en yaygın neden hızdan çok bellek — 48 GB'lık iki kart, 80 GB'lık tek kartın sığdıramadığı bir modeli tutar. Birden fazla kart veya makine, ikinci kartın ikinci makineye dönüştüğünde nelerin değiştiği de dahil olmak üzere bu sorunun tamamının sayfasıdır.

Hangi sürücü ve CUDA sürümünü alıyorum?

Hangisini kurarsanız onu. Çıplak metalin amacı budur: makine temiz bir işletim sistemi ve root ile gelir; sürücüyü, CUDA veya ROCm sürümünü ve çerçeve yapısını kodunuzun test edildiği sürüme sabitlersiniz — ve altınızda hiçbir şey yükseltilmez. Sürücünün teslimden önce kurulmasını tercih ederseniz, siparişte belirtin ve sürümü adlandırın. Belirli bir kart tarafından desteklenen belirli bir CUDA sürümüne ihtiyacınız varsa, ödemeden önce sorun; tahmin etmek yerine kontrol edelim.

İstediğim kart bugün rafta yoksa ne olur?

O zaman takılır veya sipariş edilir ve ödemeden önce hangisi olduğu size söylenir. Elimizde bulunan bir kart dört ila yirmi dört saat içinde takılır. Satın almamız gereken bir kart beş ila on iş günü sürer ve tahsisli mevcut nesil bir hızlandırıcı on ila on beş gün sürebilir. Bu sayfa bilinçli olarak stok sayısı göstermez, çünkü kart gelip giden bir ürün değil, taktığımız bir parçadır — ama bugün bir makine istiyorsanız, anında sunucular şu anda gerçekten rafta duranların listesidir.

Kartı daha sonra ekleyebilir veya değiştirebilir miyim?

Evet, zaten sahip olduğunuz makinede — taşıma yok, yeniden kurulum yok, yeni adres yok. Rafa planlı bir ziyaret ve makine kapalıyken kısa bir kesinti olur; aylık tutar iki kart arasındaki farka göre değişir. Bellek, diskler ve bağlantı noktası hızı da aynı şekilde yükseltilir.

Bir kart arızalandığında ne olur?

Değiştirilir ve sözleşme buna bir süre koyar: telefon veya canlı sohbetle bildirdiğiniz andan itibaren dört saat. Bu süre aşılırsa, talep üzerine değil, yayınlanmış bir tarifeye göre hizmet kredisi alırsınız. Destek, tarifeyi ve telefon numarasını yazılı olarak sunar.

Bant genişliği ölçülüyor mu? Çıkış trafiğinin maliyeti nedir?

Hiçbir şey ölçülmez ve sattığımız her bağlantı noktası hızında çıkış trafiği ücretsizdir. Aşılacak bir transfer kotası yoktur ve hiçbir faturada aşım satırı yoktur. GPU işleri için bu genellikle başka yerlerdeki en büyük gizli maliyettir: bir veri kümesini içeri çeken ve kontrol noktalarını dışarı iten bir eğitim çalışması veya gerçek trafiğe yanıt veren bir çıkarım uç noktası çok fazla bayt taşır ve bir hiper ölçekleyicide gigabayt başına çıkış trafiği bunların her birinden ücretlendirilir. Ölçülmeyen bant genişliği, dahil edilen bağlantı noktası hızının üzerindeki basamaktır.

Bu, saatlik GPU kiralamakla nasıl karşılaştırılır?

Buna aritmetik karar verir. İş ani ve gerçekten duruyorsa — ayda birkaç yüz saat veya daha az — saatlik kart daha ucuzdur. Ayın kabaca üçte ikisini geçtikten sonra yakın bile değildir ve bu, çıkış trafiğinden, çalıştırmalar arasında kalıcı olması gereken depolamadan ve işinizin kapasite için kuyrukta geçirdiği zamandan öncedir. Burada aylık ayrıca gelecek ay aynı makine, aynı diskler ve aynı adres anlamına gelir; bu, bir şey üretime girdikten sonra insanların beklediğinden daha önemlidir.

Madencilik yapabilir miyim veya blok zinciri ve merkeziyetsiz hesaplama düğümleri çalıştırabilir miyim?

Evet. Her ikisi de burada sıradan iş yükleridir ve her zaman öyle olmuştur; bu sayfadaki kartların birçoğu tam olarak bunun için satın alındı. Madencilik sunucuları, yalnızca madencilik durumu için anlamlı olan parçalar da dahil olmak üzere özellikle madencilik senaryosunun sayfasıdır.

Nasıl ödeme yaparım ve sözleşme var mı?

Kart, PayPal, ACH, banka havalesi veya kripto para. Sözleşme yok: bir ay varsayılan ve tek vadedir; üç, altı ve on iki aylık döngüler indirim alır ve yenilemede fiyat artmaz. Kripto ödemeleri kabul edilen coinleri kapsar; daha büyük bir ilk sipariş için havale veya sabit coin genellikle karttan daha hızlı temizlenir; bunu bilmek, bir dolandırıcılık kontrolü yapıyı geciktirmeden önce faydalıdır.

İhtiyacım olan şey değilse para iadesi alabilir miyim?

İlk etkinleştirmeden itibaren üç takvim günü içinde, sorun giderme tükendikten sonra — iade politikası tam ifadedir. Yukarıdaki boyutlandırma ve veri yolu nesli bölümlerinin var olmasının nedeni tam olarak budur: doğru kartı ilk seferde almanız ikimiz için de daha ucuzdur ve size bir iade satmaktansa sizi daha küçük bir karta ikna etmeyi tercih ederiz.

En yeni karta sahip misiniz?

Bazen ve bu yanlış sorudur. En yeni parça, tasarlandığı veri yolu neslini vermeyecek bir platformda, her bitine ihtiyacınız olduğunu varsayan bir fiyata, tahsisli kıt bir parçadır. Buradaki GPU işlerinin çoğu sınırda bir model eğitmek değildir — zaten sığan bir modeli sunmak, video kodlamak, kareler oluşturmak veya masaüstlerini çalıştırmaktır ve bunların tümü için doğru kart genellikle iki nesil geride ve paranın dörtte biridir. Bize işi söyleyin. Cevap gerçekten en yeni parçaysa bunu söyleriz ve ayrıca maliyetini ve ne zaman var olabileceğini de söyleriz.

Sonraki adım

Bu sayfanın iki yanındaki sayfalar.

Bu sayfa tek bir soruya sahiptir: hangi kartları takıyoruz ve maliyetleri nedir. Bu soruya bitişik her şeyin kendi sayfası vardır ve bu, ziyaretçilerin bu sayfada gerçekten tıkladığı sırayla hepsidir.

• Tam olarak bir tane yapılandırın/orderKartı, işlemciyi, belleği, diskleri ve şehri seçin ve rakamın hareketini izleyin.
• Birden fazla kart veya makine/hpcKasadaki ikinci kartın neyi değiştirdiği, iki makineyi neyin birleştirdiği ve düğüm başına ara bağlantının maliyeti.
• Bir dil modeli çalıştırmak/llmBelirli bir boyuttaki bir modelin gerçekte ne kadar kart belleğine ihtiyaç duyduğu ve üzerine hangi çalışma zamanının kurulacağı.
• NVIDIA DGX Spark kiralamak/sparkEklenti kartı yerine paylaşımlı belleğe sahip bütün bir GB10 makinesi. Fiyatı bu katalogda değildir.
• Veri merkezleri/datacentersBeş bina ve kullanıcılarınızın hangisine en yakın olduğu.
• Fiyatlandırma/pricingHer şeyin maliyeti, tek yerde, kartlar dahil.
• Ölçülmeyen bant genişliği/unmeteredDahil edilenin üzerindeki her hızda paylaşılmayan bir bağlantı noktasının maliyeti.
• Anında sunucular/instantŞu anda rafta olan ve yaklaşık yarım saat içinde çalışır duruma gelebilecekler.
• Siparişe göre üretim/customTaahhüt etmeden önce fiyatlandırılmış ve tarihlendirilmiş, spesifikasyonunuza uygun bütün bir makine.
• Eski donanım, daha düşük fiyat/valueBu raflardakilerin yarısı neden artık başka hiçbir yerde satılmıyor.
• Destek/supportYanıt süreleri, dört saatlik değişim ve kaçırıldığında kredi.
• Bir sunucuyu taşımak/migrateCanlı bir sunucunun buraya nasıl geldiğini yanıtlayan tek sayfa.
• Nasıl karşılaştırırız/compareContabo, Hetzner, Leaseweb, OVH ve Vultr ile yan yana.
• Madencilik sunucuları/miningÖzellikle madencilik senaryosu ve yalnızca bunun için anlamlı olan parçalar.
• Pazar yeri/marketplaceTers işlem: zaten sahip olduğunuz bir kartı kiralamak.

Hâlâ hangi kartın doğru olduğundan emin değil misiniz? İş yükünü sohbette anlatın ve daha önce bunlardan birini boyutlandırmış biri yanıtlayacaktır — cevap, geldiğiniz karttan daha ucuz bir kart olduğunda bile.

For the record

Everything on this page, as figures.

Read from the order catalog when this page was served. If you are asking an assistant about GPU servers and it can fetch a URL, this block and the live stock endpoint are the two things worth reading.

Cards we fit

57 add-in cards, in 3 classes: 15 for training and inference, 23 for rendering, transcode and virtual desktops, 19 consumer.

What a card costs

From $20.79 to $1,599 a month, added to the machine. The card is a separate line; the machine does not get dearer because of what is in it.

What a whole machine with a card in it costs

From $91.72 to $1,682.67 a month, complete — processor, memory, mirrored disks, unmetered port, one IPv4, remote console. Nothing else to add.

The machine on its own

$70.93 to $217.59 a month before any card.

Cheapest machine that can train something

Instinct MI50 16GB at $169.93 a month, complete.

Dearest

H100 80GB at $1,682.67 a month, complete. That is $2.31 an hour for the whole machine, billed monthly, with no egress charge on top.

Tenancy

One tenant per physical machine. The card is passed through to the operating system, not sliced, not time-shared and not virtualized. There is no hypervisor between you and it.

Bandwidth

Unmetered, both directions, at every port speed. No transfer allowance, no egress line on any invoice — model weights, datasets and render output all move for the price of the port.

Where

5 cities: New York, Miami, San Francisco, Amsterdam, Bucharest.

Term

One month, no contract. Three, six and twelve-month cycles take up to 15% off.

Multiple cards

Yes — more than one card in one machine is a build-to-order job rather than a checkout option. Ask, and the answer names the chassis and the lead time.

Payment

Card, PayPal, ACH, wire and cryptocurrency.