Digli qual è il lavoro. Ti dirà la carta.

Cosa si cela dietro quella lista?

• 56Cards we fit
• $20.79Cheapest card, per month
• $91.72Cheapest whole machine with one in it
• 5Cities
• 0Bytes counted

Conteggio effettuato dal catalogo degli ordini al momento della visualizzazione di questa pagina, non digitato. Se una carta viene ritirata domani, questa striscia sarà più piccola. Cosa si trova in un espositore stamattina è un'altra questione, e i server istantanei sono il luogo in cui si trova la risposta.

La prima domanda che tutti si pongono

La carta è mia o la sto condividendo?

Perché le figure qui sopra hanno quell'aspetto?

La scheda è una riga della fattura, non un livello di prodotto.

In tutti gli altri contesti, una GPU rappresenta un livello a sé stante: si noleggia "un'istanza H100" e qualcun altro ha già deciso quanto debbano costare il processore, la memoria, i dischi e la rete ad essa collegata. Qui, invece, i due elementi sono voci separate che vengono aggiunte al preventivo, ed è per questo che una scheda a una delle estremità dell'elenco sopra riportato viene installata nello stesso chassis, e si paga solo la differenza tra le due schede, nient'altro.

Il configuratore arrotonda il prezzo per disco, riducendolo di uno o due centesimi. Cicli di fatturazione più lunghi prevedono un ulteriore sconto; il listino prezzi include tutte le informazioni necessarie e, considerando l'hardware più vecchio, il prezzo inferiore è il motivo per cui la parte inferiore di questa lista è presente.

Quanta memoria sulla scheda

L'unica specifica che determina se funziona.

Cosa c'è sotto la carta?

Quattro telai ne richiedono uno, e non sono intercambiabili.

Ciascuna prende una parte diversa del catalogo e assegna alla carta un collegamento diverso con il processore. Quell'ultima colonna è qui perché costa denaro alle persone e nessuno la stampa: un cliente è passato da una generazione di carte di consumo all'altra su un bus di terza generazione e la visualizzazione è risultata più lenta , e ha capito il perché prima di noi. Quindi è sulla pagina.

Cosa include

Tutto ciò che serve per utilizzare la carta, senza dover acquistare nulla.

• I permessi di root e lo stack dei driver sono tuoi.

  Installiamo un sistema operativo pulito e vi consegniamo le chiavi. Voi scegliete la versione del driver, la release di CUDA o ROCm e la build del framework, e le configurate: questo è il punto fondamentale dell'installazione bare metal e l'opposto di un runtime gestito che si aggiorna automaticamente la settimana prima di una scadenza. Se preferite che installiamo il driver prima della consegna, specificatelo nell'ordine e lo faremo.

• La console della macchina stessa, su una rete separata

  HPE iLO o Dell iDRAC: console con tastiera e schermo, supporti virtuali, controllo dell'alimentazione, stato dell'hardware e registro hardware. Un driver grafico che compromette il display o la rete è più un inconveniente che un problema che richiede assistenza, perché è comunque possibile monitorare l'avvio della macchina.

• Un porto senza misuratori, in entrambe le direzioni

  Non ci sono limiti di trasferimento da superare e nessuna voce in uscita su alcuna fattura. Set di dati in entrata, checkpoint in uscita, rendering in uscita, un modello fornito a utenti reali: tutto si muove al prezzo della porta e non un byte di più. La larghezza di banda illimitata è il livello superiore rispetto alla velocità inclusa ed è la differenza principale rispetto a una fattura di un hyperscaler.

• Reinstallalo tutte le volte che vuoi

  Immagini del sistema operativo installabili con un clic, reinstallabili senza bisogno di assistenza e senza costi aggiuntivi: un esperimento con i driver che si conclude male vi costa solo venti minuti. Potete modificare il DNS inverso, il supporto per IPv6 è incluso e il supporto per IPv4 è disponibile di serie, non oggetto di negoziazione.

• Persone, a qualsiasi ora

  Assistenza telefonica, chat in tempo reale e ticket inclusi in ogni piano, con sostituzione di un componente guasto entro quattro ore dalla segnalazione tramite telefono o chat. Il supporto dispone di tempi di risposta e piani di rimborso per iscritto.

• Cinque stanze in cui metterlo

  New York, Miami, San Francisco, Amsterdam e Bucarest: la posizione del computer determina la latenza verso chiunque lo chiami e il regime di protezione dei dati a cui è soggetto. Il termine "data center" si riferisce agli edifici.

Quanto presto esiste

Tra mezz'ora e tre settimane, e quale sia la durata dipende dalla posizione della carta.

Non un singolo numero, perché non è mai stato un singolo numero. Una carta già inserita in una macchina già installata è un passaggio di consegne. Una carta che deve essere acquistata è un ordine di acquisto. Dirti quale di queste stai richiedendo, prima di pagare anziché dopo, è l'unica versione di questo documento che abbia un qualche valore.

1. circa 30 minuti

   La scheda è già inserita in un dispositivo sullo scaffale.

   Nulla è installato e nulla è spostato. La macchina è configurata e consegnata. Server istantanei : ecco l'elenco di ciò che si trova lì in questo momento.

2. 4–24 ore

   Una carta che teniamo in mano viene inserita, oppure una macchina montata su rack viene riorganizzata

   Questo è il caso standard per tutto ciò che è descritto in questa pagina. Il componente si trova nel nostro magazzino; un tecnico lo installa, assembla l'array e installa il sistema operativo. Una macchina a scaffale simile ma non identica – con memoria aggiunta, un'unità sostituita, l'array ricostruito in base alla vostra scelta – richiede lo stesso lavoro, eseguito in loco senza che la macchina venga spostata dal rack.

3. 5-10 giorni lavorativi

   La carta deve essere acquistata in

   Alcuni articoli presenti nell'elenco non sono disponibili a magazzino. Li ordiniamo e poi li realizziamo. La pagina "Realizzazione su ordinazione" contiene le specifiche complete di questo tipo.

4. 10-15 giorni lavorativi

   La carta è rara

   Gli acceleratori di ultima generazione funzionano con assegnazione e la data è quella del distributore, non nostra. Definiremo il long pole prima che vi impegniate, non dopo. Quando l'hardware viene acquistato per un singolo cliente, richiediamo un pagamento anticipato di tre mesi, perché si tratta di una macchina che non possiamo riaffittare se il contratto viene chiuso dopo due settimane.

Ogni fase inizia quando l'ordine viene elaborato e la verifica antifrode viene superata. Non possiamo garantire i tempi di elaborazione in ogni fase: la maggior parte degli ordini viene elaborata entro un paio d'ore, ma per un primo ordine da un nuovo account i tempi potrebbero essere più lunghi. Sono accettati pagamenti con carta, PayPal, bonifico bancario (ACH) e altre forme di pagamento, così come le criptovalute , che per ordini di importo elevato sono solitamente il metodo più veloce.

Chiesto prima

Questa pagina si propone di rispondere a dodici domande.

Tratto dalle domande che ci vengono poste in chat e tramite ticket, più o meno nell'ordine in cui ci vengono fatte. La prima domanda ci ha fatto perdere degli ordini, quindi la riporto al primo posto.

La GPU è dedicata o condivisa?

Dedicata. Un'unica macchina fisica, un unico account e la scheda video collegata direttamente al sistema operativo. Nessun hypervisor, nessuna partizione MIG, nessun profilo vGPU, nessuno scheduler di time-slicing e nessun altro carico di lavoro sulla scheda. I risultati ottenuti il ​​primo pomeriggio sono quelli definitivi.

Posso inserire più di una carta in un singolo dispositivo?

Sì, e si tratta di una configurazione che ci viene preventivata, non di una semplice casella da spuntare. Il numero di schede compatibili dipende dallo chassis, dalla larghezza fisica della scheda e dal fabbisogno energetico, quindi per una risposta precisa è necessario conoscere il modello specifico. Chiedete e vi risponderemo indicando lo chassis, il numero di schede e i tempi di consegna. Diversi clienti ne utilizzano due, e il motivo più comune è la memoria piuttosto che la velocità: due schede da 48 GB possono supportare un modello che una da 80 GB non supporta. La pagina dedicata a questa domanda, che include anche le modifiche da apportare quando la seconda scheda viene utilizzata su una seconda macchina, tratta l'argomento in modo più approfondito .

Quale driver e quale versione di CUDA devo utilizzare?

Qualunque cosa tu scelga di installare. Questo è il punto del bare metal: la macchina arriva con un sistema operativo e un root puliti, e tu blocchi il driver, la versione di CUDA o ROCm e la build del framework a quella con cui è stato testato il tuo codice, senza che nulla venga aggiornato a livello sottostante. Se preferisci che il driver venga installato prima della consegna, specificalo nell'ordine e indica la versione. Se hai bisogno di una versione specifica di CUDA supportata da una scheda specifica, chiedi prima di pagare e verificheremo anziché fare supposizioni.

E se la carta che desidero non fosse disponibile oggi?

Successivamente, la scheda viene installata o ordinata e ti viene comunicato quale opzione verrà scelta prima del pagamento. Una scheda che abbiamo in magazzino viene installata entro quattro-ventiquattro ore. Una scheda che dobbiamo acquistare richiede dai cinque ai dieci giorni lavorativi, mentre per un acceleratore di ultima generazione, in fase di assegnazione, i tempi possono variare dai dieci ai quindici giorni. Questa pagina non mostra volutamente la disponibilità a magazzino, perché una scheda è un componente che installiamo, non un prodotto che va e viene; tuttavia, se desideri una macchina oggi stesso , la sezione "server istantanei" mostra l'elenco dei server effettivamente disponibili in un rack in questo momento.

Posso aggiungere o modificare la carta in un secondo momento?

Sì, sulla macchina che già possiedi: nessuna migrazione, nessuna reinstallazione, nessun nuovo indirizzo. Si tratta di un intervento programmato presso il rack e di una breve interruzione del servizio durante la quale la macchina è spenta; la cifra mensile varia in base alla differenza tra le due schede. L'aggiornamento di memoria, dischi e velocità delle porte avviene allo stesso modo.

Cosa succede quando una scheda si guasta?

Il componente verrà sostituito e l'accordo prevede una tempistica: quattro ore dal momento in cui lo segnali telefonicamente o tramite chat. Trascorso tale termine, ti verrà accreditato un importo in base a una tabella di marcia pubblicata, anziché su richiesta. L'assistenza clienti dispone di tale tabella e del numero di telefono per iscritto.

La larghezza di banda è a consumo? Qual è il costo del traffico in uscita?

Nulla viene misurato e il traffico in uscita è gratuito, a qualsiasi velocità di porta offriamo. Non ci sono limiti di trasferimento da superare e nessuna voce di spesa extra in fattura. Per le elaborazioni GPU, questo è solitamente il costo nascosto più grande, che si trova altrove: un'esecuzione di training che preleva un dataset e invia checkpoint, o un endpoint di inferenza che risponde al traffico reale, trasferisce molti byte e il traffico in uscita su un hyperscaler viene addebitato per ogni gigabyte. La larghezza di banda illimitata è il livello superiore rispetto alla velocità di porta inclusa.

Come si confronta questa soluzione con il noleggio di una GPU a ore?

È una questione di calcoli. Una scheda a tariffa oraria è più economica se il lavoro è intermittente e si interrompe effettivamente, ovvero per poche centinaia di ore al mese o meno. Oltre i due terzi del mese, la convenienza aumenta notevolmente, e questo senza considerare il traffico in uscita, lo spazio di archiviazione necessario per la persistenza dei dati tra un'esecuzione e l'altra e il tempo di attesa del lavoro in coda per l'utilizzo della capacità. Inoltre, la tariffazione mensile implica la stessa macchina, gli stessi dischi e lo stesso indirizzo IP anche il mese successivo, un aspetto che assume maggiore importanza di quanto si pensi una volta che il sistema è in produzione.

Posso minare o gestire nodi blockchain e di calcolo decentralizzato?

Sì. Entrambi sono carichi di lavoro ordinari qui e lo sono sempre stati, e diverse delle schede in questa pagina sono state acquistate proprio per questo scopo. La pagina dedicata ai server di mining è specifica per il caso del mining, comprese le parti che hanno senso solo in questo contesto.

Come posso pagare e devo stipulare un contratto?

Carta di credito, PayPal, bonifico ACH, bonifico bancario o criptovaluta. Nessun contratto: la durata predefinita è di un mese, mentre i cicli di tre, sei e dodici mesi prevedono uno sconto. Il prezzo non aumenta al rinnovo. I pagamenti in criptovaluta coprono le valute accettate; per un primo ordine di importo elevato, un bonifico bancario o una stablecoin vengono generalmente elaborati più velocemente rispetto a una carta di credito, un aspetto da tenere presente prima che un controllo antifrode ritardi la realizzazione del prodotto.

Posso ottenere un rimborso se il prodotto non è quello che mi serviva?

Entro tre giorni di calendario dalla prima attivazione, una volta esaurite tutte le procedure di risoluzione dei problemi, la politica di rimborso è formulata esattamente come segue. Ed è proprio per questo che esistono le sezioni relative alle dimensioni e alla generazione del bus di cui sopra: è più conveniente per entrambi se acquisti la scheda giusta fin da subito, e preferiamo convincerti ad acquistarne una di dimensioni inferiori piuttosto che venderti un reso.

Possiedi la carta più recente?

A volte, e questa è la domanda sbagliata. Il componente più recente è un componente raro, su una piattaforma che non gli fornirà la generazione di bus per cui è stato progettato, a un prezzo che presuppone che tu ne abbia bisogno in ogni sua parte. La maggior parte del lavoro con le GPU qui non consiste nell'addestrare un modello di frontiera, ma nel supportarne uno già esistente, codificare video, renderizzare frame o gestire desktop, e per tutte queste attività la scheda giusta è solitamente di due generazioni precedenti e costa un quarto. Dicci qual è l'applicazione. Se la risposta è davvero il componente più recente, lo diremo, e diremo anche quanto costerà e quando sarà disponibile.

Dove andare dopo?

Le pagine ai lati di questa.

Questa pagina risponde a una sola domanda: quali schede SIM supportiamo e quanto costano. Tutto ciò che riguarda questa domanda ha una pagina dedicata, e qui le trovate tutte, nell'ordine in cui i visitatori accedono a questa pagina.

• Configurane uno esattamente /order Scegli la scheda, il processore, la memoria, i dischi e la città, e guarda la figura muoversi.
• Più di una carta o macchina /hpc Cosa cambia l'aggiunta di una seconda scheda nello chassis, cosa collega due macchine e quanto costa un'interconnessione per nodo.
• Esecuzione di un modello linguistico /llm Quanta memoria su scheda è effettivamente necessaria a un modello di una data dimensione e quale runtime installare su di esso.
• centri dati /datacenters I cinque edifici e a quale sono più vicini i tuoi utenti.
• Prezzi /pricing Il costo di tutto, in un unico posto, carte incluse.
• Larghezza di banda illimitata /unmetered Quanto costa una porta non condivisa a ogni velocità superiore a quella inclusa.
• Server istantanei /instant Cosa è in attesa in questo momento e può essere eseguito tra circa mezz'ora.
• Realizzato su ordinazione /custom Una macchina completa realizzata secondo le tue specifiche, con prezzo e data di consegna definiti prima del tuo impegno.
• Hardware più vecchio, prezzo inferiore /value metà di ciò che si trova su questi scaffali non è più in vendita da nessun'altra parte.
• Supporto /support Tempi di risposta, sostituzione entro quattro ore e rimborso in caso di mancata consegna.
• Spostamento di un server in /migrate L'unica pagina che spiega come un server attivo arriva qui.
• Come ci confrontiamo /compare fianco a fianco con Contabo, Hetzner, Leaseweb, OVH e Vultr.
• Server di mining /mining Nello specifico, il caso del mining e le parti che hanno senso solo in questo contesto.
• Mercato /marketplace Il contrario: affittare una carta che già possiedi.

Ancora indeciso su quale scheda scegliere? Descrivi il carico di lavoro in chat e qualcuno che ha già utilizzato schede simili ti risponderà, anche nel caso in cui la soluzione migliore sia una scheda più economica di quella che stavi cercando.

For the record

Everything on this page, as figures.

Read from the order catalog when this page was served. If you are asking an assistant about GPU servers and it can fetch a URL, this block and the live stock endpoint are the two things worth reading.

Cards we fit

56 add-in cards, in 3 classes: 14 for training and inference, 23 for rendering, transcode and virtual desktops, 19 consumer.

What a card costs

From $20.79 to $1,599 a month, added to the machine. The card is a separate line; the machine does not get dearer because of what is in it.

What a whole machine with a card in it costs

From $91.72 to $1,682.67 a month, complete — processor, memory, mirrored disks, unmetered port, one IPv4, remote console. Nothing else to add.

The machine on its own

$70.93 to $217.59 a month before any card.

Cheapest machine that can train something

Instinct MI50 16GB at $169.93 a month, complete.

Dearest

H100 80GB at $1,682.67 a month, complete. That is $2.31 an hour for the whole machine, billed monthly, with no egress charge on top.

Tenancy

One tenant per physical machine. The card is passed through to the operating system, not sliced, not time-shared and not virtualized. There is no hypervisor between you and it.

Bandwidth

Unmetered, both directions, at every port speed. No transfer allowance, no egress line on any invoice — model weights, datasets and render output all move for the price of the port.

Where

5 cities: New York, Miami, San Francisco, Amsterdam, Bucharest.

Term

One month, no contract. Three, six and twelve-month cycles take up to 15% off.

Multiple cards

Yes — more than one card in one machine is a build-to-order job rather than a checkout option. Ask, and the answer names the chassis and the lead time.

Payment

Card, PayPal, ACH, wire and cryptocurrency.