Is the GPU dedicated, or is it shared?

Dedicated. One physical machine, one account, and the card passed straight through to your operating system. No hypervisor, no MIG partition, no vGPU profile, no time-slicing scheduler, and nobody else's workload on the card. What you measure on the first afternoon is what you keep.

Can I have more than one card in one machine?

Yes, and it is a build we quote rather than a box you tick. The number that fits depends on the chassis, the physical width of the card and the power budget, so the honest answer needs the specific card. Ask, and the reply names the chassis, the count and the lead time. Several customers run two, and the commonest reason is memory rather than speed: two cards of 48 GB hold a model that one of 80 GB does not.

Which driver and CUDA version do I get on a Primcast GPU server?

Whichever you install. The machine arrives with a clean operating system and root, and you pin the driver, the CUDA or ROCm release and the framework build to whatever your code was tested against; nothing upgrades underneath you. If you would rather the driver were installed before handover, say so on the order and name the version.

What if the card I want is not in stock?

It is fitted or ordered, and you are told which before you pay. A card we hold goes in within four to twenty-four hours. A card we have to buy is five to ten working days, and a current-generation accelerator on allocation can be ten to fifteen. Machines already racked and ready today are listed at https://primcast.com/instant.

Can I add or change the card later?

Yes, on the machine you already have: no migration, no reinstall, no new address. It is a scheduled visit to the rack and a short outage while the machine is down, and the monthly figure changes by the difference between the two cards. Memory, disks and port speed upgrade the same way.

What happens when a graphics card fails?

It is replaced, and the agreement puts a time on it: four hours from the moment it is reported by telephone or live chat. Past that the customer is owed service credit on a published schedule rather than on request.

Is bandwidth metered? What does egress cost on a GPU server?

Nothing is metered and egress costs nothing, at every port speed. There is no transfer allowance to exceed and no overage line on any invoice. For GPU work this is usually the largest hidden cost elsewhere: a training run pulling a dataset in and pushing checkpoints out, or an inference endpoint answering real traffic, moves a great many bytes, and per-gigabyte egress is charged on every one of them.

How does a monthly GPU server compare to renting a GPU by the hour?

Arithmetic decides it. An hourly card is cheaper if the work is bursty and genuinely stops, up to a few hundred hours a month. Past roughly two thirds of the month it is not close, and that is before egress, before storage that has to persist between runs, and before time spent queued for capacity. Monthly here also means the same machine, the same disks and the same address next month.

Can I mine, or run blockchain and decentralized-compute nodes?

Yes. Both are ordinary workloads here and always have been, and several of the cards in the catalog were bought for exactly that. https://primcast.com/mining is the page for the mining case specifically.

How do I pay for a GPU server, and is there a contract?

Card, PayPal, ACH, bank wire, or cryptocurrency. There is no contract: one month is the default and only term, three, six and twelve-month cycles take a discount, and the price does not step up at renewal. For a larger first order a wire or a stablecoin usually clears faster than a card.

Can I get a refund if the card is not what I needed?

Within three calendar days of first activation, once troubleshooting has been exhausted. The exact wording is at https://primcast.com/refund-policy-us. The sizing and bus-generation sections of the page exist to make that unnecessary: it is cheaper for both sides if the right card is bought the first time.

Do you have the newest graphics card?

Sometimes, and it is usually the wrong question. The newest part is a scarce part on allocation, on a platform that will not give it the bus generation it was designed for, at a price that assumes every bit of it is needed. Most GPU work is not training a frontier model: it is serving one that already fits, encoding video, rendering frames or driving desktops, and for all of those the right card is often two generations back and a quarter of the money.

Placas gráficas em hardware dedicado · Primcast LLC · desde 2004

Diga-lhe qual é a tarefa. Ela lhe dirá o cartão.

A maior dificuldade na compra de um servidor com GPU não está na compra em si, mas em saber qual placa é suficiente — e todos os catálogos desse setor são organizados pelo quão impressionante o componente é, em vez de pelo que você pretende executar. Este catálogo é organizado de forma oposta. Diga qual é a sua tarefa e quanta memória de placa ela precisa, e o resultado será a resposta, com o preço já incluído.

Encontre o cartão O cartão é meu?

Um único inquilino por máquina. O cartão é repassado diretamente para o seu sistema operacional — não é dividido, não é compartilhado em tempo real e não é virtualizado.

O banco

Duas perguntas.

Nada é reservado, nenhuma conta é criada, e o valor ao lado de cada cartão representa o servidor inteiro com aquele cartão instalado — processador, memória, discos espelhados, porta ilimitada, um endereço — e não o cartão isoladamente. A participação de cada cartão é impressa abaixo dele para que você possa ver qual metade do valor corresponde a qual parte.

What is it for?

How much card memory?

anygigabytes or more

5 GB7-8 billion parameters, 4-bit
8 GB13-14 billion parameters, 4-bit
19 GB30-34 billion parameters, 4-bit
38 GB70 billion parameters, 4-bit

As estimativas são do mesmo catálogo usado para a fatura do checkout, não são orçamentos. Quando falta uma informação sobre a memória, não encontramos nenhuma publicada pelo fabricante; portanto, a informação é exibida na ficha técnica em vez de uma estimativa. Essas fichas desaparecem assim que você altera o controle de memória, pois filtrar por um número que não temos ocultaria peças que poderiam ser adequadas para você. Pergunte e nós informaremos a informação na ficha. Várias peças são compatíveis com mais de um chassi e têm preços diferentes; o valor aqui apresentado é a opção mais barata para adquirir essa ficha, e o configurador mostra as demais.

O que está por trás dessa lista?

56Cards we fit
$20.79Cheapest card, per month
$91.72Cheapest whole machine with one in it
5Cities
0Bytes counted

Contado a partir do catálogo de pedidos no momento em que esta página foi exibida, não digitado. Se um cartão for retirado amanhã, esta tira será menor. O que está em um rack esta manhã é uma questão diferente, e os servidores instantâneos são onde a resposta é dada.

A primeira pergunta que todos fazem

O cartão é meu ou estou compartilhando?

Seu. O cartão inteiro, a máquina inteira, ninguém mais nela.

A placa é instalada em um slot PCIe em um servidor físico alugado para uma conta específica e é entregue diretamente ao seu sistema operacional: seu próprio driver, seu próprio CUDA ou ROCm, seus próprios processos. Não há hipervisor entre você e ela, nenhuma partição MIG, nenhum agendador de fatiamento de tempo decidindo quando é a sua vez e nenhum segundo inquilino cujo trabalho em lote faça sua latência de inferência mudar às quatro da tarde.

O restante da máquina é seu nos mesmos termos — todos os núcleos, toda a memória, todos os discos, o diretório raiz e o próprio HPE iLO ou Dell iDRAC do servidor para console, mídia virtual e energia. Se um driver derrubar a rede, você ainda poderá ver a tela.

Sem fatiamento. Sem MIG, sem vGPU, sem alocação fracionária. Uma placa, um locatário.
Não é uma fila. Nada interrompe seu processo. O cartão fica ocioso quando você está ocioso.
Não é um contêiner . Bare metal. Carregue seus próprios módulos de kernel e defina sua própria versão de driver.
Não há medição de pesos na entrada, checkpoints na saída e renderizações na saída. Nada contabiliza os bytes.

Por que os números acima têm essa aparência?

O cartão é um item na fatura, não um nível de produto.

Em qualquer outro lugar, uma GPU é um nível: você aluga uma "instância H100" e alguém já decidiu quanto o processador, a memória, os discos e a rede ao redor dela devem custar. Aqui, os dois são linhas separadas que são somadas — é por isso que uma placa em qualquer uma das extremidades da lista acima vai para o mesmo chassi, e você paga apenas a diferença entre as placas e nada mais.

The machineIntel Xeon E5-2600 v1/v2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps$70.93
The cardAnything on the shelves belowCheapest to dearest, $20.79 to $1,599$20.79
The portUnmetered, both directionsNo allowance to exceed, no egress line, everincluded
SetupNothingNo contract; one month is the default term—

Whole machine, card in it, per month, from$91.72

And at the other end of the same list: H100 80GB in a whole machine for $1,682.67 a month — $2.31 an hour if you are comparing against something billed by the hour, with nothing added for the traffic.

O configurador arredonda o preço por disco e aplica um desconto de um ou dois centavos nesses valores. Ciclos de faturamento mais longos garantem um desconto adicional; a tabela de preços reúne todas as informações em um só lugar, e o hardware mais antigo, com preço mais baixo, é o principal argumento para a existência da parte inferior desta lista.

Quanta memória de cartão?

A única especificação que determina se funciona.

A velocidade do clock e a quantidade de núcleos determinam a velocidade de execução de um modelo. A memória da placa determina se ela funciona ou não — os pesos ou são suficientes ou não, e uma placa com dois gigabytes a menos não é mais lenta, é um problema grave. Portanto, esse é o número que deve ser definido antes de qualquer outro, e é o que quase ninguém divulga junto com o preço.

A aritmética consiste em multiplicar os parâmetros pelos bytes por parâmetro. Pesos de dezesseis bits ocupam dois bytes cada, de oito bits ocupam um byte e de quatro bits ocupam meio byte. A quantização para quatro bits é o que transforma uma máquina incapaz de armazenar um modelo em uma capaz, com alguma perda de qualidade.

Deixe espaço de sobra. Os valores abaixo representam apenas os pesos. O tempo de execução, as ativações e o cache de chave-valor para um contexto longo residem na mesma memória, e o cache cresce a cada token na conversa. Um modelo cujos pesos totalizam 38 GB não funciona confortavelmente em um cartão de 40 GB. Reserve de 25% a 50% a mais de espaço, ou entre em contato conosco para que possamos dimensioná-lo de acordo com a sua necessidade real.

Weights only. Add head-room for the runtime and the context window before choosing a card.
Model	16-bit	8-bit	4-bit
7-8 billion parameters	16 GB	8 GB	5 GB
13-14 billion parameters	28 GB	14 GB	8 GB
30-34 billion parameters	68 GB	34 GB	19 GB
70 billion parameters	140 GB	70 GB	38 GB

O que está embaixo do cartão?

Quatro chassis utilizam um único chassi, e eles não são intercambiáveis.

Cada um utiliza uma parte diferente do catálogo e atribui uma ligação diferente ao processador. Essa última coluna está aqui porque custa dinheiro às pessoas e ninguém a imprime: um cliente migrou de uma geração de cartão de consumo para a seguinte, num barramento de terceira geração, que ficou mais lento , e descobriu o porquê antes de nós. Por isso, está na página.

Intel Xeon E5-2600 v1/v2

$70.93the machine, per month

Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps

Cards it takes: 28
Link to the card: PCIe 3.0
Lanes: 40 lanes per socket
Sockets: 2
Memory ceiling: 256 GB

Configure this machine →

Intel Xeon E5-2600 v3/v4

$73.47the machine, per month

Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps

Cards it takes: 43
Link to the card: PCIe 3.0
Lanes: 40 lanes per socket
Sockets: 2
Memory ceiling: 1 TB

Configure this machine →

Intel Xeon Silver / Gold

$83.67the machine, per month

Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps

Cards it takes: 47
Link to the card: PCIe 3.0
Lanes: 48 lanes per socket
Sockets: 2
Memory ceiling: 1 TB

Configure this machine →

AMD EPYC

$217.59the machine, per month

AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps

Cards it takes: 10
Link to the card: PCIe 4.0
Lanes: 128 lanes per socket
Sockets: 2
Memory ceiling: 1 TB

Configure this machine →

O que a geração de ônibus realmente muda

Uma placa projetada para um barramento mais recente funciona perfeitamente bem em um mais antigo; ela simplesmente não consegue transferir dados pela conexão tão rapidamente. Se isso importa ou não, depende inteiramente da tarefa.

Isso é importante quando os dados atravessam o barramento continuamente — um loop de treinamento transmitindo lotes do disco ou da memória do sistema, uma renderização alimentando o cartão com dados da cena a cada quadro, qualquer coisa que transborde da memória do cartão.
Não importa depois que os pesos estiverem residentes e permanecerem lá — inferência em um modelo que se ajuste, transcodificação de vídeo, a maioria das simulações. O link transporta solicitações e resultados, e estes são pequenos.
Pergunte se tiver dúvidas. Informe-nos a carga de trabalho e diremos claramente se a plataforma representa um gargalo, inclusive quando a resposta honesta for que uma placa mais barata em uma conexão melhor é melhor do que uma placa mais cara em uma conexão pior.

O que vem junto com isso

Tudo que torna o cartão utilizável, e nada que você precise comprar.

Raiz raiz, e a pilha de drivers é sua.
Instalamos um sistema operacional limpo e entregamos as chaves. Você escolhe a versão do driver, a versão do CUDA ou ROCm e a compilação do framework, e as fixa — que é a essência do bare metal e o oposto de um runtime gerenciado que se atualiza sem o seu conhecimento na semana anterior ao prazo final. Se preferir que instalemos o driver antes da entrega, mencione isso no pedido e faremos.
O próprio console da máquina, em uma rede separada.
HPE iLO ou Dell iDRAC: console de teclado e tela, mídia virtual, controle de energia, integridade do hardware e registro de hardware. Um driver gráfico que causa a perda da conexão de vídeo ou de rede é mais um inconveniente do que um problema que exige a abertura de um chamado de suporte, pois ainda é possível acompanhar a inicialização do computador.
Um porto sem medição, em ambas as direções.
Não há limite de transferência a ser excedido e nenhuma linha de saída em qualquer fatura. Conjuntos de dados de entrada, pontos de verificação de saída, renderizações de saída, um modelo servido a usuários reais — tudo isso trafega pelo preço da porta, sem nenhum byte a mais. A largura de banda ilimitada é o nível acima da velocidade incluída e é a principal diferença entre isso e uma fatura de um hiperescalador.
Reinstale quantas vezes quiser.
Imagens do sistema operacional em um clique, reinstaláveis sem necessidade de abertura de chamado e sem custo adicional, de forma que um experimento com um driver que termina mal custe apenas vinte minutos. O DNS reverso é editável por você, o IPv6 está incluído e o IPv4 é uma linha de catálogo, não uma negociação.
Pessoas, a qualquer hora
Suporte por telefone, chat ao vivo e abertura de chamados, inclusos em todos os planos, e substituição de componentes com defeito em até quatro horas após a comunicação por telefone ou chat. O suporte fornece os tempos de resposta e a tabela de créditos por escrito.
Cinco cômodos para colocá-lo.
Nova York, Miami, São Francisco, Amsterdã e Bucareste — e a localização da máquina determina a latência para quem estiver ligando e a qual regime de proteção de dados ela se enquadra. Data centers se referem aos edifícios.

Quão cedo isso existe

Entre meia hora e três semanas, dependendo de onde a carta estiver posicionada.

Não um único número, porque nunca foi um único número. Um cartão já instalado em uma máquina já instalada é uma entrega. Um cartão que precisa ser comprado é uma ordem de compra. Informar qual deles você está solicitando — antes de pagar, em vez de depois — é a única versão que realmente importa.

Aproximadamente 30 minutos
O cartão já está em uma máquina na prateleira.
Nada é instalado e nada é movido. A máquina é formatada e entregue. Servidores instantâneos é a lista do que está lá neste momento.
4–24 horas
Um cartão que temos em mãos é ajustado, ou uma máquina empilhada é reorganizada.
O procedimento padrão para tudo nesta página. A peça está em nosso próprio depósito; um técnico a instala, monta o array e instala o sistema operacional. Uma máquina na prateleira que seja semelhante, mas não exatamente igual — memória adicionada, um disco trocado, o array reconstruído de acordo com sua escolha — passa pelo mesmo processo, realizado no local, sem que a máquina precise ser retirada do rack.
5 a 10 dias úteis
O cartão precisa ser comprado em
Alguns itens da lista não estão em nosso estoque. Nós os encomendamos e depois os fabricamos. A página "Fabricação sob encomenda" apresenta a especificação completa desse tipo de produto.
10 a 15 dias úteis
O cartão é raro
Os aceleradores de última geração funcionam por alocação, e a data é definida pelo distribuidor, não por nós. Informaremos o prazo de entrega antes da sua confirmação, e não depois. Quando o hardware é adquirido para um único cliente, solicitamos o pagamento de três meses antecipadamente, pois se trata de uma máquina que não podemos realugar caso a conta seja encerrada na segunda semana.

Cada etapa começa quando o pedido passa pela aprovação do pagamento e pela análise de fraude, que é a única etapa para a qual não podemos garantir um prazo: a maioria dos pedidos é aprovada em algumas horas, mas o primeiro pedido de uma nova conta pode demorar mais. Aceitamos cartão de crédito, PayPal, ACH e transferência bancária, além de criptomoedas — que, para pedidos maiores, costumam ser a opção mais rápida de aprovação.

Perguntado antes

As doze perguntas que esta página se propõe a responder.

Esta lista foi extraída das perguntas que as pessoas nos fazem no chat e nos tickets, aproximadamente na ordem em que são feitas. A primeira pergunta nos custou pedidos, então ela também está em primeiro lugar aqui.

A GPU é dedicada ou compartilhada?: Dedicado. Uma máquina física, uma conta e a placa de vídeo dedicada diretamente ao seu sistema operacional. Sem hipervisor, sem partição MIG, sem perfil vGPU, sem agendador de fatiamento de tempo e sem nenhuma outra carga de trabalho na placa. O que você medir na primeira tarde é o que você mantém.
Posso ter mais de um cartão em uma mesma máquina?: Sim, e o orçamento é para uma configuração específica, não para uma simples seleção. A quantidade de placas que cabem depende do chassi, da largura física da placa e do consumo de energia, então a resposta precisa da placa específica. Pergunte e a resposta mencionará o chassi, a quantidade e o prazo de entrega. Vários clientes usam duas placas, e o motivo mais comum é a memória, não a velocidade — duas placas de 48 GB suportam um modelo que uma de 80 GB não suporta. Mais de uma placa ou máquina é o tema da página dedicada a essa questão, incluindo as mudanças que ocorrem quando a segunda placa se torna uma segunda máquina.
Qual driver e versão do CUDA devo usar?: A instalação é livre. Essa é a vantagem do bare metal: a máquina chega com um sistema operacional e root limpos, e você fixa o driver, a versão do CUDA ou ROCm e a compilação do framework de acordo com a versão com a qual seu código foi testado — e nada é atualizado automaticamente. Se preferir que o driver seja instalado antes da entrega, mencione isso no pedido e especifique a versão. Se precisar de uma versão específica do CUDA compatível com uma placa específica, pergunte antes de pagar e verificaremos em vez de tentar adivinhar.
E se o cartão que eu quero não estiver disponível hoje?: Em seguida, o equipamento é instalado ou encomendado, e você é informado sobre qual opção utilizar antes de efetuar o pagamento. Um equipamento que temos em estoque é instalado em quatro a vinte e quatro horas. Um equipamento que precisamos comprar leva de cinco a dez dias úteis, e um acelerador de última geração, sob encomenda, pode levar de dez a quinze dias. Esta página não exibe a quantidade de equipamentos em estoque, pois um equipamento é uma peça que instalamos, e não um produto que entra e sai do estoque — mas se você precisa de uma máquina hoje , a lista de servidores disponíveis mostra o que está realmente disponível em um rack neste momento.
Posso adicionar ou alterar o cartão mais tarde?: Sim, na máquina que você já possui — sem migração, sem reinstalação, sem novo endereço. Trata-se de uma visita agendada ao rack e uma breve interrupção enquanto a máquina estiver desligada, e o valor mensal varia de acordo com a diferença entre as duas placas. A atualização de memória, discos e velocidade das portas é feita da mesma forma.
O que acontece quando um cartão falha?: O produto é substituído e o contrato estipula um prazo: quatro horas a partir do momento em que você o reporta por telefone ou chat ao vivo. Após esse período, você terá direito a crédito de serviço de acordo com um cronograma pré-estabelecido, e não mediante solicitação. O suporte possui o cronograma e o número de telefone por escrito.
A largura de banda é medida? Qual o custo da saída de dados?: Nada é tarifado e a saída de dados é gratuita, independentemente da velocidade da porta que oferecemos. Não há limite de transferência a ser excedido e nenhuma linha de excedente em qualquer fatura. Para trabalhos com GPU, esse geralmente é o maior custo oculto em algum outro lugar: uma execução de treinamento que baixa um conjunto de dados e envia checkpoints, ou um endpoint de inferência que responde a tráfego real, move muitos bytes, e a saída de dados em um hiperescalador é cobrada por gigabyte em cada um deles. A largura de banda ilimitada é o nível acima da velocidade da porta incluída.
Como isso se compara ao aluguel de uma placa de vídeo por hora?: A decisão é tomada com base em cálculos aritméticos. Um cartão de memória com pagamento por hora é mais barato se o volume de trabalho for intermitente e realmente parar — algumas centenas de horas por mês ou menos. Depois de aproximadamente dois terços do mês, a diferença é gritante, e isso antes da saída de dados, do armazenamento que precisa persistir entre as execuções e do tempo que seu trabalho passa na fila de espera por capacidade. Nesse caso, o pagamento mensal também significa a mesma máquina, os mesmos discos e o mesmo endereço no mês seguinte, o que importa mais do que as pessoas imaginam quando o sistema já está em produção.
Posso minerar ou executar nós de blockchain e computação descentralizada?: Sim. Ambas são cargas de trabalho comuns aqui e sempre foram, e várias das placas nesta página foram compradas exatamente para isso. Servidores de mineração é a página dedicada especificamente a gabinetes para mineração, incluindo as peças que fazem sentido apenas para essa finalidade.
Como faço para pagar e existe algum contrato?: Cartão, PayPal, ACH, transferência bancária ou criptomoeda. Sem contrato: o prazo padrão e único é de um mês; ciclos de três, seis e doze meses têm desconto, e o preço não aumenta na renovação. Os pagamentos em criptomoeda abrangem as moedas aceitas; para um primeiro pedido maior, uma transferência bancária ou uma stablecoin geralmente é processada mais rapidamente do que um cartão, o que é importante saber antes que uma verificação de fraude atrase a produção.
Posso receber um reembolso se não for o que eu precisava?: Dentro de três dias corridos após a primeira ativação, depois de esgotadas as tentativas de resolução de problemas — a política de reembolso é exatamente essa. É precisamente por isso que as seções sobre dimensionamento e geração de barramento acima existem: é mais barato para ambos se você comprar o cartão certo na primeira vez, e preferimos convencê-lo a comprar um menor do que ter que devolvê-lo.
Você tem o cartão mais recente?: Às vezes, sim, e essa é a pergunta errada. O componente mais recente é escasso e está disponível em uma plataforma que não oferece a geração de barramento para a qual foi projetado, a um preço que pressupõe a necessidade de todos os seus recursos. A maior parte do trabalho com GPUs aqui não envolve o treinamento de um modelo de vanguarda — trata-se de atender a um modelo já existente, codificando vídeo, renderizando quadros ou executando tarefas em desktops, e para todas essas aplicações, a placa ideal geralmente está duas gerações atrás e custa um quarto do preço. Diga-nos qual é a tarefa. Se a resposta for realmente o componente mais recente, diremos isso, e também informaremos o preço e a disponibilidade.

Para onde ir a seguir?

As páginas de cada lado desta.

Esta página aborda uma única questão: quais cartas cabem no nosso sistema e quanto elas custam. Tudo relacionado a essa questão tem sua própria página, e aqui estão todas elas, na ordem em que os visitantes desta página clicam.

Ainda não tem certeza de qual placa escolher? e alguém com experiência em dimensionamento de placas desse tipo responderá — inclusive se a resposta for uma placa mais barata do que aquela que você procurou.

For the record

Everything on this page, as figures.

Read from the order catalog when this page was served. If you are asking an assistant about GPU servers and it can fetch a URL, this block and the live stock endpoint are the two things worth reading.

Cards we fit: 56 add-in cards, in 3 classes: 14 for training and inference, 23 for rendering, transcode and virtual desktops, 19 consumer.
What a card costs: From $20.79 to $1,599 a month, added to the machine. The card is a separate line; the machine does not get dearer because of what is in it.
What a whole machine with a card in it costs: From $91.72 to $1,682.67 a month, complete — processor, memory, mirrored disks, unmetered port, one IPv4, remote console. Nothing else to add.
The machine on its own: $70.93 to $217.59 a month before any card.
Cheapest machine that can train something: Instinct MI50 16GB at $169.93 a month, complete.
Dearest: H100 80GB at $1,682.67 a month, complete. That is $2.31 an hour for the whole machine, billed monthly, with no egress charge on top.
Tenancy: One tenant per physical machine. The card is passed through to the operating system, not sliced, not time-shared and not virtualized. There is no hypervisor between you and it.
Bandwidth: Unmetered, both directions, at every port speed. No transfer allowance, no egress line on any invoice — model weights, datasets and render output all move for the price of the port.
Where: 5 cities: New York, Miami, San Francisco, Amsterdam, Bucharest.
Term: One month, no contract. Three, six and twelve-month cycles take up to 15% off.
Multiple cards: Yes — more than one card in one machine is a build-to-order job rather than a checkout option. Ask, and the answer names the chassis and the lead time.
Payment: Card, PayPal, ACH, wire and cryptocurrency.

Duas perguntas.

O cartão é meu ou estou compartilhando?

O cartão é um item na fatura, não um nível de produto.

A única especificação que determina se funciona.

Quatro chassis utilizam um único chassi, e eles não são intercambiáveis.

Intel Xeon E5-2600 v1/v2

Intel Xeon E5-2600 v3/v4

Intel Xeon Silver / Gold

AMD EPYC

O que a geração de ônibus realmente muda

Tudo que torna o cartão utilizável, e nada que você precise comprar.

Raiz raiz, e a pilha de drivers é sua.

O próprio console da máquina, em uma rede separada.

Um porto sem medição, em ambas as direções.

Reinstale quantas vezes quiser.

Pessoas, a qualquer hora

Cinco cômodos para colocá-lo.

Entre meia hora e três semanas, dependendo de onde a carta estiver posicionada.

O cartão já está em uma máquina na prateleira.

Um cartão que temos em mãos é ajustado, ou uma máquina empilhada é reorganizada.

O cartão precisa ser comprado em

O cartão é raro

As doze perguntas que esta página se propõe a responder.

As páginas de cada lado desta.

Everything on this page, as figures.