Intel Xeon E5-2600 v1/v2
$70.93the machine, per month
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps
- Cards it takes
- 28
- Link to the card
- PCIe 3.0
- Lanes
- 40 lanes per socket
- Sockets
- 2
- Memory ceiling
- 256 GB
Tarjetas gráficas en bare metal · Primcast LLC · desde 2004
La mayor parte de la dificultad al comprar un servidor GPU no está en la compra. Está en saber qué tarjeta es suficiente — y todos los catálogos de este sector están ordenados por lo impresionante que es la pieza, en lugar de por lo que intentas ejecutar. Este está ordenado al revés. Di cuál es el trabajo y cuánta memoria de tarjeta necesita, y lo que queda es la respuesta, con el precio completo.
Encuentra la tarjeta ¿La tarjeta es mía?
Un solo inquilino por máquina. La tarjeta se pasa directamente a tu sistema operativo — no se divide, no se comparte por tiempo, no se virtualiza.
El banco de pruebas
No se reserva nada, no se crea ninguna cuenta, y la cifra junto a cada tarjeta es el servidor completo con esa tarjeta dentro — procesador, memoria, discos en espejo, puerto sin medición, una dirección — no la tarjeta por sí sola. La parte correspondiente a la tarjeta está impresa debajo para que veas qué mitad del dinero corresponde a cada cosa.
GTX 10808 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$125.99a month, complete$55.06 of that is the card
GTX 1080 Ti11 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,584 CUDA cores$149.93a month, complete$79 of that is the card
TESLA P4 / QUADRO P50008 or 16 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93a month, complete$79 of that is the card
TESLA P48 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93a month, complete$79 of that is the card
TESLA P40 / QUADRO P600024 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,840 CUDA cores$169.93a month, complete$99 of that is the card
RTX 40008 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,304 CUDA cores$172.47a month, complete$99 of that is the card
TITAN V12 GB HBM2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,120 CUDA cores$200.92a month, complete$129.99 of that is the card
RTX 30708 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,888 CUDA cores$209.93a month, complete$139 of that is the card
RTX 2080 Ti11 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 4,352 CUDA cores$219.93a month, complete$149 of that is the card
RTX 3070 Ti8 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,144 CUDA cores$222.47a month, complete$149 of that is the card
RTX 308010 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 8,704 CUDA cores$229.93a month, complete$159 of that is the card
TESLA T416 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$259.93a month, complete$189 of that is the card
CMP 170HX 64GB HBM2e8 GB HBM2e, 64 GB unlockedIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps$259.93a month, complete$189 of that is the card
RTX 3080 Ti12 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,240 CUDA cores$272.47a month, complete$199 of that is the card
L4 ADA 24GB GDDR624 GB GDDR6Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$292.67a month, complete$209 of that is the card
RTX 309024 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 10,496 CUDA cores$309.93a month, complete$239 of that is the card
RTX 508016 GB GDDR7Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$312.67a month, complete$229 of that is the card
RTX 4090D24 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 14,592 CUDA cores$372.47a month, complete$299 of that is the card
RTX 800048 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 4,608 CUDA cores$472.47a month, complete$399 of that is the card
RTX 509032 GB GDDR7Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 21,760 CUDA cores$472.47a month, complete$399 of that is the card
L40S48 GB GDDR6 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$532.67a month, complete$449 of that is the card
Instinct MI21064 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$582.67a month, complete$499 of that is the card
RTX A600048 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$622.47a month, complete$549 of that is the card
RTX 6000 ADA48 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$698.47a month, complete$625 of that is the card
A100 40GB40 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$772.47a month, complete$699 of that is the card
A100 80GB80 GB HBM2eIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$972.47a month, complete$899 of that is the card
RTX PRO 6000 Blackwell 96GB96 GB GDDR7 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$1,382.67a month, complete$1,299 of that is the card
H100 80GB80 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 16,896 CUDA cores$1,682.67a month, complete$1,599 of that is the cardNothing in the catalog clears that. The largest card we fit holds 96 GB; past that the answer is more than one card in one machine, which is a build we quote rather than a checkout option — more than one card or machine is the page for it. .
Estimaciones del mismo catálogo con el que factura el checkout, no presupuestos. Cuando falta una cifra de memoria no pudimos encontrar una publicada por el fabricante, así que la tarjeta lo dice en lugar de adivinar — y esas tarjetas desaparecen en cuanto mueves el control de memoria, porque filtrar por un número que no tenemos ocultaría silenciosamente piezas que podrían servirte. Pregunta y lo leeremos de la tarjeta. Varias piezas caben en más de un chasis a más de un precio; la cifra aquí es la forma más barata de tener esa tarjeta, y el configurador muestra el resto.
Qué hay detrás de esa lista
Contado desde el catálogo de pedidos cuando se sirvió esta página, no escrito a mano. Si mañana se retira una tarjeta, esta franja será más pequeña mañana. Lo que está en un rack esta mañana es una pregunta distinta, y servidores instantáneos es donde se responde.
La primera pregunta que hace todo el mundo
Tuya. La tarjeta completa, la máquina completa, nadie más en ella.
La tarjeta está en una ranura PCIe de un servidor físico alquilado a una sola cuenta, y se entrega directamente a tu sistema operativo: tu propio controlador, tu propio CUDA o ROCm, tus propios procesos. No hay hipervisor entre tú y ella, ni partición MIG, ni planificador de tiempo compartido que decida cuándo es tu turno, ni un segundo inquilino cuyo trabajo por lotes haga que la latencia de tu inferencia se mueva a las cuatro de la tarde.
El resto de la máquina es tuyo en los mismos términos — cada núcleo, toda la memoria, todos los discos, root, y el HPE iLO o Dell iDRAC del propio servidor para consola, medios virtuales y alimentación. Si un controlador tira la red, aún puedes ver la pantalla.
Por qué las cifras de arriba tienen ese aspecto
En cualquier otro sitio una GPU es un nivel: alquilas “una instancia H100” y alguien más ya ha decidido cuánto deberían costarte el procesador, la memoria, los discos y la red que la rodean. Aquí las dos cosas son líneas separadas que se suman — por eso una tarjeta en cualquiera de los extremos de la lista de arriba va en el mismo chasis, y pagas la diferencia entre las tarjetas y nada más. La mitad de máquina tiene páginas propias, por fabricante: servidores dedicados AMD para la línea EPYC, que admite estas tarjetas, y servidores dedicados Intel para Xeon.
Whole machine, card in it, per month, from$91.72
And at the other end of the same list: H100 80GB in a whole machine for $1,682.67 a month — $2.31 an hour if you are comparing against something billed by the hour, with nothing added for the traffic.
El configurador redondea un precio por disco y se desvía uno o dos céntimos de estas cifras. Los ciclos de facturación más largos tienen un descuento adicional; precios tiene todo en un solo lugar, y hardware más antiguo, precio más bajo es el argumento de por qué existe siquiera la parte baja de esta lista.
Del marketplace
Los propietarios ponen sus propias máquinas GPU en nuestro marketplace y les ponen precio por mes. Cuando una tarjeta dice que nuestra empresa hermana, Server Room, tiene el anuncio, la alquilas en serverroom.net.
Cuánta memoria de tarjeta
Las velocidades de reloj y el número de núcleos deciden lo rápido que corre un modelo. La memoria de la tarjeta decide si corre o no — los pesos caben o no caben, y una tarjeta a la que le faltan dos gigabytes no es más lenta: es un fallo. Así que este es el número que hay que fijar antes que ningún otro, y es el que casi nadie publica junto al precio.
La aritmética es parámetros multiplicados por bytes por parámetro. Los pesos de dieciséis bits son dos bytes cada uno, los de ocho bits son uno, los de cuatro bits son medio. Cuantizar a cuatro bits es lo que convierte una máquina que no puede alojar un modelo en una que sí puede, con cierto coste en calidad.
Deje margen. Las cifras de abajo son los pesos y nada más. El tiempo de ejecución, las activaciones y la caché clave-valor de un contexto largo viven en la misma memoria, y la caché crece con cada token de la conversación. Un modelo cuyos pesos ocupan 38 GB no se sirve con holgura en una tarjeta de 40 GB. Presupueste entre un cuarto y la mitad más por encima, o pregúntenos y lo dimensionaremos según lo que esté ejecutando realmente.
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB | 8 GB | 5 GB |
| 13-14 billion parameters | 28 GB | 14 GB | 8 GB |
| 30-34 billion parameters | 68 GB | 34 GB | 19 GB |
| 70 billion parameters | 140 GB | 70 GB | 38 GB |
Qué hay debajo de la tarjeta
Cada uno toma una parte distinta del catálogo y le da a la tarjeta un enlace distinto con el procesador. Esa última columna está aquí porque le cuesta dinero a la gente y nadie la imprime: un cliente pasó de una generación de tarjeta de consumo a la siguiente en un bus de tercera generación y rindió más lento, y averiguó el porqué antes que nosotros. Así que está en la página.
$70.93the machine, per month
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps
$73.47the machine, per month
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps
$83.67the machine, per month
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps
$217.59the machine, per month
AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps
También hay un sobremesa: componentes de gama de oficina, una tarjeta NVIDIA ya dentro, vendido como una sola máquina a un solo precio mensual. Es lo mínimo que puede pagarnos por una caja dedicada con GPU, lo que lo convierte en un lugar sensato para aprender CUDA, ejecutar un modelo pequeño, transcodificar con NVENC o mantener una estación de trabajo remota. El precio compra menos de lo que compra un chasis, y preferimos que lo sepa desde ahora: un solo disco sin RAID, sin consola fuera de banda (las reinstalaciones y los ciclos de encendido pasan por nosotros), una sola fuente de alimentación.
€89.00the whole machine, card included, per month
Intel Core i5-9500 @ 3.0GHz, 6 cores · 32 GB memory · NVMe-SSD 256 GB · 1 Gbps Unmetered · Bucharest
Una tarjeta diseñada para un bus más nuevo funciona perfectamente en uno más antiguo; simplemente no puede mover datos por el enlace tan rápido. Si eso importa depende por completo del trabajo.
Qué viene con ella
Instalamos un sistema operativo limpio y le entregamos las llaves. Usted elige la versión del controlador, la versión de CUDA o ROCm y la compilación del framework, y los fija — que es el sentido del bare metal y lo contrario de un runtime gestionado que se actualiza debajo de usted la semana antes de una fecha límite. Si prefiere que instalemos el controlador antes de la entrega, dígalo en el pedido y lo haremos.
HPE iLO o Dell iDRAC: consola de teclado y pantalla, medios virtuales, control de energía, salud del hardware y el registro de hardware. Un controlador gráfico que se lleve por delante la pantalla o la red es una molestia más que un ticket de soporte, porque todavía puede ver arrancar la máquina.
No hay límite de transferencia que superar ni línea de salida en ninguna factura. Conjuntos de datos que entran, checkpoints que salen, renders que salen, un modelo servido a usuarios reales — todo se mueve por el precio del puerto y ni un byte más. El ancho de banda sin medición es el escalón por encima de la velocidad incluida, y es la mayor diferencia entre esto y una factura de un hiperescalador.
Imágenes del sistema operativo en un clic, reinstalables sin ticket y sin cargo, de modo que un experimento con controladores que acaba mal le cuesta veinte minutos. El DNS inverso es suyo para editar, IPv6 está incluido y más IPv4 es una línea de catálogo en lugar de una negociación.
Teléfono, chat en vivo y tickets, incluidos en todos los planes, y un componente averiado reemplazado en las cuatro horas siguientes a ser comunicado por teléfono o chat. Soporte tiene los tiempos de respuesta y el calendario de créditos por escrito.
Nueva York, Miami, San Francisco, Ámsterdam y Bucarest — y dónde esté la máquina decide su latencia hacia quien la llame y bajo qué régimen de protección de datos cae. Centros de datos describe los edificios.
Cuánto tarda en existir
No es un solo número, porque nunca ha sido un solo número. Una tarjeta ya montada en una máquina ya en bastidor es una entrega. Una tarjeta que hay que comprar es una orden de compra. Decirle cuál de esas dos está pidiendo — antes de pagar y no después — es la única versión de esto que vale algo.
No se monta nada y no se mueve nada. La máquina se crea la imagen y se entrega. Servidores instantáneos es la lista de lo que está parado ahí ahora mismo.
El caso ordinario para todo lo de esta página. La pieza está en nuestro propio almacén; un técnico la monta, construye el array e instala el sistema operativo. Una máquina en el estante que está cerca pero no es exacta — memoria añadida, un disco cambiado, el array reconstruido según su elección — es el mismo trabajo, hecho en el sitio sin que la máquina salga del bastidor.
Algo de la lista no es stock que tengamos. Lo pedimos y luego construimos. Construcción a medida es la página para una especificación completa de este tipo.
Los aceleradores de la generación actual funcionan por asignación y la fecha es la del distribuidor, no la nuestra. Le diremos cuál es el palo largo antes de que se comprometa y no después. Cuando el hardware se compra para un solo cliente pedimos tres meses por adelantado, porque es una máquina que no podemos realquilar si la cuenta se cierra en la segunda semana.
Cada escalón empieza cuando el pedido supera el pago y la revisión antifraude, que es el único paso sobre el que no haremos una promesa: la mayoría se liquidan en un par de horas, un primer pedido de una cuenta nueva puede tardar más. Se aceptan tarjeta, PayPal, ACH y transferencia, y también criptomoneda — que para pedidos grandes suele ser la más rápida de todas en liquidarse.
Preguntas anteriores
Tomadas de lo que la gente realmente nos pregunta en el chat y en los tickets, aproximadamente en el orden en que lo preguntan. La primera nos ha costado pedidos, así que aquí también va primero.
A dónde ir después
Esta página responde a una pregunta: qué tarjetas instalamos y cuánto cuestan. Todo lo adyacente a esa pregunta tiene su propia página, y estas son todas, en el orden en que los visitantes de esta página realmente hacen clic.
¿Aún no sabes qué tarjeta? y alguien que ya ha dimensionado una de estas antes responderá, incluso cuando la respuesta sea una tarjeta más barata que la que viniste a buscar.
For the record
Read from the order catalog when this page was served. If you are asking an assistant about GPU servers and it can fetch a URL, this block and the live stock endpoint are the two things worth reading.