廉价 GPU 独立服务器

廉价的 GPU 服务器,是一台真正的电脑,而不是共享的一部分

我们采用 Intel Core i5-9500 台式机,为每台配备一块 NVIDIA GeForce RTX 3050 6GB,并将它们部署在 Bucharest 的不限流量千兆网络上。您租用的是整台设备:显卡、处理器、32 GB 内存和 256 GB NVMe SSD,拥有 root 权限,每月一口价。

尺寸评估

6 GB 的 GPU 显存够你的工作用吗?

显卡上的显存决定了什么能加载。以下是常见模型与 6 GB GDDR6 在这方面的对比。

工作负载内存中的权重在这张卡上
Llama 3.1 8B,4 位(Q4_K_M)4.92 GB放得下
Whisper large-v3 语音转文字,16 位约 3.1 GB放得下
Stable Diffusion 1.5 图像生成,16 位约 2 GB放得下
SDXL 基础图像生成,16 位约 6.9 GB需要卸载
13B 语言模型,4 位(Q4_K_M)7.87 GB太大

仅为权重,数据来自 Hugging Face;请为上下文窗口和运行时留出一些空间。当你的模型超过 6 GB 时,RTX 30 系列服务器最高可达 24 GB,GPU 独立服务器页面列出了我们安装的每一张卡。

它的价值所在

人们放在廉价 GPU 独立服务器上的三样东西

  1. 你自己的 AI 端点,没人偷看你的提示词

    用 8B 模型跑 Ollama 或 llama.cpp,加上 Whisper 处理语音,然后把你的应用指向一个住在你自己机器上的 API,而不是别人的按 token 计费账单。2,304 CUDA 核心和第三代 Tensor 核心负责干活。

  2. 直播和点播视频转码

    第七代 NVENC 芯片在硬件层面编码 H.264 和 HEVC,六个处理器核心保持空闲。搭配 NVIDIA 驱动 550.54.14 或更新版本,一块 GeForce 显卡最多可同时跑 8 路编码,而不限流量的端口意味着观众永远不会变成一张带宽账单。

  3. 一台随处可用的 Windows 或 Linux 桌面

    在订单表单里选择 Windows,把它当作一台带真实显卡的远程工作站:用 Blender 渲染、剪辑,或者测试游戏构建,从一台单靠自己永远做不到这些的笔记本上。

直截了当的回答

花 €82.29 能得到什么,又得不到什么

包含

  • NVIDIA GeForce RTX 3050 6GB:6 GB GDDR6、96-bit、70 W
  • Intel Core i5-9500:6 核,最高 4.4 GHz
  • 32 GB DDR4 内存
  • 256 GB NVMe SSD 用于系统和文件存储
  • 1 Gbps 端口,不计流量,另含一个 IPv4 地址
  • root 或管理员权限,以及全天候基础支持

不包含

  • 第二块硬盘或 RAID:只有一块硬盘,因此请自行备份(订单表单提供每晚备份选项)
  • 远程控制台:台式机没有 IPMI;电源可远程开启,机器卡死时由我们的 Bucharest 工作人员重置
  • 大型训练任务的空间:6 GB 适用于推理、编码和开发
  • 其他城市:所有这些机器都位于欧盟的 Bucharest

从下单到登录

已上架,因此大约 30 分钟后即可归您使用

  1. 选择系统

    打开订单表单,选择 Linux 或 Windows 及任何附加项,并在付款前核对每月总价。

  2. 我们审核订单

    先完成付款和简短的安全检查;等待时间会有所不同,之后的设置则不会。

  3. 登录

    审核通过后约 30 分钟,机器即会上线,您的登录信息会显示在仪表盘中。

常见问题

关于廉价 GPU 独立服务器的疑问

为什么这款 GPU 服务器比其他家便宜这么多?

因为它围绕台式机中的 70 W 显卡构建,而不是数据中心 GPU 所用的机架式机箱。您支付的是真正的 RTX 3050,而不是为功耗高出许多倍的显卡准备的电源和散热系统。

我会与其他人共享显卡吗?

不会。每台台式机只租给一位客户,显卡直接直通到您的操作系统,因此所有 6 GB GDDR6 和每一个 CUDA 核心都归您独享。

它适合运行 AI 模型吗?

对于约 80 亿参数以内、4-bit 量化的模型推理,使用 Whisper 进行语音识别,以及使用 Stable Diffusion 1.5 生成图像,答案是肯定的。更大的模型和训练则需要显存更大的显卡。

可以安装 Windows 吗?

可以。订购表单中除了 Linux 发行版和 Proxmox VE 之外,也提供 Windows,并且您拥有完整的管理员权限,可以安装自己的软件和 NVIDIA 驱动程序。

服务器位于哪里?价格如何计费?

所有服务器都位于我们在欧盟的 Bucharest 数据中心。整台机器每月价格为 €82.29 欧元,按月计费。

有流量限制吗?

没有。1 Gbps 端口不限流量:您发送和接收的数据永远不会被统计或计费。

别再按小时租用 GPU 时间

一台 RTX 3050 桌面,独属于你,每月仅需 €82.29,在 Bucharest 畅享不限量千兆带宽。