廉价 GPU 独立服务器
廉价的 GPU 服务器,是一台真正的电脑,而不是共享的一部分
我们采用 Intel Core i5-9500 台式机,为每台配备一块 NVIDIA GeForce RTX 3050 6GB,并将它们部署在 Bucharest 的不限流量千兆网络上。您租用的是整台设备:显卡、处理器、32 GB 内存和 256 GB NVMe SSD,拥有 root 权限,每月一口价。
尺寸评估
6 GB 的 GPU 显存够你的工作用吗?
显卡上的显存决定了什么能加载。以下是常见模型与 6 GB GDDR6 在这方面的对比。
| 工作负载 | 内存中的权重 | 在这张卡上 |
|---|---|---|
| Llama 3.1 8B,4 位(Q4_K_M) | 4.92 GB | 放得下 |
| Whisper large-v3 语音转文字,16 位 | 约 3.1 GB | 放得下 |
| Stable Diffusion 1.5 图像生成,16 位 | 约 2 GB | 放得下 |
| SDXL 基础图像生成,16 位 | 约 6.9 GB | 需要卸载 |
| 13B 语言模型,4 位(Q4_K_M) | 7.87 GB | 太大 |
仅为权重,数据来自 Hugging Face;请为上下文窗口和运行时留出一些空间。当你的模型超过 6 GB 时,RTX 30 系列服务器最高可达 24 GB,GPU 独立服务器页面列出了我们安装的每一张卡。
它的价值所在
人们放在廉价 GPU 独立服务器上的三样东西
你自己的 AI 端点,没人偷看你的提示词
用 8B 模型跑 Ollama 或 llama.cpp,加上 Whisper 处理语音,然后把你的应用指向一个住在你自己机器上的 API,而不是别人的按 token 计费账单。2,304 CUDA 核心和第三代 Tensor 核心负责干活。
直播和点播视频转码
第七代 NVENC 芯片在硬件层面编码 H.264 和 HEVC,六个处理器核心保持空闲。搭配 NVIDIA 驱动 550.54.14 或更新版本,一块 GeForce 显卡最多可同时跑 8 路编码,而不限流量的端口意味着观众永远不会变成一张带宽账单。
一台随处可用的 Windows 或 Linux 桌面
在订单表单里选择 Windows,把它当作一台带真实显卡的远程工作站:用 Blender 渲染、剪辑,或者测试游戏构建,从一台单靠自己永远做不到这些的笔记本上。
直截了当的回答
花 €82.29 能得到什么,又得不到什么
包含
- NVIDIA GeForce RTX 3050 6GB:6 GB GDDR6、96-bit、70 W
- Intel Core i5-9500:6 核,最高 4.4 GHz
- 32 GB DDR4 内存
- 256 GB NVMe SSD 用于系统和文件存储
- 1 Gbps 端口,不计流量,另含一个 IPv4 地址
- root 或管理员权限,以及全天候基础支持
不包含
- 第二块硬盘或 RAID:只有一块硬盘,因此请自行备份(订单表单提供每晚备份选项)
- 远程控制台:台式机没有 IPMI;电源可远程开启,机器卡死时由我们的 Bucharest 工作人员重置
- 大型训练任务的空间:6 GB 适用于推理、编码和开发
- 其他城市:所有这些机器都位于欧盟的 Bucharest
从下单到登录
已上架,因此大约 30 分钟后即可归您使用
选择系统
打开订单表单,选择 Linux 或 Windows 及任何附加项,并在付款前核对每月总价。
我们审核订单
先完成付款和简短的安全检查;等待时间会有所不同,之后的设置则不会。
登录
审核通过后约 30 分钟,机器即会上线,您的登录信息会显示在仪表盘中。
常见问题
关于廉价 GPU 独立服务器的疑问
为什么这款 GPU 服务器比其他家便宜这么多?
因为它围绕台式机中的 70 W 显卡构建,而不是数据中心 GPU 所用的机架式机箱。您支付的是真正的 RTX 3050,而不是为功耗高出许多倍的显卡准备的电源和散热系统。
我会与其他人共享显卡吗?
不会。每台台式机只租给一位客户,显卡直接直通到您的操作系统,因此所有 6 GB GDDR6 和每一个 CUDA 核心都归您独享。
它适合运行 AI 模型吗?
对于约 80 亿参数以内、4-bit 量化的模型推理,使用 Whisper 进行语音识别,以及使用 Stable Diffusion 1.5 生成图像,答案是肯定的。更大的模型和训练则需要显存更大的显卡。
可以安装 Windows 吗?
可以。订购表单中除了 Linux 发行版和 Proxmox VE 之外,也提供 Windows,并且您拥有完整的管理员权限,可以安装自己的软件和 NVIDIA 驱动程序。
服务器位于哪里?价格如何计费?
所有服务器都位于我们在欧盟的 Bucharest 数据中心。整台机器每月价格为 €82.29 欧元,按月计费。
有流量限制吗?
没有。1 Gbps 端口不限流量:您发送和接收的数据永远不会被统计或计费。