📑 文章目錄 (13 項)
核心重點與引用摘要 (2026)
- 根据 PetaPrice 2026 年 11 月 14 日的报告,32 家服务商的按需 H100 SXM 价格区间为每 GPU 小时 $1.95 至 $12.30,中位数为 $3.70。
- 按工作负载形态选择计费模式:突发流量选无服务器,开发和训练选按需,稳定常驻需求选预留,可容错批处理任务选抢占式(Spot)。
- 只有当你实际使用的时长占比超过“预留价格 ÷ 按需价格”时,预留容量才比按需更划算。
- GPU 小时单价不含存储、出站流量(Egress)和税费。对比前务必先将多卡实例价格除以 GPU 数量。
- 应基于自身真实使用数据(运行时长、利用率、数据迁移量)来估算,而非只看标牌单价。
在生产环境中测试 Perplexity Pro
具备实时引用溯源、Deep Research 与多模型综合分析的 AI 搜索引擎
云端 GPU 的价格跨度比大多数买家预想的要大得多。PetaPrice 2026 年 11 月 14 日的报告显示,32 家服务商的按需 H100 SXM 费率从每 GPU 小时 $1.95 到 $12.30 不等,中位数为 $3.70。同一款芯片,最低价与最高价之间的差距超过 6 倍。标牌单价只是起点:计费模式、空闲时长、存储与数据传输共同决定了最终账单。
本指南将说明主流 GPU 型号的价格水平、各类计费模式的运作机制,以及如何将费率换算为贴合你工作负载的月度预算。
每 GPU 小时价格实际包含什么
每 GPU 小时价格是指单张 GPU 运行一小时的费用。这听起来很简单,但 GPU Ledger 术语表指出,该数字通常不包含存储、网络传输、税费和协商折扣。它还提醒,许多服务商公布的是整台多卡实例价格,必须除以 GPU 数量才能得到单卡价格,而部分服务商则只报 GPU 本身的组件价。
计费粒度同样重要。按秒计费只收取实际使用时长,而按小时计费可能会将不足一小时的用量向上取整。在同一份术语表中,29 家服务商中有 12 家公开提供按秒计费。如果你运行大量短任务(如测试运行或小型微调),向上取整可能会给账单增加可观的额外支出。
对比任何报价页面前,先检查这三件事:
- 价格是按单张 GPU 还是按整台实例计算?
- 计费粒度是多少(秒、分钟、小时)?
- 费率之外还有哪些费用:磁盘、出站流量(Egress)、技术支持、托管网络?
具备实时引用溯源、Deep Research 与多模型综合分析的 AI 搜索引擎
2026 年按型号划分的云端 GPU 价格
按需、预留、抢占式与无服务器:各自如何计费
服务商通过四种计费模式销售相同的硬件。GMICloud 定价模式指南与 Spheron 计费指南对这些权衡给出了相同解释。
按需(On-demand)
无期限绑定,按实际运行时长计费,通常小时单价最高。这部分溢价换取的是灵活性:由服务商承担算力闲置的风险。适合尚未摸清用量的突发开发与实验阶段。
预留(Reserved)
你承诺一个周期(从几周到数年不等)以换取更低费率,无论 GPU 忙碌还是空闲,都要为整个周期付费。Compute Suppliers 表格中的示例:Together AI H100 根据 3–30 天、31–90 天或 91–180 天租期,价格在 $3.69 至 $3.19 之间;Azure H100 一年期预留为 $7.87。VendorBenchmark 2026 年 1 月基准报告指出,一年期预留在 Azure ND H100 v5 与 Google Cloud a3-highgpu 上可节省约 40%,在 AWS p5.48xlarge 上可节省 32%。CoreWeave 定价页面则宣传承诺用量最高可比按需优惠 60%。
抢占式或可中断(Spot / Interruptible)
服务商可随时收回的折扣容量。Vast.ai 定价文档指出,可中断实例通常比按需便宜 50% 以上,且可能会被暂停。在 Compute Suppliers 的表格中,Together AI 的 H100 按需价为 $3.99,而抢占式仅 $1.99。抢占式适合批量训练、评估扫描以及任何支持检查点保存与干净重启的任务。
无服务器(Serverless)
按调用次数或执行秒数付费,端点可缩容至零。Compute Suppliers 列出的无服务器 H100 在 Modal 上为每忙碌小时 $3.95,在 RunPod 上为 $5.39。小时单价看似高于按需,但你只需为实际运行时间买单。这在突发流量场景下极具优势,但若端点几乎全天满载,则会失去性价比。
预留容量的盈亏平衡法则
预留本质上是对利用率的押注。Compute Suppliers 给出了明确公式:只有当你实际使用的时长占比超过“预留价格 ÷ 按需价格”时,预留才比按需划算。
引用其表格中的计算示例:DigitalOcean H100 预留价 $3.26 对比按需价 $4.41,结果为 74%,即在 730 小时的自然月中约需使用 540 小时。Together AI 的 91–180 天 H100 方案平衡点为 80%(每月 584 小时),Hyperstack 的 H100 PCIe 为 70%(511 小时)。同一来源指出,以 $3.19 租用一台 Together AI H100 六个月意味着 $13,972 的承诺支出,因此高估用量的下行风险十分具体。
GPUaaS.com 2026 年 7 月框架给出了一条经验法则:容错批处理用抢占式,突发开发用按需,而当利用率达到约 60%–70% 或更高时,可预测的推理负载选用预留。
实操步骤:
- 先用按需或无服务器模式记录四周的 GPU 使用小时数。
- 将已用小时数除以 730,得出实际利用率。
- 将其与你考虑的预留方案盈亏平衡百分比进行对比。
- 只预留稳定的基线用量,把峰值流量留给按需。
小时费率之外的隐性成本
GPU 费用很少是账单的全部。以下四项附加费用最常出现。
存储。 Vast.ai 文档提醒,即使实例已停止,存储仍会持续计费,直到你将其删除。停机但挂着大容量磁盘的实例并不免费。
出站流量(Egress)。 GPU Ledger 说明,出站数据通常按 GB 计费(有时超出免费额度后计费),且不包含在小时单价中。对于输出体积较大的推理任务(如视频生成),这部分费用甚至可能与算力成本相当。一位巴西工程师曾测算过一台常驻 GPU(730 小时)配合每月 30 TB 出站流量在四家云厂商的价格,结果显示方案对比在很大程度上取决于 Egress 费率。
空闲与预热时间。 BudgetForge 的 Modal 分析指出,容器在冷启动预热(Warmup)和任何保活(Keep-warm)窗口期间同样计费,而不仅仅是在处理请求时。其测算显示,一台零流量但保活 30 天的 H100 费用高达 $2,843。只有当保活设置真正允许缩容至零时,Scale-to-zero 才能省钱。
运维开销。 SemiAnalysis 将月度集群成本定义为包含算力、存储、网络、控制平面、技术支持、有效吞吐(Goodput)、部署与调试。如果你的团队花一周时间排查不稳定的集群,这段人力时间也应计入成本。当账单暴露出人员缺口(例如无人负责监控 GPU 利用率)时,AI 与机器学习人才招聘就成了需要单独规划的预算条目。
如何估算你自己的云端 GPU 账单
从工作负载出发,而不是从价目表出发。Allwo 基础设施指南建议将训练、微调与推理预算分开,并使用真实遥测数据:Token 数、延迟、GPU 利用率、并发量与数据传输日志。
一个简易测算模板:
- 定义任务。 明确模型规模、所需 GPU 型号与显存(VRAM),以及任务类型是训练、微调还是推理服务。
- 统计 GPU 小时数。 训练按“单次耗时 × 每月运行次数”计算;推理服务按端点必须保持温热状态的时长计算。
- 从上文选择计费模式,并代入对应费率。
- 加上存储与出站流量(按 GB 计算,套用服务商的每 GB 单价)。
- 预留缓冲空间,应对失败重跑与重试。
- 换算为单位产出成本:每次训练运行的美元成本、每千次请求成本,或每分钟生成视频的成本。
示例:某团队在单张 H100 上每月提供 730 小时的模型服务。按 $3.70 的按需费率(PetaPrice 中位数)计算,在未含存储与 Egress 前为 $2,701。如果该端点实际高负载仅 200 小时,按每忙碌小时 $3.95 的无服务器费率计算只需 $790;若忙碌 600 小时,无服务器费用为 $2,370,已接近专用算力成本。请务必使用你自己的利用率与报价,因为本文中的所有数字均为特定时点快照。
公平对比不同服务商
TransAtlas 的实时对比提供了一份清晰的核对清单,确保报价对齐:
- 相同的 GPU 型号与显存(H100 SXM 不同于 H100 PCIe)。
- 将实例价格除以 GPU 数量。
- 分别对比按需、可中断与承诺期价格。
- 地域可用性、出站流量、存储与磁盘费用。
- 冷启动时间、中断风险、SLA 与合约条款。
对于大规模预训练,GPUaaS.com 补充指出,最低标牌单价未必带来最低总成本:互联带宽质量会决定训练时长,从而决定最终总支出。
关于区域定价还需多留一个心眼。NerdLevelTech 2026 年 2 月的对比列出了 AWS H100 在 us-east-1 约为每 GPU 小时 $6.50 至 $7,Google Cloud A3 High 在 us-central1 约为 $10.98,Azure ND H100 v5 在 East US 为 $12.29——即便在同一家云厂商内部,不同区域和实例系列的价格也会变化。
我们的观点:为“结果”定价,而非为“小时”定价
我们对 AI 工具至少进行 14 天的亲手实测,测量真实性能、延迟与性价比,这一习惯也塑造了我们解读 GPU 价目表的方式。
小时费率只回答了一个问题:硬件多少钱?但买家需要的是另一个答案:完成一次任务要多少钱?一张更便宜但速度更慢、频繁中断或显存不足的 GPU,最终成本可能输给更贵的那一张。而买来却闲置的预留折扣,根本算不上折扣。
因此我们建议沿用测评工具时的同一套纪律:定义工作负载,运行足够长时间以看清真实利用率,并将延迟、吞吐量与总支出放在一起记录。我们的性能基准测试方法正是这一逻辑的体现——将数字绑定到具体使用场景,并写明隐藏成本与套餐限制。如果你通过托管 AI 工具而非自建 GPU 来运行 AI,同样的逻辑依然成立,我们的评测也会在实测结果旁列出经核实的定价。
AIMaestrohub
为你的工作负载选择合适的模式
非技术背景的创始人可以走一条捷径:如果你不自己运行模型,可能根本不需要租用裸 GPU。托管式 AI 工具已将算力打包进订阅费用中,问题就变成了哪款工具物有所值。这正是独立基准测试发挥作用的地方。
延伸阅读
基于模型构建应用的开发者可以从我们的开发者最佳 AI 工具开始,而我们的如何看懂 AI 性能基准测试指南则会教你如何在投入预算前判断延迟与吞吐量宣传的真伪。
参考来源
- PetaPrice 云端 GPU 价格报告
- GlobeGPU 云端 GPU 价格指数
- American Compute 云端 GPU 价格对比
- Compute Suppliers 抢占式与预留盈亏平衡分析
- VendorBenchmark AI 基础设施成本基准
- CoreWeave 云端 GPU 定价
- GPU Ledger 云端 GPU 定价术语表
- Vast.ai 定价文档
- SemiAnalysis:GPU 集群究竟要花多少钱
- BudgetForge Modal 定价分析
- GMICloud 云端 GPU 定价模式解析
- Spheron 无服务器、按需与预留对比
- GPUaaS.com 服务商对比框架
- Allwo AI 基础设施成本模型
- TransAtlas 云端 GPU 服务商对比
- NerdLevelTech AWS、GCP 与 Azure GPU 定价对比
常見問題 (FAQ)
为什么同一款芯片的云端 GPU 价格相差这么大?
使用抢占式(Spot)或可中断 GPU 容量安全吗?
预留 GPU 容量什么时候才划算?
无服务器(Serverless)GPU 计费在空闲时真的不花钱吗?
由 AI Maestro Hub 與 BabyLoveGrowth 共同驅動
本指南採用 BabyLoveGrowth 的全自動 SEO 與內容架構(語意分群、IndexNow 自動即時推送與有機反向連結交換網絡)。經 AI Maestro Hub 實測實驗室全面驗證。