🔍 2026 研究基准

2026年云端GPU价格指南:每小时究竟要付多少钱

H100、H200、B200 与 L40S 的云端 GPU 价格解析,以及按需、预留、抢占式与无服务器计费如何影响你的实际月度账单。

⏱️ 12 分鐘閱讀 • 📅 2026年11月1日 • ✓ 事實查核認證
📑 文章目錄 (13 項)
• 核心重點與引用摘要 (2026) • 每 GPU 小时价格实际包含什么 • 2026 年按型号划分的云端 GPU 价格 • 按需、预留、抢占式与无服务器:各自如何计费 • 预留容量的盈亏平衡法则 • 小时费率之外的隐性成本 • 如何估算你自己的云端 GPU 账单 • 公平对比不同服务商 • 我们的观点:为“结果”定价,而非为“小时”定价 • 为你的工作负载选择合适的模式 • 延伸阅读 • 参考来源 • 常見問題 (FAQ)
ℹ️ 本指南原載於 AI Maestro Hub 官方部落格,經編輯團隊針對華語市場深度翻譯與增補 2026 實測數據。
💡

核心重點與引用摘要 (2026)

  • 根据 PetaPrice 2026 年 11 月 14 日的报告,32 家服务商的按需 H100 SXM 价格区间为每 GPU 小时 $1.95 至 $12.30,中位数为 $3.70。
  • 按工作负载形态选择计费模式:突发流量选无服务器,开发和训练选按需,稳定常驻需求选预留,可容错批处理任务选抢占式(Spot)。
  • 只有当你实际使用的时长占比超过“预留价格 ÷ 按需价格”时,预留容量才比按需更划算。
  • GPU 小时单价不含存储、出站流量(Egress)和税费。对比前务必先将多卡实例价格除以 GPU 数量。
  • 应基于自身真实使用数据(运行时长、利用率、数据迁移量)来估算,而非只看标牌单价。
🔍 2026 研究基准

在生产环境中测试 Perplexity Pro

具备实时引用溯源、Deep Research 与多模型综合分析的 AI 搜索引擎

试用 Perplexity Pro →

云端 GPU 的价格跨度比大多数买家预想的要大得多。PetaPrice 2026 年 11 月 14 日的报告显示,32 家服务商的按需 H100 SXM 费率从每 GPU 小时 $1.95 到 $12.30 不等,中位数为 $3.70。同一款芯片,最低价与最高价之间的差距超过 6 倍。标牌单价只是起点:计费模式、空闲时长、存储与数据传输共同决定了最终账单。

本指南将说明主流 GPU 型号的价格水平、各类计费模式的运作机制,以及如何将费率换算为贴合你工作负载的月度预算。

Aimaestrohub
用真实数据对比 AI 工具
Aimaestrohub 亲手实测各类 AI 工具,分享性能基准、经核实的定价与适用场景建议,助你轻松做出对比决策。
访问

每 GPU 小时价格实际包含什么

每 GPU 小时价格是指单张 GPU 运行一小时的费用。这听起来很简单,但 GPU Ledger 术语表指出,该数字通常不包含存储、网络传输、税费和协商折扣。它还提醒,许多服务商公布的是整台多卡实例价格,必须除以 GPU 数量才能得到单卡价格,而部分服务商则只报 GPU 本身的组件价。

计费粒度同样重要。按秒计费只收取实际使用时长,而按小时计费可能会将不足一小时的用量向上取整。在同一份术语表中,29 家服务商中有 12 家公开提供按秒计费。如果你运行大量短任务(如测试运行或小型微调),向上取整可能会给账单增加可观的额外支出。

对比任何报价页面前,先检查这三件事:

  1. 价格是按单张 GPU 还是按整台实例计算?
  2. 计费粒度是多少(秒、分钟、小时)?
  3. 费率之外还有哪些费用:磁盘、出站流量(Egress)、技术支持、托管网络?
🔍 AI MAESTRO HUB 实验室精选
Perplexity Pro — AI 搜索与研究

具备实时引用溯源、Deep Research 与多模型综合分析的 AI 搜索引擎

试用 Perplexity Pro →

2026 年按型号划分的云端 GPU 价格

按需、预留、抢占式与无服务器:各自如何计费

服务商通过四种计费模式销售相同的硬件。GMICloud 定价模式指南与 Spheron 计费指南对这些权衡给出了相同解释。

按需(On-demand)

无期限绑定,按实际运行时长计费,通常小时单价最高。这部分溢价换取的是灵活性:由服务商承担算力闲置的风险。适合尚未摸清用量的突发开发与实验阶段。

预留(Reserved)

你承诺一个周期(从几周到数年不等)以换取更低费率,无论 GPU 忙碌还是空闲,都要为整个周期付费。Compute Suppliers 表格中的示例:Together AI H100 根据 3–30 天、31–90 天或 91–180 天租期,价格在 $3.69 至 $3.19 之间;Azure H100 一年期预留为 $7.87。VendorBenchmark 2026 年 1 月基准报告指出,一年期预留在 Azure ND H100 v5 与 Google Cloud a3-highgpu 上可节省约 40%,在 AWS p5.48xlarge 上可节省 32%。CoreWeave 定价页面则宣传承诺用量最高可比按需优惠 60%。

抢占式或可中断(Spot / Interruptible)

服务商可随时收回的折扣容量。Vast.ai 定价文档指出,可中断实例通常比按需便宜 50% 以上,且可能会被暂停。在 Compute Suppliers 的表格中,Together AI 的 H100 按需价为 $3.99,而抢占式仅 $1.99。抢占式适合批量训练、评估扫描以及任何支持检查点保存与干净重启的任务。

无服务器(Serverless)

按调用次数或执行秒数付费,端点可缩容至零。Compute Suppliers 列出的无服务器 H100 在 Modal 上为每忙碌小时 $3.95,在 RunPod 上为 $5.39。小时单价看似高于按需,但你只需为实际运行时间买单。这在突发流量场景下极具优势,但若端点几乎全天满载,则会失去性价比。

预留容量的盈亏平衡法则

预留本质上是对利用率的押注。Compute Suppliers 给出了明确公式:只有当你实际使用的时长占比超过“预留价格 ÷ 按需价格”时,预留才比按需划算。

引用其表格中的计算示例:DigitalOcean H100 预留价 $3.26 对比按需价 $4.41,结果为 74%,即在 730 小时的自然月中约需使用 540 小时。Together AI 的 91–180 天 H100 方案平衡点为 80%(每月 584 小时),Hyperstack 的 H100 PCIe 为 70%(511 小时)。同一来源指出,以 $3.19 租用一台 Together AI H100 六个月意味着 $13,972 的承诺支出,因此高估用量的下行风险十分具体。

GPUaaS.com 2026 年 7 月框架给出了一条经验法则:容错批处理用抢占式,突发开发用按需,而当利用率达到约 60%–70% 或更高时,可预测的推理负载选用预留。

实操步骤:

  1. 先用按需或无服务器模式记录四周的 GPU 使用小时数。
  2. 将已用小时数除以 730,得出实际利用率。
  3. 将其与你考虑的预留方案盈亏平衡百分比进行对比。
  4. 只预留稳定的基线用量,把峰值流量留给按需。

小时费率之外的隐性成本

GPU 费用很少是账单的全部。以下四项附加费用最常出现。

存储。 Vast.ai 文档提醒,即使实例已停止,存储仍会持续计费,直到你将其删除。停机但挂着大容量磁盘的实例并不免费。

出站流量(Egress)。 GPU Ledger 说明,出站数据通常按 GB 计费(有时超出免费额度后计费),且不包含在小时单价中。对于输出体积较大的推理任务(如视频生成),这部分费用甚至可能与算力成本相当。一位巴西工程师曾测算过一台常驻 GPU(730 小时)配合每月 30 TB 出站流量在四家云厂商的价格,结果显示方案对比在很大程度上取决于 Egress 费率。

空闲与预热时间。 BudgetForge 的 Modal 分析指出,容器在冷启动预热(Warmup)和任何保活(Keep-warm)窗口期间同样计费,而不仅仅是在处理请求时。其测算显示,一台零流量但保活 30 天的 H100 费用高达 $2,843。只有当保活设置真正允许缩容至零时,Scale-to-zero 才能省钱。

运维开销。 SemiAnalysis 将月度集群成本定义为包含算力、存储、网络、控制平面、技术支持、有效吞吐(Goodput)、部署与调试。如果你的团队花一周时间排查不稳定的集群,这段人力时间也应计入成本。当账单暴露出人员缺口(例如无人负责监控 GPU 利用率)时,AI 与机器学习人才招聘就成了需要单独规划的预算条目。

如何估算你自己的云端 GPU 账单

从工作负载出发,而不是从价目表出发。Allwo 基础设施指南建议将训练、微调与推理预算分开,并使用真实遥测数据:Token 数、延迟、GPU 利用率、并发量与数据传输日志。

一个简易测算模板:

  1. 定义任务。 明确模型规模、所需 GPU 型号与显存(VRAM),以及任务类型是训练、微调还是推理服务。
  2. 统计 GPU 小时数。 训练按“单次耗时 × 每月运行次数”计算;推理服务按端点必须保持温热状态的时长计算。
  3. 从上文选择计费模式,并代入对应费率。
  4. 加上存储与出站流量(按 GB 计算,套用服务商的每 GB 单价)。
  5. 预留缓冲空间,应对失败重跑与重试。
  6. 换算为单位产出成本:每次训练运行的美元成本、每千次请求成本,或每分钟生成视频的成本。

示例:某团队在单张 H100 上每月提供 730 小时的模型服务。按 $3.70 的按需费率(PetaPrice 中位数)计算,在未含存储与 Egress 前为 $2,701。如果该端点实际高负载仅 200 小时,按每忙碌小时 $3.95 的无服务器费率计算只需 $790;若忙碌 600 小时,无服务器费用为 $2,370,已接近专用算力成本。请务必使用你自己的利用率与报价,因为本文中的所有数字均为特定时点快照。

公平对比不同服务商

TransAtlas 的实时对比提供了一份清晰的核对清单,确保报价对齐:

  • 相同的 GPU 型号与显存(H100 SXM 不同于 H100 PCIe)。
  • 将实例价格除以 GPU 数量。
  • 分别对比按需、可中断与承诺期价格。
  • 地域可用性、出站流量、存储与磁盘费用。
  • 冷启动时间、中断风险、SLA 与合约条款。

对于大规模预训练,GPUaaS.com 补充指出,最低标牌单价未必带来最低总成本:互联带宽质量会决定训练时长,从而决定最终总支出。

关于区域定价还需多留一个心眼。NerdLevelTech 2026 年 2 月的对比列出了 AWS H100 在 us-east-1 约为每 GPU 小时 $6.50 至 $7,Google Cloud A3 High 在 us-central1 约为 $10.98,Azure ND H100 v5 在 East US 为 $12.29——即便在同一家云厂商内部,不同区域和实例系列的价格也会变化。

我们的观点:为“结果”定价,而非为“小时”定价

我们对 AI 工具至少进行 14 天的亲手实测,测量真实性能、延迟与性价比,这一习惯也塑造了我们解读 GPU 价目表的方式。

小时费率只回答了一个问题:硬件多少钱?但买家需要的是另一个答案:完成一次任务要多少钱?一张更便宜但速度更慢、频繁中断或显存不足的 GPU,最终成本可能输给更贵的那一张。而买来却闲置的预留折扣,根本算不上折扣。

因此我们建议沿用测评工具时的同一套纪律:定义工作负载,运行足够长时间以看清真实利用率,并将延迟、吞吐量与总支出放在一起记录。我们的性能基准测试方法正是这一逻辑的体现——将数字绑定到具体使用场景,并写明隐藏成本与套餐限制。如果你通过托管 AI 工具而非自建 GPU 来运行 AI,同样的逻辑依然成立,我们的评测也会在实测结果旁列出经核实的定价。

AIMaestrohub

为你的工作负载选择合适的模式

工作负载最佳计费方式原因
原型开发、用量未知按需(On-demand)无合约绑定,随时可停
带检查点的批量训练抢占式(Spot)费率最低,可容忍中断
波峰波谷明显的推理 API无服务器(Serverless)只要控制好保活时间,空闲期不收费
稳定 24/7 推理预留(Reserved)利用率跨过平衡点后费率最低
大规模多节点预训练预留或承诺期集群互联质量与可用性比单价更关键

非技术背景的创始人可以走一条捷径:如果你不自己运行模型,可能根本不需要租用裸 GPU。托管式 AI 工具已将算力打包进订阅费用中,问题就变成了哪款工具物有所值。这正是独立基准测试发挥作用的地方。

延伸阅读

基于模型构建应用的开发者可以从我们的开发者最佳 AI 工具开始,而我们的如何看懂 AI 性能基准测试指南则会教你如何在投入预算前判断延迟与吞吐量宣传的真伪。

参考来源

常見問題 (FAQ)

为什么同一款芯片的云端 GPU 价格相差这么大?
不同服务商在规模、网络、技术支持、地域、可靠性以及费用包含范围上存在差异。PetaPrice 2026 年 11 月 14 日的报告显示,H100 SXM 每 GPU 小时的价格从 $1.95 到 $12.30 不等。对比前务必核对精确型号、显存(VRAM)和计费条款。
使用抢占式(Spot)或可中断 GPU 容量安全吗?
对于可暂停并恢复的任务(如带检查点的批量训练和评估运行)是安全的。服务商随时可能回收容量,因此不要将其用于对延迟敏感的生产端点。Vast.ai 文档指出,可中断实例通常比按需便宜 50% 以上。
预留 GPU 容量什么时候才划算?
当你在预留时段内的实际利用率超过“预留价格 ÷ 按需价格”时。Compute Suppliers 的示例显示 H100 方案的盈亏平衡点在 70% 至 80% 之间。签署长期协议前,请先测量一个月的真实使用情况。
无服务器(Serverless)GPU 计费在空闲时真的不花钱吗?
只有当端点完全缩容至零时才不花钱。冷启动预热(Warmup)和保活(Keep-warm)窗口均会计费,因此过长的保活设置会把无服务器端点变成全天候租赁。估算账单前请先检查空闲超时设置。
BabyLoveGrowth Logo
⚡ 內容與成長驅動架構

由 AI Maestro Hub 與 BabyLoveGrowth 共同驅動

✓ 14天實戰測試認證

本指南採用 BabyLoveGrowth 的全自動 SEO 與內容架構(語意分群、IndexNow 自動即時推送與有機反向連結交換網絡)。經 AI Maestro Hub 實測實驗室全面驗證。

🚀 免費體驗 BabyLoveGrowth → 📊 閱讀 14 天實測案例($875 美元外鏈價值) →
編輯透明度聲明: AI Maestro Hub 為獨立軟體評測平台。當您透過本站連結訂閱服務時,我們可能會獲得推薦佣金,但這不會向您收取任何額外費用。
🧭

還在糾結該選擇哪款 AI 工具?

只需回答 3 個簡短問題,智慧推薦引擎即刻為您量身篩選最合適的解決方案。

立即啟動免費選型診斷 ➔