跳转到主要内容
Background

使 AI 推理成本可预测

在 Akamai Cloud 上解锁 Blackwell GPU 的批发价

生产推理更经济

随着 AI 使用的增长,生产推理成本可能变得难以预测。Akamai Cloud 通过提供透明的 GPU 定价(每小时 2.50 美元起)、低出站流量成本以及针对大规模部署和承诺使用量的定价方案,帮助团队改进成本规划。

Akamai 可助力团队:

  • 通过透明的 GPU 定价改进成本规划
  • 通过降低出站流量成本来减少数据传送
  • 扩展推理工作负载,避免超大规模云服务提供商成本高峰
  • 使容量与生产需求相匹配
  • 为大规模 AI 推理工作负载解锁批发价
     

解锁批发价

与 Akamai 联系,讨论工作负载规模、使用模式、区域、承诺使用量以及定价方案。
 

工作原理

分享您的使用情况简介 

告诉我们您的预期 GPU 需求、流量模式、区域以及工作负载类型。

查看定价方案

Akamai 将根据规模、容量和部署需求帮助评估定价模型。

制定成本计划

更清晰地了解生产推理的可预测基础架构经济效益。

新研究图表显示,峰值负载延迟是推理过程中最大挑战。

推理成本在生产中更难控制

一项针对 200 名 AI 从业者的新研究发现,在生产 AI 中,GPU 和 CPU 的成本最难预测。Akamai 帮助团队控制支出,GPU 定价 2.5 美元/小时起,出站流量成本低至 0.005 美元/GB,TCO 比超大规模云服务提供商降低多达 44%。

在需求激增之前规划 GPU 支出

定价因素

Akamai Cloud

为什么它很重要

起始 GPU 价格

RTX PRO 6000 Blackwell x1 价格为 2.5 美元/小时

降低生产推理规划的门槛

2 GPU 计划

RTX PRO 6000 Blackwell x2 价格为 5.00 美元/小时

扩展容量,同时保持定价易于预测

4 GPU 计划

RTX PRO 6000 Blackwell x4 价格为 10.00 美元/小时

支持更大的推理工作负载,采用明确的按小时定价

可比定价

与 GCP 按需服务相比,成本降低可达 44%

有助于降低 AI 工作负载的基础架构支出。

每个词元的成本

与 H100 相比,每个词元的成本降低可达 28%

提高大规模推理的经济效益

数据传输

出站流量成本低至 0.005 美元/GB

降低全球分布的 AI 的隐藏成本

以更清晰的成本控制运行生产 AI 工作负载

大量 AI 应用

支持面向用户的 AI 体验,每次请求都会增加基础架构成本。

全球推理

降低为分布式用户提供服务的应用程序的回传和数据传送成本。

媒体和视频工作负载

控制重度依赖 GPU 的视频、渲染和转换流程的成本。

不间断 AI 服务

为生产智能体、助手和推理系统规划经常性 GPU 支出。