寻找 Akamai Inference Cloud？ 探索 Akamai Cloud。 寻找 Akamai Inference？您来对地方了。
概述
通过 Akamai Cloud 上兼容 OpenAI 的 API 使用开源权重模型，无供应商锁定，无需管理 GPU。
Akamai Inference 是一项全托管的推理服务，用于在生产环境中运行 AI 模型。通过兼容 OpenAI 的 API 调用模型，将 GPU 资源、服务交付、自动扩缩容及模型生命周期管理交由 Akamai 全权处理。可选择按 Token 计费的无服务器推理、使用预留 GPU 的专用推理，或两者结合。
为什么选择 Akamai Inference？
兼具现代推理服务商的敏捷性与值得信赖的企业级安全性。构建完整的 AI 应用程序，而不止于模型调用。在单一平台上实现从初始实验到生产环境的全过程拓展。
工作原理
利用 Akamai Inference 赋能智能应用
快速、轻松获取领先的开源权重模型。为您的智能体应用提供强大支持，同时避免供应商锁定和高昂的 Token 成本。借助专为您预留的 GPU 算力，运行生产级推理，享受可预测的性能和专属的 OpenAI 兼容 API 端点。
无服务器，专用或两者兼有
为每种工作负载选择合适的部署类型。通过同一家服务提供商和同一个 API，灵活使用其中一种或两种服务。
功能特性
用于部署最新开放权重模型的 AI 推理功能
- 精选主流开放权重模型目录，涵盖 Llama、Qwen 和 DeepSeek 等模型
- 专用推理：使用为单一客户独占预留的 GPU 算力
- 提供控制面操作和推理调用的审计日志记录（目前仅限部分用户使用）
- 兼容 OpenAI 的 API，可直接集成替换
- 专用端点支持选择部署区域和 GPU 配置
- 用于测试模型的聊天交互环境
- 按 Token 计费、支持自动扩缩容的无服务器推理
- 提示词和响应数据零留存
- API 密钥管理
应用场景
Akamai Inference 应用场景
在生产环境中运行主流开放权重模型，或部署您自己的定制模型和微调模型，同时享有相同的安全保障和控制能力。您所需的灵活推理能力，来自您一贯信赖的服务提供商。
从最新的主流开放权重模型中选择一款，即可开始使用无服务器推理。
无服务器推理基于共享 GPU 资源池，提供主流开放权重模型。按实际使用量计费，费用根据 Token 用量计算。
运行专属的 OpenAI 兼容模型端点。
专用推理支持您自主选择模型、部署区域、GPU 配置和算力规模。您将获得专属的 OpenAI 兼容模型端点，其算力资源仅供您使用。
常见问题
常见问题
无服务器推理通过共享的自动扩缩容端点提供模型服务，并按每百万 Token 计费。它适合初步体验和部署突发性或难以预测的工作负载。专用推理为单一客户提供私有端点，并在您选择的区域和 GPU 配置中预留专属 GPU 算力，按 GPU 小时计费。它专为稳定的高流量生产环境请求而设计。您可以单独使用其中一种，也可以同时使用两种。专用推理的可用性有限。
模型目录涵盖主流开放权重模型。模型目录将持续扩充，新模型发布后也会陆续加入。
Beta 测试期间免费。进入有限开放阶段并开始计费后，无服务器推理将按每百万输入 Token 和输出 Token 计费。专用推理按 GPU 小时计费，并按分钟结算。只要端点处于已配置状态，即使处于闲置状态，也会持续计费。
不会。Akamai Inference 采用零数据留存机制，不会存储提示词和响应内容，也不会将其用于模型训练。
是的。Akamai Inference 使用兼容 OpenAI 的 API，因此，大多数基于 OpenAI API 构建的应用只需更改基础 URL 和 API 密钥，并从 Akamai Inference 模型目录中选择一个模型，即可完成切换。（不同模型对特定 API 功能的支持可能有所不同，例如工具调用或结构化输出。）
无服务器推理是一种部署模式，您可以通过共享的自动扩缩容端点调用 AI 模型。您只需为实际使用的 Token 付费，无需配置、管理或维护底层 GPU 基础设施。
开放权重模型是指公开发布训练后权重的模型，任何人都可以下载、运行和微调这些模型。例如 Llama、Qwen 和 DeepSeek。
注册参与无服务器推理 Beta 测试
申请使用无服务器推理 Beta 测试。
- 轻松快速地使用推理服务
- 在 Akamai Cloud 上运行开放权重模型
- 无需配置和管理 GPU 基础设施
- 构建低延迟、实时的 AI 应用和智能体
