跳转到主要内容
Background

AI 训练与 AI 推理的对比

了解 AI 训练与推理的区别,以及为什么推理需要更加分布式的基础架构策略。

视频摘要

视频摘要

[00:00–00:07] 训练与推理所扮演的角色:说明训练打造 AI 模型,而推理则产生实际的商业价值

[00:07–00:20] 训练与推理工作流对比:训练(利用静态数据构建模型)与推理(在实时动态流量中运行模型)之间的对比

[00:20–00:27] 推理的基础架构思维:探讨推理的实时性和持续性特征如何要求采用独特的基础架构策略

[00:27–00:43] 集中式与分布式基础架构的对比:用于训练的集中式 GPU 集群与用于推理的高度分布式、延迟敏感型计算之间的对比

[00:43–00:59] 经优化的工作负载执行:说明如何在核心、区域和边缘的适当位置运行适当的工作负载

分享

其他资源

Akamai Cloud——为 AI、应用和智能体而生

Akamai 是一家致力于支持并保护在线业务的网络安全和云计算公司。

基于 Akamai Cloud 平台的 GPU 算力服务

Akamai Cloud 提供多种 GPU 选项,包括 NVIDIA RTX PRO™ 6000 Blackwell 服务器版 (Server Edition®) 以及 Quadro® RTX 系列 GPU。

实时 AI 的 AI 推理云平台

通过分布式云、GPU 计算和内置安全性,更靠近用户运行 AI 推理,从而实现实时 AI 应用程序和智能体。