Akamai 的最新研究报告《AI 推理现状》指出了一个关键的基础架构缺口：50% 的生产型 AI 在大规模部署时难以维持低延迟。研究显示，尽管 AI 推理已广泛应用于关键业务应用场景，但集中式云架构却形成了延迟瓶颈，阻碍企业高效扩展。阅读此报告以了解详情。
- 了解延迟瓶颈：64% 的企业要求 AI 在其主要应用场景中的响应时间低于 250 毫秒，而集中式系统仍然是性能的主要瓶颈。
- 了解接近性要求：60% 的从业者认为，将推理部署在更靠近终端用户的位置，对于实现生产成功至关重要，但仍有 46% 的从业者仅依赖单一云区域。
- 应用扩展挑战：50% 的团队将峰值负载下的延迟视为最大的扩展瓶颈，这促使他们转向自动流量调度和分布式计算解决方案。
下载完整报告，深入了解 AI 从业者在基础架构上面临的挑战。