企业如何在平衡 AI 创新与风险中前行

据预测，2025 年全球在生成式 AI (GenAI) 领域的支出将达到 6440 亿美元，与 2024 年相比飙升 76%。这传递了一个清晰的信号：企业普遍认为，若在采纳 AI 方面落后，将面临生存威胁。尽管 AI 已经无处不在，但是对于企业领导者来说，其应用仍然持续带来一系列的担忧，涉及从安全风险到运营问题的方方面面。

人们始终无法确定，AI 所宣称的好处是否值得去承担它所带来的风险和潜在的负面影响。创新有望在客户体验和效率方面实现颠覆性地提升，但如果将 AI 与现有业务运营密不可分地交织在一起，其潜在风险可能会造成严重后果。

技术领导者正面临一场微妙的平衡挑战：企业如何在规模化推进 AI 创新的同时，避免暴露于不可控的风险深渊？

由 Akamai 委托 Forrester 开展的最新研究，就企业当前如何实现这种平衡提供了若干答案。该研究对 400 位高级 AI 和企业云战略决策者进行了调研，揭示了企业如何在快速捕捉价值的同时，构建必要的防护措施以保护其业务。

这项 Forrester 研究清楚地显示，企业领导者正在将 AI 直接融入核心业务目标中，使其成为业务战略的核心。即便如此，领导者们仍然会审慎地优先选择那些低风险、高回报的应用。

受访者确定了驱动 AI 投资的三个首要目标：

1. 改进客户体验 (76%)
2. 提高运营效率 (76%)
3. 提高客户留存率 (71%)

其他研究也不约而同地表明，客户体验 (CX) 的改善能够直接带来收入增加、流失率降低以及提升差异化竞争优势。

例如，McKinsey & Company 的研究指出，“……全球最成功的成长型公司所创造的价值中，有 80% 源于其核心业务——主要是从现有客户处发掘新的收入来源。”

因此，企业领导者不再仅仅因为需要保持竞争力而使用 AI，而是会审慎地将这项新技术与那些影响收入和增长的可衡量成果挂钩。这就解释了为什么在 AI 应用场景中，优先级最高的往往直接面向客户。

超过半数的企业正在使用 AI 应用来实现个性化 (53%)、客户问题解决流程的自动化 (53%) 以及回答客户问题 (52%)。与更具实验性的应用场景相比，这些应用的风险相对较低，但能够带来快速且实实在在的投资回报。

通过专注于即时的客户体验改进，公司不仅可以获得回报来支持进一步的探索，还可以让团队和基础架构为更宏伟的计划做好准备。

网络安全是 63% 的受访者所关注的一个问题。对攻击者来说，AI 系统会带来新的攻击面并扩大现有的攻击面。现实世界中已出现模型中毒、提示注入和数据外泄等威胁。当面向客户的应用依赖 AI 进行决策时，即便是很小的漏洞也能引发重大的安全事件。

随着各国政府陆续出台针对 AI 的新法规（例如，欧盟 AI 法案、美国框架以及针对特定行业的指导方针，各公司在扩展其 AI 应用规模时正面临着不合规所带来的障碍。与传统软件不同，AI 带来了可解释性、可审计性和减少偏见等独特问题。未能遵守相关法规将面临罚款、法律风险以及部署中止等后果。

AI 故障往往会被公之于众。存在偏见的推荐引擎或出现幻觉的聊天机器人会迅速成为头条新闻。客户的数据隐私可能会遭到侵犯。对于面向客户的应用场景来说，一次失误带来的远不止技术问题，更会危及品牌形象。重建与各公司的信任关系代价高昂。

AI 应用不当会造成客户流失、错失商机以及浪费投资。例如，如果一家零售企业的 AI 聊天机器人给出了误导性的财务建议，那么该公司不仅可能面临监管罚款和法律诉讼，还会遭到消费者的抵制，而这将削弱 AI 系统原本应该带来的客户留存率优势。

这些风险所带来的后果可能会像滚雪球般不断升级，最终给公司造成重大的业务中断。正因如此，领导者在应用 AI 时必须保持审慎的态度，并仔细权衡创新的风险与回报。

许多企业并没有一开始就全力投入于大型生成式 AI 项目，而是选择从小处着手。通过在可控的应用场景（例如，用户服务自动化）中先行应用 AI 技术，他们既能积累经验，又不会影响关键业务运营。此迭代模式使他们能够进行测试、学习，并在此基础上负责任地进行扩展。

构建和维护 AI 基础架构非常复杂，因此企业越来越多地依赖托管服务来进行模型训练和推理。这可以减少运营负担，并使专业知识变得更容易获取。

通过将高风险任务外包，企业还可以在加快部署速度的同时，最大限度地降低风险。关键在于，要选择与您采用相似安全和风险抵御标准的公司所提供的服务。

调查数据还表明，企业正在尝试采用云原生和开源 AI 技术。云原生架构提供可扩展性和弹性，而开源技术提供灵活性和速度，这两者都是 AI 应用和技术更新所必需的。好处是不仅可以获得敏捷性，同时避免了被供应商长期锁定。

鉴于 AI 应用的复杂性，许多企业都优先选择拥有成熟 AI 专业能力的供应商。这些合作伙伴不仅可帮助企业应对技术挑战，还能在合规性、可扩展性和安全性方面提供支持。强大的供应商生态系统可以为 AI 风险抵御策略提供支持。

或许最重要的一点是，各企业逐渐认识到，AI 治理并非 IT 部门的专属职责。优秀的企业正着手制定跨职能治理框架，并从一开始就让合规、法律和安全团队参与其中。此全面方法可确保 AI 创新符合监管要求和 AI 道德标准。

数据揭示出的主要模式是，各公司正通过构建架构来实现平衡；即，他们正在搭建一种能够让创新和风险管理齐头并进的支撑体系。

除了运营架构之外，平衡的 AI 应用还需要坚实的基础架构。事实上，Forrester 的这项研究表明，55% 的企业将技术和平台差距视为其应用 AI 时的首要挑战。 

传统的云平台并非设计用于满足大规模推理等性能敏感型 AI 工作负载的独特需求。延迟、成本效益低下和数据本地化控制不足都会产生一系列风险，轻则造成客户体验降级，重则导致在合规审计中面临更高风险。

当下，企业正重新审视其基础架构策略，并积极探索替代方案以充分释放 AI 的巨大潜力。他们正在使用针对分布式工作负载、低延迟推理和基于安全性设计进行了优化的平台来实现此目标。 

简而言之，基础架构不仅仅是 AI 技术的基础，它也是风险等式中的一个动态变量。选择错误的基础可能会放大漏洞。做出正确的选择能够将 AI 从负担转变为一项长期的竞争优势。

企业级 AI 的发展日新月异。早期的应用主要集中在一些特定的应用场景中，而后生成式 AI 的浪潮将其应用范围扩展到了内容创作、分析与自动化等领域。 

如今，我们即将迎来下一个阶段：智能体 AI。智能体 AI 构成了具备自主性的系统，这些系统能够代表人类采取行动并根据现有的情境做出决策。此演进有望带来更多好处，但当然同时也会带来前所未有的风险。

AI 发展的每个阶段都在提升潜在收益的同时增大了失败的风险。未来能够成功的企业将是那些当前正通过迭代式应用来构建企业级熟练度的企业，而成功的关键在于投资于富有弹性且进行了性能优化的基础架构，并从一开始就将治理与合规融入其中。

对于技术决策者来说，现在应该立即重新评估 AI 解决方案和云策略，尤其是基础架构方面的选择，以确保企业能够在负责任地进行规模化发展的同时，也能够兼顾道德考量因素。

如需深入了解 400 位资深决策者如何实现 AI 开发和应用，请下载完整的 Forrester 报告《企业级 AI 现状：积累经验，管控风险》。