影子 AI、恶意智能体与数据泄露：AI 风险应对专题报告

众多企业正在全盘布局 AI。虽然企业过去对使用人工智能 (AI) 持谨慎观望态度，但如今，这已演变成大多数企业的战略刚需。其结果是，一个由 AI 助手、智能体、浏览器及其扩展程序以及自主工作流交织而成的庞大生态系统正在无序扩张，渗透到企业的各业务命脉，从代码编写、内容生成，到合同分析和任务自动化。

监管这些 AI 工具正在迅速成为提高生产力的关键驱动力，但它们也在悄无声息地扩大企业的攻击面。AI 应用的增加，引入了传统安全工具根本无法解决的新型风险。安全负责人们目前正苦于厘清数据流、访问权限归属，以及保障这些第三方系统安全的方式。

大多数企业都将治理重点放在 ChatGPT、Microsoft Copilot 以及 Google Gemini 等广泛使用的 AI 平台。但与此同时，员工正在越来越多地使用处于企业监管视线之外的 AI 应用程序或订阅服务。这导致企业在把控业务数据存储、保留及处理方式上面临严重的监测盲区。

LayerX 数据显示，近半数 (47.11%) 企业 AI 对话通过个人帐户而非企业托管帐户进行，导致大面积的治理监测盲区。此外，超过 14% 的企业 AI 对话使用的是免费 AI，在“免费增值”模式下，会让渡相关数据给大语言模型 (LLM)，用于公开模型训练。

中国 AI 公司 DeepSeek 的案例表明，用户 AI 采用率激增可能会冲破关键数据安全管控屏障。该情况反映出，企业必须持续监测员工自行采用的各类 AI 应用。

AI 从根本上改变了数据丢失防范 (DLP) 的博弈规则。信息传输已不再局限于电子邮件、文件传输及云存储等权责明晰且保护得当的传统渠道。使用 AI 时，敏感信息可能通过提示词、对话、代码片段、复制文本以及其他非结构化形式“喂”给外部 AI。

单次与 AI 的交互可能看起来无害，但累积起来却可能暴露宝贵的商业背景，而这是传统的数据丢失防范 (DLP) 控制机制设计时无法检测到的。

例如，此 SOTI 报告重点介绍了最近的一个案例：美国政府官员通过公共 AI 基础设施，不小心泄露了网络安全和基础架构安全局 (CISA) 的敏感受限运营数据。

员工正越来越多地通过浏览器内置扩展程序使用 AI。这些浏览器扩展程序通常对网页内容、用户活动、凭据及企业应用拥有广泛访问权限。

LayerX 研究表明，近 75% 的 AI 浏览器扩展程序需要高级或关键权限。这可能为不受管理的 AI 访问敏感数据打开方便之门，成为恶意攻击者垂涎的目标。该研究还发现，众多 AI 扩展程序都存在已知常见漏洞和风险 (CVE)。

以 CursorJacking 为例，这是一种隐蔽的安全漏洞，专门瞄准使用热门 Cursor AI 编程助手的开发人员。攻击者只需一个恶意浏览器扩展程序，就能悄悄窃取 Cursor API 密钥，冒充开发人员身份，破坏整个 AI 驱动的开发环境。

自主 AI 智能体的快速普及，加上 AI 浏览器和智能体用户界面，创造了又一个新的风险维度。这些智能体越是深入集成到日常运营和敏感数据流，就越能像独立团队成员一样运作，在几乎没有人工监督的情况下作出决策。

一种名为 CometJacking 的新型攻击技术将 Perplexity 的 Comet AI 浏览器作为靶子，生动阐释了这一威胁。LayerX 研究人员表明，通过在网页中嵌入恶意指令，攻击者能够利用间接提示词注入攻击操纵浏览器的 AI 智能体，进而自由访问数据并执行未经授权的操作。

本期 SOTI 安全报告明确指出，企业必须针对数据流、身份凭据、扩展程序以及自主智能体引入严格的 AI 治理机制，以此应对这个全新且碎片化的 AI 生态系统带来的挑战。

为协助推进此项工作，本报告特别呈献：

• 一套经实战检验的实用风险缓解框架
• 一份面向 CISO 和安全负责人且具有可操作性的建议检查清单

借助正确的安全框架，企业能够在不引入新威胁的情况下，尽情发掘 AI 的全部潜力。