シャドーAI、不正エージェント、データ漏えい：AIリスクへの対処法に関する特別レポート

企業はAIに全力で取り組んでいます。人工知能（AI）の利用はかつては警戒されていましたが、今やほとんどの企業にとって必須事項となっています。その結果、AIアシスタント、エージェント、ブラウザー、拡張機能、自律的なワークフローが複雑に絡み合って企業のあらゆる側面（コード作成、コンテンツ生成、契約書分析、タスク自動化など）に関与するエコシステムが形成されています。

これらのAIツールは生産性を高めるための必須要素として急速に普及していますが、それによって組織の脅威サーフェスも密かに拡大しています。AIの利用が増加するにつれ、従来のセキュリティツールでは設計上対処できない新たな種類のリスクが生まれています。セキュリティリーダーは、自社のデータはどこに行くのか、誰がそれにアクセスできるのか、またサードパーティのシステムをどのように保護すればよいのかを把握するのに苦労しています。

多くの組織は、ChatGPT、Microsoft Copilot、Google Geminiなどの広く利用されているAIプラットフォームにガバナンスの取り組みを集中させています。しかし、企業の管理下にないAIアプリやサブスクリプションサービスを従業員が利用することが増えています。これにより、ビジネスデータの保存、保持、処理方法の可視性が大きく損なわれます。

イスラエルのLayerX Securityのデータによると、企業におけるAI関連のやり取りの約半数（47.11%）は、企業が管理するアカウントではなく個人のアイデンティティを通じて行われており、これによってガバナンスの可視性の大きなギャップが生じています。さらに、企業におけるAI関連のやり取りの14%以上に、個人の「フリーミアム」AIサブスクリプションが関与していました。これにより、データが大規模言語モデル（LLM）に公開され、パブリック・モデル・トレーニングに使用されることになります。

中国のAI企業DeepSeekの事例は、爆発的なユーザー数の増加により、重要なデータセキュリティ制御がどのように覆され得るかを示しています。これは、従業員が独自に導入するAIアプリケーションを継続的に可視化する必要があることを浮き彫りにしています。

AIはデータ損失防止（DLP）のあり方を根本的に変えます。情報伝達はもはや、明確に定義され、十分に保護されたチャネル（電子メール、ファイル転送、クラウドストレージなど）に留まりません。AIを利用すると、プロンプト、会話、コードのスニペット、コピーされたテキスト、その他の非構造化形式を通じて、機微な情報が共有される可能性があります。

個々のやり取りは無害に見えるかもしれませんが、それらが積み重なることで、従来のDLP対策では設計上検知できない重要なビジネス情報が漏えいする恐れがあります。

例えば、このSOTIレポートでは、米国の政府職員が、サイバーセキュリティ・社会基盤安全保障庁（CISA）の機密性の高い機微な業務データをパブリックAIインフラ経由で誤って漏えいした最近の事例が取り上げられています。

従業員は、ブラウザー内で直接動作するブラウザー拡張機能を通じてAIにアクセスすることが増えています。多くの場合、そのようなブラウザー拡張機能は、Webコンテンツ、ユーザーの行動、認証情報、企業向けアプリケーションなどに幅広くアクセスできます。

イスラエルのLayerX Securityの調査によると、AI関連のブラウザー拡張機能の約75%が、高度な権限または重要な権限を要求します。これにより、管理されていないAIが機微な情報にアクセスできるチャネルが生まれ、攻撃者の格好の標的となる可能性があります。また、この調査では、多くのAI拡張機能に既知の共通脆弱性識別子CVE（Common Vulnerabilities and Exposures）が存在することが明らかになりました。

例えば、CursorJackingは、人気のAIコーディングアシスタントであるCursorを利用する開発者を狙った巧妙なセキュリティ上の欠陥です。不正なブラウザー拡張機能さえあれば、攻撃者は密かにCursorのAPIキーを盗み、開発者になりすまし、AI駆動型の開発環境全体を侵害することができます。

自律型AIエージェント、AIブラウザー、エージェント型ユーザーインターフェースの利用の急速な拡大により、新たな次元のリスクが生まれています。これらのエージェントは、日常業務や機微な情報の流れに深く組み込まれるほど、自立したチームメンバーとして機能し、ほぼ人間の監督なしで意思決定を行うようになります。

PerplexityのComet AIブラウザーを標的としたCometJackingと呼ばれる新たな手口は、その脅威を如実に示しています。イスラエルのLayerX Securityの研究者は、Webページに悪性の命令を埋め込むことで、攻撃者が間接的なプロンプトインジェクション攻撃を通じてブラウザーのAIエージェントを操作し、データへのアクセスや不正な行動を自在に行えることを実証しました。

このSOTIセキュリティレポートは、データフロー、アイデンティティ、拡張機能、自律型エージェントに対する厳格なAIガバナンスを導入することで、組織がこの新たな分散型AIエコシステムの課題に対処する必要があることを明らかにしています。

この取り組みを支援するために、当社のレポートは次の内容を提供します。

• 実地検証済みの実用的な緩和フレームワーク
• CISOやセキュリティリーダー向けの実践的な推奨事項チェックリスト

適切なセキュリティフレームワークがあれば、組織は新たなリスクにさらされることなく、AIの可能性を最大限に引き出すことができます。