サイバーセキュリティにおける AI：AI がサイバー犯罪との戦いに与える影響
目次
変化し続ける AI サイバーセキュリティの状況
AI サイバーセキュリティによるデジタル脆弱性の継続的な戦い
近年、サイバーの脆弱性は大幅に増加しており、人工知能の急速な進化がこの急増において重要な役割を果たしています。AI により、サイバー犯罪者やハッカーは脆弱性をよりうまく悪用し、検知を回避し、より高度な攻撃を実行し、オペレーションを拡大することができます。
AI サイバー攻撃の増加：ハッカーが AI を使用してセキュリティを侵害する手口
図 1 に、AI がサイバー攻撃を増幅する主な方法を示しています。
AI を活用したフィッシング攻撃
機械学習を活用したマルウェアとランサムウェア
ソーシャルエンジニアリングにおける AI
Fig. 1: Examples of attacks that are now being bolstered by AI
AI を活用したフィッシング攻撃
フィッシング攻撃とは、サーバー犯罪者が信頼できるソースを装って、個人に機密情報を開示させるサイバー攻撃の一種です。
ディープフェイクや AI 主導の高度ななりすましなど、AI を活用した手法によって、フィッシング攻撃はより本物に近く、個人的なものになり、検知がますます困難になっています。たとえば、発信者が他の人になりすました電話は数十年前からありましたが、AI を利用することで、攻撃者は標的と親しい人物の個人情報を通話に含めることが可能になります。
AI フィッシング攻撃では、サイバー犯罪者は、行動分析、音声クローニング、自然言語処理（NLP）モデルなどのさまざまな AI 学習モデルを使用して、AI 生成の超現実的なサイバーインプレッションを生み出します。これらのテクノロジーを利用して、攻撃者は友人や同僚の外見、声、さらには文体や話し方をもっともらしく模倣して、標的を欺いて、成功率を高めています。
AI 主導フィッシングの最新ツールであるディープフェイク
サイバー犯罪に普及している AI の用途の 1 つには、機械学習を使用して、動画や画像、音声などのメディアのディープフェイクを作成することです。こうしたメディアは一見すると本物そっくりですが、すべてが捏造されたものです。サイバー犯罪におけるディープフェイクテクノロジーの普及は、増大する脅威となっており、ディープフェイクを悪用したフィッシング詐欺の餌食になれば、壊滅的な被害につながる可能性があります。
2024 年初頭に、香港の職員が、ディープフェイクで作成された同僚の肖像を使用した詐欺師とのビデオ通話に参加し、詐欺師に会社の資金 2,500 万米ドルを送金するよう説得されました。
ボットオペレーターは AI を利用して検知されるとすばやく方向転換する
ボット管理は、常に追いつ追われつのゲームでした。セキュリティ会社がより優れた検知機能を構築すると、ボットオペレーターが検知を回避する方法を学習し、するとセキュリティ会社が新しい検知機能を作成する、というパターンが繰り返されています。
AI により、ボットオペレーターはより巧妙な方法で行動を操作できるため、新たな検知機能を回避し、より適応性の高い攻撃手法を使用し、より人間らしい動作を複製するために必要な時間が短縮されます。ボットオペレーターが AI を活用している指標には、次などがあります。
戦術の急速な進化 – 攻撃手法は検知に対応して迅速に変化します。
ふるまいのバリエーションの増加 – AI 駆動型ボットは、ファジングの自動化などの手法を使用して順列を探索し、防御のバイパスを試みます。
人間的なインタラクションの模倣 – これは、クリック、キーストローク、マウス操作のランダムなパターンなど、実際のユーザーのふるまいを高度に模倣するものです。
機械学習を活用したマルウェアとランサムウェア
AI 主導のサイバー脅威にはさまざまな形態があります。近年、AI マルウェアの急速な進化により、ハッカーがより回避的で適応性の高いマルウェアを開発できるため、マルウェアやランサムウェア攻撃の効果が大幅に高まっています。
ランサムウェアは、被害者のデータを暗号化し、その解放に身代金を要求するマルウェアの一種であり、AI の統合により、より強力になっています。サイバー犯罪者は、ランサムウェア攻撃に AI を使用して、検知を回避し、より高速で複雑な攻撃を実行できるようになっています。
AI 搭載の適応型マルウェアを使って、ハッカーはより効果的にセキュリティ対策を回避できます。この種類の機械学習マルウェアは、ネットワークトラフィックを分析して、正当なユーザーのふるまいを模倣する方法を学習し、従来のセキュリティシステムによる検知を回避するために、その動作、通信スタイル、コードを変更することができます。
また、機械学習アルゴリズムにより、攻撃者はセキュリティシステムの脆弱性をより正確に特定し、最も重要なデータを標的として、暗号化方式を特定のシステム特性に応じて調整できるため、盗難した情報の復号化が困難になります。さらに、ランサムウェア攻撃者の一部は、AI を使用して暗号化などの特定のタスクを自動化して、攻撃を加速し、被害者が攻撃に対処する時間を短縮します。
ソーシャルエンジニアリングにおける AI
ソーシャルエンジニアリング攻撃では、攻撃者は心理的な操作と詐欺により、標的から機密情報や資産を入手します。ソーシャルエンジニアリングに AI を活用すると、攻撃者は個人が特定しにくい、よりパーソナライズされた詐欺を生み出すことができるようになります。
AI 分析により、サイバー犯罪者は高度にパーソナライズされたソーシャルエンジニアリング詐欺を企てることができます。フィッシングメールやその他の連絡手段を、標的のデジタルフットプリントから収集した個人情報、最近のできごと、感情的トリガーと組み合わせると、攻撃者は、まるで本物のようなコミュニケーションを巧妙に作り上げ、簡単に信頼を獲得できます。
攻撃者は、サイバー犯罪に会話型 AI を使用して攻撃を拡大するようになっており、AI を搭載したチャットボットによる詐欺などのサイバー脅威がますます一般的になっています。AI チャットボットモデルは、人間の会話を非常に高い精度で真似て、説得力のある議論を作成し、感情的なきっかけを悪用するよう学習することができます。AI チャットボットをサイバー攻撃に利用すると、攻撃者はインタラクションを自動化し、直接会話に関わらずに、より多くの被害者を標的にする時間を確保できます。
脅威検知とセキュリティにおける AI の役割
AI にはサイバー脅威への備えを強化する可能性があるというのは事実ですが、AI がサイバーセキュリティを改善する可能性を握っていることも同様に重要です。脅威ハンティング AI テクノロジーにより機械学習の能力を活用すると、組織が従来の対策よりも高い精度とスピードで脅威を検知して対応できるようになります。
AI によりセキュリティシステムを強化するユースケースには、次などがあります。
AI による脅威検知の向上
機械学習アルゴリズムを活用した AI 主導のサイバーセキュリティツールを使うと、膨大な量のデータをリアルタイムで分析し、パターンを学習し、潜在的な脅威を示す可能性がある異常を特定できます。この分析をすばやくできるため、サイバーセキュリティ専門家は、これまで以上にすばやく、高い精度でセキュリティインシデントを検知できます。
高度な機械学習 AI ツールにより、セキュリティ専門家がラテラルムーブメント（横方向の移動）などの極めて検出が困難な脅威を特定できるようになります。ラテラルムーブメント（横方向の移動）は、検知されずにネットワークを移動し、価値の高い標的を特定して、アクセスを拡大するために攻撃者が使用する戦術です。
たとえば、Akamai はグラフニューラルネットワーク（GNN）を使用して、ネットワーク内のラテラルムーブメント（横方向の動き）の可能性を検知します。GNN はまず、ネットワーク資産間の通常のインタラクションを学習してから、この知識を使用して将来のインタラクションを予測します。資産のふるまいが確立されたパターンから著しく逸脱する場合、ラテラルムーブメントの可能性を示すフラグが付けられます。
図 2 は、Akamai が Akamai Guardicore Segmentation および Akamai Hunt サイバーセキュリティサービスに AI をどのように使用しているかを示しています。
Fig. 2: The threat detection process used by the Akamai security research team
脅威に優先順位を付けて対応を自動化
セキュリティ運用の強化に AI が果たすもう 1 つの重要な役割は、インシデント対応を自動化できることで、手作業による介入と比較して応答時間が大幅に改善されます。AI による自動インシデント対応で脅威への対応を加速すると、組織はイシューが深刻化する前に潜在的な損害を緩和できます。
その仕組みは次のとおりです。脅威が検知されると、AI ベースシステムでは事前に定義されたアクションを自動的に実行して、影響を受ける資産を隔離する、悪意のあるトラフィックがネットワークに侵入しないようブロックするなど、リスクを無効化します。さらに、機械学習 AI アルゴリズムにより、脅威の重大度を評価して決定し、緊急度に基づいて対応に優先順位を付けます。
AI システムは、驚異的な速度と複数の脅威に同時対応する能力により、リアルタイムで大規模に新たな脅威に対処できるようになるため、組織により効率的で効果的なアプローチを提供します。
予測型脅威インテリジェンスの強化
サイバーセキュリティ専門家は、人工知能を使用して、過去の傾向に基づいて潜在的な脅威を予測して防止し、脅威検知機能の精度を向上することができます。
機械学習 AI モデルは、さまざまなソースから大量のデータセットを分析します。これまでのインシデントレポート、セキュリティログ、ネットワークトラフィックパターンなどからの情報を分析することで、サイバーセキュリティチームは傾向やパターンの特定を開始し、一般的なサイバー脅威に対する理解を深めることができます。
その後、AI システムではこれらのトレンドを使用して、将来の脅威が発生するタイミングと形態を予測し、脅威が実際に発生する前に予防策として自動化を設定できます。
たとえば、Akamai Bot Manager は AI フレームワークを使用してボットトラフィックを監視し、ネットワークエッジで大規模に、そしてリアルタイムで脅威を検知します（図 3）。
Fig. 3: Bot traffic log from the Akamai Bot Manager solution
限界を知る：AI が答えにならない場合
AI は強力なサイバーセキュリティ強化を実現しますが、その限界を覚えておくことが重要です。
AI システムは、与えられたデータからのみ学習し、人間のようにより広いコンテキストを考慮する能力は備わっていません。そのため、AI システムは微妙で複雑な状況において意思決定が困難になることがあります。AI システムが不完全または偏った情報でトレーニングを受けている場合、そのバイアスや意思決定の文脈の欠如が反映されます。
このようにニュアンスが欠如しているため、AI システムは正当なトラフィックを誤って潜在的な脅威としてフラグを付け、フォールス・ポジティブ（誤検知）を引き起こす可能性があります。誤検知により、正当なユーザーがトランザクションを完了するのを妨害し、組織が業務上の損失を被り、顧客満足度が低下する原因となります。
AI は学習に大量のデータを必要とするため、データプライバシーとセキュリティがリスクにさらされます。適切なセキュリティ対策が講じられていないと、データ漏えいが発生した場合に、攻撃者が大量の機微な情報に不正にアクセスするリスクが生じます。
AI の利用は、業界全体で拡大する一方と予想されます。AI の現状に関する最近の McKinsey の調査では、回答者の 71% が、自社の 1 つ以上のビジネス機能で定期的に生成 AI を使用していると回答しています。この割合は前年の 65% から増加しており、2023 年の 33% から大幅に増加がみられます。
AI システムがさらに進歩すると、今後数年間でサイバー防御にさらに大きな役割を果たすことが予想されます。AI は、脅威の検知と緩和をさらに進化させ、サイバーセキュリティチームが継続的に取り組みを拡張して、脅威に迅速に対応できるようにします。
AI を受け入れ、より安全なデジタル世界を実現する
サイバー攻撃やサイバーセキュリティにおいて、AI はますます重要な役割を果たすようになっています。拡大を続ける高度な脅威の状況に対応するため、Akamai は最前線で戦略的かつ高い透明性で AI を実装して、セキュリティを強化しています。
Akamai の AI 搭載サイバーセキュリティツールは、さまざまな重要なタスクを実行します。Akamai Hunt などの革新的な AI 搭載ソリューションを使うと、組織はこれまで以上にすばやく正確に脅威を検知し、対応することができます。Akamai Guardicore Platform は、最先端の AI と Akamai の専門知識を組み合わせて、お客様がゼロトラストを実現し、ランサムウェアのリスクを軽減し、コンプライアンス要件を満たすよう支援します。
AI を責任を持って効果的に使用するサイバーセキュリティソリューションで、組織のセキュリティポスチャを強化しましょう。
