사이버 보안 업계의 AI: AI가 사이버 범죄 근절에 미치는 영향
목차
AI 사이버 보안 업계의 지각변동
인공 지능(AI)은 거의 모든 업계를 빠르게 변화시키고 있고 사이버 보안 업계도 예외는 아닙니다. AI가 이 분야에 미치는 영향에는 양면성이 있습니다. 한편으로는 사이버 범죄자들이 AI를 사용해 보다 정교하고 집요한 사이버 공격을 단행하고 있으며, 다른 한편에서 AI는 사이버 보안 방어의 눈부신 발전을 이끌면서 보안팀이 이전보다 훨씬 빠르고 정확하게 공격을 탐지하고 대응할 수 있게 되었습니다.
이 블로그 게시물에서는 사이버 보안 전문가가 AI를 사용해 보다 정교하고 집요한 공격에 대응하는 방법을 자세히 살펴보면서 사이버 보안 분야의 혁신에 대해 알아봅니다.
디지털 취약점을 노린 끊임없는 공격을 AI 사이버 보안을 통해 근절
사이버 취약점은 최근 몇 년 동안 크게 증가해 왔으며 인공 지능의 급속한 발전이 이 기하급수적인 성장에서 중요한 역할을 하고 있습니다. AI를 통해 사이버 범죄자와 해커는 취약점을 보다 효과적으로 악용하고, 탐지를 피하며, 정교한 공격을 실행하고, 활동 범위를 넓힐 수 있습니다.
AI 사이버 공격의 증가: 해커들이 AI를 사용해 보안을 무력화하는 방법
그림 1은 AI를 통해 사이버 공격을 증폭하는 주요 방법을 보여줍니다. 예를 들면 다음과 같습니다.
AI 기반 피싱 공격
머신 러닝 기반의 멀웨어와 랜섬웨어
소셜 엔지니어링 업계의 AI
Fig. 1: Examples of attacks that are now being bolstered by AI
AI 기반 피싱 공격
피싱 공격은 사이버 범죄자가 신뢰할 수 있는 소스로 가장해 민감한 정보를 공개하도록 유도하는 사이버 공격의 한 가지 유형입니다.
딥페이크, 최신 AI 기반 사칭과 같은 AI 기반 기술은 피싱 공격을 표적의 특성에 맞춰 보다 실감나게 하며, 탐지하기 점점 더 어렵게 만들고 있습니다. 예를 들어, 발신자가 다른 사람을 사칭한 전화 통화는 수십 년간 있어 왔지만, AI를 사용하면 공격자가 표적과 가까운 사람의 개인 정보를 활용할 수 있습니다.
AI 피싱 공격에서 사이버 범죄자는 행동 분석, 음성 복제 및 NLP(자연어 처리) 모델과 같은 다양한 AI 학습 모델을 사용해 아주 사실적인 AI 생성형 사이버 사칭 모델을 만들어 냅니다. 이러한 기술을 통해 공격자는 친구 및 동료의 외모, 음성 또는 쓰기 및 말하기 스타일을 그럴듯하게 모방해 표적을 속이고 성공률을 높일 수 있습니다.
최근 AI 기반 피싱에 활용되고 있는 딥페이크
사이버 범죄에서 점점 더 일반화되고 있는 AI 수법 중 하나는 머신 러닝을 사용해 진짜처럼 보이지만 완전히 조작된 비디오, 이미지, 오디오 등의 미디어 딥페이크를 만드는 것입니다. 사이버 범죄에 대한 딥페이크 기술의 확산은 점점 더 큰 위협이 되고 있으며, 딥페이크 피싱 사기의 피해자가 될 경우 그 피해가 막대할 수 있습니다.
2024년 초, 홍콩의 어느 직원이 사기꾼들과 화상 통화를 했습니다. 사기꾼들은 그의 동료들을 딥페이크로 구현해 미화 2천5백만 달러의 회사 자금을 이체하도록 설득했습니다.
AI를 활용해 빠르게 탐지망을 벗어나는 봇 운영자
봇 관리는 늘 창과 방패의 싸움이었습니다. 보안 기업이 더 나은 탐지 기능을 구축하면 봇 운영자는 이러한 탐지 기능을 회피하는 방법을 학습하고, 보안 기업은 새로운 탐지 기능을 구현하는 패턴이 계속 반복되고 있습니다.
AI를 통해 봇 운영자는 더욱 정교한 방식으로 행동을 유도해 새로운 탐지 기능을 회피하는 데 필요한 시간을 줄이고, 보다 적응성이 뛰어난 공격 방법을 활용하며, 더욱 정교하게 인간의 행동을 흉내 낼 수 있습니다. 봇 운영자가 AI를 활용하고 있다는 징후는 다음과 같습니다.
신속한 기법 변화 – 탐지에 대한 대응으로 공격 방법이 빠르게 바뀝니다.
행동 변화 증가 – AI 기반 봇은 자동 퍼징(fuzzing)과 같은 기술을 사용해 방어를 우회할 수 있는 변이를 찾아낼 수 있습니다.
인간의 행동 모방 – 클릭, 키 입력 또는 마우스 움직임의 무작위 패턴을 비롯한 더욱 발전된 기술로 실제 사용자의 행동을 모방합니다.
머신 러닝 기반의 멀웨어와 랜섬웨어
AI 기반 사이버 위협은 다양한 형태로 존재합니다. 최근 몇 년 동안 AI 멀웨어의 급속한 발전으로 해커는 우회 성능과 적응성이 뛰어난 멀웨어를 개발해 멀웨어 및 랜섬웨어 공격의 효과를 크게 향상했습니다.
멀웨어의 일종으로 피해자의 데이터를 암호화하고 이를 돌려주는 댓가로 랜섬을 요구하는 랜섬웨어는 AI의 통합으로 더욱 강력해졌습니다. 사이버 범죄자는 이제 랜섬웨어 공격에 AI를 사용해 탐지를 회피하고 보다 빠르고 복잡한 공격을 실행할 수 있습니다.
AI에 기반해 적응성이 더욱 뛰어난 멀웨어를 통해 해커는 보안 조치를 보다 효과적으로 우회할 수 있습니다. 이러한 유형의 머신 러닝 멀웨어는 네트워크 트래픽을 분석함으로써 정상 사용자의 행동을 모방하는 방법을 학습하고, 기존의 보안 시스템에 의한 탐지를 회피하기 위해 동작, 의사소통 스타일 및 코드를 변경할 수 있습니다.
또한, 머신 러닝 알고리즘을 통해 공격자는 보안 시스템의 취약점을 보다 정밀하게 탐지하고 가장 중요한 데이터를 표적으로 삼아 암호화 방법을 시스템의 특정 특성에 맞게 조정해 도난한 정보의 해독을 어렵게 할 수 있습니다. 일부 랜섬웨어 공격자는 AI를 사용해 암호화와 같은 특정 작업을 자동화해 피해자가 대응할 시간이 부족할 정도로 빠르게 공격을 단행하기도 합니다.
소셜 엔지니어링 업계의 AI
소셜 엔지니어링 공격의 경우, 공격자는 심리적 조작술과 기만술을 활용해 표적으로부터 민감한 정보나 자산을 취득합니다. 소셜 엔지니어링에서 AI를 사용하는 공격자는 개인이 탐지하기 더욱 어려운 개인 맞춤형 사기를 기획할 수 있습니다.
AI 분석을 통해 사이버 범죄자는 고도의 개인 맞춤형 소셜 엔지니어링 사기를 꾸며낼 수 있습니다. 피싱 이메일 및 기타 통신 내용에 표적의 디지털 풋프린트에서 수집한 개인 정보, 최근 사건, 감정적 유발 요소를 적절히 섞어 넣음으로써 공격자는 진짜처럼 느껴지는 통신 내용을 만들어 더 쉽게 신뢰를 얻을 수 있습니다.
공격자는 또한 사이버 범죄에 대화형 AI를 사용해 그 활동 범위를 넓히고 있으며, AI 기반 챗봇 사기와 같은 사이버 위협을 더욱 일상화하고 있습니다. AI 챗봇 모델은 이제 사람의 대화를 매우 정확하게 모방해 설득력 있는 논거를 만들고 감정적 단서를 악용하는 방법을 학습할 수 있습니다. 사이버 공격에 AI 챗봇을 활용하는 공격자는 상호 작용을 자동화함으로써 직접 대화에 개입할 필요가 없으므로 더 많은 수의 피해자를 공략할 시간을 벌 수 있습니다.
위협 탐지 및 보안에서 AI의 역할
AI는 사이버 위협을 더욱 부추길 수 있는 잠재력과 사이버 보안을 개선할 수 있는 잠재력을 함께 가지고 있습니다. 위협 헌팅 AI 기술은 머신 러닝 기술을 적용함으로써 기업은 기존의 방식보다 더 정확하고 신속하게 위협을 탐지하고 대응할 수 있습니다.
다음과 같이 AI를 통해 보안 시스템을 개선하는 몇 가지 사용 사례가 있습니다.
AI를 통한 위협 탐지 향상
머신 러닝 알고리즘을 기반으로 하는 AI 기반 사이버 보안 툴은 방대한 양의 데이터를 실시간으로 분석하고 패턴을 학습하며 잠재적인 위협을 나타낼 수 있는 이상 징후를 탐지할 수 있습니다. 분석 속도가 빠르므로 사이버 보안 전문가는 그 어느 때보다 신속하고 정확하게 보안 인시던트를 탐지할 수 있습니다.
최신 머신 러닝 AI 툴은 보안 전문가가 측면 이동과 같이 찾기 어려운 위협을 탐지할 수 있도록 도와줍니다. 측면 이동이란 공격자가 탐지되지 않은 네트워크를 찾아 가치가 높은 표적을 식별하고 접속 범위를 넓히는 기법입니다.
예를 들어, Akamai는 GNN(그래프 신경망)을 사용해 네트워크 내의 측면 이동을 탐지합니다. GNN은 먼저 네트워크 자산 간의 일반적인 상호 작용에 대해 학습한 다음 이러한 지식을 활용해 향후 상호 작용을 예측합니다. 자산의 동작이 설정된 패턴에서 크게 벗어나는 경우, 이를 측면 이동의 잠재적 징후로 간주합니다.
그림 2는 Akamai가 Akamai Guardicore Segmentation과 Akamai Hunt 사이버 보안 서비스에서 AI를 사용하는 방법을 보여줍니다.
Fig. 2: The threat detection process used by the Akamai security research team
위협 우선순위 지정 및 응답 자동화
보안 운영 개선 면에서 중요한 AI의 또 다른 역할은 자동화된 인시던트 대응을 지원해 수동 개입에 비해 대응 시간을 크게 단축하는 것입니다. 인시던트 대응이 AI로 자동화되면 위협에 대한 대응을 가속함으로써 기업이 문제를 에스컬레이션하기 전에 잠재적인 피해를 방어할 수 있습니다.
작동 방식은 다음과 같습니다. 위협이 탐지되면 AI 기반 시스템은 미리 정의된 조치를 자동으로 실행해 영향을 받는 자산을 격리하거나 악의적인 트래픽이 네트워크에 유입되는 것을 차단하는 등의 방법으로 리스크를 제거합니다. 또한 머신 러닝 AI 알고리즘이 위협의 심각도를 평가하고 판단해 긴급성에 따라 대응의 우선순위를 정합니다.
AI 시스템은 여러 위협에 동시에 대응할 수 있는 탁월한 속도와 기능을 갖추고 있으므로 기업이 새로운 대규모 위협에 실시간으로 대응할 수 있도록 리스크 관리에 보다 효율적이고 효과적인 접근 방식을 제공합니다.
예측 위협 인텔리전스 강화
사이버 보안 전문가는 인공 지능을 사용해 과거 트렌드를 기반으로 잠재적 위협을 예측하고 방지할 수 있으며, 이를 통해 위협 탐지 기능의 정확도를 높일 수 있습니다.
머신 러닝 AI 모델은 다양한 소스의 대용량 데이터 세트를 분석합니다. 사이버 보안팀은 이전 인시던트 보고서, 보안 로그, 네트워크 트래픽 패턴 등의 정보를 분석해 트렌드와 패턴을 파악하고 일반적인 사이버 위협에 대한 이해도를 높일 수 있습니다.
그러면 AI 시스템은 이러한 트렌드를 사용해 향후에 위협이 언제 어떻게 발생할지 예측하고, 위협이 실현되기 전에 이를 예방하기 위한 조치를 자동화할 수 있습니다.
예를 들어 Akamai Bot Manager는 AI 프레임워크를 사용해 봇 트래픽을 모니터링하고 대규모로 그리고 실시간으로 네트워크 엣지에서 위협을 탐지합니다(그림 3).
Fig. 3: Bot traffic log from the Akamai Bot Manager solution
한계 이해: AI가 해답이 아닐 수 있는 경우
AI는 강력한 사이버 보안 강화 기능을 제공하지만, 그 한계를 염두에 두어야 합니다.
AI 시스템은 주어진 데이터로만 학습하며, 더 넓은 맥락을 고려할 수 있는 인간의 능력은 없습니다. 따라서 AI 시스템은 미묘하고 복잡한 상황에서 의사 결정에 어려움을 겪을 수 있습니다. AI 시스템이 불완전하거나 편향된 정보를 바탕으로 훈련된 경우, 의사 결정 과정에서도 동일한 편향 또는 맥락 부족이 반영될 것입니다.
또한 미묘한 차이를 파악하지 못하는 AI 시스템은 정상적인 트래픽을 잠재적 위협으로 판단해 잘못 탐지할 수 있습니다. 오탐은 정상 사용자의 거래를 막고 기업의 비즈니스에 손실을 입히며 고객 만족도를 떨어뜨릴 수 있습니다.
마지막으로, AI는 많은 양의 데이터를 학습하기 때문에 데이터 프라이버시와 보안 면에서 리스크가 있을 수 있습니다. 기업이 적절한 보안 조치를 시행하지 않으면 데이터 유출이 발생할 경우 공격자가 대량의 중요한 데이터에 대한 무단으로 접속할 수 있는 리스크가 있습니다.
AI의 사용은 업계를 막론하고 증가할 것으로 예상됩니다. 최근 AI 현황에 대한 McKinsey의 설문조사에서는 응답자의 71%가 기업이 하나 이상의 비즈니스 기능에 생성형 AI를 자주 사용하고 있다고 답했습니다. 이는 작년의 65%를 기준으로도 높아진 수치이며 33%였던 2023년을 기준으로 하면 대폭 상승한 것입니다.
AI 시스템이 더욱 발전함에 따라 향후 몇 년 동안은 사이버 방어에 훨씬 더 큰 역할을 수행할 것으로 예상됩니다. AI는 위협 탐지 및 방어 기능을 더욱 발전시켜 사이버 보안팀이 지속적으로 역량을 키우고 위협에 보다 빠르게 대응할 수 있을 것으로 전망됩니다.
보다 안전한 디지털 환경을 위한 AI 도입
AI는 사이버 공격과 사이버 보안에서 점점 더 중요한 역할을 하고 있습니다. 끊임없이 발전하는 고도로 정교한 위협 환경에 대응하고자 Akamai는 AI를 전략적이고 투명하게 구현해 보안을 강화하는 데 앞장서고 있습니다.
Akamai의 AI 기반 사이버 보안 툴은 중요한 여러 가지 작업을 수행합니다. Akamai Hunt와 같은 혁신적인 AI 기반 솔루션은 기업이 그 어느 때보다 빠르고 정확하게 위협을 탐지하고 대응할 수 있도록 지원합니다. Akamai Guardicore Platform은 첨단 AI와 Akamai의 전문 지식을 활용해 고객이 제로 트러스트를 달성하고, 랜섬웨어 리스크를 줄이며, 컴플라이언스 요구사항을 충족하도록 지원합니다.
AI를 책임감 있고 효과적으로 사용하는 사이버 보안 솔루션으로 기업의 보안 체계를 강화하세요.
