ID를 넘어: 에이전틱 기업 관리

최신 SOTI 보안 보고서인 속도, 확장성, 그리고 비인간 ID: 에이전틱 위협 환경에서는 에이전틱 AI가 기업 리스크에 어떤 변화를 가져오는지 살펴봅니다. 이 보고서에서 최근 밝힌 주요 내용은 다음과 같습니다. 

• 모델 컨텍스트 프로토콜(MCP)은 에이전틱 AI가 다양한 API를 통해 작업을 수행할 수 있는 '손' 역할을 하지만, 데이터와 코드를 구분하지 않아 악성 서버가 프롬프트 인젝션이나 크로스 서버 공격을 통해 대규모 언어 모델(LLM)의 로직을 탈취할 수 있는 리스크도 존재합니다. 

• 브라우저는 감시되지 않는 주요 공격 표면이 되었습니다. 기업 사용자의 40% 이상이 이러한 툴을 설치했는데, 설치된 확장 프로그램 중 25%가 12개월 이내에 권한을 변경한 것으로 나타났습니다.  

• 기업용 디바이스에서 이루어지는 AI 챗봇 대화 중 6% 이상이 민감한 정보를 포함하고 있습니다.

• AI 기반 시스템이 기업 워크플로에서 더 큰 역할을 담당함에 따라 기업은 머신 간 활동과 API 권한 확인에 대한 가시성을 확보하는 데 주력하는. 동시에 제로 트러스트 아키텍처를 적용해 머신 ID, 에이전트 권한, 자율적 의사결정을 보호해야 합니다.

MCP는 AI 에이전트에 외부 툴 및 API에 대한 표준 접속 권한을 제공하지만, 이러한 원활한 연결성은 민감한 시스템에 대한 새로운 접속 경로도 열어줍니다. 각 MCP 서비스는 에이전트가 접속하거나 수행할 수 있는 작업을 정의하는 권한, 의존성, 그리고 지침을 설정할 수 있습니다.

보안팀은 MCP 연결을 기업 공격 표면의 일부로 간주하고, MCP 서비스, 연결된 툴, 권한, 그리고 런타임 동작을 지속적으로 모니터링해야 합니다. 이러한 가시성은 신뢰할 수 없거나 감염된 서비스가 에이전트의 동작에 영향을 미치거나, 민감한 데이터에 접속하거나, 무단 작업을 실행하는 것을 방지하는 데 도움이 됩니다.

자율성이 강화됨에 따라 기업 보안은 기존의 ID 관리 차원을 넘어 사용자가 접속할 수 있는 리소스는 물론, 이들의 작업 방식까지 관리할 수 있어야 합니다.

기업이 점점 더 자율적으로 작동할 수 있는 AI 시스템을 도입함에 따라 보안도 진화하고 있습니다. ID와 접속 권한은 문제의 일부일 뿐이며, API를 통해 비인간 시스템을 관리하는 것이 이제 마찬가지로 중요한 과제가 되었습니다.

Project Glasswing과 같은 최첨단 AI 기능은 시스템 취약점을 발견하는 데 필요한 시간을 몇 주에서 몇 시간으로 단축시키는데, 기존 패치 주기만으로는 이 속도에 대응하기 어려울 수 있습니다. 기업은 AI 시스템이 검증 및 수정이 용이한 조치를 취할 수 있도록 적응형 엣지 네이티브 런타임 보안 기능과 리스크 기반 자율성을 필요로 하는 동시에 중대한 영향이나 비정상 행동에 대해서는 인간의 감독을 유지해야 합니다.

모든 AI 리스크에 동일한 대응이 필요한 것은 아닙니다. 가장 우선시해야 할 위협은 비즈니스에 큰 영향을 미치면서도 신속한 대응이 필요한 문제들입니다. 예를 들면 에이전틱 AI 공격, AI 기반 취약점 발견, 프롬프트 인젝션 등이 있습니다(그림 1).

관리되지 않는 AI 확장 프로그램과 툴이 급증하면서 브라우저 기반 가시성도 주요 공격 표면이 되었습니다. 리서치에 따르면 AI 브라우저 확장 프로그램은 다른 툴보다 알려진 취약점을 가질 가능성이 60% 더 높으며, 기업 사용자의 거의 절반이 AI 확장 프로그램을 설치했습니다(그림 2).

보안팀은 AI 기반 위협에 효과적으로 대응하기 위해 행동 규범을 관리하고 데이터 노출을 통제해야 하며, 이를 위해 정적 룰을 넘어 환경에 맞는 새로운 적용 기준을 도입해야 합니다. 이렇게 보안 접근 방식을 바꾸는 것은 AI 환경의 변화에 대응하기 위한 것입니다(그림 3).

에이전틱 기업이 도래하면서 이를 보호하기 위한 새로운 전략이 필요합니다. 일부 AI 리스크가 평가 및 모니터링되고 있지만, 새롭게 등장하는 AI 위협 중 상당수가 여전히 간과되고 있습니다. 기업은 AI 에이전트, MCP 서비스, 브라우저 확장 프로그램, 연결된 애플리케이션이 실시간으로 접속할 수 있는 범위와 수행 가능한 작업을 신속하게 평가하고 통제해야 합니다. 

목표는 AI 도입을 제한하는 것이 아니라 이를 관리하는 것입니다. AI 혁신과 행동 기반 관리를 결합한 기업은 오늘날의 변화하는 AI 위협 환경에 더 효과적으로 대응할 수 있습니다.

지난 보고서를 통해 Akamai의 다음 인터넷 보안 현황 보고서를 확인하고 최신 위협 인텔리전스 분석, 보안 보고서, 사이버 보안 리서치 내용을 확인하세요.