머신 스피드로 구현되는 AI 보안: 최신 애플리케이션 보안 로드맵

• 기업 인공 지능(AI) 호출은 2027년까지 1000배 증가할 것으로 예상되며, 자동화된 상호작용이 기존 보안으로는 감당할 수 없는 규모로 이루어질 전망입니다.
• 작년에는 87%의 기업이 API 보안 인시던트를 경험했지만, AI와 연결된 API에 대한 공격에 잘 대비하고 있다고 답한 기업은 18%에 불과했습니다.
• 비선형 AI 에이전트와 바이브 코딩으로의 전환은 엄격한 보안 아키텍처보다 신속한 배포를 우선시했습니다.
• 새로운 에이전트 간(A2A) 상호작용은 이제 보안이 써드파티 AI 생태계의 무결성에 의존하게 되었음을 의미합니다.
• 혁신을 유지하려면 지속적인 검색과 실시간 가드레일을 골자로 하는 계층형 런타임 모델을 도입해야 합니다.

오늘날의 보안팀 입장에서 최근의 기술 관련 기사들은 마치 공포 소설을 읽는 듯한 느낌을 줍니다. 최근 한 기사는 간접 프롬프트 인젝션이 신뢰할 수 있는 애플리케이션 행동을 악용해 민감한 기업 금융 데이터, 로그, 텔레메트리를 은밀하게 유출하는 방법을 살펴보았습니다. 또 다른 기사에서는 한 번의 API 호출을 통해 프로덕션 데이터베이스를 삭제하는 AI 코딩 에이전트에 대해 논의했습니다.

이는 애플리케이션 보안팀이 현재 직면하고 있는 문제의 두 가지 예시에 불과합니다. 기업이 생성형 AI를 실험하는 단계에서 수십억 달러를 투자해 핵심 워크플로에 긴밀하게 통합하는 단계로 전환하면서 제약 조건이 등장하고 있습니다. 사업부에서 신속한 배포를 요구하는 가운데, 보안팀은 문서화되지 않은 채로 API가 폭증하고 있는 환경을 주시하고 있습니다.

하지만 오늘날의 보안팀은 이러한 혁신의 물결에 장애물이 되어서는 안 됩니다. 포괄적 금지는 효과가 없습니다. 그 대신 보안팀은 AI의 촉매가 되어야 합니다. 

물론 상황이 달라졌기 때문에 말처럼 쉽지는 않습니다. 기존의 애플리케이션 호출은  예측 가능한 로직을 따르지만, AI 에이전트는 비선형적이며 사용자 한 명의 목표를 달성하기 위해 엔드포인트에 과부하를 주는 경우가 많습니다. 

그 결과, 공격의 규모가 증가할 뿐만 아니라 공격 표면이 변화하게 됩니다. 실제로 IDC의 예측에 따르면 2027년까지 글로벌 2000대 기업의 에이전트 사용은 10배, 토큰 및 API 호출 부하는 1000배 증가할 것으로 전망됩니다. 

또한 기업들은 준비가 되지 않았다고 생각합니다.

Akamai의 2026년 API 보안 영향 연구에 따르면 방어 기능이 개발 속도에 대응하지 못하는 것으로 나타났습니다.

작년에 설문 조사에 참여한 1840명의 보안 전문가 중 87%가 API 관련 보안 인시던트를 경험했습니다. 더욱 주목할 만한 점은, 이러한 인시던트의 42%는 고객 대면 AI 애플리케이션부터 비공개 에이전트까지 AI 기술과 특별히 연결된 API와 관련이 있다는 것입니다. 

이러한 수치에도 불구하고 응답자의 18%만이 이러한 공격을 방어할 준비가 되어 있다고 생각합니다. 이들은 주요 공격 표면이 자사에서 가장 잘 이해하지 못하는 영역이 되는 상황에 직면하고 있습니다.

보안팀은 그 파급 효과를 이해하는 것 같습니다. 대규모 언어 모델(LLM)과 연결된 API와 관련된 리스크에 대해 응답자는 “민감한 정보를 유출하거나 데이터 유출에 사용될 수 있는 API”, “보호되지 않는 LLM과 연결된 API 엔드포인트를 악용하는 공격자”, “API가 악성 아웃풋을 기반으로 작업을 수행하는 프롬프트 인젝션”을 상위 3대 리스크로 꼽았습니다. 

바이브 코딩이라고도 불리는 AI 기반 개발의 등장은 상황만 악화시켰습니다. 이 접근 방식은 엄격한 보안 테스트보다 신속한 프로덕션과 기능 데모를 우선시합니다.

이로 인해 생산성이 개선되기는 하지만, 보안이 취약한 권한 확인 기능을 가진 API가 생성되거나 민감한 오류 정보가 유출되는 결과를 초래합니다. 공격자들은 이제 생성형 AI를 사용해 이러한 결함이 발생하는 즉시 무기화하고 있습니다.

따라서 게이트웨이가 중요합니다. 리스크를 제한하기 위해 AI 게이트웨이는 에이전트 레지스트리와 클라이언트 검증을 포함하도록 발전해야 합니다.

기업이 에이전트 간(A2A) 통신으로 발전함에 따라 위협 환경이 기하급수적으로 확장됩니다. 보안은 더 이상 내부 인프라에만 국한되지 않습니다.

내부 에이전트가 분석을 위해 외부 AI 툴을 호출했는데 해당 외부 툴이 감염되면 오염된 데이터가 시스템에 다시 공급될 수 있습니다. 이로 인해 사람의 프롬프트 없이 무단 데이터 유출이 발생하는 “포이즈닝 체인”이 형성됩니다.

이렇게 자동화된 협상이 밀리초 단위로 이루어집니다. 실시간 가시성이 없으면 유출이 발생하기 전까지는 이러한 상호작용을 알아차리지 못합니다.

보안팀이 AI의 걸림돌이 되지 않고 촉매가 되려면 혁신을 안전하게 지원할 방법이 필요합니다. 그 해답은 초기 API 연결부터 최종 모델 아웃풋까지 각 레이어 하나하나에서 애플리케이션을 보호하는 계층형 런타임 모델입니다.

이 전략은 다음과 같은 세 가지 중요한 단계에 중점을 둡니다.

1. 지속적인 탐색
2. 게이트웨이 적용
3. 런타임 강화

정적 문서를 넘어 라이브 행동 검색을 사용해 실시간 트래픽을 기반으로 섀도 API와 모니터링되지 않는 맥락 서버를 매핑합니다. 런타임 환경의 취약점을 개발자의 리포지토리에 직접 연결함으로써 팀은 탐지 단계에서 문제 해결 단계로 훨씬 더 빠르게 전환할 수 있습니다.

모든 내부 및 외부 AI 트래픽을 AI 인식 관리형 게이트웨이를 통해 라우팅합니다. 이를 통해 전송률 제한을 적용하고, 인증정보를 관리하고, 광범위한 API 키에서 권한 범위가 지정된 에이전트 ID로 전환할 수 있는 중앙 집중식 초크 포인트를 구축합니다.

특별히 제작된 콘텐츠 및 로직 방화벽을 배포해 인풋과 아웃풋을 실시간으로 평가합니다. 이러한 툴은 적대적 프롬프트 인젝션을 무력화하고 개인 식별 정보와 같은 민감한 데이터가 써드파티 LLM 또는 내부 벡터 데이터베이스에 도달하기 전에 자동으로 편집하는 식으로 적극적인 가드레일 역할을 합니다. 

리더는 보안의 전제 조건으로 가시성을 확립함으로써 포인트 솔루션의 패치워크에서 벗어나 비즈니스 속도를 늦추지 않으면서 리스크를 줄이는 통합 방어 체계를 구축할 수 있습니다.

이 블로그 게시물에서 몇 가지 주요 리스크 영역에 대해 다루었지만, 더 많은 내용이 있습니다. Akamai의 전략 가이드는 보안 전문가가 안정적인 AI 체계로의 전환을 관리하는 데 도움이 됩니다. 가이드를 통해 Akamai가 가시성 격차를 해소하는 데 어떤 도움을 줄 수 있는지 알아보세요.