Akamai Firewall for AI: 새로운 LLM 애플리케이션 위협에 대한 강력한 보호 기능 확보

그러나 LLM의 장점과 함께 새로운 리스크와 위협도 발생합니다. AI 모델은 귀중한 독점 지식과 민감한 데이터 세트를 포함하고 있기 때문에 공격자의 주요 표적이 된다. LLM은 다음과 같은 새롭고 고유한 유형의 공격에 취약합니다.

• 프롬프트 인젝션 공격 — 공격자가 AI가 생성한 응답을 조작해 민감한 데이터를 유출하거나 보안 조치를 우회합니다.

• AI 특화 DoS(서비스 거부) 공격 — 공격자가 AI 모델에 대량의 쿼리를 쏟아부어 리소스 고갈을 유발합니다.

• 유해한 아웃풋 및 환각 — AI 모델이 오해의 소지가 있거나, 편향적이거나, 모욕적인 콘텐츠를 생성해 평판 리스크를 초래합니다.

• 데이터 유출 및 모델 도용 — 공격자가 AI 모델에서 독점적 지식을 추출하려 시도합니다.

• 컴플라이언스 및 거버넌스 과제 — LLM용 OWASP 상위 10대 취약점과 같은 업계 가이드는 더 강력한 감독을 요구합니다.

사이버 보안팀은 LLM이 가져오는 혁신과 생산성 향상을 저해하지 않으면서 기업을 보호해야 합니다. 또한 고객 경험을 해쳐서는 안 됩니다. 그러나 기존의 보안 조치는 새로운 위협에 대응하도록 설계되지 않았습니다. LLM 공격을 탐지하고 방어하기 위해 특별히 설계된 보호 조치가 필요합니다.

오늘, Akamai는 AI 기반 애플리케이션, LLM, AI 기반 API를 새로운 사이버 위협으로부터 보호하기 위해 특별히 설계된 보안 솔루션인 Akamai Firewall for AI를 발표합니다. Firewall for AI는 인바운드 AI 쿼리와 아웃바운드 AI 응답을 모두 보호함으로써 생성형 AI로 인해 발생하는 중요한 보안 취약점을 차단합니다. 

실시간 위협 탐지, 정책 기반 적용, 적응형 보안 조치를 통해 프롬프트 주입, 민감한 데이터 유출, 적대적 악용, AI 특화 DoS 공격으로부터 방어합니다. 결과적으로 AI 기반 혁신의 무결성, 안전성, 신뢰성을 보호합니다.

Firewall for AI의 주요 특화 기능은 다음과 같습니다.

• 멀티레이어 보호: 적대적 인풋, 무단 쿼리, 대규모 데이터 스크레이핑을 차단해 모델 조작 및 데이터 유출을 방지합니다.

• 실시간 AI 위협 탐지: 적응형 보안 룰을 활용해 프롬프트 인젝션, 모델 악용 등 진화하는 AI 기반 공격에 동적으로 대응한다.

• 컴플라이언스 및 데이터 보호: AI로 생성된 결과물이 안전하게 유지되고 관련 규제와 업계 표준을 준수하도록 지원합니다.

• 유연한 배포 옵션: Akamai Edge, REST API 또는 리버스 프록시를 통해 배포할 수 있어 기존 보안 프레임워크에 원활하게 통합됩니다.

• 선제적 리스크 방어: AI 아웃풋을 필터링해 유해 콘텐츠, 할루시네이션, 무단 데이터 유출을 방지합니다.

예를 들어, Firewall for AI는 LLM 프롬프트를 검토해 LLM의 개인 정보 보호 또는 안전 가드레일을 우회하도록 설계된 프롬프트 문구와 같이 LLM을 조작하려는 시도를 찾아냅니다. 마찬가지로, LLM의 응답이 사용자에게 도달하기 전에 응답을 검사해 고객 계정 번호와 같은 민감한 데이터의 노출을 방지합니다. 

AI가 핵심 비즈니스 애플리케이션에 통합됨에 따라 이러한 수준의 검사는 애플리케이션 테스트 프로세스에 쉽게 적용되어 모든 단계에서 신뢰성과 안정성을 강화할 수 있습니다.