Managed Agents에 분산 인프라가 필요한 이유

이번 주에 출시된 Anthropic의 Claude Managed Agents는 인프라 기업에 직접적인 위협으로 인식되면서 Akamai와 같은 기업에 미치는 잠재적 영향에 대한 시장의 논평을 크게 촉발했습니다. Anthropic처럼 세상을 바꾸는 영향력을 가진 모델 공급업체가 호스팅 서비스를 발표하면, 인프라 레이어의 중계자가 없을 것이라고 추측하기 마련임을 잘 알고 있습니다. 그러나 이러한 해석은 Anthropic이 구축한 것과 이것이 기업 규모에서 작동하기 위해 실제로 필요한 사항을 놓치고 있습니다.

엔지니어링 블로그 게시물을 자세히 읽어보세요. Managed Agents는 특정 구축 방식에 구애받지 않고 운영할 수 있도록 설계된 작은 인터페이스 세트를 통해 사용자를 대신해 장기적인 에이전트를 실행하는 호스팅 서비스입니다. Anthropic은 에이전트의 구성요소(세션, 하니스, 샌드박스)를 가상화해 각각 독립적으로 교체할 수 있도록 했습니다. 이들은 미래를 고려해 설계했으며, 예측할 수 없다는 점을 명백히 인정합니다. Anthropic이 직면한 과제는 "아직 생각지도 못한 프로그램 시스템을 설계하는 방법"입니다.

Claude Managed Agents는 인프라의 대체제가 아닙니다. 막대한 신규 인프라 수요의 원천이 됩니다.

Anthropic의 엔지니어링팀은 기본적인 설계 결정 사항을 설명했습니다. 즉, "뇌"(Claude와 그 하니스)와 "손"(샌드박스와 동작을 수행하는 툴)을 분리하는 것입니다. 이러한 분리는 "다뇌다수(many brains, many hands)"를 실현합니다. 단일 에이전트 세션은 여러 위치 및 리소스에서 병렬로 실행되는 여러 추론 호출과 여러 실행 환경을 생성할 수 있습니다.

이해해야 할 핵심 인사이트: Anthropic은 Claude에 필요한 뇌나 손의 개수 또는 위치에 대해 어떠한 가정도 하지 않습니다. 이 점이 아키텍처 측면에서 매우 중요합니다. 추론이 발생하는 곳, 샌드박스가 실행되는 곳, 툴이 실행되는 곳 등의 인프라 레이어가 의도적으로 열려 있다는 것입니다. Anthropic은 오케스트레이션을 구축했습니다. 기저에 있는 컴퓨팅 패브릭은 Akamai와 같은 기업들이 제공하는 것과 정확히 일치합니다.

이는 2026년 3월 산호세의 NVIDIA GTC에서 Akamai가 발표한 분산 추론 아키텍처와 정확하게 대응합니다. 그 내용은 프로덕션 AI 추론(특히 지연 시간이 짧은 응답, 다단계 추론, 실시간 툴 호출이 필요한 에이전틱 워크플로)은 중앙 집중식 AI 팩토리와 다른 접근 방식을 요구한다는 점인데, 바로 이것이 Managed Agents가 기업 규모에서 작동하는 데 필요합니다.

AI 팩토리는 기본 모델 학습과 대규모 동시 GPU 워크로드에 탁월합니다. 그러나 Managed Agents가 실시간 애플리케이션의 지연 시간 제약 조건 내에서 툴을 호출하고, 코드를 실행하고, 결과를 반환해야 하는 5개의 병렬 "뇌"를 생성하는 경우(Anthropic은 "아직 생각지도 못한 프로그램"을 위해 설계하고 있다는 점을 인지하고 있음), 모든 레이어에 고처리량 네트워크 패브릭으로 연결되고 여러 지역에 분산되며, 보안이 적용된 GPU가 필요합니다.

이를 Akamai Inference Cloud에서 제공합니다. 학습 및 미세 조정을 위한 중앙 집중식 GPU 클러스터부터, 프로덕션 환경 추론을 위한 분산형 NVIDIA RTX PRO™ 6000 Blackwell Server Edition GPU, 그리고 라우팅, 캐싱, 보안을 위한 엣지 네트워크 거점에 이르기까지, Akamai의 컴퓨팅 리소스 포트폴리오는 바로 이러한 워크로드 패턴에 맞춰 특별히 설계되었습니다.

빛보다 빠를 수는 없습니다. 런던의 사용자가 버지니아에 있는 추론 엔드포인트에 도달하면 단일 토큰이 생성되기 전에 각 방향에서 약 28밀리초의 지연이 발생합니다. 이 수치에 에이전틱 워크플로의 순차적 추론 호출 수를 곱하면 실시간 애플리케이션에는 중앙 집중식 추론을 사용할 수 없게 됩니다.

Anthropic의 엔지니어링팀은 Managed Agents의 보안 관련 당면 과제를 솔직히 밝혔습니다. 결합형 설계에서는 Claude가 생성한 신뢰할 수 없는 코드가 인증정보와 동일한 컨테이너에서 실행되었기 때문에 프롬프트 인젝션 시, Claude가 자체 환경을 읽도록 설득하기만 하면 되었습니다. 공격자가 이러한 토큰을 확보하면 새로운 무제한 세션을 생성하고 작업을 Managed Agents에 위임할 수 있습니다.

이 팀의 구조적 수정 방안은 인증정보를 샌드박스에서 분리하는 것이었습니다. 이 팀은 근본적인 긴장 관계가 있다는 것도 인정했습니다. 좁은 범위 지정은 확실한 방어 조치이지만, 이러한 방법은 토큰을 제한하면 Claude가 특정 행동을 할 수 없을 것이라는 가정을 전제로 하고 있는데, Claude는 점점 더 똑똑해지고 있습니다.

바로 이 부분에서 당사는 Akamai의 보안 포트폴리오는 관련성이 높을 뿐만 아니라 필수적이라고 생각합니다. 기업이 프로덕션 환경에 Managed Agents를 배포하면 자율적으로 다단계 작업을 실행하고, 외부 API를 호출하고, 코드를 생성 및 실행하고, 기업 시스템과 상호 작용하는 에이전트가 공격 표면을 크게 확장합니다. 프롬프트 인젝션, 적대적 코드 생성, 인증정보 도용, 측면 이동, 데이터 유출은 "아직 생각지도 못한 프로그램"이 물려받을 수 있는 커다란 실제 운영 리스크가 됩니다.

Akamai Firewall for AI는 프롬프트 인젝션 및 모델 남용으로부터 대규모 언어 모델(LLM) 엔드포인트를 보호합니다. Akamai API Security는 에이전트가 외부 툴 및 서비스에 대해 수행하는 API 호출을 검색, 매핑, 모니터링합니다. Akamai의 웹 애플리케이션 방화벽 솔루션인 Akamai App & API Protector는 에이전트와 에이전트가 상호 작용하는 애플리케이션 간의 트래픽을 검사합니다. Akamai Guardicore Segmentation은 에이전트(또는 감염된 에이전트)가 기업 네트워크 내부에서 도달할 수 있는 범위를 제한합니다. 또한 Akamai Bot Manager는 정상적인 에이전트 트래픽과 에이전트 동작을 모방하는 적대적 자동화를 구분합니다.

Anthropic을 비롯한 어떤 모델 공급업체도 이 모든 기능을 구축할 가능성은 낮으며,, Anthropic은 오케스트레이션 레이어를 구축하고 있습니다. 런타임 보호, 네트워크 보안, 인프라 적용은 Akamai와 같은 기업이 제공하는 기능이며, 기업이 고객 데이터, 금융 거래, 중요한 작업을 처리하는 프로덕션 시스템에 자율 에이전트를 배포하기 전에 필요한 기능입니다.

시장의 초기 대응은 Anthropic이 CDN, 클라우드, 보안 인프라의 대체 솔루션을 발표한 것처럼 Managed Agents를 취급했습니다. Akamai에서는 그 반대라고 생각합니다.

프로덕션에서 실행되는 모든 Managed Agents 세션에는 추론 컴퓨팅(Akamai 추론 클라우드에 대한 수요 발생), 네트워크 연결 및 라우팅(Akamai의 엣지 플랫폼 및 백본에 대한 수요), 애플리케이션, API 및 네트워크 레이어에서 보안 적용(Akamai의 보안 포트폴리오에 대한 수요), 분산된 위치 간 오케스트레이션(구축 중인 컴퓨팅의 연속성에 대한 수요)이 필요합니다.

클라우드 컴퓨팅이 등장했을 때 어떤 일이 일어났는지 생각해 보세요. AWS를 사용해도 CDN, 보안, 엣지 컴퓨팅의 필요성이 없어지지 않습니다. AWS는 수십 배 더 많은 애플리케이션, 더 많은 트래픽, 더 많은 공격 표면을 생성해 Akamai가 제공하는 서비스에 대한 수요가 높아졌습니다. Managed Agents도 동일한 패턴을 따를 것으로 예상됩니다. 에이전트가 많을수록 추론 호출, API 상호 작용, 분산 컴퓨팅 요구사항, 보안 노출이 증가합니다. Akamai는 이를 지원하는 인프라가 되고자 합니다.

일주일 동안 같은 회사의 두 가지 발표(Project Glasswing 및 Claude Managed Agents)는 AI 보안과 인프라 방정식의 양 변을 보여주었습니다. Glasswing은 취약점을 더 빠르게 발견하므로 공개와 수정 사이의 격차가 있는 시기에 런타임 보호의 필요성을 높입니다. Managed Agents는 자율적인 AI 워크플로를 대규모로 지원하므로 스택의 모든 레이어에서 분산 추론 인프라와 보안 적용의 필요성을 높입니다.

두 가지 발표는 모두 Akamai가 구축한 솔루션을 사용해야 하는 이유를 뒷받침합니다. Akamai의 네트워크, 데이터, 보안 포트폴리오, 분산 컴퓨팅 플랫폼은 이러한 발전의 위협을 받지 않습니다. Akamai는 이러한 발전에는 Akamai가 구축한 솔루션이 필요하다고 생각합니다. 발견된 새로운 취약점은 모두 패치가 배포될 때까지 프로덕션 환경에서 보호되어야 합니다. 프로덕션 환경에 배포되는 새로운 에이전트에는 모두 추론 컴퓨팅, 네트워크 패브릭, 보안 제어가 필요하며, 이를 모델 공급업체는 제공하지 않지만, Akamai는 제공합니다.

Akamai의 엣지 네트워크, 런타임 적용 기능, 분산 추론 인프라는 AI가 지원하는 것과 기업이 AI를 안전하게 대규모로 배포하는 데 필요한 것 사이의 가교 역할을 하도록 설계되었습니다. 지금 이 가교는 그 어느 때보다 중요합니다.

이 블로그 게시물에는 1933년 개정된 증권법 제27A항과 1934년 개정된 증권거래법 제21E항의 의미 내에 있는 미래 예측성 진술이 포함되어 있습니다. 이러한 진술에는 AI 에이전트 배포로 구동되는 Akamai 분산 인프라 및 보안 제품에 대한 예상 수요, Akamai Inference Cloud 및 보안 포트폴리오의 경쟁 우위, 기업의 매니지드 AI 에이전트 도입 예상 증가율, 제품 개발 및 시장 포지셔닝을 위한 계획 및 전략에 관한 진술이 포함되며 이에 국한되지 않습니다. “생각한다”, “할 것이다”, “예상된다”, “의도이다”와 유사 표현은 미래 예측성 진술을 식별하기 위한 것입니다. 이러한 진술은 현재 시점의 기대와 가정을 바탕으로 하며, 기업의 AI 에이전트 기술 도입 속도와 규모, AI 인프라 및 보안 서비스 분야의 경쟁 환경 변화, 제3자의 AI 기능 개발 속도, Akamai Inference Cloud 및 보안 제품의 고객 도입률, 진화하는 AI 관련 보안 위협에 대한 당사 제품의 효과, 전반적인 경제 및 시장 상황, 그리고 당사의 최신 10-K 양식 연례 보고서를 포함한 SEC 제출 서류에 기술된 기타 요인에 따른 리스크 및 불확실성으로 인해 실제 결과는 현저히 다를 수 있습니다. 당사는 본 게시일 이후의 사건이나 상황을 반영하기 위해 미래 예측성 진술을 업데이트할 의무를 지지 않습니다.