Akamai는 LayerX를 인수하여 모든 브라우저에서 엔드투엔드 보안과 실시간 AI 사용 제어 기능을 제공합니다. 자세한 정보
Background

최고 수준의 AI 성능은 속도에 최적화된 클라우드에서 시작됩니다

어디서나 추론 속도를 높이고, 비용을 절감하며, AI 앱을 확장하세요

속도를 고려해 설계된 클라우드로 AI 워크로드를 이전하세요.

분산 컴퓨팅은 모델과 사용자 간의 물리적 거리를 없애 앱의 응답 속도를 크게 높입니다.

AI가 엣지로 이동하고 있습니다. Akamai는 이미 그곳에 있습니다.

예측 가능한 가격과 통합 보안 기능을 갖춘 개발자 친화적인 개방형 플랫폼에서 AI 애플리케이션을 더 빠르게 구축, 배포, 확장하세요.

분산 클라우드 기반 GPU

분산 인프라 기반의 강력한 NVIDIA Blackwell GPU가 실시간 AI 성능을 제공합니다.

초고속 AI 추론

중앙 집중식 클라우드의 지연을 해소해 에이전트의 지연 시간을 50밀리초 미만으로 낮추고 처리량을 3배 높이세요.

확장성 있는 내장형 보안 기능

내장형 제로 트러스트 보안 기능과 DDoS 방어 기능을 통해 프롬프트 인젝션과 데이터 유출을 방지하세요.

검증된 결과

분산 클라우드에 배포해 지연 시간을 최대 60% 줄이고 비용도 크게 절감할 수 있습니다.

AI 추론 현황: AI의 50%가 수요 급증 시 제대로 작동하지 않음

지연 시간 한계의 근거가 되는 데이터와, 기업이 분산 컴퓨팅을 활용해 프로덕션 AI ROI를 높이는 방법을 알아보세요.

New AI survey: Inference breaks the latency wall
New AI survey: Inference breaks the latency wall

AI 추론 현황: AI의 50%가 수요 급증 시 제대로 작동하지 않음

지연 시간 한계의 근거가 되는 데이터와, 기업이 분산 컴퓨팅을 활용해 프로덕션 AI ROI를 높이는 방법을 알아보세요.

다음 단계

분산형 AI 추론의 필요성

AI 인프라 환경의 변화는 이제 병목 현상이 단순한 컴퓨팅 성능이 아닌 추론 배치 과정에서 발생한다는 것을 보여줍니다.

베타 테스트 결과 확인하기

Harmonic은 Akamai의 GPU를 활용해 실시간 8K 비디오를 제공하고, 지연 시간을 60%, 비용을 86% 절감했습니다.

최신 NVIDIA GPU 확인하기

분산 AI 추론에 최적화된 NVIDIA RTX PRO™ 6000 Blackwell GPU를 이용하세요.

자주 묻는 질문(FAQ)

자주 묻는 질문(FAQ)

기존 클라우드 아키텍처는 대부분 중앙 집중식으로, 일반 사용자와 멀리 떨어진 소수의 대규모 데이터 센터에 의존합니다. AI 앱이 중앙 집중식 환경에서 실행되면 모든 요청이 수백 또는 수천 마일 떨어진 곳까지 갔다가 다시 돌아와야 합니다. 이러한 장거리 왕복 과정에서 물리적 지연 시간이 발생합니다. 음성 비서나 챗봇 같은 실시간 애플리케이션에서는 100밀리초의 지연만으로도 상호 작용이 부자연스럽고 어색하게 느껴질 수 있습니다. 

사실 대개는 인프라 비용이 낮아집니다. 중앙 집중식 클라우드에서는 데이터를 생태계 외부로 이동시킬 때 높은 이그레스 비용을 부과하는 경우가 많습니다. 기존 클라우드 공급업체에 비해 엣지 아키텍처는 이러한 비용을 최소화합니다.

네. Akamai는 특정 용도에 맞게 미세 조정된 모델부터 대규모 워크로드를 처리하기 위한 맞춤형 전용 클러스터를 구축하는 경우까지, 다양한 크기의 모델을 실행할 수 있는 유연성을 제공합니다.

보안 기능이 Akamai의 분산형 패브릭에 내장되어 있습니다. 추론이 사용자와 더욱 가까운 곳에서 이루어지기 때문에, 민감한 데이터를 퍼블릭 인터넷을 통해 원격 데이터 센터로 전송할 필요가 거의 없습니다. Akamai는 AI 기반의 DDoS 방어 기능과 제로 트러스트 보안 기술을 결합해 모델과 사용자를 모두 보호합니다.

중앙 집중식 클라우드는 실시간 AI에 적합하지 않습니다. GPU 성능을 사용자에게 더 가까운 곳에서 누리려면 혁신이 필수적입니다. 그래야 밀리초 단위의 응답을 구현하고, 고성능 확장을 빠르고 안전하며 비용 효율적으로 유지할 수 있습니다.

Talk to architects and engineers who have done this before.

Akamai에 문의

이런 작업을 수행한 경험이 있는 아키텍트 및 엔지니어와 상담하세요. 프로덕션 환경에서 AI를 실행하는 데 도움을 드리겠습니다.

최고 수준의 AI 성능은 속도에 최적화된 클라우드에서 시작됩니다