Akamai Inference Cloud를 찾고 계신가요? Akamai Cloud를 살펴보세요. Akamai Inference를 찾고 계신가요? 잘 찾아오셨습니다.
개요
Akamai Cloud에서 OpenAI 호환 API를 통해 공급업체 종속이나 GPU 관리 부담 없이 가중치가 공개된 모델을 활용하세요
Akamai Inference는 프로덕션 환경에서 AI 모델을 실행하기 위한 완전 관리형 추론 서비스입니다. OpenAI 호환 API를 통해 모델을 호출하면, Akamai가 GPU, 서빙, 자동 확장, 모델 수명 주기 관리를 담당합니다. 토큰 단위로 과금되는 Serverless Inference와 예약된 GPU를 사용하는 Dedicated Inference 중 하나를 선택하거나 두 방식을 함께 사용하세요.
Akamai Inference를 사용해야 하는 이유는 무엇인가요?
기업이 요구하는 신뢰성과 최신 추론 서비스의 민첩성을 함께 확보하세요. 모델 호출을 넘어 완전한 AI 애플리케이션을 구축하세요. 하나의 플랫폼에서 초기 실험부터 프로덕션 운영까지 확장해 나가세요.
작동 방식
Akamai Inference로 AI 역량을 강화하세요
가중치가 공개된 주요 모델에 빠르고 간편하게 접속하세요. 공급업체 종속과 높은 토큰 비용 부담 없이 에이전틱 AI 요구사항을 충족하세요. 고객만을 위해 예약된 GPU 용량을 기반으로, 예측 가능한 성능과 전용 OpenAI 호환 API 엔드포인트를 활용해 프로덕션 환경에서 추론을 실행하세요.
Serverless와 Dedicated 중 선택하거나 함께 사용
각 워크로드에 적합한 배포 유형을 선택하세요. 동일한 공급업체와 API를 통해 하나의 방식만 사용하거나 두 방식을 함께 사용하세요.
기능
가중치가 공개된 최신 모델을 배포하기 위한 AI 추론 기능
- Llama, Qwen, DeepSeek 등 가중치가 공개된 주요 모델을 엄선한 카탈로그
- 단일 고객을 위해 예약된 GPU 용량에서 실행되는 Dedicated Inference
- 컨트롤 플레인 작업 및 추론 호출에 대한 감사 로깅(제한적 제공)
- 기존 환경에 간편하게 통합할 수 있는 OpenAI 호환 API
- 전용 엔드포인트의 리전 및 GPU 설정 선택
- 모델 테스트를 위한 채팅 공간
- 자동 확장을 지원하고 토큰 단위로 과금되는 Serverless Inference
- 프롬프트 및 응답 미보관
- API 키 관리
사용 사례
Akamai Inference 사용 사례
가중치가 공개된 주요 모델을 프로덕션 환경에서 실행하거나, 동일한 보안과 제어 기능을 적용해 자체 맞춤형 모델과 파인튜닝한 모델을 배포하세요. 이미 신뢰하는 공급업체를 통해 추론 서비스를 민첩하게 활용하세요.
가중치가 공개된 최신 주요 모델 중 하나를 선택하고 Serverless Inference로 시작하세요.
Serverless Inference는 공유 GPU 풀에서 가중치가 공개된 주요 모델을 제공합니다. 사용한 토큰 수에 따라 요금을 지불합니다.
전용 OpenAI 호환 모델 엔드포인트를 운영하세요.
Dedicated Inference에서는 모델, 리전, GPU 설정, 규모를 선택할 수 있습니다. 고객만을 위해 예약된 전용 OpenAI 호환 모델 엔드포인트가 제공됩니다.
자주 묻는 질문(FAQ)
자주 묻는 질문(FAQ)
Serverless Inference는 자동으로 확장되는 공유 엔드포인트를 통해 모델을 제공하며, 토큰 100만 개 단위로 요금이 책정됩니다. 처음 도입할 때나 사용량이 일시적으로 급증하거나 예측하기 어려운 워크로드에 적합하도록 설계되었습니다. Dedicated Inference는 고객이 선택한 리전과 GPU 설정으로, 단일 고객을 위해 예약된 GPU 용량에서 프라이빗 엔드포인트를 제공합니다. 요금은 GPU당 시간 단위로 책정됩니다. 대규모 트래픽이 꾸준히 발생하는 프로덕션 환경에 적합하도록 설계되었습니다. 하나의 방식만 사용하거나 두 방식을 함께 사용할 수 있습니다. Dedicated Inference는 제한적으로 제공될 예정입니다.
모델 카탈로그에는 가중치가 공개된 주요 모델이 포함되어 있습니다. 카탈로그는 계속 확장되며, 새로운 모델이 출시되면 추가됩니다.
베타 기간에는 요금이 부과되지 않습니다. 제한적 제공 단계에서 과금이 시작되면 Serverless Inference에는 인풋 및 아웃풋 토큰 100만 개 단위로 요금이 부과됩니다. Dedicated Inference는 GPU당 시간 요금을 기준으로 하며, 엔드포인트가 프로비저닝된 동안에는 유휴 시간을 포함해 분 단위로 과금됩니다.
아니요. Akamai Inference는 데이터 무보관 정책을 적용하므로 프롬프트와 응답을 저장하거나 모델 학습에 사용하지 않습니다.
네. Akamai Inference는 OpenAI 호환 API를 사용하므로, OpenAI API용으로 구축된 대부분의 애플리케이션은 기본 URL과 API 키를 변경하고 Akamai Inference 카탈로그에서 모델을 선택하면 전환할 수 있습니다. (툴 호출이나 구조화된 출력 등 특정 API 기능의 지원 여부는 모델에 따라 다를 수 있습니다.)
Serverless Inference는 자동으로 확장되는 공유 엔드포인트를 통해 AI 모델을 호출하는 배포 모델입니다. 기반 GPU 인프라를 프로비저닝하거나 관리 및 유지보수할 필요 없이, 사용한 토큰에 대해서만 요금을 지불합니다.
학습된 가중치를 일반에 공개해 누구나 다운로드하고 실행하며 파인튜닝할 수 있는 모델을 말합니다. 대표적인 예로는 Llama, Qwen, DeepSeek이 있습니다.
Serverless Inference 베타 프로그램 신청
Serverless Inference 베타 참여를 신청하세요.
- 추론 서비스에 빠르고 간편하게 접속하세요
- Akamai Cloud에서 가중치가 공개된 모델 실행
- GPU 인프라를 프로비저닝하고 관리할 필요 해소
- 지연 시간에 민감한 실시간 AI 앱과 에이전트 개발
