메인 콘텐츠로 건너뛰기
Background

AI 훈련과 AI 추론 비교

AI 훈련과 추론의 차이점을 이해하고, 추론이 왜 더 분산형 인프라 전략을 필요로 하는지 알아보세요.

비디오 요약

비디오 요약

[00:00–00:07] 훈련과 추론의 역할: 훈련은 AI 모델을 만들고, 추론은 실제 비즈니스 가치를 창출한다는 것을 설명합니다.

[00:07–00:20] 훈련 워크플로와 추론 워크플로 비교: 훈련(정적 데이터를 기반으로 모델 구축)과 추론(실시간 동적 트래픽에서 모델 실행)을 대조합니다.

[00:20–00:27] 추론을 위한 인프라 마인드셋: 실시간으로 이루어지고 연속적이라는 추론의 특성이 왜 별도의 인프라 전략을 필요로 하는지에 대해 알아봅니다.

[00:27–00:43] 중앙 집중형 인프라와 분산형 인프라의 비교: 훈련을 위한 중앙 집중형 GPU 클러스터와 추론을 위한 고도로 분산된 저지연 컴퓨팅을 비교합니다.

[00:43–00:59] 최적의 워크로드 실행: 코어, 지역, 엣지 위치에서 적절한 워크로드를 적절한 위치에서 실행하는 방법을 살펴봅니다.

공유

추가 리소스

AI, 애플리케이션, 에이전트를 위한 Akamai Cloud

Akamai는 온라인 비즈니스를 지원하고 보호하는 사이버 보안 및 클라우드 컴퓨팅 기업으로,

Akamai Cloud의 GPU

Akamai Cloud는 NVIDIA RTX PRO™ 6000 Blackwell Server Edition® GPU와 Quadro® RTX 라인의 다양한 GPU 옵션을 제공합니다.

실시간 AI를 위한 AI 추론 클라우드 플랫폼

분산형 클라우드, GPU 연산, 내장 보안 기능을 활용해 실시간 AI 애플리케이션 및 에이전트를 위해 사용자와 더 가까운 곳에서 AI 추론을 실행하세요.