メインコンテンツにスキップ
Background

AIトレーニングとAI推論

AIトレーニングとAI推論の違い、推論にはより分散型のインフラ戦略が必要である理由をご説明します。

ビデオの概要

ビデオの概要

[00:00–00:07] トレーニングと推論の役割:トレーニングはAIモデルを構築し、推論は実際のビジネス価値を生み出します

[00:07–00:20] トレーニングと推論のワークフローの違い:トレーニングは静的なデータからモデルを構築するのに対し、推論はリアルタイムの動的なトラフィックでモデルを動作させます

[00:20–00:27] 推論に適したインフラの考え方:推論はリアルタイムで継続的に行われるため、固有のインフラ戦略が必要です

[00:27–00:43] 集約型インフラと分散型インフラ:トレーニングには集約型のGPUクラスター、推論にはレイテンシーの影響を受けやすい高度に分散されたコンピューティングリソースが使用されます

[00:43–00:59] 最適なワークロード実行:コア、リージョン、エッジロケーションの適切な場所で適切なワークロードを実行することが重要です

共有

その他のリソース

Akamai Cloudを、AI、アプリケーション、エージェントに活用

Akamaiは、オンラインビジネスの力となり、守るサイバーセキュリティおよびクラウドコンピューティング企業です。

Akamai CloudのGPU

Akamai CloudはNVIDIA RTX PRO™ 6000 Blackwell Server Edition® GPUとQuadro® RTXラインの複数のGPUオプションを提供しています。

AI Inference Cloud Platform for Real-Time AI

分散型クラウド、GPUコンピューティング、および組み込み型セキュリティを活用し、ユーザーの近くでAI推論を実行することで、リアルタイムAIアプリケーションやエージェントの提供を実現します。