* プロモーションの引き換えに関する規則と条件をご覧ください
ビデオの概要
ビデオの概要
[00:00–00:07] トレーニングと推論の役割:トレーニングはAIモデルを構築し、推論は実際のビジネス価値を生み出します
[00:07–00:20] トレーニングと推論のワークフローの違い:トレーニングは静的なデータからモデルを構築するのに対し、推論はリアルタイムの動的なトラフィックでモデルを動作させます
[00:20–00:27] 推論に適したインフラの考え方:推論はリアルタイムで継続的に行われるため、固有のインフラ戦略が必要です
[00:27–00:43] 集約型インフラと分散型インフラ:トレーニングには集約型のGPUクラスター、推論にはレイテンシーの影響を受けやすい高度に分散されたコンピューティングリソースが使用されます
[00:43–00:59] 最適なワークロード実行:コア、リージョン、エッジロケーションの適切な場所で適切なワークロードを実行することが重要です