[00:00–00:21] データ移動の隠れたコスト：Swapnil Bhartiya氏が、AIを本番環境に移行する際に想定外の負担となるエグレス（出方向の通信）コストをトピックとして提示します。集中型推論コストのうちどの程度がデータの移動に起因するか、そして組織としてその費用をどのように計画できるかについて問いかけます。
[00:22–01:07] AI関連支出のモデリング：Ari Weilが、今後12〜36か月の間に、成功を収める企業は、ハイパースケーラーが強調する個別の料金項目ではなく、費用全体をモデル化することになるだろうと話します。そのためには、ユーザーの獲得状況、同時処理性能、知的財産や外部学習データの正確な場所の把握など、規模の変数について理解する必要があると説明します。
[01:08–01:40] 社内インフラとクラウドインフラの比較：同氏は、クラウドプロバイダーを使用する代わりに、リース利用のスペースやプライベート・データセンターなど自身の環境内でデータを管理するコストを計算することが、チームとして取るべき最初のステップだと提案します。このプロセスを通じて、データの境界や可用性ゾーン、そしてさまざまな種類のインフラ間に分散した場合の財務的影響を特定できます。
[01:41-02:24] クラウドエグレスがもたらす経済的障壁：また、データのエクスポートやクラウドパートナーシップの終了に伴う高額のコストについても説明しています。1ギガバイトあたり9～12セントという料金が、ハイパースケーラー・プラットフォーム内にデータをロックインするために意図的に設定されていると指摘します。一部のベンダーについては、そのプロバイダーのクラウドから完全に撤退する意図があれば、一度限りのデータダウンロード免除措置を提供するだろうとも述べています。
[02:25–03:15] 中立的アーキテクチャへの移行：話題は中立的なアーキテクチャに移行します。これによれば、データを1つの場所に保存し、異なる領域間で同期して、最も合理的な場所でデータを提供することが可能になります。統合型のコア・エッジ間アーキテクチャは、初期には高額に感じるかもしれないが、複数のマイクロサービス間で地理的な境界を越えてデータを移動するコストを排除すれば、コスト上のメリットが得られると、Weilが指摘します。
[03:16–03:48] ワークロード配置の決定：さらに、アーキテクチャ戦略を最終決定するためには、推論が実行される場所、トレーニングや微調整の頻度、その他のアプリケーションの実行場所を、組織が正確に決定する必要があると説明します。運用に関する知見とユーザーの成長モデリングを組み合わせることで、チームはアプリケーションのどの部分を集中管理する必要があるか、どの部分を分散処理するべきかを正確に判断できます。