メインコンテンツにスキップ
Background

Akamai Inference

企業が信頼するプロバイダーを通じて、GPUやインフラ管理が不要のオープンウェイトAIモデルを本番環境で実行

Akamai Inference Cloudをお探しですか? Akamai Cloudをご確認ください。 Akamai Inferenceをお探しですか?お探しのページはこちらです。

概要

Akamai Cloud上でOpenAI互換APIを使用することで、ベンダーロックインやGPU管理なしでオープンウェイトモデルを利用できます

Akamai Inferenceは、本番環境でAIモデルを実行するためのフルマネージド型推論サービスです。AkamaiがGPU、サービング、自動スケーリング、モデルのライフサイクル管理を担うため、ユーザーはOpenAI互換APIでモデルを呼び出すだけで利用できます。トークン単位の従量課金制であるServerless Inference、ユーザー専用に確保されたGPUを備えるDedicated Inference、またはその両方を使用します。

Akamai Inferenceが選ばれる理由

企業の信頼を維持しながら、最新の推論プロバイダーのアジリティを手に入れましょう。モデルの呼び出しだけでなく、AIアプリケーション全体を構築します。単一のプラットフォーム上で、最初の実験から本番環境まで拡張します。

トレードオフのないアジリティと企業の信頼性

クラウド、セキュリティ、配信において企業が信頼を寄せているプロバイダーから、データ保持ゼロの最先端のオープンウェイトモデルを迅速に入手できます。

モデルエンドポイントを超える

Akamai Inferenceとともに、コンピューティング、ストレージ、Kubernetesを使用して、Akamai Cloud上でモデルを呼び出すエージェントやアプリケーションを構築できます。

プロトタイプから本番環境まで、単一のプロバイダーで完結

ベンダーの切り替え、コードの書き換え、調達の繰り返しを行うことなく、最初の実験段階から企業規模の本番環境での運用まで段階的に拡張できます。

仕組み

Akamai Inferenceを使用してインテリジェンスを強化

主要なオープンウェイトモデルにすばやく簡単にアクセスできます。ベンダーロックインや高額なトークンコストを回避しながら、エージェントのニーズに対応します。ユーザー専用のGPUキャパシティを備えた、専用のOpenAI互換APIエンドポイントを活用して、予測可能なパフォーマンスで本番環境の推論を実行します。

選ぶ

拡張し続けるモデルカタログからオープンウェイトモデルを選択します。

呼び出す

アプリケーションの接続先をOpenAI互換のエンドポイントに設定します。既存のOpenAIコードは、ベースURLとAPIキーを変更することで機能します。

スケーリングする

サーバーレスのキャパシティを需要に応じて自動スケーリングするか、安定した大容量トラフィック向けの専用GPUを予約します。

Serverless、Dedicated、またはその両方

各ワークロードに最適な導入タイプをお選びください。同じプロバイダーから、同じAPIを介して、片方または両方を利用できます。

突発的なAIワークロード向けのServerless Inference

共有の自動スケーリング推論エンドポイントを介して、オープンウェイトモデルを呼び出します。100万トークンあたりの従量課金制で、プロビジョニングや管理を行うGPUインフラは不要です。

安定した大容量トラフィック向けのDedicated Inference

選択したリージョンおよびGPU設定で、ユーザー専用に確保されたGPUキャパシティ上のプライベートエンドポイントを利用できます。こちらは限定提供となります。

特長

最新のオープンウェイトモデルを展開するためのAI推論機能

  • Llama、Qwen、DeepSeekなど、主要なオープンウェイトモデルを厳選したカタログ
  • 単一のユーザー専用に確保されたGPUキャパシティ上のDedicated Inference
  • コントロールプレーンの操作および推論呼び出しの監査ログ(限定的に提供中)
  • ドロップイン統合向けのOpenAI互換API
  • 専用エンドポイント向けのリージョンおよびGPU設定の選択肢
  • モデル検証用のチャットプレイグラウンド
  • 自動スケーリングを備えたトークン単位の従量課金制Serverless Inference
  • プロンプトと応答のデータ保持ゼロ
  • APIキーの管理
ユースケース

Akamai Inferenceのユースケース

主要なオープンウェイトモデルを本番環境で実行したり、同じセキュリティと制御機能を備えた独自のカスタムモデルや微調整済みモデルを展開したりできます。すでに信頼を寄せているプロバイダーから、必要な推論のアジリティを得ることができます。

最新の主要なオープンウェイトモデルから選択してServerless Inferenceを開始できます。

Serverless Inferenceは、共有GPUプール上で主要なオープンウェイトモデルを提供します。使用した分だけ支払うトークン単位の従量課金制です。

専用のOpenAI互換モデルエンドポイントを利用できます。

Dedicated Inferenceでは、モデル、リージョン、GPU設定、およびスケールを選択できます。ユーザー専用に確保されたOpenAI互換モデルエンドポイントが提供されます。

よくある質問(FAQ)

よくある質問(FAQ)

Akamai Inferenceは、本番環境でオープンウェイトAIモデルを実行するためのフルマネージド型推論サービスです。OpenAI互換APIを介してモデルを呼び出すと、AkamaiがGPUインフラ、サービング、自動スケーリング、モデルのライフサイクル管理を一括して処理します。「Serverless Inference」と「Dedicated Inference」の2つの導入タイプを提供しています。

Serverless Inferenceは、共有の自動スケーリングエンドポイントを介してモデルにサービスを提供し、100万トークン単位で課金されます。初めての導入や、突発的で予測不能なワークロード向けに設計されています。Dedicated Inferenceは、選択したリージョンおよびGPU設定において、単一のユーザー専用に確保されたGPUキャパシティ上のプライベートエンドポイントを提供し、GPU時間単位で課金されます。安定した大容量の本番環境トラフィック向けに設計されています。どちらか一方、または両方を使用できます。なお、Dedicated Inferenceは限定提供となります。

モデルカタログには、主要なオープンウェイトモデルが含まれています。カタログは順次拡充され、新しいモデルがリリースされ次第追加されます。

ベータ期間中は無料でご利用いただけます。限定提供の開始とともに請求が始まると、Serverless Inferenceは入力および出力の100万トークンごとに課金されます。Dedicated Inferenceの料金はGPU時間単位で設定され、エンドポイントがプロビジョニングされている間(アイドル時間を含む)は、1分単位で課金されます。

いいえ。Akamai Inferenceではデータ保持を行わないため、プロンプトや応答が保存されたり、モデルのトレーニングに使用されたりすることはありません。

はい。Akamai InferenceではOpenAI互換APIを使用しているため、OpenAI API向けに構築されたほとんどのアプリケーションは、ベースURLとAPIキーを変更し、Akamai Inferenceカタログからモデルを選択するだけで切り替えることができます。(ツール呼び出しや構造化出力など、特定のAPI機能のサポートは、モデルによって異なる場合があります。)

Serverless Inferenceは、共有の自動スケーリングエンドポイントを介してAIモデルを呼び出す導入モデルです。基盤となるGPUインフラをプロビジョニング、管理、または保守する必要なく、消費したトークンに対してのみ料金を支払います。

オープンウェイトモデルとは、トレーニングを受けたウェイトが一般に公開されているモデルで、誰でもダウンロード、実行、微調整ができます。例として、Llama、Qwen、DeepSeekなどがあります。

Serverless Inferenceベータ版に登録する

Serverless Inferenceベータ版へのアクセス権をリクエストいただけます。

  • 推論サービスに迅速かつ容易にアクセスできます
  • Akamai Cloud上でオープンウェイトモデルを実行できます
  • GPUインフラのプロビジョニングや管理が不要になります
  • レイテンシーの影響を受けやすいリアルタイムAIアプリやエージェントを構築できます