Suchen Sie nach Akamai Inference Cloud? Entdecken Sie die Akamai Cloud. Suchen Sie nach Akamai Inference? Dann sind Sie hier genau richtig.
Übersicht
Nutzen Sie Open‑Weight-Modelle ohne Anbieterbindung oder GPU‑Verwaltung über eine OpenAI-kompatible API in der Akamai Cloud
Akamai Inference ist ein vollständig verwalteter Inferenzservice für die Ausführung von KI‑Modellen in der Produktion. Rufen Sie sie einfach über eine OpenAI-kompatible API auf, während sich Akamai GPUs, Bereitstellung, automatische Skalierung und Modell-Lebenszyklusmanagement kümmert. Verwenden Sie Serverless Inference mit Abrechnung nach Token, Dedicated Inference mit reservierten GPUs oder beides.
Warum sollten Sie Akamai Inference verwenden?
Profitieren Sie von der Agilität eines modernen Inferenzanbieters, ohne dabei Kontrolle abzugeben. Erstellen Sie die vollständige KI‑Anwendung, nicht nur den Modellaufruf, und skalieren Sie vom ersten Experiment bis hin zur Produktion – alles auf einer Plattform.
Funktionsweise
Nutzen Sie Akamai Inference für Ihre KI‑Anwendungsfälle
Greifen Sie schnell und einfach auf führende Open‑Weight-Modelle zu. Erfüllen Sie Ihre agentischen Anforderungen und vermeiden Sie gleichzeitig eine Anbieterbindung und hohe Tokenkosten. Führen Sie die Produktionsinferenz mit vorhersehbarer Performance und einem dedizierten, OpenAI-kompatiblen API‑Endpunkt durch – unterstützt durch eine GPU, die exklusiv für Sie reserviert ist.
Serverlos, dediziert oder beides
Finden Sie den richtigen Bereitstellungstyp für jede Workload. Nutzen Sie eine oder beide Optionen – von einem Anbieter und über dieselbe API.
Funktionen
KI‑Inferenzfunktionen für die Bereitstellung der neuesten Open‑Weight-Modelle
- Sorgfältig zusammengestellter Katalog führender Open‑Weight-Modelle, darunter Llama, Qwen und DeepSeek
- Dedicated Inference mit GPU‑Kapazität, die für einzelne Kunden reserviert ist
- Audit-Protokollierung für Steuerebenen-Vorgänge und Inferenzaufrufe (begrenzte Verfügbarkeit)
- OpenAI-kompatible API für eine nahtlose Integration
- Auswahl der Region und der GPU‑Konfiguration für dedizierte Endpoints
- Chat-Testumgebung zum Testen von Modellen
- Serverless Inference mit automatischer Skalierung, die nach Token abgerechnet wird
- Keine Datenaufbewahrung von Prompts und Antworten
- Verwaltung von API‑Schlüsseln
Anwendungsfälle
Anwendungsfälle für Akamai Inference
Führen Sie führende Open‑Weight-Modelle in der Produktion aus oder stellen Sie Ihre eigenen nutzerdefinierten und optimierten Modelle mit denselben Sicherheitsfunktionen und Kontrollen bereit. So erhalten Sie agile Inferenz von dem Anbieter, auf den Sie bereits vertrauen.
Wählen Sie aus den neuesten führenden Open‑Weight-Modellen und beginnen Sie mit Serverless Inference.
Serverless Inference bietet Zugang zu führenden Open‑Weight-Modellen über gemeinsam genutzte GPU‑Pools. Der Preis wird auf Tokenbasis berechnet, damit Sie nur für das zahlen, was Sie tatsächlich nutzen.
Nutzen Sie einen dedizierten, OpenAI-kompatiblen Modell-Endpoint.
Mit Dedicated Inference können Sie das Modell, die Region, die GPU‑Konfiguration und die Skalierung selbst wählen. Sie erhalten einen dedizierten, OpenAI-kompatiblen Modell-Endpoint, der ausschließlich für Sie reserviert ist.
Häufig gestellte Fragen (FAQ)
Häufig gestellte Fragen (FAQ)
Serverless Inference stellt Modelle über einen gemeinsamen Endpoint bereit, der automatisch skaliert wird, und wird pro Million Token abgerechnet. Diese Option eignet sich ideal für den Einstieg und für sprunghafte oder unvorhersehbare Workloads. Dedicated Inference bietet einen privaten Endpoint mit GPU‑Kapazität, die speziell für Sie reserviert ist – Region und GPU‑Konfiguration können Sie hierbei selbst wählen. Diese Option wird pro GPU‑Stunde abgerechnet. Sie eignet sich ideal für konstanten Produktionstraffic mit hohem Durchsatz. Sie können eine oder beide Optionen verwenden. Dedicated Inference ist nur begrenzt verfügbar.
Der Modellkatalog enthält führende Open‑Weight-Modelle und wird ständig erweitert, wenn neue Modelle veröffentlicht werden.
Während der Betaphase fällt keine Gebühr an. Wenn die Abrechnung bei begrenzter Verfügbarkeit beginnt, wird der Preis für Serverless Inference pro Million Eingabe- und Ausgabetoken berechnet. Dedicated Inference wird pro GPU‑Stunde und minutenweise abgerechnet, solange ein Endpoint bereitgestellt wird, einschließlich Leerlaufzeit.
Nein Akamai Inference führt keine Datenaufbewahrung durch – Prompts und Antworten werden also nicht gespeichert oder für das Modelltraining verwendet.
Ja. Akamai Inference verwendet eine OpenAI-kompatible API, sodass die meisten Anwendungen, die für die OpenAI‑API entwickelt wurden, wechseln können. Sie müssen hierfür einfach nur die Basis‑URL und den API‑Schlüssel anpassen und ein Modell aus dem Akamai Inference-Katalog auswählen. (Die Unterstützung für spezifische API‑Funktionen, wie z. B. Toolaufruf oder strukturierte Ausgaben, kann je nach Modell variieren.)
Serverless Inference ist ein Bereitstellungsmodell, bei dem Sie KI‑Modelle über einen gemeinsam genutzten Endpoint aufrufen, der automatisch skaliert wird. Sie zahlen nur für die Token, die Sie verbrauchen, ohne dass Sie die zugrunde liegende GPU‑Infrastruktur bereitstellen, verwalten oder warten müssen.
Ein Open‑Weight-Modell ist ein Modell, dessen Trainingsgewichtungen veröffentlicht werden, sodass jeder das Modell herunterladen, ausführen und optimieren kann. Beispiele sind Lama, Qwen und DeepSeek.
Melden Sie sich für die Betaversion von Serverless Inference an
Fordern Sie Zugriff auf die Betaversion von Serverless Inference an.
- Erhalten Sie schnellen und einfachen Zugang zum Inferenzservice.
- Führen Sie Open‑Weight-Modelle in der Akamai Cloud aus.
- Ersparen Sie sich die Bereitstellung und Verwaltung der GPU‑Infrastruktur.
- Erstellen Sie latenzempfindliche Echtzeit-KI‑Anwendungen und -Agenten.
