Vous recherchez Akamai Inference Cloud ? Découvrez Akamai Cloud. Vous recherchez Akamai Inference ? Vous êtes au bon endroit.
Présentation
Utilisez des modèles open-weight sans dépendre d'un fournisseur ni gérer de GPU, grâce à une API compatible avec OpenAI sur Akamai Cloud
Akamai Inference est un service d'inférence entièrement géré, conçu pour exécuter des modèles d'IA en production. Appelez-les via une API compatible avec OpenAI, tandis qu'Akamai gère les GPU, le service, l'ajustement automatique et la gestion du cycle de vie des modèles. Utilisez l'inférence serverless facturée au jeton, l'inférence dédiée avec des GPU réservés, ou les deux.
Pourquoi choisir Akamai Inference ?
Bénéficiez de l'agilité d'un fournisseur d'inférence avancé sans saper la confiance de votre entreprise. Développez l'application d'IA dans son intégralité, pas seulement l'appel au modèle. Passez de votre premier essai à la production sur une seule et même plateforme.
Fonctionnement
Donnez vie à votre vision avec Akamai Inference
Accès rapide et facile aux principaux modèles open-weight. Répondez à vos besoins en matière d'agents tout en évitant la dépendance envers un fournisseur unique et les coûts élevés liés aux jetons. Exécutez vos inférences de production avec des performances prévisibles grâce à un point de terminaison d'API dédié, compatible avec OpenAI, et soutenu par une capacité GPU réservée exclusivement pour vous.
Serverless, dédié ou les deux
Choisissez le type de déploiement adapté à chaque charge de travail. Utilisez un ou les deux services du fournisseur, via la même API.
Caractéristiques
Fonctionnalités d'inférence d'IA pour le déploiement des derniers modèles open-weight
- Catalogue des principaux modèles open-weight, notamment Llama, Qwen et DeepSeek
- Inférence dédiée sur les capacités GPU réservée à un seul client
- Journalisation d'audit pour les opérations du plan de contrôle et les appels d'inférence (disponibilité limitée)
- API compatible avec OpenAI pour une intégration simplifiée
- Choix de la région et de la configuration GPU pour les points de terminaison dédiés
- Espace de discussion pour le test des modèles
- Inférence serverless facturée par jeton avec ajustement automatique
- Aucune conservation des données relatives aux prompts et aux réponses
- Gestion de la clé d'API
Cas d'utilisation
Cas d'utilisation d'Akamai Inference
Exécutez les principaux modèles open-weight en production ou déployez vos propres modèles personnalisés et optimisés, tout en bénéficiant des mêmes niveaux de sécurité et de contrôle. L'agilité d'inférence dont vous avez besoin, offerte par un fournisseur en qui vous avez déjà confiance.
Choisissez parmi les derniers modèles open-weight de pointe et commencez à utiliser l'inférence serverless.
L'inférence serverless propose les meilleurs modèles open-weight sur des pools de GPU partagés. Vous payez à l'utilisation, selon un système de tarification au jeton.
Exécutez un point de terminaison de modèle dédié, compatible avec OpenAI.
L'inférence dédiée vous permet de choisir le modèle, la région, la configuration GPU et l'échelle. Vous bénéficiez d'un point de terminaison de modèle dédié, compatible avec OpenAI, réservé uniquement à votre usage.
Foire aux questions (FAQ)
Foire aux questions (FAQ)
L'inférence serverless permet d'utiliser des modèles via un point de terminaison partagé à ajustement automatique, avec un tarif calculé en fonction du nombre de millions de jetons traités. Elle est conçue pour permettre une prise en main rapide et pour gérer des charges de travail imprévisibles. L'inférence dédiée propose un point de terminaison privé sur une capacité GPU réservée exclusivement à un seul client, dans la région et la configuration GPU de votre choix, avec un tarif calculé en fonction de la durée d'utilisation du GPU. Elle est conçue pour gérer un trafic de production constant à volume élevé. Vous pouvez utiliser l'une ou l'autre, ou les deux. L'inférence dédiée présente une disponibilité limitée.
Le catalogue de modèles comprend les principaux modèles open-weight. Il s'enrichira au fil du temps, avec l'ajout de nouveaux modèles dès leur sortie.
Il n'y a aucuns frais pendant la phase bêta. Lorsque la facturation démarre en disponibilité limitée, le prix de l'inférence serverless sera calculé en fonction du nombre de jetons d'entrée et de sortie, par million. L'inférence dédiée sera facturée selon la durée d'utilisation du GPU, avec une tarification à la minute pour toute la durée de mise à disposition d'un point de terminaison, y compris pendant les périodes d'inactivité.
Non. Akamai Inference ne conserve aucune donnée, ce qui signifie que les prompts et les réponses ne sont ni stockés ni utilisés pour l'entraînement des modèles.
Oui. Akamai Inference utilise une API compatible avec OpenAI, ce qui permet à la plupart des applications conçues pour l'API OpenAI de basculer simplement en modifiant l'URL de base et la clé d'API, et en sélectionnant un modèle dans le catalogue d'Akamai Inference. (Certaines fonctionnalités d'API, telles que l'appel d'outils ou les sorties structurées, peuvent ne pas être prises en charge selon le modèle.)
L'inférence serverless est un modèle de déploiement qui permet d'appeler des modèles d'IA via un point de terminaison partagé à ajustement automatique. Vous payez uniquement pour les jetons que vous utilisez, sans avoir à vous soucier de l'approvisionnement, de la gestion ou de la maintenance de l'infrastructure GPU sous-jacente.
Un modèle open-weight est un modèle dont les poids entraînés ont été rendus publics, permettant ainsi à n'importe qui de lee télécharger, de les utiliser et de les ajuster selon ses besoins. Citons par exemple Llama, Qwen et DeepSeek.
Inscrivez-vous à la version bêta de Serverless Inference.
Demandez l'accès à la version bêta de Serverless Inference.
- Découvrir comment accéder rapidement et facilement à un service d'inférence
- Exécuter des modèles open-weight sur Akamai Cloud
- Éliminer la nécessité de configurer et de gérer une infrastructure GPU
- Développer des applications et des agents d'IA en temps réel et sensibles à la latence
