Procurando pela Akamai Inference Cloud? Descubra a Akamai Cloud. Procurando pela Akamai Inference? Você veio à página certa.
Visão geral
Utilize modelos de pesos abertos sem dependência de fornecedor nem gerenciamento de GPU por meio de uma API compatível com a OpenAI na Akamai Cloud
O Akamai Inference é um serviço de inferência totalmente gerenciado para a execução de modelos de IA em produção. Acesse os modelos por meio de uma API compatível com a OpenAI, enquanto a Akamai gerencia as GPUs, a disponibilização dos modelos, o dimensionamento automático e o gerenciamento do ciclo de vida dos modelos. Use a Serverless Inference com cobrança por token, a inferência dedicada com GPUs reservadasou ambas as opções.
Por que usar a Akamai Inference?
Obtenha a agilidade de um provedor de inferência moderno sem abrir mão da confiança corporativa. Desenvolva a aplicação de IA completa, não apenas a chamada ao modelo. Desenvolva seu projeto desde o primeiro experimento até a produção em uma única plataforma.
Como funciona
Use o Akamai Inference para potencializar sua inteligência
Acesso rápido e fácil aos principais modelos de pesos abertos. Atenda às suas necessidades de agentes, evitando a dependência de um único fornecedor e os altos custos dos tokens. Execute inferências em produção com desempenho previsível e um endpoint de API dedicado e compatível com a OpenAI, com capacidade de GPU reservada exclusivamente para você.
Sem servidor, dedicado ou ambos
Associe cada workload ao tipo de implantação adequado. Use um ou ambos os serviços do mesmo provedor, através da mesma API.
Recursos
Recursos de inferência de IA para a implantação dos modelos de pesos abertos mais recentes
- Catálogo selecionado dos principais modelos de pesos abertos, incluindo Llama, Qwen e DeepSeek
- Inferência dedicada na capacidade da GPU reservada para um único cliente
- Registro de auditoria para operações do plano de controle e chamadas de inferência (disponibilidade limitada)
- API compatível com a OpenAI para integração direta
- Escolha da região e configuração da GPU para endpoints dedicados
- Ambiente de chat para testar modelos
- Serverless Inference com pagamento por token e dimensionamento automático
- Não armazenamos dados de prompts e respostas
- Gerenciamento de chave API
Casos de uso
Casos de uso do Akamai Inference
Execute os principais modelos de pesos abertos em ambiente de produção ou implemente seus próprios modelos personalizados e otimizados com a mesma segurança e os mesmos controles. A agilidade na inferência que você precisa, com o fornecedor no qual você já confia.
Escolha entre os mais recentes modelos de pesos abertos de ponta e comece a usar a Serverless Inference.
O Serverless Inference oferece os principais modelos de pesos abertos em conjuntos compartilhados de GPUs. Você paga por token, de acordo com o que usar.
Execute um endpoint de modelo dedicado e compatível com a OpenAI.
A inferência dedicada permite que você escolha o modelo, a região, a configuração da GPU e a escala. Você recebe um endpoint de modelo dedicado e compatível com a OpenAI, reservado exclusivamente para você.
Perguntas frequentes (FAQ)
Perguntas frequentes (FAQ)
A inferência sem servidor disponibiliza modelos por meio de um endpoint compartilhado e com dimensionamento automático, e o preço é cobrado por milhão de tokens. Foi projetado para facilitar o início de atividades e para lidar com workloads intensos ou imprevisíveis. A inferência dedicada oferece um endpoint privado com capacidade de GPU reservada para um único cliente, na região e na configuração de GPU de sua escolha, e o preço é cobrado por hora de GPU. Foi feita para lidar com um tráfego de produção constante e de alto volume. Você pode usar uma ou ambas. A inferência dedicada terá disponibilidade limitada.
O catálogo de modelos de pesos inclui os principais modelos abertos. O catálogo será expandido e novos modelos serão adicionados assim que forem lançados.
Não há cobrança durante o período de testes. Quando a cobrança começar, na fase de disponibilidade limitada, a Serverless Inference será cobrada por milhão de tokens de entrada e de saída. A inferência dedicada será cobrada por hora de GPU, com faturamento por minuto enquanto o endpoint estiver provisionado, inclusive durante períodos de inatividade.
Não. A Akamai Inference não armazena dados, portanto, os prompts e respostas não são guardadas nem utilizadas para treinar modelos.
Sim. A Akamai Inference utiliza uma API compatível com a OpenAI, portanto, a maioria das aplicações desenvolvidas para a API da OpenAI pode ser adaptada simplesmente alterando a URL base e a chave da API e selecionando um modelo do catálogo da Akamai Inference. (O suporte a recursos específicos da API, como chamadas de ferramentas ou saídas estruturadas, pode variar conforme o modelo.)
A Serverless Inference é um modelo de implantação no qual você chama modelos de IA por meio de um endpoint compartilhado e com dimensionamento automático. Você paga apenas pelos tokens que utiliza, sem precisar provisionar, gerenciar ou manter a infraestrutura de GPU subjacente.
Um modelo de pesos abertos é um modelo cujos pesos treinados são divulgados publicamente, de modo que qualquer pessoa possa baixá-lo, executá-lo e ajustá-lo. Exemplos incluem Llama, Qwen e DeepSeek.
Inscreva-se na versão beta da Serverless Inference
Solicite acesso à versão beta da Serverless Inference.
- Descubra uma forma rápida e simples de acessar o serviço de inferência
- Execute modelos de pesos abertos na Akamai Cloud
- Elimine a necessidade de provisionar e gerenciar a infraestrutura de GPU
- Crie aplicações e agentes de IA sensíveis a latência e em tempo real
