Pular para o conteúdo principal
Background

Por que o posicionamento da GPU é importante?

Descubra por que o posicionamento da GPU afeta a latência da IA, os custos de saída, a confiabilidade e o desempenho de workload.

Resumo do vídeo

Resumo do vídeo

[00:00–00:15] Importância do posicionamento da GPU: Explicação do posicionamento da GPU como um componente essencial da inferência em produção, determinando onde as workloads de IA são executadas e controlando a latência, os custos de saída e a confiabilidade da aplicação

[00:15–00:28] Questões em evolução sobre infraestrutura: Visão geral da transição de simplesmente ter acesso a GPUs para alocar o poder de processamento adequado no local certo para workloads específicas

[00:28–00:44] Flexibilidade e hardware de alto desempenho: Introdução à flexibilidade da Akamai Cloud em implantações centrais e regionais, com destaque para as GPUs NVIDIA RTX PRO™ 6000 Blackwell, que garantem alto desempenho em inferência e capacidade de processamento complexo em ambientes de alta concorrência.

[00:44–00:58] Execução ideal da workload: Resumo final que destaca a importância de executar a workload adequada no local certo, em vez de investir em modelos maiores ou em alocações de GPU caras

Compartilhar

Recursos adicionais

Avaliação de desempenho da NVIDIA RTX Pro 6000 Blackwell na Akamai Cloud

Os testes de desempenho mostram que a NVIDIA RTX PRO™ 6000 Blackwell, em execução na Akamai Cloud, oferece um rendimento de inferência até 1,63 vezes superior ao da H100.

GPU na Akamai Cloud

A Akamai Cloud oferece várias opções de GPU com GPUs NVIDIA RTX PRO™ 6000 Blackwell Server Edition® e linha de GPUs Quadro® RTX.

Plataforma em nuvem para inferência de IA em tempo real

Execute a inferência de IA mais próxima dos usuários com nuvem distribuída, computação por GPU e segurança integrada para aplicações e agentes de IA em tempo real.