Pular para o conteúdo principal
Background

Por que o posicionamento da GPU é importante?

Descubra por que o posicionamento da GPU afeta a latência da IA, os custos de saída, a confiabilidade e o desempenho de workload.

Resumo do vídeo

Resumo do vídeo

[00:00–00:15] Importância do posicionamento da GPU: Explicação do posicionamento da GPU como um componente essencial da inferência em produção, determinando onde as workloads de IA são executadas e controlando a latência, os custos de saída e a confiabilidade da aplicação

[00:15–00:28] Questões em evolução sobre infraestrutura: Visão geral da transição de simplesmente ter acesso a GPUs para alocar o poder de processamento adequado no local certo para workloads específicas

[00:28–00:44] Flexibilidade e hardware de alto desempenho: Introdução à flexibilidade da Akamai Cloud em implantações centrais e regionais, com destaque para as GPUs NVIDIA RTX PRO™ 6000 Blackwell, que garantem alto desempenho em inferência e capacidade de processamento complexo em ambientes de alta concorrência.

[00:44–00:58] Execução ideal da workload: Resumo final que destaca a importância de executar a workload adequada no local certo, em vez de investir em modelos maiores ou em alocações de GPU caras

Compartilhar

Recursos adicionais

GPU na Akamai Cloud

A Akamai Cloud oferece várias opções de GPU com GPUs NVIDIA RTX PRO™ 6000 Blackwell Server Edition® e linha de GPUs Quadro® RTX.

Avaliação de desempenho da NVIDIA RTX Pro 6000 Blackwell na Akamai Cloud

Os testes de desempenho mostram que a NVIDIA RTX PRO™ 6000 Blackwell, em execução na Akamai Cloud, oferece um rendimento de inferência até 1,63 vezes superior ao da H100.