Escolha a GPU certa na Akamai Cloud para sua workload de IA

Inferência de IA, processamento de linguagem natural, visão computacional, análise de vídeo, renderização e visualização científica são todos dependentes de GPUs. O desafio surge porque nem todas as workloads de GPU são iguais. Algumas exigem grande memória para modelos complexos. Algumas são dominadas pelo processamento de vídeo em tempo real. Outras são impulsionados por gráficos, renderização, streaming em 8K, transcodificação ou fluxos de trabalho de projeto certificados.

A Akamai Cloud oferece suporte a todas essas workloads com três opções de GPU NVIDIA, permitindo que os clientes correspondam precisamente à infraestrutura das necessidades específicas de workload.

1. NVIDIA RTX PRO™ 6000 Blackwell Server Edition

2. NVIDIA RTX™ 4000 Ada Generation

3. NVIDIA QuadroⓇ RTX 6000 (GPUs profissionais legadas)

Cada uma dessas GPUs se destaca em diferentes tipos de workloads de inferência e gráficos. Escolher a opção ideal maximiza o desempenho, controla o custo e elimina o excesso de provisionamento.

A NVIDIA RTX PRO 6000 Blackwell Server Edition é uma GPU de classe de servidor construída na arquitetura Blackwell da NVIDIA com memória GPU muito grande e alta capacidade de processamento paralelo. Ela é projetada para impulsionar a inferência de IA de produção sustentada, ajuste fino; streaming em 8K, transcodificação e workloads de visualização de alta fidelidade.

A NVIDIA RTX 4000 Ada Generation é uma GPU profissional de classe de estação de trabalho baseada na arquitetura Ada Lovelace da NVIDIA. Ela oferece preço e desempenho excepcionais, um equilíbrio entre desempenho gráfico, aceleração de IA, eficiência de energia e fator de forma compacto e fluxos de trabalho de vídeo AV1 modernos.

As GPUs NVIDIA Série Quadro RTX continuam sendo uma solução na linha de GPUs profissionais da NVIDIA. As Quadros são amplamente usadas em projetos certificados, CAD e fluxos de trabalho de visualização e oferecem estabilidade de longo prazo e certificação abrangente de fornecedores de software independentes (ISV).

Escolher a GPU certa dependerá da sua workload e dados específicos.  A NVIDIA fornece exemplos e descrições detalhadas para facilitar a seleção da GPU. 

A Blackwell é adequada para IA agêntica, ajuste fino, jogos e streaming em 8K, transcodificação acelerada por hardware, IA física, computação científica, renderização, gráficos 3D e aplicativos de vídeo. As GPUs da geração ADA são as melhores para modelagem 3D, renderização, criação de vídeo e fluxos de trabalho modernos de transcodificação AV1. As GPUs Quadro são as GPUs comprovadas para ambientes gráficos profissionais certificados.

Os pontos fortes dessas GPUs são ainda mais pronunciados quando usados na nuvem distribuída da Akamai para atender à natureza localizada e distribuída dessas workloads. A IA conversacional interage com usuários em todo o mundo. Os sistemas de visão computacional processam o vídeo onde ele é gerado. Renderização, simulação e visualização são consumidos por equipes distribuídas globalmente. 

Manter todas essas workloads mais próximas do usuário melhora o desempenho, a satisfação do cliente e reduz os custos.

Uma maneira útil de escolher entre as opções de GPU na Akamai Cloud é começar com como a própria NVIDIA descreve as workloads que cada GPU foi projetada para acelerar e apoiar.

A NVIDIA posiciona a RTX Pro 6000 Blackwell Server Edition como apropriada para acelerar workloads que abrangem inferência de IA, ajuste fino, IA agêntica, IA física, computação científica, renderização, gráficos 3D, e aplicativos de vídeo. A NVIDIA agrupa esses dados porque essa classe de GPU foi criada para lidar com grandes pipelines de inferência, ajuste fino do modelo, suporte a títulos 8K AAA e subamostragem de croma 8K, juntamente com tarefas visuais e de simulação de alta fidelidade em ambientes de produção.

As GPUs RTX PRO 6000 Blackwell Server Edition estão disponíveis em planos de 1 placa, 2 placas e 4 placas. Saiba mais.

A RTX 4000 Ada Generation é ideal para modelagem 3D, renderização complexa e criação e streaming de conteúdo de vídeo. Também é ótima para geração de imagens de IA e inferência para modelos de linguagem pequenos (SLMs). Isso reflete o papel dela como uma poderosa GPU de estação de trabalho profissional para fluxos de trabalho de visualização, gráficos e multimídia, com o benefício adicional do Tensor Cores que pode acelerar a inferência de IA dentro desses fluxos de trabalho.

As GPUs Quadro foram posicionadas pela NVIDIA para gráficos profissionais, CAD, visualização de design e pipelines de renderização certificados. Quadro continua a ser sinônimo de ambientes gráficos estáveis e certificados usados nos setores de engenharia e design.

O uso dessas descrições de workload NVIDIA como guia facilita o mapeamento do aplicativo para a GPU (Tabela) correta.

Gráfico de comparação: Escolha da GPU correta para sua workload

Os exemplos de workload própria da NVIDIA para a RTX PRO 6000 Blackwell Server Edition se alinham de perto com os tipos de workloads que prosperam na arquitetura distribuída da Akamai Cloud. Essas workloads com uso intenso de GPU são sensíveis à latência, com uso intenso de dados e, muitas vezes, distribuídas geograficamente por natureza.

Os sistemas de IA agêntica ingerem texto, imagens e outras entradas de usuários em tempo real. O sistema deve responder rapidamente e, muitas vezes, operar como parte de uma experiência de aplicativo ao vivo.

A NVIDIA destaca a IA agêntica como uma workload primária para a Blackwell devido à a capacidade de sustentar e dimensionar inferência de alta taxa de transferência com Modelos de linguagem grandes (LLMs) e modelos multimodais que exigem dezenas de gigabytes de memória GPU para inferência. Quando esses sistemas são executados na nuvem distribuída da Akamai, a inferência acontece mais próxima dos usuários, reduzindo a latência e acelerando a capacidade de resposta para interações conversacionais e multimodais em todas as regiões.

É aqui que a Blackwell e uma nuvem distribuída se alinham. A GPU na Akamai Cloud lida com a escala do modelo e a carga de inferência. A Akamai oferece proximidade aos usuários e alcance global.

As workloads de IA física envolvem fluxos de vídeo de alta resolução, câmeras, sensores e entrada visual contínua do mundo real. Essas entradas são geradas na borda, não em um data center central.

As GPUs Blackwell são capazes de processar grandes entradas visuais, executar inferência de visão complexa com eficiência e transcodificar fluxos de vídeo de alta resolução em tempo real, tornando-as ideais para IA física. Quando unidos à infraestrutura distribuída da Akamai, os dados de vídeo e sensor podem ser processados mais perto de onde são criados, em vez de serem transferidos para uma região distante.

A nuvem distribuída da Akamai reduz os custos de largura de banda, reduz a latência para a tomada de decisões, mantém os dados processados dentro dos limites geográficos necessários e permite monitoramento e análise em tempo real em escala.

A NVIDIA agrupa aplicativos de computação científica, renderização, gráficos 3D e vídeo, pois são todas workloads paralelas com uso intenso de memória que se beneficiam da grande memória de GPU e avançados RT e Tensor Cores.

Essas workloads geralmente apoiam equipes distribuídas, visualização remota, gêmeos digitais, ambientes de simulação e pipelines de vídeo que devem ser acessados globalmente.

A execução da computação científica em GPUs Blackwell dentro da nuvem distribuída da Akamai permite que gráficos, renderização e resultados de simulação de alta fidelidade sejam entregues mais próximos de usuários, projetistas, engenheiros e operadores, sem a necessidade de fazendas de GPU centralizadas.