Saltar al contenido principal
Background

Por qué es importante la asignación de GPU

Descubra por qué la asignación de GPU afecta a la latencia de la IA, los costes de salida, la fiabilidad y el rendimiento de las cargas de trabajo.

Vídeo resumen

Vídeo resumen

[00:00–00:15] Importancia de la asignación de GPU: explicación de la asignación de GPU como componente clave de la inferencia de producción, que determina dónde se ejecutan las cargas de trabajo de IA y controla la latencia, el coste de salida y la fiabilidad de las aplicaciones

[00:15–00:28] Preguntas sobre la infraestructura en evolución: descripción general del cambio de simplemente tener acceso a GPU a hacer coincidir los recursos informáticos adecuados en el lugar adecuado para cargas de trabajo específicas

[00:28–00:44] Flexibilidad y hardware de alto rendimiento: introducción a la flexibilidad de Akamai Cloud en la implementación central y regional, destacando las GPU NVIDIA RTX PRO™ 6000 Blackwell para un rendimiento de inferencia y un razonamiento complejo con alta concurrencia.

[00:44–00:58] Ejecución óptima de la carga de trabajo: resumen final haciendo hincapié en la ejecución de la carga de trabajo adecuada en el lugar adecuado, en lugar de comprar modelos más grandes o costosas asignaciones de GPU

Compartir

Recursos adicionales

Evaluación comparativa de NVIDIA RTX Pro 6000 Blackwell en Akamai Cloud

Los análisis muestran que la ejecución de NVIDIA RTX PRO™ 6000 Blackwell en Akamai Cloud ofrece un rendimiento de inferencia hasta 1,63 veces superior al de H100.

GPU en Akamai Cloud

Akamai Cloud ofrece múltiples opciones de GPU con NVIDIA RTX PRO™ 6000 Blackwell Server Edition® y la línea Quadro® RTX.

Plataforma de nube de inferencia de IA para IA en tiempo real

Ejecute la inferencia de IA más cerca de los usuarios con nube distribuida, cómputo GPU y seguridad integrada para aplicaciones y agentes de IA en tiempo real.