Saltar al contenido principal
Background

Por qué es importante la asignación de GPU

Descubra por qué la asignación de GPU afecta a la latencia de la IA, los costes de salida, la fiabilidad y el rendimiento de las cargas de trabajo.

Vídeo resumen

Vídeo resumen

[00:00–00:15] Importancia de la asignación de GPU: explicación de la asignación de GPU como componente clave de la inferencia de producción, que determina dónde se ejecutan las cargas de trabajo de IA y controla la latencia, el coste de salida y la fiabilidad de las aplicaciones

[00:15–00:28] Preguntas sobre la infraestructura en evolución: descripción general del cambio de simplemente tener acceso a GPU a hacer coincidir los recursos informáticos adecuados en el lugar adecuado para cargas de trabajo específicas

[00:28–00:44] Flexibilidad y hardware de alto rendimiento: introducción a la flexibilidad de Akamai Cloud en la implementación central y regional, destacando las GPU NVIDIA RTX PRO™ 6000 Blackwell para un rendimiento de inferencia y un razonamiento complejo con alta concurrencia.

[00:44–00:58] Ejecución óptima de la carga de trabajo: resumen final haciendo hincapié en la ejecución de la carga de trabajo adecuada en el lugar adecuado, en lugar de comprar modelos más grandes o costosas asignaciones de GPU

Compartir

Recursos adicionales

GPU en Akamai Cloud

Akamai Cloud ofrece múltiples opciones de GPU con NVIDIA RTX PRO™ 6000 Blackwell Server Edition® y la línea Quadro® RTX.

Evaluación comparativa de NVIDIA RTX Pro 6000 Blackwell en Akamai Cloud

Los análisis muestran que la ejecución de NVIDIA RTX PRO™ 6000 Blackwell en Akamai Cloud ofrece un rendimiento de inferencia hasta 1,63 veces superior al de H100.