¿Busca Akamai Inference Cloud? Explore Akamai Cloud. ¿Busca Akamai Inference? Está en la página correcta.
Descripción general
Utilice modelos con pesos abiertos sin depender de un único proveedor ni tener que gestionar GPU, a través de una API compatible con OpenAI en Akamai Cloud.
Akamai Inference es un servicio de inferencia totalmente gestionado para ejecutar modelos de IA en producción. Llamarlos a través de una API compatible con OpenAI mientras Akamai gestiona GPU, servicios, escalabilidad automática y gestión del ciclo de vida de los modelos. Utilice la inferencia sin servidor de pago por token, la inferencia dedicada con GPU reservadaso ambas.
¿Por qué utilizar Akamai Functions?
Obtenga la agilidad de un proveedor de inferencia moderno sin renunciar a la confianza de la empresa. Cree la aplicación de IA completa, no solo la llamada del modelo. Crezca desde el primer experimento hasta la producción en una sola plataforma.
Cómo funciona
Impulse su visión con las GPU de Akamai
Acceso rápido y sencillo a los principales modelos de peso abierto. Potencie sus necesidades de ocio y evite la dependencia de un proveedor y los elevados costes de token. Ejecute inferencia de producción con un rendimiento predecible y un extremo de API compatible con OpenAI dedicado respaldado por la capacidad de GPU reservada exclusivamente para usted.
Sin servidor, dedicado o ambos
Elija el plan correcto para su carga de trabajo. Utilice uno o ambos del mismo proveedor, a través de la misma API.
Características
Funciones de inferencia de IA para implementar los últimos modelos de peso abierto
- Catálogo seleccionado de los principales modelos de peso abierto, incluidos Llama, Qwen y DeepSeek
- Inferencia dedicada en la capacidad de la GPU reservada para un único cliente
- Registro de auditoría para operaciones del plano de control y llamadas de inferencia (disponibilidad limitada)
- API compatible con OpenAI para integración de drop-in
- Elección de la región y la configuración de GPU para puntos finales dedicados
- Zona de juegos de chat para probar modelos
- Inferencia sin servidor de pago por token con escalabilidad automática
- Sin retención de datos para solicitudes y respuestas
- Gestión de claves API
Casos de uso
Casos de uso de Akamai Functions
Ejecute modelos ligeros abiertos líderes en producción o implemente sus propios modelos personalizados y ajustados con la misma seguridad y controles. La agilidad de inferencia que necesita, del proveedor en el que ya confía.
Elija entre los modelos más recientes de peso abierto y comience con Serverless Inference.
Serverless Inference ofrece los principales modelos de peso abierto en grupos de GPU compartidos. Paga por token por lo que utiliza.
Ejecute un endpoint de modelo específico compatible con OpenAI.
La inferencia dedicada le permite elegir el modelo, la región, la configuración de la GPU y la escala. Obtendrá un endpoint de modelo dedicado y compatible con OpenAI reservado exclusivamente para usted.
Preguntas frecuentes
Preguntas frecuentes
La inferencia sin servidor sirve modelos a través de un punto final compartido y con escalabilidad automática y tiene un precio por millón de tokens. Está diseñado para empezar y para cargas de trabajo burdas o impredecibles. Dedicated Inference proporciona un punto final privado en la capacidad de GPU reservada para un único cliente, en la región y la configuración de GPU que elija, y el precio es por hora de GPU. Está diseñado para un tráfico de producción constante y de gran volumen. Puede utilizar uno o ambos. La inferencia dedicada tendrá disponibilidad limitada.
El catálogo de modelos incluye los principales modelos de peso abierto. El catálogo se ampliará y se añadirán nuevos modelos a medida que se publiquen.
No hay ningún cargo durante la beta. Cuando la facturación comienza con disponibilidad limitada, Serverless Inference se cotizará por millón de tokens de entrada y salida. La inferencia dedicada se cotizará por hora de GPU y se facturará por minuto mientras se aprovisione un punto final, incluido el tiempo de inactividad.
No Akamai Inference no retiene datos, por lo que los mensajes y las respuestas no se almacenan ni se utilizan para entrenar modelos.
Sí. Akamai Inference utiliza una API compatible con OpenAI, por lo que la mayoría de las aplicaciones creadas para la API OpenAI pueden cambiar cambiando la URL base y la clave de API, y seleccionando un modelo del catálogo de Inferencia de Akamai. (La compatibilidad con funciones API específicas, como la llamada de herramientas o los resultados estructurados, puede variar según el modelo).
La inferencia sin servidor es un modelo de implementación en el que se llama a modelos de IA a través de un punto final compartido y con escalabilidad automática. Solo paga por los tokens que consume, sin necesidad de aprovisionar, gestionar ni mantener la infraestructura de GPU subyacente.
Un modelo de peso abierto es un modelo cuyos pesos entrenados se publican públicamente, por lo que cualquiera puede descargarlo, ejecutarlo y ajustarlo. Entre los ejemplos se incluyen Llama, Qwen y DeepSeek.
Inscríbase en la versión beta de Serverless Inference
Solicite acceso a la beta de Inferencia sin servidor.
- Descubra un acceso rápido y sencillo al servicio de inferencia
- Ejecute modelos de peso abierto en Akamai Cloud
- Elimine el aprovisionamiento y la gestión de la infraestructura de GPU
- Cree aplicaciones y agentes de IA en tiempo real y sensibles a la latencia
