Stai cercando l'Akamai Inference Cloud? Scopri l'Akamai Cloud. Stai cercando Akamai Inference? Sei nel posto giusto.
Panoramica
Utilizza i modelli open-weight senza dover dipendere da un unico fornitore né gestire le GPU tramite un'API compatibile con OpenAI sull'Akamai Cloud.
Akamai Inference è un servizio di inferencing completamente gestito per l'esecuzione dei modelli di AI in fase di produzione. Utilizza i modelli tramite un'API compatibile con OpenAI, mentre Akamai gestisce GPU, servizi, scalabilità automatica e ciclo di vita dei modelli. Utilizza Serverless Inference in modalità pay-per-token, Dedicated Inference con GPU riservate o entrambe le soluzioni.
Perché utilizzare Akamai Inference?
Acquisisci l'agilità di un provider di inferencing moderno senza rinunciare alla fiducia delle aziende. Realizza l'intera applicazione basata sull'AI, non richiamare solo il modello. Passa dal primo esperimento alla produzione su un'unica piattaforma.
Come funziona
Utilizza Akamai Inference per potenziare la tua intelligence
Accesso rapido e semplice ai principali modelli open-weight. Soddisfa le tue esigenze agentiche, evitando, al contempo, di dipendere da un unico fornitore e i costi elevati dei token. Esegui l'inferencing di produzione con performance prevedibili e un endpoint API dedicato compatibile con OpenAI e supportato dalla capacità della GPU riservata esclusivamente a te.
Serverless, Dedicated o entrambe le modalità
Associa ciascun carico di lavoro al tipo di implementazione più appropriato. Utilizza una delle due modalità fornite dallo stesso provider tramite la stessa API.
Funzioni
Funzionalità di AI inferencing per l'implementazione dei più recenti modelli open-weight
- Catalogo curato dei principali modelli open-weight, tra cui Llama, Qwen e DeepSeek.
- Dedicated Inference sulla capacità della GPU riservata a un singolo cliente
- Registrazione degli audit per le operazioni del piano di controllo e le chiamate di inferencing (disponibilità limitata)
- API compatibile con OpenAI per l'integrazione drop-in
- Scelta della configurazione dell'area geografica e della GPU per endpoint dedicati
- Chat per i modelli di test
- Serverless Inference pay-per-token con scalabilità automatica
- Senza conservazione dei dati per messaggi e risposte
- Gestione della chiave API
Casi di utilizzo
Casi di utilizzo di Akamai Inference
Esegui i principali modelli open-weight in fase di produzione o implementa modelli personalizzati e ottimizzati con gli stessi controlli e sistemi di sicurezza. L'agilità dell'inferencing che ti serve, fornita dal provider di cui già ti fidi.
Scegli tra i più recenti modelli open-weight e inizia con Serverless Inference.
Serverless Inference offre i principali modelli open-weight sui pool condivisi delle GPU. Paghi in base al metodo pay-per-token per ciò che usi effettivamente.
Esegui un endpoint del modello dedicato e compatibile con OpenAI.
L'inferencing dedicato ti consente di scegliere il modello, l'area geografica, la configurazione delle GPU e la scalabilità che ti servono. Ottieni un modello di endpoint dedicato e compatibile con OpenAI, riservato esclusivamente a te.
Domande frequenti (FAQ)
Domande frequenti (FAQ)
L'opzione Serverless Inference distribuisce i modelli tramite un endpoint condiviso con scalabilità automatica e ha un prezzo per milione di token. Questa opzione è progettata per iniziare su carichi di lavoro intensi o imprevedibili. L'opzione Dedicated Inference fornisce un endpoint privato sulla capacità della GPU riservata a un singolo cliente, nella configurazione dell'area geografica e della GPU che è stata scelta, mentre il prezzo viene calcolato per GPU all'ora. Questa opzione è progettata per elevati volumi di traffico di produzione stabile. È possibile utilizzare una delle due modalità o entrambe. L'opzione Dedicated Inference viene fornita con una disponibilità limitata.
Il catalogo dei modelli include i principali modelli open-weight. Il catalogo si espanderà e i nuovi modelli verranno aggiunti non appena saranno rilasciati.
Durante la versione beta non è previsto alcun costo. Quando la fatturazione inizia con una disponibilità limitata, Serverless Inference viene addebitato per milione di token di input e output. L'opzione Dedicated Inference viene addebitata per GPU all'ora, in base al tempo in cui viene fornito un endpoint, incluso il tempo di inattività.
No. Akamai Inference non prevede la conservazione dei dati, pertanto i messaggi e le risposte non vengono memorizzati né utilizzati per l'addestramento dei modelli.
Sì. Akamai Inference utilizza un'API compatibile con OpenAI, pertanto la maggior parte delle applicazioni create per l'API OpenAI può essere cambiata modificando l'URL di base e la chiave API e selezionando un modello dal catalogo di Akamai Inference (il supporto per specifiche funzioni API, come chiamate di strumenti oppure output strutturati, può variare in base al modello).
Serverless Inference è un modello di implementazione che consente di richiamare i modelli di AI tramite un endpoint condiviso in grado di scalare automaticamente. Paga solo per i token che utilizzi, senza dover fornire, gestire o mantenere l'infrastruttura della GPU sottostante.
Un modello open-weight è un modello in cui i parametri addestrati sono pubblicati, consentendo a chiunque di scaricarli, eseguirli e ottimizzarli. Alcuni esempi includono Llama, Qwen e DeepSeek.
Registrati per la versione beta di Serverless Inference
Richiedi l'accesso alla versione beta di Serverless Inference.
- Scopri un accesso rapido e semplice al servizio di inferencing
- Esegui i modelli open-weight sull'Akamai Cloud
- Elimina il provisioning e la gestione dell'infrastruttura delle GPU
- Crea app e agenti AI sensibili alla latenza in tempo reale
