Il nuovo rapporto di ricerca di Akamai, dal titolo Lo stato dell'AI inferencing, identifica un divario critico nell'infrastruttura, pertanto il 50% delle implementazioni dell'intelligenza artificiale in fase di produzione non riesce a mantenere la latenza su vasta scala. Lo studio rivela che, mentre l'AI inferencing è passato ai casi di utilizzo business-critical, le architetture cloud centralizzate hanno creato il muro della latenza che impedisce alle organizzazioni di scalare in modo efficace. Leggi il rapporto per saperne di più sui seguenti aspetti:
- Muro della latenza: il 64% delle organizzazioni richiede tempi di risposta inferiori ai 250 ms per i principali casi di utilizzo, ma i sistemi centralizzati rimangono un importante ostacolo per le performance.
- Requisiti di prossimità: il 60% dei professionisti del settore afferma che l'esecuzione dell'inferencing più vicino agli utenti finali è fondamentale per il successo della produzione, ma il 46% di essi è ancora vincolato ai singoli cloud.
- Sfide di scalabilità: il 50% dei team cita la latenza durante i picchi di carico come il principale ostacolo per la scalabilità, costringendo a passare all'indirizzamento del traffico automatizzato e al computing distribuito.
Scarica il rapporto completo per ulteriori dettagli sulle sfide che gli esperti di intelligenza artificiale devono affrontare oggi.