Come accelerare la sicurezza dell'AI: una roadmap per la moderna sicurezza delle app

• Si prevede che le chiamate all'intelligenza artificiale (AI) aziendale cresceranno di 1000 volte entro il 2027, creando una portata di interazione automatizzata che la sicurezza tradizionale non è in grado di gestire.
• Sebbene l'87% delle organizzazioni abbia subito un incidente relativo alla sicurezza delle API lo scorso anno, solo il 18% di esse si sente preparata per gestire gli attacchi sferrati contro le API collegate all'intelligenza artificiale.
• Il passaggio agli agenti AI non lineari e al vibe coding ha dato priorità all'implementazione rapida rispetto a una rigorosa architettura di sicurezza.
• L'emergere di interazioni tra agenti (A2A) implica che ora il sistema di sicurezza dipende dall'integrità degli ecosistemi di AI di terze parti.
• Per tenere il passo con l'innovazione, le organizzazioni devono adottare un modello di runtime multilivello tale da privilegiare l'individuazione continua e i sistemi di protezione in tempo reale.

I recenti articoli sulle innovazioni tecnologiche sembrano storie horror per i moderni team addetti alla sicurezza. Un recente articolo ha esaminato in che modo un attacco di prompt injection riesce a sfruttare i comportamenti di applicazioni affidabili per esfiltrare in modo invisibile dati finanziari aziendali sensibili, registri e telemetria. In un altro articolo, è stato esaminato un agente di codifica dell'AI che ha eliminato un database di produzione in una singola chiamata API.

Questi sono solo due esempi delle sfide che i team addetti alla sicurezza delle applicazioni devono affrontare. I problemi sono emersi nel momento in cui le aziende sono passate dalla sperimentazione con l'AI generativa agli investimenti costati miliardi di dollari per una sua accurata integrazione nei workflow principali. Le business unit richiedono un'implementazione ultrarapida, mentre i team addetti alla sicurezza rimangono a guardare una rete di API cresciuta in modo esponenziale e non documentata.

Eppure, ostacolare questa ondata di innovazione non è assolutamente proponibile per i team addetti alla sicurezza di oggi. I divieti assoluti non funzionano, al contrario, i team addetti alla sicurezza devono favorire l'intelligenza artificiale. 

Naturalmente, è più facile a dirsi che a farsi perché la dinamica delle cose è cambiata. Mentre le  chiamate alle applicazioni tradizionali seguono una logica prevedibile, gli agenti AI sono endpoint non lineari, che spesso, "sparano" a raffica per colpire un solo utente. 

Il risultato non è solo una crescita del numero di attacchi, ma anche una trasformazione della superficie di attacco. Infatti, IDC prevede che, entro il 2027, l'uso degli agenti da parte delle aziende Global 2000 aumenterà di dieci volte, con un aumento del numero di chiamate tramite token e API anche di 1000 volte. 

Ma, in tutto ciò, le aziende non ritengono di essere pronte.

Il nostro studio sull'impatto della sicurezza delle API nel 2026 rivela che le funzionalità di difesa non sono al passo con la velocità con cui vengono sferrati gli attacchi.

Nell'ultimo anno, l'87% dei 1840 addetti alla sicurezza che abbiamo intervistato ha subito un incidente relativo alla sicurezza delle API. In particolare, il 42% di questi incidenti ha coinvolto API specificamente collegate alle tecnologie basate sull'intelligenza artificiale, dalle applicazioni di AI rivolte ai clienti agli agenti nascosti. 

Nonostante queste cifre, solo il 18% dei nostri intervistati si sente pienamente preparato a gestire questi attacchi perché si trovano di fronte a una situazione in cui la superficie di attacco principale è quella che riescono a comprendere di meno.

I team addetti alla sicurezza sembrano comprendere le ramificazioni correlate. Alla domanda sui rischi associati alle API collegate a un modello linguistico di grandi dimensioni (LLM), gli intervistati hanno menzionato, tra i loro tre rischi principali, le API utilizzate per fughe di informazioni sensibili o per l'esfiltrazione di dati, i criminali che sfruttano gli endpoint non protetti delle API collegate ai modelli LLM e gli attacchi di prompt injection in cui le API eseguono azioni sulla base di input dannosi. 

L'emergere dello sviluppo assistito dall'intelligenza artificiale, spesso chiamato vibe coding, non ha aiutato a risolvere la situazione. Questo approccio privilegia la rapidità nelle demo funzionali e di produzione rispetto all'esecuzione di rigorosi test sulla sicurezza.

Sebbene questo approccio fa aumentare la produttività, spesso si traduce in API con un'autorizzazione non sicura o utilizzate per fughe di dati sensibili. I criminali ora utilizzano la GenAI per sfruttare queste vulnerabilità alla stessa velocità con cui sono state create.

Ecco perché il gateway diventa cruciale. I gateway basati sull'intelligenza artificiale devono evolversi in modo da includere i registri degli agenti e la verifica dei client per limitare i rischi correlati.

Man mano che le aziende si spostano verso le comunicazioni tra agenti (A2A), il panorama delle minacce si espande in modo esponenziale. La sicurezza di un'azienda non è più limitata alla propria infrastruttura interna.

Se un agente interno chiama, a scopo di analisi, uno strumento esterno basato sull'intelligenza artificiale, che è stato violato, questo strumento può reintrodurre i dati compromessi nel sistema. Ciò crea una "catena di avvelenamento" in cui si verifica un'esfiltrazione dei dati non autorizzata senza richiedere direttamente l'intervento dell'uomo.

Inoltre, queste negoziazioni automatizzate avvengono in pochi millisecondi e, se non si dispone di una visibilità in tempo reale, queste interazioni non vengono notate fino a molto tempo dopo il verificarsi di una violazione.

Per promuovere, anziché ostacolare l'intelligenza artificiale, i team addetti alla sicurezza hanno bisogno di supportare in modo sicuro l'innovazione. La risposta alle loro esigenze è un modello di runtime multilivello in grado di proteggere le applicazioni ad ogni singolo livello, dalla connessione iniziale delle API all'output del modello finale.

Questa strategia si concentra su tre fasi critiche:

1. Individuazione continua
2. Applicazione del gateway
3. Rafforzamento del runtime

Superare la documentazione statica per utilizzare l'individuazione comportamentale live allo scopo di mappare le API ombra e i server contestuali non monitorati in base al traffico in tempo reale. Collegando le vulnerabilità presenti nell'ambiente di runtime direttamente al repository degli sviluppatori, i team possono passare molto più velocemente dal rilevamento delle minacce alla loro mitigazione.

Instradare tutto il traffico dell'AI interno ed esterno tramite un gateway gestito con l'intelligenza artificiale. In questo modo, si stabilisce un punto di strozzatura centralizzato per applicare la limitazione della velocità, gestire le credenziali e passare da chiavi API deboli alle identità degli agenti che prevedono un'autorizzazione in base all'ambito.

Implementare contenuti appositamente creati e firewall logici per valutare input e output in tempo reale. Questi strumenti fungono da barriera di protezione attiva neutralizzando gli attacchi di prompt injection e oscurando automaticamente i dati sensibili, come le informazioni di identificazione personale, prima che raggiungano un LLM di terze parti o un database vettoriale interno. 

Stabilendo la visibilità come prerequisito per la protezione, i responsabili possono prendere le distanze da una serie frammentata di soluzioni isolate e creare una difesa unificata che riduce i rischi senza rallentare il ritmo delle attività.

Questo post del blog ha trattato alcune delle principali aree di rischio, ma c'è molto di più. La nostra guida strategica aiuta gli addetti alla sicurezza a gestire la transizione verso un approccio resiliente all'intelligenza artificiale. Scarica la guida per scoprire come Akamai può aiutarti a colmare subito le lacune esistenti in termini di visibilità.