AI ombra, agenti non autorizzati e fughe di dati: un rapporto speciale sui rischi legati all'intelligenza artificiale

Le aziende sono tutte incentrate sull'intelligenza artificiale. Sebbene l'uso dell'intelligenza artificiale (AI) sia stato in precedenza considerato con cautela, ora sta diventando obbligatorio per la maggior parte delle imprese. Il risultato è un vasto ecosistema di assistenti, agenti, browser ed estensioni basati sull'AI, nonché workflow autonomi che toccano ogni aspetto aziendale, dalla scrittura di codice e dalla generazione di contenuti all'analisi dei contratti fino all'automazione delle attività.

Mentre questi strumenti basati sull'intelligenza artificiale stanno rapidamente diventando fattori essenziali per la produttività, aumentano anche in modo silenzioso le superfici di attacco per le organizzazioni. Man mano che l'uso dell'intelligenza artificiale aumenta, introduce nuove categorie di rischio che gli strumenti di sicurezza tradizionali non erano stati progettati per affrontare. Di conseguenza, i responsabili della sicurezza faticano a capire dove vanno i loro dati, chi ha accesso a tali dati e come possono proteggere i sistemi di terze parti su cui si basano.

La maggior parte delle organizzazioni concentra gli sforzi di governance su piattaforme di intelligenza artificiale ampiamente utilizzate come ChatGPT, Microsoft Copilot e Google Gemini. Tuttavia, i dipendenti utilizzano sempre più spesso applicazioni o abbonamenti di AI che operano senza la supervisione aziendale. Ciò crea una notevole lacuna di visibilità sul modo con cui i dati aziendali vengono memorizzati, conservati ed elaborati.

Secondo i dati di LayerX, quasi la metà di tutte le conversazioni dell'AI aziendale (47,11%) avviene attraverso identità personali anziché tramite account gestiti dalle aziende, il che crea un notevole divario di visibilità per la governance. Inoltre, più del 14% delle conversazioni dell'AI aziendale ha coinvolto abbonamenti AI personali "freemium", che espongono i dati ai modelli linguistici di grandi dimensioni (LLM) per l'addestramento dei modelli pubblici.

L'esempio di DeepSeek, una società cinese di intelligenza artificiale, illustra in che modo l'adozione esplosiva dell'AI da parte degli utenti utenti può superare i controlli critici per la sicurezza dei dati. Ciò evidenzia la necessità di una visibilità continua delle applicazioni basate sull'intelligenza artificiale che i dipendenti devono adottare in modo indipendente.

L'intelligenza artificiale modifica fondamentalmente l'equazione legata alla prevenzione della perdita di dati (DLP). Il trasferimento delle informazioni non è più limitato a canali ben definiti e protetti come e-mail, trasferimenti di file e storage nel cloud. Con l'intelligenza artificiale, le informazioni sensibili possono essere condivise tramite prompt, conversazioni, frammenti di codice, testo copiato e altri moduli non strutturati.

Sebbene le interazioni individuali possano sembrare innocue, insieme possono esporre un contesto aziendale prezioso che i controlli DLP legacy non sono stati progettati per rilevare.

Ad esempio, questo rapporto SOTI illustra il recente caso di un funzionario del governo statunitense che ha accidentalmente pubblicato dati operativi riservati e confidenziali della CISA (Cybersecurity and Infrastructure Security Agency) tramite un'infrastruttura di AI pubblica.

I dipendenti accedono sempre più all'intelligenza artificiale tramite estensioni del browser che operano direttamente all'interno del browser. Queste estensioni del browser spesso hanno un ampio accesso ai contenuti web, alle attività degli utenti, alle credenziali e alle applicazioni aziendali.

Una ricerca condotta da LayerX ha rivelato che quasi il 75% delle estensioni del browser AI richiede autorizzazioni alte o critiche. Questo approccio può creare un canale per accedere ai dati sensibili da parte dell'AI in modo non gestito, che risulta un obiettivo estremamente allettante per i criminali. La ricerca ha inoltre rilevato che molte estensioni dell'AI presentano CVE (Common Vulnerabilities and Exposure) note.

Prendiamo, ad esempio, CursorJacking, una pericolosa falla nella sicurezza rivolta agli sviluppatori che utilizzano Cursor, il popolare assistente di codifica dell'AI. Tutto ciò che serve è un'estensione non autorizzata del browser per consentire a un criminale di scorrere in modo invisibile le chiavi API di Cursor, impersonificare uno sviluppatore e compromettere l'intero ambiente di sviluppo basato sull'intelligenza artificiale.

L'uso in rapida crescita degli agenti AI autonomi, insieme ai browser AI e alle interfacce utente agentiche, ha creato un'altra nuova dimensione di rischi. Più questi agenti si integrano nelle operazioni quotidiane e nei flussi di dati sensibili, più agiscono come membri indipendenti dei team, prendendo le decisioni necessarie con una supervisione minima da parte dell'uomo.

Una nuova tecnica chiamata CometJacking, che si rivolge al browser Comet AI di Perplexity, illustra questa minaccia. I ricercatori di LayerX hanno dimostrato che, incorporando istruzioni dannose all'interno di una pagina web, un criminale potrebbe manipolare l'agente AI del browser tramite un attacco di prompt injection indiretto per poter accedere ai dati ed eseguire azioni non autorizzate.

Questo rapporto sulla sicurezza SOTI chiarisce la necessità per le organizzazioni di affrontare la sfida di questo nuovo e frammentato ecosistema dell'intelligenza artificiale introducendo una rigida governance dell'AI su flussi di dati, identità, estensioni e agenti autonomi.

Per facilitare questo processo, il nostro rapporto fornisce:

• Un sistema di mitigazione pratico e testato sul campo
• Una pratica checklist con consigli per i CISO e i responsabili della sicurezza

Con i giusti sistemi di sicurezza implementati, le organizzazioni possono sfruttare appieno il potenziale dell'intelligenza artificiale, evitando i nuovi rischi correlati.