Il controllo dell'utilizzo dell'intelligenza artificiale è una funzionalità di sicurezza e governance che aiuta le organizzazioni a individuare, comprendere e controllare il modo in cui l'AI viene utilizzata all'interno dell'azienda, gestendo le interazioni in tempo reale tra utenti, applicazioni, identità e ambienti.
Concetti chiave
-
L'uso dell'AI ombra crea lacune critiche nella visibilità della governance.
-
Gli strumenti di AI non gestiti espongono le aziende al rischio di fughe di dati, rendendo necessaria un'attività continua di individuazione per mettere in sicurezza ogni interazione.
-
Gli stack di sicurezza statici non sono in grado di contenere i rischi derivanti dalle interazioni dinamiche con l'AI.
-
Le difese perimetrali tradizionali non monitorano l'attività di browser e servizi SaaS, rendendo i controlli delle interazioni in tempo reale essenziali per la sicurezza aziendale.
-
Vietare l'AI in modo assoluto spinge gli utenti ad utilizzare soluzioni alternative rischiose e non gestite.
-
Limitare gli accessi aumenta l'utilizzo non autorizzato (AI ombra), mentre l'applicazione di controlli basati sul contesto consente di adottare l'AI in modo sicuro ed efficace.
-
La mancata applicazione delle policy rende le aziende vulnerabili a violazioni delle norme di conformità.
-
I documenti normativi privi di controlli tecnici rischiano di incorrere in sanzioni in fase di audit, rendendo necessari meccanismi di protezione automatizzati al momento delle interazioni.
Domande frequenti (FAQ)
Domande frequenti (FAQ)
Gartner definisce il controllo dell'utilizzo dell'intelligenza artificiale come un componente fondamentale della funzionalità AI TRiSM (AI Trust, Risk and Security Management), concepito per individuare l'utilizzo dell'AI, valutare dinamicamente i rischi, applicare le policy e rilevare eventuali comportamenti anomali.
Gli stack di sicurezza tradizionali si basano su percorsi perimetrali di rete o sull'ispezione dei dati dopo l'esposizione, mentre le interazioni con l'AI spesso aggirano i percorsi di rete e richiedono una governance nel momento esatto in cui avviene l'interazione in tempo reale.
L'utilizzo non gestito dell'AI comporta la perdita di visibilità, la mancata applicazione delle policy, la compromissione di identità e contesto, la mancata rilevazione di manipolazioni dei prompt o comportamenti anomali, nonché gravi lacune in termini di conformità.
I divieti assoluti non fermano l'utilizzo dell'AI; al contrario, spingono i dipendenti ad utilizzare dispositivi personali e strumenti basati sull'AI ombra non gestiti, al di fuori del controllo aziendale, creando intrinsecamente rischi per la sicurezza.
Una soluzione efficace deve offrire controlli di applicazione delle policy flessibili e differenziate per consentire, monitorare, avvisare, ignorare con giustificazione, bloccare e oscurare gli accessi.
Le organizzazioni richiedono un'attività di individuazione continua da eseguire su strumenti basati su browser, funzionalità SaaS integrate, estensioni del browser, applicazioni desktop e workflow agentici, sia per le identità aziendali che per quelle personali.
Akamai Workforce Protector funge da piattaforma di sicurezza dell'AI dell'ultimo miglio, ossia controlla i prompt, le azioni dell'agente e lo scambio di dati esattamente nel punto di interazione, senza modificare l'architettura di rete né compromettere le user experience.