In che modo le aziende stanno bilanciando rischi e innovazione dell'intelligenza artificiale

Si prevede che la spesa globale per l'intelligenza artificiale generativa (GenAI) raggiungerà i 644 miliardi di dollari nel 2025 con un incredibile incremento del 76% rispetto al 2024. Il messaggio è chiaro: le aziende ritengono che, se dovessero fallire nell'adozione dell'intelligenza artificiale, dovranno affrontare minacce essenziali. Nonostante la sua onnipresenza, tuttavia, l'uso dell'intelligenza artificiale continua a destare preoccupazioni tra i responsabili aziendali, dai rischi per la sicurezza ai problemi operativi. 

Vi è sempre stata incertezza sul fatto che i rischi e le potenziali conseguenze negative dell'AI valgano i presunti benefici. L'innovazione promette miglioramenti trasformativi in termini di customer experience e di efficienza, ma i potenziali rischi di introdurre l'intelligenza artificiale sempre più nelle operazioni esistenti potrebbero avere gravi conseguenze.

I responsabili tecnici devono affrontare una delicata operazione per trovare il giusto equilibrio: in che modo le aziende possono perseguire l'innovazione dell'intelligenza artificiale su vasta scala senza esporsi a livelli di rischio inaccettabili?

Una nuova ricerca commissionata da Akamai e condotta da Forrester offre alcune risposte sul modo con cui le aziende stanno attualmente raggiungendo questo equilibrio. Tramite un sondaggio condotto su 400 responsabili decisionali in materia di intelligenza artificiale e strategia cloud aziendale, lo studio rivela come le organizzazioni progrediscono abbastanza velocemente per acquisire valore, creando, al contempo, le barriere di protezione necessarie per salvaguardare le loro attività.

La ricerca di Forrester chiarisce che i responsabili aziendali stanno trasformando l'intelligenza artificiale direttamente in obiettivi aziendali fondamentali, rendendola il fulcro delle loro strategie. Nonostante ciò, i responsabili sono attenti a dare priorità alle applicazioni a basso rischio e ad alto rendimento. 

Gli intervistati hanno identificato tre obiettivi principali alla base dei loro investimenti nell'intelligenza artificiale:

1. Migliorare le customer experience (76%)
2. Ottimizzare l'efficienza operativa (76%)
3. Rafforzare la fidelizzazione dei clienti (71%)

Altri studi hanno dimostrato con coerenza che i miglioramenti nelle customer experience (CX) sono direttamente correlati all'aumento dei ricavi, alla riduzione del tasso di abbandono e ad una maggiore differenziazione dalla concorrenza.

Secondo McKinsey & Company, ad esempio, "l'80% della creazione di valore ottenuta dalle società a maggiore crescita al mondo proviene dalla loro attività principale, principalmente consentendo di ottenere nuovi ricavi dai clienti esistenti".

Invece di utilizzare l'intelligenza artificiale perché è necessario rimanere competitivi, i responsabili aziendali sono attenti a collegare la nuova tecnologia a risultati misurabili che influiscono su ricavi e crescita. Ciò spiega perché le applicazioni dell'intelligenza artificiale con la massima priorità sono quelle più vicine al cliente. 

Più della metà delle organizzazioni utilizza applicazioni di intelligenza artificiale per la personalizzazione (53%), automatizzando i processi di risoluzione dei clienti (53%) e rispondendo alle domande dei clienti (52%). Queste applicazioni offrono un rischio relativamente basso rispetto ai casi di utilizzo sperimentali, ma offrono un ritorno sull'investimento rapido e tangibile.

Concentrandosi sui miglioramenti immediati delle CX, le aziende possono generare rendimenti che finanziano l'esame di ulteriori soluzioni, preparando, al contempo, team e infrastrutture per iniziative più ambiziose.

La cybersecurity ha rappresentato una preoccupazione per il 63% degli intervistati. I sistemi di intelligenza artificiale introducono nuove superfici di attacco e aumentano quelle esistenti per i criminali. Nella pratica sono già state osservate minacce come manipolazione dei modelli, attacchi di prompt injection ed esfiltrazione dei dati. Quando le applicazioni rivolte ai clienti si affidano all'intelligenza artificiale per prendere decisioni, anche le piccole vulnerabilità possono trasformarsi in violazioni significative.

Man mano che i governi applicano nuove normative basate sull'intelligenza artificiale, come l'AI Act, ossia la legge europea sull'intelligenza artificiale, i quadri normativi degli Stati Uniti e le linee guida specifiche di settore, le aziende devono affrontare i problemi legati alla mancata conformità nel loro passaggio all'intelligenza artificiale. A differenza del software tradizionale, l'intelligenza artificiale introduce problemi particolari in termini, ad esempio, di esplorabilità, preparazione in vista degli audit e mitigazione dei pregiudizi. La mancata conformità alle normative può comportare sanzioni, conseguenze legali e blocco delle implementazioni.

I problemi legati all'AI tendono a diventare pubblici. Un motore di raccomandazione che fornisce informazioni fuorvianti o le allucinazioni di una chatbot possono diventare rapidamente titoli di prima pagina. La privacy dei dati dei clienti può essere violata. Per i casi di utilizzo rivolti ai clienti, un passo falso può risultare più di un semplice problema tecnico perché può danneggiare il brand. La fiducia nelle aziende può essere costosa da ricostruire.

Un'intelligenza artificiale non implementata correttamente può causare elevati tassi di abbandono, perdita di opportunità e spreco di investimenti. Ad esempio, se una chatbot basata sull'intelligenza artificiale retail fornisce consigli finanziari fuorvianti, l'azienda potrebbe dover affrontare non solo sanzioni normative e controversie legali, ma anche contraccolpi da parte dei consumatori, il che potrebbe compromettere i guadagni derivanti dai sistemi basati sull'intelligenza artificiale.

Le conseguenze di questi rischi hanno la capacità di trasformarsi in gravi interruzioni aziendali: ecco perché i responsabili devono prestare attenzione all'adozione dell'intelligenza artificiale e devono bilanciare con attenzione i rischi e i benefici apportati da questa innovazione.

Invece di affrontare progetti GenAI ambiziosi, molte organizzazioni stanno iniziando con piccoli progetti. Implementando l'intelligenza artificiale in casi di utilizzo controllati (come l'automazione del servizio clienti), possono acquisire esperienza senza compromettere le operazioni critiche. Questo modello iterativo consente loro di provare, apprendere e scalare in modo responsabile.

La creazione e la manutenzione dell'infrastruttura dell'intelligenza artificiale sono complesse e le aziende si affidano sempre più ai servizi gestiti per l'addestramento dei modelli e l'AI inferencing. Ciò riduce il carico operativo e rende più accessibili le competenze specialistiche. 

Grazie all'outsourcing di attività a rischio elevato, le organizzazioni possono ridurre al minimo le vulnerabilità e accelerare l'implementazione. La chiave è scegliere servizi forniti da aziende con standard di sicurezza e mitigazione dei rischi simili ai propri.

I dati del sondaggio dimostrano, inoltre, che le aziende stanno sperimentando tecnologie di intelligenza artificiale cloud native e open source. Le architetture cloud native offrono scalabilità e resilienza, mentre la tecnologia open source offre flessibilità e velocità, caratteristiche entrambe necessarie per l'adozione dell'intelligenza artificiale e gli aggiornamenti tecnologici. Il vantaggio è rappresentato dall'agilità aziendale senza dover dipendere a lungo termine da un unico fornitore.

Data la complessità dell'adozione dell'intelligenza artificiale, molte organizzazioni privilegiano fornitori con competenze di comprovata validità nell'intelligenza artificiale. Questi partner aiutano le aziende a gestire non solo la tecnologia, ma anche la conformità, la scalabilità e la sicurezza. Un solido ecosistema di fornitori supporta strategie di mitigazione dei rischi con l'intelligenza artificiale.

L'aspetto forse più importante consiste nel fatto che le organizzazioni riconoscono come la governance dell'intelligenza artificiale non sia esclusivamente una responsabilità dell'IT. Le aziende più importanti stanno creando sistemi di governance interfunzionali che coinvolgono i team addetti alla conformità, alle questioni legali e alla sicurezza fin dall'inizio. Questo approccio olistico assicura che l'innovazione dell'intelligenza artificiale sia in linea con i requisiti normativi e gli standard etici dell'AI.

Lo schema principale emerso dai dati del sondaggio è che le aziende stanno raggiungendo un equilibrio con un'apposita struttura, ossia stanno costruendo l'impalcatura che consente all'innovazione e alla gestione dei rischi di progredire in parallelo.

Oltre alla struttura operativa, l'adozione equilibrata dell'intelligenza artificiale richiede un'infrastruttura solida. Infatti, secondo lo studio di Forrester, il 55% delle aziende cita le lacune in termini di tecnologie e piattaforme come la principale sfida legata all'adozione dell'intelligenza artificiale. 

Le piattaforme cloud tradizionali non sono state progettate per soddisfare le specifiche esigenze dei carichi di lavoro dell'intelligenza artificiale sensibili alle performance, come l'inferencing su larga scala. I problemi di latenza, inefficienza dei costi e controlli inadeguati della posizione dei dati creano tutti dei rischi, dal peggioramento delle customer experience ad una maggiore esposizione agli audit di conformità.

Le aziende stanno ripensando le proprie strategie legate all'infrastruttura con soluzioni alternative progettate specificamente per le performance dell'intelligenza artificiale. In questo modo, utilizzano piattaforme ottimizzate per i carichi di lavoro distribuiti, inferencing a bassa latenza e funzionalità di sicurezza in fase di progettazione. 

In breve, l'infrastruttura non è solo la base della tecnologia dell'intelligenza artificiale, ma una parte attiva dell'equazione dei rischi correlati. La scelta di una base errata può amplificare le vulnerabilità. Scegliere la giusta base può trasformare l'intelligenza artificiale da responsabilità a vantaggio competitivo nel lungo termine.

Il percorso dell'intelligenza artificiale nelle aziende si sta evolvendo rapidamente. L'adozione precoce è incentrata su casi di utilizzo limitati, quindi l'onda dell'AI generativa si è ampliata alla creazione di contenuti, all'analisi e all'automazione. 

Ora, siamo all'apice della fase successiva: l'agentic AI, che crea sistemi con l'autonomia necessaria per agire per conto dell'uomo e prendere decisioni basate sul contesto esistente. Questa evoluzione promette ulteriori profitti, ma ovviamente anche rischi senza precedenti.

Ogni fase dell'intelligenza artificiale aumenta sia i potenziali vantaggi che la probabilità di fallimento. Le aziende che avranno successo saranno quelle che stanno attualmente creando un flusso organizzativo tramite l'adozione iterativa, investendo in un'infrastruttura resiliente e performante e incorporando le funzionalità di governance e conformità fin dall'inizio.

È giunto il momento per i responsabili decisionali tecnici di rivalutare le soluzioni basate sull'intelligenza artificiale e le strategie cloud, in particolare le loro scelte legate all'infrastruttura, per assicurarsi di poter scalare in modo responsabile e tenendo presenti considerazioni etiche.

Per un'analisi più approfondita del modo con cui 400 responsabili decisionali si stanno avvicinando allo sviluppo e all'adozione dell'intelligenza artificiale, scaricate il rapporto completo di Forrester dal titolo Lo stato dell'AI aziendale: acquisire esperienza e gestire i rischi.