Un sistema di Business Process Automation che usa agenti AI accede a dati aziendali, li elabora, prende decisioni e agisce sui sistemi downstream. Questo è esattamente il suo valore. È anche, esattamente per le stesse ragioni, la fonte principale di rischio di sicurezza. Gli stessi meccanismi che rendono il sistema utile lo rendono un target appetibile per chi vuole accedere ai dati, manipolare le decisioni o sabotare i processi. La sicurezza in questo contesto non è un layer aggiunto: è un vincolo di progettazione.
Il problema è già dentro l'organizzazione
Gartner ha pubblicato a febbraio 2026 i top cybersecurity trends per il 2026, con un dato che merita attenzione: in una survey condotta tra maggio e novembre 2025 su 175 dipendenti, oltre il 57% dichiara di usare account GenAI personali per scopi lavorativi, e il 33% ammette di aver inserito informazioni sensibili in strumenti non approvati dall'azienda. Questo accade indipendentemente dai sistemi BPA formali: è la pressione di adottare strumenti AI che produce comportamenti non governati, con conseguenze dirette sulla privacy aziendale e sulla proprietà intellettuale.
Gartner descrive la proliferazione non controllata degli agenti AI attraverso piattaforme no-code e low-code, e il cosiddetto "vibe coding", come uno dei trend di cybersecurity più rilevanti del 2026: creano nuove superfici d'attacco, codice non sicuro e potenziali violazioni di compliance normativa prima ancora che l'IT ne sia a conoscenza.
Entro il 2027 il 40% delle violazioni AI verrà dall'uso cross-border
Nel comunicato di febbraio 2025, Gartner prevede che entro il 2027 oltre il 40% delle violazioni di dati legate all'AI sarà causato dall'uso improprio della GenAI attraverso i confini geografici. Il problema è strutturale: quando i dipendenti usano strumenti GenAI integrati in prodotti esistenti senza che questi siano chiaramente documentati, i dati vengono spesso trasferiti verso sistemi di elaborazione in giurisdizioni diverse senza che l'organizzazione ne sia consapevole. Le normative sulla localizzazione dei dati, come il GDPR europeo e le leggi equivalenti in altre giurisdizioni, si applicano indipendentemente dall'ignaro coinvolgimento dell'utente.
Gartner identifica come risposta la governance dei dati AI, il filtraggio e la redazione dei prompt, e la generazione sintetica di dati non strutturati come misure specifiche per questo tipo di rischio. Le organizzazioni che applicano controlli AI TRiSM (AI Trust, Risk and Security Management) consumeranno almeno il 50% di informazioni inaccurate o illegittime in meno, riducendo il processo decisionale difettoso, secondo la previsione Gartner per il 2026.
Gli agenti AI ampliano la superficie d'attacco in modo non lineare
Gartner ha identificato la gestione delle machine identity come uno dei sei trend principali di cybersecurity per il 2025. L'adozione di GenAI, servizi cloud, automazione e pratiche DevOps ha portato alla proliferazione di account e credenziali macchina per dispositivi fisici e workload software. Se non governate, queste identità espandono significativamente la superficie d'attacco dell'organizzazione.
In un sistema BPA con agenti AI, ogni agente ha credenziali, accede a sistemi specifici e ha permessi definiti. Un agente compromesso può accedere a tutti i sistemi per cui ha autorizzazione, estrarne i dati e avviare azioni che sembrano legittime perché vengono da un'entità autorizzata. La survey Gartner di settembre 2025 condotta su 302 responsabili cybersecurity rileva che il 62% delle organizzazioni ha subito un attacco deepfake che coinvolgeva social engineering o sfruttamento di processi automatizzati, e il 29% ha subito un attacco sull'infrastruttura di applicazioni GenAI enterprise negli ultimi dodici mesi.
Entro il 2028, Gartner prevede che il 25% delle violazioni enterprise sarà riconducibile all'abuso di agenti AI, sia da parte di attori esterni che da dipendenti interni con intenzioni malevole.
Le piattaforme di sicurezza AI: un mercato che nasce adesso
Tra i trend tecnologici strategici per il 2026, Gartner identifica le AI security platform come uno dei trend emergenti più rilevanti. Queste piattaforme offrono un modo unificato per proteggere le applicazioni AI di terze parti e quelle sviluppate internamente. Centralizzano la visibilità, applicano le policy di utilizzo e proteggono da rischi specifici dell'AI come il prompt injection, la perdita di dati e le azioni di rogue agent. Entro il 2028, Gartner prevede che oltre il 50% delle imprese userà piattaforme di sicurezza AI per proteggere i propri investimenti AI.
Il prompt injection merita attenzione specifica: è la tecnica con cui un attaccante inserisce istruzioni malevole nel testo che un agente AI elabora, inducendolo a eseguire azioni non autorizzate. In un sistema BPA in cui gli agenti processano documenti, email o richieste di servizio provenienti dall'esterno, qualsiasi contenuto non filtrato è un vettore potenziale per questo tipo di attacco.
Zero-trust come standard per la governance dei dati AI
Nel comunicato di gennaio 2026, Gartner prevede che entro il 2028 il 50% delle organizzazioni adotterà una postura zero-trust per la governance dei dati, in risposta alla proliferazione di dati generati da AI non verificati. La previsione è guidata da un rischio specifico: man mano che le future generazioni di LLM vengono addestrate sugli output dei modelli precedenti, cresce il rischio di "model collapse", dove le risposte degli strumenti AI non riflettono più accuratamente la realtà.
Per i sistemi BPA che usano GenAI, l'approccio zero-trust ai dati significa non assumere mai che un dato in ingresso sia corretto o autentico senza una verifica esplicita. Ogni fonte di dati va autenticata, ogni output va validato prima di essere usato come input in un processo successivo, e ogni accesso va loggato con sufficiente granularità per permettere l'audit in caso di incidente.
La spesa globale in sicurezza informatica raggiungerà 240 miliardi di dollari nel 2026, con un incremento del 12,5% rispetto al 2025, secondo le previsioni Gartner di luglio 2025. I driver principali sono le minacce in crescita e l'espansione dell'uso di AI e GenAI, sia da parte degli utenti interni che degli attaccanti. Investire in sicurezza dei sistemi AI non è un costo aggiuntivo: è la condizione per poter operare in un contesto in cui l'AI è sia lo strumento di difesa che il vettore d'attacco.
