Secondo le ultime analisi di Gartner, esistono quattro aree particolarmente critiche in ambito cybersecurity in cui gli attaccanti mantengono un vantaggio operativo evidente: la compromissione delle applicazioni AI, l’uso dei deepfake per l’impersonificazione, le vulnerabilità nella supply chain del software e le tecniche di prompt injection.

Il modello interpretativo proposto da Gartner offre una chiave di lettura interessante perché introduce due variabili fondamentali: la quantità e qualità dei segnali disponibili per identificarle e la capacità delle organizzazioni di gestirle efficacemente. È proprio nell’intersezione tra scarsa visibilità e limitata maturità difensiva che si collocano i rischi più difficili da contenere.

Uno dei fronti più complessi riguarda la sicurezza delle applicazioni basate su AI. L’adozione crescente di modelli generativi, agenti autonomi e integrazioni di terze parti ha ampliato l’ecosistema applicativo ben oltre i confini del software tradizionale. Il risultato è una superficie di attacco più frammentata, in cui vulnerabilità apparentemente marginali possono esporre dati sensibili o credenziali critiche. Il problema non è solo tecnologico, ma anche metodologico, dal momento che molte organizzazioni continuano a trattare queste soluzioni come estensioni del software classico, senza adattare adeguatamente i modelli di sicurezza.

Secondo Gartner, la risposta passa da un cambio di approccio che integri la sicurezza direttamente nel ciclo di sviluppo delle applicazioni AI. Framework come il TRiSM (Trust, Risk and Security Management) diventano centrali per identificare dove inserire controlli specifici, dalla classificazione dei dati alla gestione degli accessi basata sul contesto d’uso. In questo scenario, il monitoraggio in tempo reale assume un ruolo cruciale, perché molte vulnerabilità emergono solo quando i sistemi sono già in produzione e interagiscono con dati reali.

Se la compromissione delle applicazioni AI rappresenta una minaccia strutturale, l’evoluzione dei deepfake introduce un elemento di discontinuità sul piano operativo. La qualità e l’accessibilità degli strumenti generativi hanno reso possibile la creazione di contenuti audio e video estremamente credibili, utilizzabili sia in attacchi asincroni, sia in scenari in tempo reale. Questo apre la porta a nuove forme di social engineering, in cui l’identità digitale può essere replicata con un livello di precisione tale da aggirare anche sistemi di autenticazione avanzati.

Cybersecurity AI

Fonte: Gartner

Il punto critico è che non esiste una soluzione unica in grado di neutralizzare questo tipo di minaccia. Le tecnologie di rilevamento, pur in costante evoluzione, non sono sufficienti da sole. Diventa necessario rafforzare i processi aziendali, introdurre livelli multipli di verifica e ripensare l’affidabilità delle comunicazioni in tempo reale. Anche i sistemi biometrici, spesso considerati un baluardo, devono essere integrati con meccanismi capaci di rilevare tentativi di manipolazione o iniezione di segnali falsi.

Un altro ambito in cui il rischio è in rapida crescita è quello della supply chain del software. L’adozione massiccia di componenti open source e la crescente complessità delle pipeline di sviluppo rendono infatti più difficile garantire l’integrità dell’intero ciclo produttivo. L’intelligenza artificiale, paradossalmente, contribuisce ad accelerare questa tendenza, aumentando la velocità con cui codice e modelli vengono integrati nei prodotti finali.

Ecco perché la visibilità diventa un fattore determinante. La creazione di inventari completi delle componenti software e l’adozione di strumenti come SBOM e AIBOM permettono di tracciare l’origine e il rischio associato a ogni elemento. Allo stesso tempo, diventa essenziale rafforzare le pipeline CI/CD, limitare i privilegi di accesso e monitorare in modo continuo il comportamento delle applicazioni in esecuzione. L’obiettivo, oltre a prevenire l’introduzione di codice malevolo, è individuare tempestivamente eventuali anomalie operative.

Infine, il tema della prompt injection rappresenta una delle minacce più specifiche dell’era dei modelli linguistici. In questo caso, l’attacco non avviene sfruttando una vulnerabilità classica, ma manipolando direttamente l’input fornito al sistema per alterarne il comportamento. Le conseguenze possono variare dalla semplice deviazione delle risposte fino alla fuga di informazioni sensibili o all’esecuzione di azioni non autorizzate.

La difficoltà nel contrastare queste tecniche risiede nella loro natura dinamica. Non esiste una firma statica facilmente identificabile, ma una serie di interazioni che possono apparire legittime se analizzate superficialmente. Per questo motivo, Gartner suggerisce un approccio multilivello che includa validazione degli input, monitoraggio comportamentale e test di sicurezza integrati nel ciclo di sviluppo. I cosiddetti guardrail a runtime diventano uno strumento fondamentale per intercettare comportamenti anomali prima che si traducano in un impatto concreto.

(Immagine in apertura: Shutterstock)