Le aziende che adottano piattaforme di AI generativa rischiano di pagare un prezzo ben superiore ai canoni di licenza. È questo il messaggio lanciato da Satya Nadella, CEO di Microsoft, che in un lungo intervento pubblicato su X ha introdotto il concetto di “reverse information paradox”, un fenomeno destinato, secondo il manager, a diventare uno dei principali problemi dell’AI enterprise nei prossimi anni.

L’idea di fondo è che quando un’organizzazione utilizza un modello di intelligenza artificiale per automatizzare processi, sviluppare software, analizzare documenti o assistere i dipendenti, non fornisce soltanto un pagamento economico al fornitore del servizio. Trasmette anche un patrimonio di informazioni estremamente prezioso, costituito da procedure operative, processi aziendali, modalità decisionali, correzioni apportate alle risposte dell’AI e conoscenze maturate nel corso degli anni.

Secondo Nadella, è proprio questo flusso continuo di interazioni a creare uno squilibrio informativo. Il cliente conosce relativamente poco su come il fornitore utilizzi quei dati, mentre il fornitore accumula progressivamente una quantità crescente di informazioni sul funzionamento interno delle aziende che impiegano i suoi modelli. Il CEO di Microsoft sostiene che questo patrimonio informativo rappresenti un valore competitivo difficilmente replicabile. Si tratta infatti dell’insieme delle correzioni effettuate dagli utenti, delle valutazioni sulla qualità delle risposte, degli strumenti richiamati dagli agenti AI e delle modalità con cui il personale interagisce quotidianamente con questi sistemi.

In altre parole, ogni utilizzo dell’intelligenza artificiale contribuisce a generare nuova conoscenza organizzativa. Se questa conoscenza viene acquisita, anche indirettamente, dal fornitore del modello, il rischio è che il vantaggio competitivo costruito dall’azienda finisca progressivamente per trasferirsi all’esterno. Il tema assume una particolare rilevanza proprio perché arriva da Microsoft, una delle aziende che negli ultimi anni ha investito maggiormente nell’intelligenza artificiale generativa.

Per questo motivo le dichiarazioni di Nadella hanno suscitato un acceso dibattito nel settore. Da una parte riconoscono un problema strutturale dell’attuale modello di business dell’AI nel cloud, mentre dall’altra provengono da un’azienda che propone proprio servizi di questo tipo e che, negli ultimi anni, ha costruito una parte importante della propria strategia commerciale attorno a Copilot e Azure AI.

Crediti: Shutterstock

Crediti: Shutterstock

La questione della protezione dei dati aziendali, del resto, non è nuova. Già nel 2024 numerose organizzazioni avevano rallentato o limitato l’adozione di Microsoft Copilot dopo aver riscontrato criticità nella gestione dei permessi interni e della governance delle informazioni. In ambienti caratterizzati da anni di accumulo di documenti su SharePoint e Microsoft 365, autorizzazioni troppo estese potevano infatti consentire all’assistente AI di accedere a informazioni sensibili ben oltre quanto previsto dagli amministratori. Secondo alcune indagini condotte all’epoca tra i responsabili della gestione dei dati aziendali, circa la metà delle organizzazioni coinvolte aveva deciso di sospendere temporaneamente il progetto, oppure di limitarne fortemente le funzionalità in attesa di una revisione completa delle politiche di accesso.

Nadella ritiene tuttavia che una corretta governance dei dati non sia più sufficiente. Il problema, a suo avviso, è più profondo e riguarda l’architettura stessa delle moderne piattaforme di intelligenza artificiale ospitate nel cloud. La soluzione proposta ruota attorno alla creazione di un confine di fiducia molto più rigido tra il patrimonio informativo dell’azienda e il fornitore del modello linguistico. L’obiettivo è impedire che qualsiasi forma di conoscenza organizzativa possa uscire dall’infrastruttura aziendale senza un consenso esplicito, comprese quelle informazioni che vengono generate indirettamente durante l’utilizzo quotidiano dell’intelligenza artificiale.

In questa visione assumono un ruolo centrale ambienti di apprendimento privati, ospitati all’interno del perimetro dell’organizzazione, sistemi di valutazione indipendenti e una memoria dell’AI controllata direttamente dall’azienda anziché dal provider del modello. Nadella suggerisce inoltre di separare il livello di orchestrazione degli agenti AI dai modelli linguistici sottostanti, così da evitare una dipendenza tecnologica eccessiva da un singolo fornitore. Il principio è quello di costruire un ciclo continuo di apprendimento che rimanga interamente sotto il controllo dell’impresa.

Interpellata sull’argomento, Microsoft ha confermato che il problema va oltre la semplice gestione dei permessi e rappresenta una criticità strutturale dell’attuale mercato dell’intelligenza artificiale. Secondo la società, tutte le organizzazioni che utilizzano servizi AI ospitati nel cloud sono potenzialmente esposte a questo rischio. La stessa Microsoft indica però come risposta tecnologica ai problemi evidenziati proprio alcune delle proprie piattaforme, tra cui Azure AI Foundry e Microsoft Copilot, sostenendo che la loro architettura separi il contesto operativo, la memoria degli agenti e i modelli di intelligenza artificiale, offrendo maggiori garanzie sul controllo dei dati.

(Immagine in apertura: Shutterstock)