L’intelligenza artificiale applicata allo sviluppo software rischia di trasformarsi in un problema economico molto più grande del previsto. Secondo Gartner, entro il 2028 i costi operativi legati agli strumenti di AI coding potrebbero superare lo stipendio medio di uno sviluppatore, spinti dall’aumento esponenziale del consumo di token e dal passaggio dell’industria verso modelli di licensing basati sull’utilizzo reale delle piattaforme.

La previsione è particolarmente significativa perché arriva in un momento in cui praticamente tutte le aziende tecnologiche stanno accelerando sull’adozione di agenti AI per programmazione, debugging, testing e automazione del ciclo di sviluppo. Fino a pochi mesi fa il tema dominante era soprattutto la produttività, mentre oggi il vero problema sta diventando la sostenibilità economica di questi strumenti quando vengono distribuiti su larga scala all’interno delle organizzazioni.

Il nodo centrale è rappresentato dai token, le unità di dati elaborate dai modelli linguistici generativi. Ogni richiesta inviata a un sistema AI consuma token in input e output, e quel consumo ha un costo diretto che aumenta in funzione della complessità del task, della lunghezza del contesto e della potenza del modello utilizzato. In uno scenario enterprise, dove centinaia o migliaia di sviluppatori utilizzano assistenti AI continuamente durante la giornata, il volume complessivo può crescere molto rapidamente.

Secondo Gartner, molte aziende stanno sottovalutando proprio questo aspetto. Durante la fase iniziale di sperimentazione, i costi appaiono relativamente contenuti, ma quando gli strumenti AI diventano parte integrante dei workflow quotidiani, il consumo di token esplode e la spesa operativa inizia a salire molto più velocemente dei benefici attesi.

agenti ai

Crediti: Shutterstock

La situazione è aggravata dal cambiamento dei modelli commerciali adottati dai fornitori di AI coding. Storicamente il software enterprise seguiva logiche relativamente prevedibili basate sul numero di utenti o licenze acquistate. Ora molti vendor stanno invece passando a modelli “consumption-based”, dove il costo dipende direttamente dall’utilizzo effettivo delle risorse AI.

Questo approccio introduce un livello di imprevedibilità che molte aziende non sono ancora preparate a gestire. In diversi casi, manca persino trasparenza sul modo in cui i token vengono conteggiati, fatturati o attribuiti ai diversi task di sviluppo. Il risultato è che numerosi team engineering si trovano improvvisamente con budget esauriti molto prima delle previsioni iniziali, senza avere strumenti realmente efficaci per correlare spesa sostenuta e valore prodotto.

Gartner individua anche un problema culturale e organizzativo. Gli sviluppatori tendono naturalmente a privilegiare velocità, comodità e qualità del risultato piuttosto che ottimizzazione economica. Se un modello AI più grande produce codice migliore o riduce il tempo di lavoro, la tendenza spontanea sarà utilizzarlo il più possibile, anche quando il costo computazionale non è giustificato.

In assenza di governance strutturata, questa dinamica rischia di sfuggire rapidamente di mano. Uno dei fattori più critici riguarda la crescita incontrollata delle finestre di contesto. I modelli AI moderni possono gestire quantità enormi di informazioni contemporaneamente, ma contesti molto ampi significano anche consumi di token enormemente superiori. Repository completi, documentazione estesa, log, file multipli e conversazioni persistenti finiscono così per aumentare drasticamente i costi di inferenza.

Chrome 146

Crediti: Shutterstock

Secondo Gartner, molte organizzazioni non stanno ancora applicando pratiche efficaci di “context engineering”, cioè l’ottimizzazione delle informazioni fornite ai modelli AI per ridurre sprechi computazionali mantenendo qualità elevata dell’output. Anche i vendor hanno responsabilità importanti. Gli attuali strumenti di AI coding offrono ancora capacità limitate sul fronte dell’ottimizzazione automatica dei costi. In molti casi mancano inoltre sistemi avanzati di routing intelligente, monitoraggio granulare dei consumi o controlli dinamici sulla scelta dei modelli più efficienti.

E il problema potrebbe peggiorare ulteriormente. Gartner ritiene infatti che i prezzi dei modelli AI continueranno ad aumentare nei prossimi anni a causa degli enormi investimenti infrastrutturali richiesti dall’intelligenza artificiale generativa. non a caso, data center, GPU avanzate, memoria HBM e consumi energetici stanno facendo crescere il costo complessivo dell’ecosistema AI a livelli senza precedenti.

Parallelamente, l’utilizzo degli assistenti AI diventerà sempre più intenso. Gli utenti occasionali tenderanno a trasformarsi rapidamente in utenti abituali man mano che gli strumenti verranno integrati profondamente nei processi di sviluppo software. Per contenere il problema, Gartner suggerisce un approccio molto più disciplinato. Le aziende dovrebbero classificare chiaramente i task in base al livello di autonomia richiesto, decidendo quando l’AI deve assistere lo sviluppatore e quando invece può operare autonomamente.

Un altro punto cruciale riguarda la scelta dei modelli, dal momento che non tutte le attività richiedono sistemi frontier estremamente costosi. Task semplici, ripetitivi o ad alta frequenza possono essere gestiti da modelli più piccoli ed economici, riservando le piattaforme più avanzate soltanto ai workload realmente complessi.

(Immagine in apertura: Shutterstock)