Anche se l’AI rappresenta una delle principali direttrici di investimento di Microsoft, questo non significa che le risorse possano essere utilizzate senza alcun controllo. Anzi, secondo indiscrezioni emerse nelle ultime ore, il colosso di Redmond avrebbe iniziato a richiamare i propri dipendenti a un impiego più responsabile degli strumenti AI, invitandoli a evitare consumi inutili di token e a concentrarsi invece sul valore reale generato per clienti e azienda.

L’indicazione arriverebbe da una comunicazione interna attribuita a Jay Parikh, Executive Vice President di Microsoft, visionata da 404 Media. Nel messaggio il dirigente chiarisce che le varie divisioni aziendali riceveranno obiettivi specifici sull’utilizzo dell’intelligenza artificiale e che, qualora tali parametri non venissero rispettati, potrebbero essere introdotte limitazioni operative.

Il passaggio più significativo della comunicazione riguarda il cosiddetto “tokenmaxxing”, un fenomeno che negli ultimi mesi ha iniziato a diffondersi soprattutto nelle grandi aziende impegnate nella trasformazione digitale. Con questa espressione si indica la tendenza a utilizzare il maggior numero possibile di token durante l’interazione con i modelli di intelligenza artificiale, quasi a considerare il volume di consumo come una dimostrazione di produttività o di adozione efficace della tecnologia.

Per comprendere il problema, è necessario ricordare che i token rappresentano l’unità fondamentale con cui vengono elaborati e fatturati i modelli linguistici. Ogni richiesta inviata a un chatbot e ogni risposta generata consumano un determinato numero di token. Più lunga è la conversazione, maggiore sarà il costo sostenuto dall’azienda che utilizza il servizio, soprattutto quando si ricorre ai modelli più avanzati disponibili sul mercato.

In molte organizzazioni l’adozione dell’intelligenza artificiale viene monitorata anche attraverso indicatori quantitativi. Questo può però produrre un effetto indesiderato, visto che alcuni dipendenti finiscono per aumentare artificialmente il numero di richieste ai sistemi AI, convinti che un maggiore consumo di token venga interpretato come un utilizzo più intenso e, di conseguenza, come un segnale positivo nei confronti del management.

È proprio questa logica che Microsoft sembra voler scoraggiare. Nel messaggio attribuito a Parikh compare infatti una frase particolarmente esplicita: “l’obiettivo non è massimizzare il numero di token consumati, bensì ottenere risultati capaci di produrre un impatto concreto sul business e sull’esperienza dei clienti”. Una distinzione importante, perché sposta l’attenzione dall’utilizzo della tecnologia ai benefici effettivamente generati.

sprechi ai

Crediti: Shutterstock

La scelta anti “tokenmaxxing” non sembra però rappresentare un ridimensionamento degli investimenti. Microsoft continua infatti a presentarsi come un’azienda “AI-first”, intenzionata a integrare l’intelligenza artificiale in praticamente ogni servizio della propria offerta. Il messaggio che emerge riguarda piuttosto l’efficienza economica, nel senso che anche un’organizzazione con risorse finanziarie enormi deve valutare attentamente il ritorno sugli investimenti quando l’utilizzo dei modelli cresce rapidamente.

La questione diventa ancora più rilevante alla luce delle recenti modifiche introdotte in GitHub Copilot. A partire da giugno, la piattaforma ha infatti adottato un sistema di fatturazione basato sul consumo effettivo. Sebbene GitHub utilizzi una metrica denominata AI Credits invece del conteggio diretto dei token, il principio rimane lo stesso e quindi ogni interazione con gli strumenti di assistenza alla programmazione comporta un costo misurabile.

Questo cambiamento rende molto più evidente l’impatto economico derivante da un utilizzo poco efficiente dell’intelligenza artificiale. Se in passato il costo poteva essere percepito come una voce generica all’interno delle spese cloud, oggi ogni richiesta aggiuntiva contribuisce direttamente ai consumi contabilizzati, rendendo più semplice individuare eventuali sprechi.

Le indiscrezioni hanno inevitabilmente alimentato alcune interpretazioni critiche. Un dipendente Microsoft, rimasto anonimo, avrebbe dichiarato a 404 Media che una simile iniziativa potrebbe essere letta come un’ammissione implicita della difficoltà, perfino per un grande provider di infrastrutture AI, nel sostenere economicamente i propri stessi servizi. Se fosse davvero così, osserva il dipendente, le aziende clienti potrebbero incontrare problemi ancora maggiori.

Questa lettura appare però piuttosto riduttiva. L’iniziativa descritta non sembra suggerire che Microsoft abbia difficoltà finanziarie o che l’infrastruttura AI sia insostenibile. Piuttosto evidenzia una realtà con cui stanno facendo i conti molte organizzazioni e nella quale l’AI genera valore soltanto quando viene utilizzata in modo consapevole, evitando processi ridondanti e richieste prive di reale utilità.

Un tema che interessa ormai l’intero settore tecnologico. Con la diffusione delle piattaforme generative, cresce infatti anche l’attenzione verso il Total Cost of Ownership dell’AI, cioè il costo complessivo necessario per mantenere operativi questi strumenti. Oltre alla potenza di calcolo, entrano in gioco il consumo energetico dei data center, la disponibilità di GPU sempre più costose e le licenze dei modelli linguistici utilizzati.

(Immagine in apertura: Shutterstock)