Come fatto notare anche ieri riguardo i data center europei, l’efficienza energetica sta diventando uno dei principali terreni di scontro dell’infrastruttura AI. L’aumento esponenziale della capacità di calcolo richiesta dai modelli generativi rende infatti sempre meno sufficiente guardare alle prestazioni della singola GPU. Per AMD la risposta a questo problema passa da un approccio più ampio, nel quale processori, memoria, interconnessioni e software vengono progettati per lavorare come un’unica piattaforma, con l’obiettivo di aumentare di 20 volte l’efficienza energetica dei sistemi AI entro la fine del decennio rispetto al livello del 2024.

Secondo AMD, il percorso è già arrivato a un punto intermedio significativo. Nel 2026 i suoi sistemi avrebbero raggiunto un’efficienza circa quattro volte superiore a quella di due anni prima. Si tratta però di una stima del produttore e va interpretata alla luce della metodologia utilizzata per calcolarla, che attribuisce pesi differenti a capacità di calcolo, memoria e banda delle interconnessioni a seconda che si considerino workload di training oppure di inferenza.

Il punto di partenza del confronto è rappresentato dalla MI300X, entrata in produzione in volumi nel 2024 e progettata specificamente per il calcolo AI nei data center. Questa GPU disponeva di una potenza di 750 watt e arrivava, secondo AMD, a 2,6 petaflops di prestazioni FP8 dense. All’epoca rappresentava la risposta più diretta dell’azienda alla generazione Hopper di Nvidia. Da allora AMD ha agito su praticamente ogni componente della piattaforma. L’evoluzione non riguarda infatti esclusivamente il numero di FLOPS ottenibili da una GPU, ma coinvolge la precisione numerica, la memoria ad alta velocità, le tecnologie di interconnessione e soprattutto la capacità di distribuire il carico in modo efficiente fra numerosi acceleratori.

Un passaggio importante è stato l’utilizzo di formati floating point a 4 bit, insieme all’introduzione di nuove generazioni di memoria e all’aumento della velocità dei collegamenti tra i chip. Il cambio di paradigma più rilevante è però il passaggio dai server tradizionali basati su singole GPU a sistemi rack-scale, nei quali l’intero rack viene concepito come una singola macchina di calcolo.

3888300-helios-og

È questa la filosofia alla base di Helios, la piattaforma rack-scale presentata recentemente da AMD che integra 72 GPU MI455X in una configurazione progettata per massimizzare il throughput complessivo dei workload AI. La singola GPU è chiaramente più potente della MI300X, visto che offre tra 7,7 e 15,4 volte le prestazioni floating point, dispone di 2,25 volte più memoria HBM, raggiunge una velocità della memoria 4,4 volte superiore e quadruplica la banda delle interconnessioni chip-to-chip.

La crescita delle prestazioni ha però un costo energetico. La MI455X richiede infatti più di tre volte l’energia della precedente generazione e ciò mette in evidenza il punto centrale della strategia AMD, ovvero che l’efficienza non può essere valutata osservando esclusivamente la singola GPU. Il vantaggio potenziale arriva dalla capacità di utilizzare decine di acceleratori come un unico sistema, riducendo i colli di bottiglia nella comunicazione e sfruttando in maniera più efficace memoria e interconnessioni. In questo scenario, aumentare la potenza di ogni acceleratore è soltanto una parte del problema e diventa altrettanto importante evitare che le GPU rimangano inattive in attesa dei dati.

La differenza competitiva si giocherà quindi sempre più a livello di sistema. GPU, CPU, HBM, fabric di interconnessione, raffreddamento e software devono essere considerati come parti di una singola architettura. È una trasformazione che sta modificando anche il modo in cui vengono progettati i data center dedicati all’intelligenza artificiale.

C’è tuttavia un elemento da tenere sotto osservazione nelle dichiarazioni di AMD: il fattore 4x relativo al 2026 è una stima, mentre il traguardo 20x rappresenta un obiettivo futuro. Inoltre, la metodologia utilizzata non coincide necessariamente con le prestazioni osservabili in applicazioni reali. Per questo saranno particolarmente importanti i benchmark indipendenti, a partire da quelli MLPerf e InferenceX attesi dopo l’arrivo sul mercato dei primi sistemi Helios.

Se AMD riuscirà a rispettare la propria roadmap, l’impatto potrebbe essere considerevole. L’azienda sostiene che, a parità di potenza elettrica disponibile, entro il 2030 sarà possibile ottenere 20 volte la capacità di calcolo AI rispetto al 2024. Un altro modo di leggere il dato è ancora più significativo per i gestori dei data center, visto che secondo la proiezione AMD due rack Helios potrebbero arrivare a svolgere un lavoro che nel 2024 avrebbe richiesto circa 570 rack.

Ecco perché, con consumi elettrici, disponibilità di rete e costi operativi destinati a pesare sempre di più sull’espansione dei data center, riuscire a trasformare ogni watt in una quantità maggiore di calcolo potrebbe diventare importante quanto aumentare le prestazioni assolute delle GPU.