AMD cambia ancora le carte sul tavolo della competizione nell’intelligenza artificiale e, guidata dalla strategia “full stack” per l’AI, ha acquisito Taalas, una startup canadese specializzata nella progettazione di acceleratori dedicati all’inferenza e basati su un concetto estremamente innovativo, che vede i pesi dei modelli di intelligenza artificiale inseriti direttamente all’interno del silicio del chip.

L’operazione, annunciata alla chiusura dei mercati, rappresenta un tassello importante nella guerra tecnologica contro NVIDIA, che oggi domina il mercato dei sistemi per addestramento e utilizzo dei modelli generativi grazie alla famiglia di GPU Hopper e Blackwell. AMD negli ultimi anni ha recuperato terreno con gli acceleratori Instinct, diventati una valida alternativa per grandi operatori cloud e società che sviluppano modelli linguistici, ma con Taalas punta a rendere l’inferenza AI più rapida, economica ed efficiente dal punto di vista energetico.

Fondata nel 2023 a Toronto, Taalas ha sviluppato un approccio che rompe con la filosofia tradizionale delle GPU. I processori grafici utilizzati oggi nei data center devono caricare continuamente enormi quantità di parametri dalla memoria ad alta velocità, come la HBM, verso le unità di calcolo. Questo processo rappresenta uno dei principali colli di bottiglia dell’intelligenza artificiale moderna, soprattutto quando si passa dalla fase di addestramento alla fase di utilizzo quotidiano dei modelli.

La soluzione di Taalas elimina gran parte di questa movimentazione dei dati incidendo direttamente i pesi del modello nella struttura del chip. In pratica, il processore diventa un circuito integrato progettato per uno specifico modello AI, una sorta di “ASIC dedicato al modello” o MSIC (Model-Specific Integrated Circuit). Il vantaggio è una velocità potenzialmente molto superiore rispetto alle architetture generaliste, anche se a prezzo di una minore flessibilità.

Lo scorso febbraio Taalas aveva presentato il suo primo chip sperimentale HC1, realizzato con processo produttivo TSMC a 6 nanometri. Nei test pubblicati dall’azienda, l’acceleratore era riuscito a eseguire il modello Meta Llama 3.1 8B raggiungendo circa 16.960 token al secondo. Un risultato impressionante, che secondo Taalas superava ampiamente le prestazioni delle GPU NVIDIA utilizzate come confronto e risultava superiore anche agli acceleratori specializzati di aziende come Cerebras.

Il funzionamento interno rimane in gran parte riservato, ma alcune informazioni mostrano una progettazione estremamente particolare. Il chip integra una sezione basata su memoria ROM utilizzata per conservare i pesi del modello direttamente nel silicio, oltre a una parte basata su SRAM destinata alla gestione della cache KV e degli adattamenti necessari per il fine tuning.

screenshot-taalas.com-2026.08.07-11_49_35

La seconda generazione della piattaforma, denominata HC2, punta ad aumentare significativamente la capacità del modello supportato, arrivando a gestire circa 20 miliardi di parametri per singolo acceleratore. Un valore apparentemente ridotto rispetto ai modelli linguistici più avanzati, che oggi raggiungono centinaia di miliardi o addirittura dimensioni nell’ordine del trilione di parametri, ma che può essere scalato distribuendo il modello su più chip attraverso tecniche di parallelizzazione. In questo scenario, AMD potrebbe integrare i nuovi acceleratori all’interno dei propri sistemi rack Instinct Helios, creando un’architettura ibrida nella quale le GPU tradizionali gestiscono le operazioni più complesse come l’elaborazione iniziale delle richieste, mentre i chip basati sulla tecnologia Taalas si occupano della generazione dei token.

Una strategia simile avrebbe un vantaggio concreto nei servizi AI commerciali. I chatbot avanzati, gli assistenti per la programmazione e gli agenti autonomi richiedono infatti una capacità di risposta sempre maggiore, ma il costo dell’inferenza rappresenta oggi uno dei problemi principali per aziende come OpenAI, Anthropic e Meta. Ridurre il prezzo per token generato potrebbe diventare un elemento competitivo decisivo.

Il limite principale della tecnologia Taalas riguarda però la rigidità dell’approccio. Un chip con i pesi di un modello incorporati fisicamente non può essere aggiornato con la stessa rapidità di una GPU tradizionale. Se il modello cambia profondamente, è infatti necessario realizzare una nuova versione del silicio e, in un settore dove vengono rilasciati nuovi modelli con frequenza quasi mensile, questo potrebbe rappresentare un ostacolo importante. La startup sostiene comunque che gli aggiornamenti non richiedono necessariamente una riprogettazione completa del chip, visto che in molti casi sarebbe sufficiente modificare soltanto alcuni livelli metallici della struttura interna, riducendo tempi e costi rispetto alla realizzazione di un nuovo acceleratore da zero.

Proprio questa caratteristica rende la tecnologia particolarmente interessante per i grandi laboratori di ricerca sull’AI, che dispongono di modelli destinati a rimanere stabili per lunghi periodi. Aziende come OpenAI, Anthropic e Meta, già vicine all’ecosistema AMD attraverso gli acceleratori Instinct, potrebbero rappresentare i primi clienti naturali per una combinazione di GPU tradizionali e chip specializzati Taalas.

L’impatto potrebbe riguardare anche lo sviluppo dei modelli stessi. Una delle tecniche più utilizzate per migliorare l’affidabilità delle risposte dell’AI è il cosiddetto test-time scaling, ovvero permettere al modello di dedicare più tempo al ragionamento prima di produrre un risultato. Questo metodo migliora spesso precisione e qualità, ma aumenta il numero di token elaborati e quindi i costi operativi. Se gli acceleratori Taalas riuscissero davvero a moltiplicare la velocità di generazione e ridurre sensibilmente il costo dell’inferenza, gli sviluppatori potrebbero spingersi verso modelli capaci di ragionamenti più lunghi e complessi, modificando ancora una volta l’equilibrio tra potenza di calcolo, efficienza energetica e qualità delle risposte.

(Immagine in apertura: Shutterstock)