Il mercato dei grandi modelli linguistici open weight si arricchisce di un nuovo protagonista. Thinking Machines Lab, la startup fondata nel 2025 dall’ex CTO di OpenAI Mira Murati, ha presentato Inkling, un modello di intelligenza artificiale da 975 miliardi di parametri che punta a colmare il divario tra l’offerta statunitense e quella cinese, oggi dominata da realtà come DeepSeek, Zhipu AI e Moonshot AI.

Con questa iniziativa, la giovane azienda entra direttamente nella competizione dei cosiddetti frontier model, cioè i modelli di frontiera progettati per affrontare compiti complessi di ragionamento, programmazione e analisi multimodale. La caratteristica che rende Inkling particolarmente interessante è la sua natura open weight; gli sviluppatori potranno infatti scaricare il modello, modificarlo e adattarlo alle proprie esigenze senza le limitazioni tipiche delle piattaforme proprietarie.

Si tratta più precisamente del più grande modello open weight mai sviluppato negli Stati Uniti e si colloca nella stessa categoria dei più avanzati modelli open source provenienti dalla Cina, come DeepSeek V4, GLM 5.2 e Kimi K2.6. Dimensioni di questo livello comportano però requisiti hardware particolarmente elevati. L’esecuzione del modello nella sua precisione nativa a 16 bit richiede infatti oltre 2 terabyte di memoria GPU, equivalenti, ad esempio, a circa otto acceleratori NVIDIA B300 oppure sedici GPU NVIDIA H200. Per rendere il modello più accessibile, Thinking Machines ha distribuito anche una versione quantizzata in formato NVFP4, che dimezza sostanzialmente il fabbisogno di memoria consentendone l’utilizzo su infrastrutture meno costose.

L’azienda sostiene che Inkling sia competitivo con i principali modelli open weight oggi disponibili in numerosi benchmark dedicati al coding, al ragionamento e alla comprensione del linguaggio naturale. Le stesse valutazioni diffuse dalla società mostrano però come i modelli proprietari di aziende quali OpenAI e Anthropic mantengano ancora un vantaggio in diversi scenari applicativi, un aspetto che suggerisce una certa cautela nell’interpretazione dei risultati, anche perché i benchmark AI continuano a rappresentare uno degli strumenti più controversi per confrontare le prestazioni dei modelli.

Thinking Machines descrive Inkling come una piattaforma estremamente flessibile, pensata principalmente per sviluppatori e aziende impegnati nella realizzazione di applicazioni AI. Il modello può comunque essere utilizzato anche per casi d’uso più generici, come chatbot, assistenti virtuali o strumenti di produttività. Uno dei punti di forza della piattaforma è rappresentato dalla licenza Apache 2.0, una delle più permissive nel panorama open source. Gli utenti possono quindi modificare liberamente il modello, addestrarlo ulteriormente sui propri dati e distribuirne versioni personalizzate senza particolari restrizioni.

thinking machines

Per facilitare queste operazioni, Thinking Machines mette a disposizione anche Tinker, una piattaforma cloud che integra strumenti dedicati alla personalizzazione e al fine tuning. Secondo l’azienda, Inkling è persino in grado di generare autonomamente gli script necessari al proprio riaddestramento, consentendo di perfezionare il comportamento del modello, acquisire nuove competenze e valutare in maniera autonoma le proprie prestazioni.

Sul piano tecnico, una delle caratteristiche più rilevanti è il supporto a un contesto di un milione di token. Significa che il modello può mantenere in memoria una quantità molto elevata di informazioni durante una singola conversazione, caratteristica particolarmente utile nell’analisi di grandi basi di codice, documentazione tecnica estesa o attività di ricerca in cui è necessario individuare informazioni molto specifiche all’interno di enormi volumi di dati. L’architettura adottata è di tipo Mixture of Experts (MoE), oggi sempre più diffusa tra i modelli di grandi dimensioni. Thinking Machines ammette di essersi ispirata a DeepSeek-V3, ma precisa di aver addestrato Inkling completamente da zero utilizzando sistemi NVIDIA GB300 NVL72 e un dataset composto da circa 45 trilioni di token, comprendente testi, immagini, contenuti audio e video.

Il modello utilizza 256 esperti dinamici ai quali si aggiungono due moduli condivisi. Per ogni token generato vengono attivati sei esperti, per un totale di circa 41 miliardi di parametri effettivamente utilizzati durante l’inferenza. Questo approccio consente di mantenere prestazioni elevate senza dover elaborare l’intero modello a ogni richiesta, migliorando così l’efficienza computazionale.

Come la maggior parte dei moderni modelli di frontiera, Inkling appartiene alla categoria dei cosiddetti reasoning model, cioè sistemi addestrati mediante Reinforcement Learning per sviluppare un processo di ragionamento intermedio prima di produrre la risposta finale. Questa tecnica tende a migliorare accuratezza e capacità logiche riducendo il rischio di allucinazioni, ma comporta anche un aumento del numero di token elaborati e, di conseguenza, dei costi di utilizzo quando il modello viene impiegato tramite API.

Secondo Thinking Machines, Inkling è stato ottimizzato proprio per utilizzare questi token di ragionamento in maniera più efficiente. Nei test interni il modello raggiungerebbe prestazioni paragonabili a NVIDIA Nemotron 3 Ultra, attualmente il principale modello open weight statunitense, consumando però circa un terzo dei token richiesti dalla soluzione concorrente. Inkling è già disponibile attraverso la piattaforma Tinker e sarà progressivamente integrato anche nei principali servizi di inferenza AI, tra cui Together AI, Fireworks, Modal, Databricks e Baseten. Chi preferisce eseguirlo localmente, potrà invece scaricarlo da repository come Hugging Face, con supporto per framework di inferenza molto diffusi quali vLLM, SGLang, Llama.cpp, Miles e TokenSpeed.

Il debutto di Inkling rappresenta soltanto il primo passo della roadmap di Thinking Machines. La startup ha infatti anticipato anche l’arrivo di Inkling-Small, una versione da 276 miliardi di parametri progettata per offrire latenza inferiore e requisiti hardware più contenuti. Una strategia che conferma l’ambizione della società di costruire una famiglia completa di modelli AI aperti, puntando a rafforzare la competitività dell’ecosistema statunitense in un settore dove, negli ultimi mesi, i laboratori cinesi hanno assunto un ruolo sempre più rilevante.

(Immagine in apertura: Shutterstock)