Meta Muse Glimmer riporta i modelli open weight al centro, ma la Cina guida ancora la corsa

Meta prova a riaprire il capitolo ddei modelli AI open weight con Muse Glimmer, un LLM da 30 miliardi di parametri derivato per distillazione dal più ampio Muse Spark, che per ora resta proprietario. È una mossa importante soprattutto perché dopo mesi in cui il gruppo di Menlo Park sembrava aver archiviato la vocazione aperta costruita con Llama, torna a mettere nelle mani di aziende, sviluppatori e appassionati un modello modificabile e distribuibile liberamente.
La licenza Apache 2.0 fa la differenza, visto che non impone limiti sostanziali all’uso commerciale, permette di intervenire sui pesi e facilita la creazione di versioni specializzate. È esattamente il terreno sul quale, a partire dal 2023, Llama aveva alimentato un ecosistema enorme di fine-tuning, interfacce locali e distribuzioni ottimizzate.
Il ritorno di Meta all'”open” va tuttavia letto nel contesto di un mercato radicalmente cambiato. La corsa ai pesi aperti infatti non è più dominata dalle aziende statunitensi, visto che negli ultimi mesi i laboratori AI cinesi hanno imposto un ritmo difficilmente ignorabile. Nomi quali Moonshot AI con Kimi K3, Alibaba con la famiglia Qwen e DeepSeek hanno reso disponibili modelli aperti molto capaci e spesso competitivi con alternative proprietarie ben più costose. Non a caso Washington e la Silicon Valley osservano questa evoluzione con una certa inquietudine, perché il tema riguarda l’accesso alle tecnologie di base dell’AI, la sovranità industriale e la possibilità per le imprese locali di evitare dipendenze da API chiuse.
In questa prospettiva Muse Glimmer è meno una risposta diretta ai modelli di frontiera e più un segnale politico e industriale. Trenta miliardi di parametri non bastano a spostare gli equilibri contro i grandi modelli cinesi citati e Meta non sembra nemmeno voler suggerire il contrario. Il suo posizionamento è se mai votato al pragmatismo tra inferenza on-premise, agenti locali, assistenti per il codice, workflow aziendali che richiedono chiamate a strumenti esterni e function calling multimodale. Sono scenari nei quali conta ovviamente la qualità delle risposte, ma a pesare sono anche latenza, controllo dei dati, prevedibilità dei costi e facilità di integrazione.
Meta confronta Glimmer con Qwen 3.6-27B e Gemma 4 31B. Nei benchmark diffusi dall’azienda, il nuovo modello supera in numerosi test l’alternativa di Google e mostra risultati alterni contro la proposta di Alibaba. Come sempre, la lettura dei benchmark proprietari impone prudenza, considerando come la selezione dei test, i prompt utilizzati e le impostazioni di inferenza possano modificare sensibilmente il quadro. Resta comunque significativo che Meta torni a proporsi in questa fascia, dove l’efficienza operativa spesso vale più di un primato assoluto nei test generalisti.
Per quanto riguarda l’accessibilità,Glimmer possiede alcuni argomenti convincenti. In BF16, i suoi pesi occupano circa 60 GB, una dotazione gestibile con una singola Nvidia RTX Pro 6000 o AMD MI350P, schede professionali lontane dal budget dell’utente domestico ma realistiche per molte organizzazioni. Portando il modello a 4 bit, l’ingombro scende sotto i 16 GB e il tutto diventa quindi eseguibile su GPU consumer da 20 o 24 GB come le Nvidia RTX 3090 e RTX 4090 e le Radeon RX 7900 XT o XTX di AMD.
Le GPU da 16 GB restano in una posizione più scomoda. Il modello può essere ulteriormente compresso a 3 bit, ma la riduzione della precisione porta inevitabilmente qualche compromesso nella fedeltà dell’output e nella tenuta dei compiti complessi. Inoltre, far entrare i pesi nella memoria video non garantisce automaticamente una buona esperienza d’uso, visto che bisogna considerare il margine necessario ai dati temporanei, al contesto e alle elaborazioni richieste dal modello.
Glimmer utilizza tutti i suoi 30 miliardi di parametri per generare ciascun token. Questo lo distingue da architetture mixture-of-experts come Qwen 3.6-35B-A3B e Gemma 4 26B-A4B, che attivano soltanto una porzione molto più piccola dei parametri a ogni passaggio. In termini pratici, il modello Meta può risultare meno rapido a parità di memoria disponibile e, proprio per compensare questo aspetto, l’azienda punta molto sulla banda passante, con una una GPU Nvidia RTX 5090 che dovrebbe arrivare da 75 a 233 token al secondo, con il picco legato allo speculative decoding.
Inoltre, su un MacBook Pro con M5 Max, Meta stima tra 26,2 e 57,8 token al secondo, valori interessanti ma favoriti da una banda di memoria che resta ben superiore a quella della maggior parte dei notebook Windows. Su sistemi privi di GPU adeguata, aspettarsi 6-14 token al secondo è più realistico. I pesi sono già reperibili su Hugging Face e tramite Ollama o LM Studio, mentre l’ottimizzazione per strumenti come llama.cpp e Unsloth dovrebbe maturare nelle prossime settimane.
L’attenzione si sposta ora su Muse Spark 1.2, che Alexandr Wang (Chief AI Officer di Meta) ha promesso di distribuire in una variante open weights a breve. Se l’azienda riuscirà a pubblicare un modello realmente competitivo per capacità, efficienza e costo per token, il discorso cambierà e se Glimmer può riattivare la community, Spark 1,2 dovrà dimostrare che il ritorno ai pesi aperti non è soltanto un gesto di posizionamento.
(Immagine in apertura: Shutterstock)

