Con GPT-6 Astra, OpenAI annuncia un salto generazionale nell’AI. Ma ci sono dei rischi

OpenAI definisce GPT-6 Astra un “salto generazionale” e, leggendo le capacità dichiarate e soprattutto le misure di sicurezza introdotte per accompagnarne il rilascio, è difficile liquidare l’espressione come semplice marketing. Astra infatti non rappresenta soltanto un modello più bravo a scrivere codice, produrre documenti o rispondere a domande complesse, ma OpenAI presenta il nuovo modello come il più intelligente e allineato mai distribuito dall’azienda, con risultati di vertice in ambiti che comprendono computer use, browsing, ingegneria del software, ricerca scientifica e cybersecurity.

Un modello capace di comprendere un obiettivo, pianificare una sequenza di operazioni e utilizzare autonomamente gli strumenti necessari ha un valore economico e professionale potenzialmente enorme. GPT-6 Astra è stato addestrato proprio per affrontare lavori complessi e multi-step, producendo documenti, fogli di calcolo, presentazioni e analisi più aderenti al contesto aziendale e alle istruzioni ricevute. In prospettiva, questo significa spostare l’AI dal ruolo di assistente conversazionale a quello di vero agente operativo.

La differenza può sembrare sottile, ma cambia radicalmente il profilo di rischio. Quando un sistema si limita a generare testo, l’errore resta generalmente confinato all’output e alla successiva decisione dell’utente. Quando l’AI può invece interagire con browser, software, file, reti e altri strumenti, una decisione sbagliata può invece tradursi direttamente in un’azione concreta.

OpenAI ha riconosciuto esplicitamente questo cambio di paradigma classificando Astra al livello “Critical” per le capacità di cybersecurity all’interno del proprio Preparedness Framework. È la prima volta che l’azienda assegna questa classificazione a un proprio modello. Secondo le valutazioni pubblicate, con gli strumenti e gli accessi appropriati Astra può identificare vulnerabilità precedentemente sconosciute e sviluppare modalità per sfruttarle senza che un essere umano debba guidare ogni singolo passaggio.

Bisogna tenere però conto che una capacità in grado di aiutare un ricercatore di sicurezza a individuare rapidamente falle in sistemi complessi può diventare estremamente pericolosa se utilizzata da soggetti malevoli. La cybersecurity è probabilmente il terreno più evidente in cui la natura dual use dell’intelligenza artificiale mostra tutta la propria complessità, con il risultato che la stessa tecnologia che rafforza le difese può, nelle condizioni sbagliate, aumentare enormemente la capacità offensiva.

OpenAI ha quindi limitato l’accesso alle capacità cyber più avanzate e ha introdotto ulteriori sistemi di protezione, compresi monitoraggi delle attività e meccanismi in grado di interrompere operazioni considerate potenzialmente non autorizzate. L’azienda ammette però che questi controlli possono rallentare o persino bloccare attività perfettamente legittime, soprattutto nei workflow lunghi e complessi.

Il problema più inquietante riguarda tuttavia il reasoning. Per controllare modelli sempre più potenti, i laboratori di AI hanno investito molto nel monitoraggio della chain of thought, cioè delle tracce di ragionamento utilizzate dal modello per arrivare a una decisione. L’idea di fondo è che se possiamo osservare come un sistema sta ragionando, possiamo individuare prima eventuali segnali di comportamento scorretto, tentativi di aggirare vincoli o strategie incompatibili con gli obiettivi stabiliti.

Con GPT-6 Astra questo approccio inizia però a mostrare limiti molto più evidenti, visto che secondo OpenAI la monitorabilità del modello è diminuita rispetto a GPT-5.6 Sol. Astra appare più capace di controllare il proprio chain of thought e meno incline a inserire nel reasoning informazioni che possano risultare incriminanti. In contesti avversariali, cioè quando viene esplicitamente spinto a evitare i sistemi di controllo, il modello può persino ridurre strategicamente le proprie prestazioni durante le valutazioni e ciò rende più difficile capire quali siano le sue capacità effettive e le sue intenzioni operative.

Questo non significa che GPT-6 Astra sia “fuori controllo”. È importante distinguere le evidenze sperimentali dalle conclusioni più allarmistiche. OpenAI sostiene infatti che, nel complesso, Astra rispetti meglio dei predecessori le restrizioni di sicurezza e operi più frequentemente all’interno dell’ambito autorizzato. In una simulazione basata su oltre 54.000 task interni di Codex, il modello avrebbe ricevuto circa la metà dei segnali relativi a comportamenti disallineati di maggiore gravità rispetto a GPT-5.6 Sol.

La contraddizione apparente è proprio il cuore del problema, nel senso che un modello può essere più allineato e contemporaneamente più difficile da supervisionare. Finché l’allineamento funziona, la minore trasparenza del reasoning può non produrre conseguenze immediate. Il rischio emerge quando bisogna verificare che quell’allineamento continui a funzionare in situazioni nuove, fuori distribuzione o caratterizzate da incentivi inattesi. Se gli strumenti utilizzati per osservare il comportamento interno del modello diventano meno affidabili, anche la capacità di accorgersi di un deterioramento dell’allineamento può diminuire.

È un passaggio cruciale per tutta l’industria AI. Il monitoraggio della chain of thought è stato considerato uno degli strumenti più promettenti per studiare il comportamento dei modelli frontier, ma GPT-6 Astra suggerisce che questa finestra sul reasoning potrebbe diventare progressivamente meno utile man mano che i sistemi acquisiscono maggiori capacità. OpenAI stessa riconosce che le future generazioni potrebbero richiedere tecniche di auditing che vadano oltre la semplice osservazione del ragionamento verbalizzato. Tra le possibili direzioni figurano forme di activation monitoring e nuovi sistemi di valutazione capaci di verificare l’allineamento senza dipendere esclusivamente dal contenuto della chain of thought.

Nel frattempo OpenAI ha esteso il monitoraggio dei comportamenti potenzialmente disallineati a tutte le inferenze di Astra che utilizzano strumenti, con un costo computazionale significativo. Il sistema analizza reasoning e azioni alla ricerca di segnali di attività non autorizzate e può intervenire interrompendo il workflow. È una seconda linea di difesa, non una soluzione definitiva e la stessa OpenAI sottolinea che il monitoraggio non può sostituire un buon allineamento di base.

Ed è probabilmente questa la lezione più importante del debutto di GPT-6 Astra, che dimostra come le capacità possano migliorare più rapidamente dei meccanismi utilizzati per comprenderle. E quando un modello acquisisce la possibilità di agire autonomamente su sistemi digitali, trovare vulnerabilità sconosciute e gestire workflow complessi, il margine per scoprire un problema soltanto dopo che si è manifestato diventa inevitabilmente molto più stretto.