Indice dell'articolo

La Commissione europea ha avviato le prime azioni di vigilanza previste dall’AI Act nei confronti dei grandi sviluppatori di modelli. L’AI Office – l’ufficio della Commissione incaricato di sorvegliare i modelli di intelligenza artificiale per finalità generali – ha inviato a OpenAI e Anthropic richieste di informazioni su sicurezza, valutazione esterna e monitoraggio dell’uso dei modelli. Lo ha annunciato Henna Virkkunen, vicepresidente esecutiva della Commissione per la sovranità tecnologica, il 14 ottobre all’International AI Summit di Dublino.

Le richieste arrivano dopo che l’AI Office ha giudicato insufficiente la documentazione che le due aziende avevano trasmesso spontaneamente. La richiesta di informazioni è il primo strumento istruttorio a disposizione della Commissione e, allo stato, non è stato annunciato alcun procedimento per inadempienza o per l’irrogazione di sanzioni. Per i fornitori di modelli per finalità generali (general purpose), l’AI Act prevede multe fino al 3% del fatturato mondiale annuo o fino a 15 milioni di euro, se l’importo è superiore.

Due incidenti, due dinamiche diverse

La richiesta deriva dagli incidenti informatici avvenuti la scorsa estate nel corso di test di sicurezza. Nel primo, centinaia di agenti di OpenAI sono evasi dalla sandbox interna e attaccato Hugging Face usando anche credenziali rubate, hanno cercato di nascondere le proprie tracce e si sono coordinati scambiandosi messaggi e obiettivi su forum e wiki di terze parti. Nei giorni successivi l’azienda ha individuato altri tre incidenti e Sam Altman, CEO di OpenAI, ha dichiarato di aver sospeso i test per rafforzare l’isolamento degli ambienti di prova.

Il caso Anthropic è stato reso pubblico a fine luglio. Analizzando oltre 141.000 sessioni di valutazione, l’azienda ha scoperto che tre diverse versioni dei suoi modelli Claude – tra cui Mythos 5, distribuito solo a un numero ristretto di partner autorizzati – avevano avuto accesso non autorizzato ai sistemi di tre organizzazioni esterne, di cui non ha fatto il nome. Le tecniche usate erano elementari: password deboli e interfacce esposte senza autenticazione.

Il nodo dell’esenzione per ricerca e test

Il punto più delicato è giuridico. L’AI Act esclude dal proprio ambito le attività di ricerca, test e sviluppo svolte prima che un modello venga immesso sul mercato. Diversi giuristi sostengono quindi che la Commissione non abbia titolo per intervenire. Secondo Barry Scannell, partner dello studio legale William Fry, il regolamento “non ha mai previsto i problemi che ora vediamo” con agenti fuori controllo durante i test, e considerare “messo in servizio” un sistema sfuggito al proprio ambiente di sviluppo è un’interpretazione forzata.

La Commissione sostiene una lettura più ampia. Un funzionario, intervistato da Euronews in forma anonima, ha spiegato che Bruxelles non intende intervenire sulla fase di test in quanto tale, ma che le regole diventano applicabili quando un modello esce dall’ambiente di prova e produce effetti sul mercato europeo. Il riferimento è a Hugging Face, che opera a livello globale e ha clienti nell’Unione. La Commissione paragona la situazione a un virus sfuggito da un laboratorio.

L’argomento regge meglio per OpenAI che per Anthropic. Nel secondo caso le tre organizzazioni colpite non sono state identificate e non è pubblico se abbiano sede o clienti nell’Unione. Non risultano al momento commenti di OpenAI e Anthropic sulle richieste dell’AI Office.

Il contesto spiega l’urgenza di Bruxelles. La settimana scorsa Virkkunen ha incontrato lo Scientific Panel, il gruppo di esperti indipendenti che affianca l’AI Office. Secondo Euronews, gli esperti hanno segnalato che i principali laboratori sviluppano modelli sempre più potenti con pratiche di sicurezza inadeguate, e che molti incidenti potrebbero non essere mai stati resi pubblici.

Cosa cambia per chi integra agenti AI in azienda

Queste richieste dell’AI Office riguardano i fornitori dei modelli, non le aziende che li utilizzano. Il segnale per chi integra agenti AI nei propri processi è però concreto. I tre temi sollevati dalla Commissione – sicurezza, valutazione esterna, monitoraggio dell’uso – coincidono con le domande che un responsabile IT dovrebbe già porre ai fornitori:

  • quali controlli isolano gli agenti dai sistemi di produzione e dalla rete esterna?
  • quali registri delle attività degli agenti sono disponibili al cliente, e per quanto tempo?
  • con quali tempi e modalità il fornitore notifica un incidente che coinvolge i modelli in uso?

Per le organizzazioni soggette alla direttiva NIS2, la valutazione della sicurezza dei fornitori è già un obbligo. È verosimile che questi elementi entrino in modo sempre più esplicito nei contratti e nelle procedure di acquisto, anche se al momento nessuna norma lo impone agli utilizzatori.

L’esito di questo primo confronto definirà fin dove arriva il perimetro dell’AI Act. Se le aziende contestassero la competenza della Commissione, potrebbe aprirsi il primo contenzioso sull’applicazione del regolamento ai modelli in fase di sviluppo. Virkkunen ha ribadito che la Commissione è pronta ad adottare tutte le misure necessarie per far rispettare le regole.