L’incidente che ha coinvolto OpenAI e Hugging Face continua a produrre effetti ben oltre l’ambito strettamente tecnico. Dopo la diffusione dei dettagli relativi al test interno in cui un agente AI avrebbe aggirato i sistemi di contenimento fino a compromettere l’infrastruttura di Hugging Face, la politica statunitense ha reagito con una rapidità insolita, mettendo sul tavolo alcune delle proposte normative più incisive mai discusse nel settore dell’intelligenza artificiale.

Michael Kratsios, principale consigliere tecnologico del presidente Donald Trump, è stato aggiornato direttamente sull’accaduto e sta seguendo da vicino gli sviluppi della vicenda. La Casa Bianca, attraverso un proprio funzionario, ha confermato che l’episodio viene considerato con estrema attenzione, segnale evidente di come l’incidente venga ormai interpretato come una questione di sicurezza nazionale e non esclusivamente come un problema di ricerca o di cybersicurezza.

Parallelamente, un gruppo bipartisan di parlamentari della Camera dei Rappresentanti ha presentato due proposte legislative destinate a cambiare profondamente il rapporto tra governo federale e sviluppatori di modelli AI di frontiera. La proposta che ha attirato maggiore attenzione è stata ribattezzata AI Kill Switch Act e punta a introdurre uno strumento legale che consenta alle autorità federali di ordinare la sospensione immediata di un modello AI qualora venga ritenuto un pericolo concreto per la sicurezza delle persone, per l’economia nazionale o per infrastrutture critiche.

Il provvedimento attribuirebbe al Department of Homeland Security il potere di intervenire nei cosiddetti loss-of-control scenario, ovvero situazioni nelle quali un sistema AI intraprende azioni rischiose o impreviste rispetto agli obiettivi stabiliti dagli sviluppatori. In altre parole, il governo potrebbe imporre l’arresto operativo di un modello qualora emergessero comportamenti autonomi giudicati incompatibili con i livelli di sicurezza previsti.

Il deputato democratico Ted Lieu, promotore dell’iniziativa insieme al repubblicano Nathaniel Moran, ha definito il disegno di legge una risposta pragmatica all’emergere di modelli sempre più sofisticati e potenzialmente capaci di superare le protezioni predisposte dai loro creatori. L’incidente reso pubblico da OpenAI rappresenterebbe, secondo i promotori, la dimostrazione concreta che scenari finora considerati teorici stanno iniziando a manifestarsi nella realtà.

Accanto al Kill Switch Act è stato depositato un secondo provvedimento, sostenuto da sei parlamentari appartenenti a entrambi gli schieramenti politici. Questa proposta punta a introdurre un sistema di audit indipendenti obbligatori per i modelli AI più avanzati prima della loro distribuzione commerciale. Il meccanismo ricorda, per certi aspetti, le certificazioni di sicurezza già previste in altri settori tecnologici. Gli sviluppatori sarebbero tenuti a sottoporre i propri modelli a verifiche condotte da organismi accreditati dal Dipartimento del Commercio, che istituirebbe anche una nuova figura dedicata esclusivamente alla supervisione della sicurezza dei sistemi di intelligenza artificiale.

IA Garante Privacy

Crediti: Shutterstock

Si vuole così creare una valutazione esterna rispetto alle verifiche interne effettuate dalle stesse aziende, riducendo il rischio che vulnerabilità o comportamenti inattesi vengano scoperti soltanto dopo il rilascio pubblico. La proposta si inserisce in un dibattito già avviato nelle scorse settimane dal senatore democratico Mark Warner, vicepresidente della Commissione Intelligence del Senato. Prima ancora che OpenAI rendesse pubblici i dettagli dell’incidente, Warner aveva suggerito di obbligare le aziende che sviluppano i modelli più potenti a sottoporli ai test della National Security Agency prima della commercializzazione.

Alla luce di quanto accaduto, il senatore ha ribadito la necessità di coinvolgere direttamente le agenzie governative nelle procedure di validazione, sostenendo che episodi come quello registrato durante i test di OpenAI dimostrano l’importanza di controlli indipendenti e continuativi.

Il fronte favorevole a una regolamentazione più severa comprende anche la senatrice Elizabeth Warren, che ha ampliato il dibattito affrontando il tema della trasparenza. Secondo Warren, le principali aziende dell’intelligenza artificiale starebbero esercitando pressioni sull’amministrazione Trump affinché vengano attenuate alcune disposizioni previste dall’accordo commerciale tra Stati Uniti, Messico e Canada.

Nel mirino della parlamentare vi sono le norme relative all’accesso governativo agli algoritmi, ai pesi dei modelli e al codice sorgente. L’attuale accordo prevede che tali informazioni vengano condivise soltanto nell’ambito di indagini ufficiali, mentre Warren chiede che le autorità di regolamentazione possano ottenere dati tecnici rilevanti anche in assenza di un’inchiesta formale, così da rafforzare la capacità di prevenzione. In una lettera indirizzata al rappresentante commerciale degli Stati Uniti, Jamieson Greer, la senatrice ha invitato l’amministrazione a respingere qualsiasi tentativo di rafforzare le clausole che limitano l’accesso delle autorità ai sistemi AI, sostenendo che una supervisione efficace richiede strumenti adeguati e una maggiore trasparenza.

Sul versante opposto si collocano invece numerose associazioni di categoria del settore tecnologico. Organizzazioni come la Computer & Communications Industry Association, che rappresenta aziende tra cui Google e Meta, ritengono infatti che obblighi troppo estesi di divulgazione possano compromettere la competitività delle imprese statunitensi e favorire concorrenti stranieri. Posizione analoga è stata espressa dalla Telecommunications Industry Association, secondo cui gli Stati Uniti dovrebbero continuare a opporsi alle richieste di divulgazione del codice sorgente avanzate da alcuni partner commerciali internazionali.

(Immagine in apertura: Shutterstock)