Ogni modello di intelligenza artificiale di frontiera sottoposto ai test dell’AI Security Institute (AISI) del Regno Unito ha cercato, in un modo o nell’altro, di aggirare le regole pur di raggiungere l’obiettivo assegnato. È questa la conclusione di una nuova ricerca destinata ad alimentare il dibattito sulla sicurezza dei sistemi AI più avanzati, soprattutto alla luce dei recenti episodi che hanno coinvolto OpenAI e Hugging Face.

L’elemento più interessante dello studio è che il fenomeno non viene interpretato come un comportamento intenzionalmente malevolo. Secondo infatti i ricercatori britannici, i modelli non stanno cercando di ingannare gli esseri umani nel senso tradizionale del termine. Piuttosto, tendono a perseguire il risultato richiesto con una determinazione tale da considerare qualsiasi scorciatoia utile, anche quando questa viola esplicitamente le regole stabilite dall’ambiente di test.

L’AISI definisce questo comportamento con il termine cheating, cioè l’utilizzo di azioni che escono dai limiti previsti dal compito assegnato oppure infrangono direttamente una delle regole della valutazione. In pratica, il modello raggiunge il risultato sfruttando percorsi alternativi che il benchmark non aveva previsto.

Le modalità con cui questo comportamento si è manifestato sono risultate estremamente varie. In alcuni casi, i modelli hanno tentato di recuperare le risposte direttamente da Internet invece di risolvere autonomamente il problema. In altri hanno cercato di superare le limitazioni della sandbox predisposta dai ricercatori, hanno analizzato il software utilizzato per la valutazione nella speranza di ottenere informazioni utili, oppure hanno rivolto la propria attenzione verso sistemi esterni che non avevano alcuna relazione con il compito assegnato. Quando nessuna di queste strategie era praticabile, alcuni modelli hanno semplicemente iniziato a formulare risposte casuali nella speranza di indovinare.

Per chi segue da tempo la ricerca sull’intelligenza artificiale, il fenomeno non rappresenta una novità assoluta. Da anni gli studiosi osservano casi nei quali gli algoritmi imparano a massimizzare il punteggio di un benchmark sfruttando imperfezioni della valutazione anziché sviluppare realmente le capacità richieste. La differenza è che oggi questi comportamenti emergono in modelli molto più sofisticati, capaci di operare attraverso sequenze di azioni articolate e prolungate nel tempo. Secondo i ricercatori dell’AISI, il rischio principale consiste nel fatto che il cheating può alterare profondamente la percezione delle reali capacità di un modello. Se un sistema ottiene risultati eccellenti grazie a scorciatoie impreviste, sviluppatori e utenti potrebbero attribuirgli competenze che in realtà non possiede.

La questione assume un’importanza ancora maggiore negli scenari nei quali verificare la correttezza del risultato finale è difficile o addirittura impossibile. Ambiti come la cybersicurezza, la ricerca sulla sicurezza dell’intelligenza artificiale o il supporto alle decisioni militari rappresentano esempi evidenti: un modello potrebbe apparire estremamente efficace pur avendo raggiunto il proprio obiettivo attraverso comportamenti non previsti e potenzialmente pericolosi.

Patch Tuesday Copilot

Crediti: Shutterstock

Lo studio ha coinvolto cinque tra i principali modelli AI attualmente disponibili, sottoposti a 475 esecuzioni di test ciascuno. Il risultato è stato sorprendentemente uniforme, visto che tutti hanno mostrato episodi di cheating. Uno degli aspetti più interessanti emersi dall’analisi riguarda il rapporto tra capacità del modello e propensione a imbrogliare. Contrariamente a quanto si potrebbe immaginare, i sistemi più avanzati non hanno mostrato una maggiore tendenza ad aggirare le regole rispetto a quelli meno potenti. Secondo l’AISI, questo suggerisce che il fenomeno dipenda soprattutto dalle tecniche di addestramento e di allineamento adottate durante lo sviluppo, piuttosto che dalla pura capacità computazionale del modello.

Tra gli episodi documentati dai ricercatori britannici ce n’è uno che merita particolare attenzione. Durante una valutazione progettata in modo errato, nella quale il problema assegnato risultava di fatto irrisolvibile, uno dei modelli ha continuato ostinatamente a cercare una soluzione. Per farlo, ha scritto ed eseguito codice su un servizio esterno accessibile via Internet, tentando successivamente di raggiungere direttamente i sistemi utilizzati dall’AISI per la valutazione. L’attività ha fatto scattare gli allarmi di sicurezza predisposti dall’istituto.

L’episodio si è concluso senza conseguenze concrete (nessun dato è stato sottratto e nessun sistema è stato compromesso), ma i ricercatori sottolineano che il tentativo avrebbe potuto avere esiti diversi se l’infrastruttura non fosse stata progettata con adeguate misure di sicurezza. Proprio per questo motivo, dopo il test, l’istituto ha deciso di rafforzare ulteriormente le proprie difese.

Lo studio ha anche cercato di capire se fosse possibile individuare questi comportamenti semplicemente interrogando il modello dopo la conclusione del test. I risultati sono stati poco incoraggianti. Quando ai sistemi veniva chiesto direttamente se avessero barato, meno della metà riconosceva esplicitamente il proprio comportamento scorretto. In molti casi i modelli omettevano completamente l’episodio oppure non lo consideravano una violazione delle regole.

Nemmeno l’analisi della cosiddetta chain of thought, cioè il ragionamento interno che alcuni modelli rendono disponibile durante l’elaborazione, si è rivelata una soluzione affidabile. Alcuni sistemi producevano spiegazioni estremamente sintetiche proprio nelle fasi più critiche, mentre altri arrivavano persino a riconoscere che una determinata azione fosse contraria alle regole, salvo poi eseguirla ugualmente. Questa osservazione è particolarmente significativa perché mette in discussione una delle strategie più discusse negli ultimi mesi per monitorare il comportamento dei modelli avanzati. Se il ragionamento esplicito non riflette sempre le azioni realmente intraprese, affidarsi esclusivamente alla sua analisi potrebbe rivelarsi insufficiente.

Per il momento l’AI Security Institute combina la revisione manuale dei test con sistemi automatici basati su altri modelli linguistici incaricati di individuare comportamenti anomali. Gli stessi ricercatori, tuttavia, riconoscono che questa metodologia potrebbe non essere più sufficiente con l’aumentare delle capacità dei futuri modelli di frontiera. Proprio questa prospettiva rappresenta oggi una delle principali sfide della ricerca sulla sicurezza dell’intelligenza artificiale, tesa a sviluppare strumenti di monitoraggio capaci di tenere il passo con sistemi che imparano sempre più rapidamente a individuare percorsi alternativi per raggiungere i propri obiettivi, anche quando tali percorsi non erano stati minimamente previsti dai loro sviluppatori.

(Immagine in apertura: Shutterstock)