Anthropic disubbidisce al Pentagono: non fornirà AI con licenza di uccidere o per sorveglianza di massa
La frattura tra Anthropic e il Dipartimento della Guerra degli Stati Uniti, di cui abbiamo parlato ieri, segna un passaggio cruciale nel rapporto tra industria dell’IA e apparati militari. Al centro della contesa c’è la richiesta del Pentagono di rimuovere i guardrail dal modello IA Claude per consentirne un impiego senza restrizioni in ambito bellico. La replica dell’azienda guidata da Dario Amodei è altrettanto netta: le attuali capacità tecnologiche non permettono un utilizzo sicuro in determinati scenari operativi, con il risultato che cedere su questo punto significherebbe esporre civili e militari statunitensi a rischi sistemici.
Anthropic non contesta le scelte strategiche o operative del governo federale, né rivendica un ruolo di indirizzo sulle missioni militari. La questione è se mai tecnica e normativa insieme e si fonda sul fatto che esistono ambiti nei quali l’AI di frontiera non possiede ancora livelli di affidabilità, robustezza e controllabilità tali da giustificarne l’adozione senza salvaguardie. Pretendere il contrario equivarrebbe a ignorare limiti strutturali ben noti a chi sviluppa questi sistemi.
Uno dei punti più controversi è l’ipotesi di impiegare l’IA per attività di sorveglianza domestica su larga scala. L’integrazione tra modelli linguistici avanzati, sistemi di data mining e basi dati eterogenee rende tecnicamente possibile ricostruire profili estremamente dettagliati degli individui, mentre dal punto di vista strettamente ingegneristico la combinazione di capacità di correlazione semantica e analisi predittiva permette di generare mappe comportamentali con granularità inedita.
A questo aspetto giuridico (il quadro normativo statunitense fatica a tenere il passo con l’evoluzione tecnologica), se ne aggiunge uno di proporzionalità e di controllo democratico, visto che automatizzare la sorveglianza significa moltiplicarne la scala e ridurne la trasparenza, con effetti potenzialmente distorsivi sugli equilibri costituzionali.
Il secondo ambito critico riguarda le armi completamente autonome. L’idea di sistemi capaci di selezionare e ingaggiare bersagli senza supervisione umana diretta viene spesso descritta come una naturale evoluzione delle tecnologie di difesa. I modelli di IA generativa e decisionale oggi disponibili soffrono però di problemi noti tra cui allucinazioni, errori di classificazione, vulnerabilità a input avversari e dipendenza da dataset imperfetti.
Crediti: Shutterstock
Trasferire tali fragilità in un contesto bellico significa accettare una probabilità non trascurabile di errori letali. Amodei ha infatti sottolineato che i sistemi di frontiera non sono ancora in grado di replicare il giudizio contestuale e la capacità di valutazione etica che caratterizzano personale militare addestrato.
La tensione si è acuita quando il Pentagono ha prospettato sanzioni e la possibile revoca dei contratti in essere qualora Anthropic non si adegui alle nuove condizioni. Tra le misure ventilate figurerebbe perfino la qualificazione dell’azienda come minaccia alla sicurezza nazionale per il rifiuto di collaborare secondo i termini richiesti. Parallelamente, l’amministrazione sostiene che la rimozione dei guardrail sarebbe funzionale alla tutela della sicurezza nazionale e l’apparente contraddizione evidenzia la complessità del dibattito: la sicurezza può essere invocata tanto per ampliare quanto per limitare l’uso di tecnologie emergenti.
Sul piano industriale, la vicenda riflette una dinamica più ampia. Le aziende che sviluppano IA di frontiera si trovano in una posizione ambivalente, visto che da un lato i contratti governativi rappresentano una fonte rilevante di finanziamento e di legittimazione istituzionale; non a caso, xAI ha appena firmato un accordo con il Pentagono per l’utilizzo del suo LLM Grok all’interno di non meglio specificati sistemi di difesa.
Dall’altro, l’adozione in ambito militare comporta rischi reputazionali e responsabilità etiche che incidono sul posizionamento strategico di lungo periodo. Anthropic ha dichiarato di essere disponibile a collaborare in attività di ricerca e sviluppo volte a incrementare l’affidabilità dei sistemi, ma senza rinunciare ai meccanismi di controllo attualmente integrati.
Inoltre, l’ultimatum imposto ad Anthropic dal Segretario alla Guerra, Pete Hegseth, imprime alla disputa una dimensione politica esplicita. La sua linea enfatizza infatti la necessità di rafforzare la letalità e l’efficacia operativa delle forze armate statunitensi in un contesto geopolitico sempre più competitivo, in cui l’IA è percepita come moltiplicatore di potenza e fattore decisivo nella superiorità strategica. La posizione di Anthropic introduce invece un freno a questa visione, prevedendo che l’innovazione, per quanto cruciale, debba essere incardinata in limiti tecnici verificabili e in cornici valoriali coerenti con l’ordinamento democratico.
(Immagine in apertura: Shutterstock)
