L’IA al centro delle preoccupazioni nella relazione annuale del Garante Privacy
La nuova Relazione annuale del Garante per la protezione dei dati personali fotografa un Paese attraversato da una digitalizzazione sempre più invasiva e da un’espansione rapidissima dei sistemi basati su AI generativa. L’Autorità italiana per la privacy descrive un contesto in cui la tutela dei dati personali non può più essere considerata una materia tecnica riservata agli specialisti del GDPR.
L’intelligenza artificiale sta infatti ridefinendo il rapporto tra cittadini, imprese e istituzioni, intervenendo su libertà individuali, processi democratici, organizzazione del lavoro e controllo delle informazioni. Per questo motivo il Garante parla apertamente di diritti fondamentali, ponendo la questione AI all’interno di un quadro molto più ampio rispetto alla semplice regolamentazione tecnologica.
Uno dei casi più rilevanti affrontati nel 2025 riguarda DeepSeek, il sistema di AI conversazionale sviluppato in Cina che ha registrato milioni di download in pochi giorni. L’Autorità ha deciso di limitarne il trattamento dei dati degli utenti italiani, evidenziando i rischi derivanti dalla raccolta massiva di informazioni personali e dalla scarsa trasparenza sulle modalità di utilizzo dei dati. È un passaggio cruciale perché introduce un tema come quello della sovranità digitale europea destinato a diventare centrale nei prossimi anni.
Dietro il caso DeepSeek emerge infatti una questione strategica molto più ampia. L’Europa si trova stretta tra ecosistemi tecnologici controllati da aziende statunitensi e piattaforme AI sviluppate in Cina, entrambe capaci di raccogliere enormi quantità di dati personali e comportamentali. In questo scenario, il Garante italiano sembra voler rafforzare l’idea che la protezione dei dati debba essere uno strumento di autonomia geopolitica e di difesa democratica.
La relazione dedica ampio spazio anche al fenomeno dei deepfake e dei cosiddetti deepnude, tecnologie che stanno rapidamente abbattendo il confine tra contenuto autentico e manipolazione sintetica. Secondo il Garante, la diffusione di piattaforme capaci di replicare voce, volto e immagini di persone reali rappresenta una minaccia concreta per la dignità, la reputazione e la libertà individuale.
Crediti: Shutterstock
Nel mirino dell’Autorità sono finite piattaforme e servizi legati all’AI generativa come Grok, ChatGPT e Clothoff, richiamati formalmente sulla necessità di progettare strumenti conformi ai principi di privacy by design. Il messaggio è che i sistemi di intelligenza artificiale non possono essere sviluppati ignorando il consenso degli interessati o trattando dati biometrici e immagini personali come materiale liberamente disponibile online.
La questione assume contorni ancora più delicati nel caso dei deepnude, applicazioni capaci di generare immagini pornografiche artificiali partendo da fotografie reali. Il Garante sottolinea come le vittime siano prevalentemente donne e minorenni, con effetti devastanti sulla vita personale e sociale delle persone coinvolte. L’intervento contro Clothoff, culminato nella limitazione provvisoria del trattamento dei dati, rappresenta uno dei primi tentativi concreti in Europa di arginare l’uso abusivo dell’AI sintetica nel campo della manipolazione sessuale digitale.
Molto significativo anche il lavoro svolto sul tema del web scraping utilizzato per addestrare i modelli generativi. L’Autorità evidenzia la necessità di impedire la raccolta indiscriminata di dati online destinati all’allenamento delle AI. È un tema enorme, perché il funzionamento stesso dei grandi modelli linguistici dipende dall’acquisizione massiva di contenuti presenti sul web, spesso senza un consenso esplicito da parte degli interessati o dei titolari dei contenuti.
Il Garante affronta la questione affermando che l’innovazione tecnologica non può giustificare una deregolamentazione permanente dei diritti fondamentali. È una posizione che si inserisce nel dibattito europeo sull’AI Act e sul rapporto tra sviluppo industriale, protezione dei dati e tutela delle libertà civili.
Particolarmente delicata è poi la dimensione lavorativa dell’intelligenza artificiale. La relazione evidenzia una crescita significativa degli strumenti di monitoraggio digitale nei luoghi di lavoro, spesso alimentati da sistemi automatizzati di analisi comportamentale. L’Autorità ha richiamato l’attenzione sui rischi derivanti dall’uso improprio della videosorveglianza intelligente e di piattaforme capaci di controllare costantemente produttività, presenza e attività dei dipendenti.
Crediti: Shutterstock
Emblematico il caso della startup italiana che aveva sviluppato un plug-in per Slack e Teams destinato a rilevare, tramite analisi semantica e AI, il livello di stress psicologico dei lavoratori. Anche se basato sull’adesione volontaria, il sistema ha sollevato forti dubbi sul confine tra benessere aziendale e sorveglianza emotiva. Il rischio individuato dal Garante è quello di trasformare gli strumenti collaborativi digitali in piattaforme permanenti di profilazione psicologica.
Ancora più grave il caso Amazon Italia Logistica, dove l’Autorità è intervenuta vietando il trattamento di dati sensibili relativi a oltre 1800 dipendenti. Le informazioni raccolte comprendevano aspetti sanitari, sindacali e personali conservati per anni attraverso sistemi integrati di gestione aziendale. È il segnale di un cambiamento profondo nel rapporto tra tecnologia e lavoro, con la capacità delle piattaforme digitali di accumulare dati sui lavoratori che sta diventando una delle principali questioni sociali dell’economia contemporanea.
La relazione mette in evidenza anche il crescente utilizzo dei sistemi biometrici e di riconoscimento facciale. La sospensione del sistema FaceBoarding dell’aeroporto di Milano Linate viene descritta come un caso emblematico delle criticità legate alla conservazione centralizzata dei dati biometrici. Per il Garante, l’adozione di queste tecnologie richiede garanzie molto più rigorose rispetto a quelle attualmente offerte da molti operatori pubblici e privati.
Un elemento particolarmente rilevante riguarda infine l’attenzione posta sull’impatto dell’AI generativa sui processi democratici. Disinformazione sintetica, manipolazione del dibattito pubblico, alterazione dei contenuti audiovisivi e interferenze elettorali vengono ormai considerati rischi strutturali dell’ecosistema digitale contemporaneo. Per questo, considerando quanto l’AI stia progressivamente ridefinendo il concetto stesso di spazio pubblico digitale, il Garante insiste sulla necessità di rafforzare la cooperazione internazionale tra autorità di controllo e istituzioni democratiche.
(Immagine in apertura: Shutterstock)
