Dal controllo dell’AI ai minori online: tutto il digitale nel discorso sullo Stato dell’Unione Europea

Nel discorso annuale sullo Stato dell’Unione, tenuto il 16 settembre al Parlamento Europeo di Strasburgo, la presidente della Commissione europea Ursula von der Leyen ha toccato più volte temi che riguardano direttamente il mercato tecnologico: intelligenza artificiale, dipendenza da materie prime critiche, sicurezza informatica e una stretta senza precedenti sull’accesso dei minori ai social media. Un’agenda che, se confermata nelle prossime settimane, avrà ricadute dirette anche sul mercato ICT italiano ed europeo.

Intelligenza artificiale: rallentare la frontiera, correre sull’industria

Von der Leyen ha diviso il tema AI su due binari distinti. Il primo riguarda il rischio posto dai modelli più avanzati, i cosiddetti frontier model: la presidente ha citato esplicitamente l’incidente Hugging Face come segnale di un problema che va affrontato subito. Ha quindi annunciato una collaborazione con Canada e Regno Unito su valutazione dei modelli, verifica, allerta precoce e sicurezza AI, oltre a un confronto diretto con i principali laboratori di ricerca sul tema del cosiddetto pacing, ovvero il rallentamento controllato dello sviluppo.

“I CEO delle aziende più avanzate ci dicono che è tempo di rallentare sui modelli auto-ricorsivi, di dare un ritmo alla frontiera. Se chi sviluppa questa tecnologia è chiaro su questo, dovremmo esserlo anche noi”, ha detto von der Leyen,  ricordando anche che con l’AI Act l’UE ha già da anni trasformato rischi e timori nella prima legge sul tema di portata continentale, e che può costituire una base per accordi e regolamenti internazionali.

Il secondo binario è quello del valore industriale, e contiene una frase che probabilmente è destinata a far discutere molto nei prossimi mesi: “Non è necessario che siamo noi a sviluppare la tecnologia di frontiera per poterne trarre il maggior valore”.

Von der Leyen ha rafforzato il concetto con un parallelo storico – la stampa a caratteri mobili, inventata in Germania ma diffusa e perfezionata in tutta l’Europa occidentale – per sostenere che l’Europa non deve necessariamente vincere la corsa ai modelli più grandi per trarne comunque un vantaggio competitivo, se può applicarla in modo sicuro al tessuto produttivo, “spostandola dagli schermi e facendola entrare nell’economia reale e nella società”.

Su questo fronte arriva un annuncio concreto per novembre: “Ci stiamo concentrando su cinque settori ad alto valore in cui l’AI industriale ha il potenziale maggiore e disponiamo dei dati: salute, trasporti, agroalimentare, manifattura avanzata, difesa e spazio”. Come esempio applicativo, von der Leyen ha citato lo screening mammografico assistito da AI, capace di individuare più tumori in fase precoce, accompagnandolo però da un distinguo netto sul ruolo del medico: “L’AI deve potenziare i nostri medici, non sostituirli”.

Minori online: arriva l’EU Kids Act

Il passaggio più emotivamente carico del discorso ha riguardato la sicurezza dei minori sui social media, introdotto dalla storia di Oléa, una ragazza di 14 anni morta in Belgio un mese fa, vittima di bullismo online. Von der Leyen ha annunciato che domani (17 settembre) la Commissione presenterà l’EU Kids Act, con un approccio graduale per fasce d’età: nessun accesso ai social media sotto i 13 anni; tra i 13 e i 15 anni solo mini account impostati e supervisionati dai genitori, con funzionalità limitate e tempi d’uso ridotti; dai 15 ai 18 anni obbligo per le piattaforme di adottare un design sicuro di default.

Il punto normativo più rilevante è l’inversione dell’onere della prova: “Saranno le piattaforme a dover dimostrare di essere sicure. Perché non si tratta di stabilire se i minori possano accedere ai social media, ma quando e come permettiamo ai social media di accedere ai minori”. Von der Leyen ha poi elencato in modo diretto ciò che l’Unione non è più disposta a tollerare: “Non dobbiamo accettare funzionalità che creano dipendenza. Non dobbiamo accettare che i bambini vengano attirati verso contenuti sempre più estremi. Non dobbiamo accettare che le foto delle ragazze vengano usate per immagini sessualizzate generate dall’AI”.

Dall’Australia al Regno Unito, passando per diversi paesi asiatici, il tema della limitazione all’accesso ai social media e siti per adulti da parte dei timori sta prendendo piede nella società, anche se l’implementazione tecnica e normativa di un timore più che legittimo non è priva di problemi. Da un lato, sistemi “blandi” di verifica dell’età sono oltrepassabili facilmente con VPN o immagini generate da IA; dall’altro, sistemi più robusti come una verifica certa dell’identità, che preveda sistemi tipo SpID, solleva dubbi e timori sulla possibile schedatura di massa degli utenti della rete.

Il tema si allarga, in autunno, con il Digital Fairness Act: una normativa più ampia sul design manipolativo delle piattaforme – i cosiddetti dark pattern – rivolta questa volta a tutti gli utenti, non solo ai minori, e quindi di interesse diretto per chi progetta prodotti e servizi digitali.

Materie prime critiche e chip: nasce una nuova Corporation europea

Sul fronte industriale, von der Leyen ha quantificato la dipendenza europea dalla Cina: “Dipendiamo dalla Cina per oltre l’80% di molte materie prime critiche, per il 90% per alcune terre rare”. La risposta annunciata è la creazione di una nuova European Corporation on Critical Raw Materials, con un mandato che copre esplicitamente “le auto elettriche, i chip e le batterie, le tecnologie pulite e la difesa”, con l’obiettivo dichiarato di procurarsi e stoccare le risorse necessarie.

Nel discorso non compaiono riferimenti espliciti ad altre iniziative che puntano all’indipendenza strategica, come il Chips Act 2.0 o il Cloud and AI Development Act, citati da von der Leyen in altri interventi nel corso di quest’anno: la nuova Corporation, per ora, resta l’unico strumento annunciato specificamente in questa sede per ridurre la dipendenza dell’industria dei semiconduttori dalle forniture esterne.

Cybersicurezza, minacce ibride e disinformazione

Il capitolo sicurezza del discorso ha dedicato ampio spazio alle minacce ibride, in crescita secondo von der Leyen su base quotidiana: “Attacchi informatici e sabotaggi, incendi dolosi e incursioni di droni: crescono ogni giorno. Mentre sale il livello di minaccia, deve salire anche la preparazione dell’Europa”. La presidente ha citato gli episodi recenti in Danimarca, Lituania e Polonia, oltre al tentato attacco con droni a Lipsia, descritto come “un attacco condotto con materiale di livello militare, da parte di operativi russi su suolo europeo”, sintetizzando lo stato attuale delle cose nella frase “Le minacce ibride stanno diventando sempre meno ibride e sempre meno [semplici] minacce”.

Tra le proposte concrete, un Emergency Security Protocol – definito da von der Leyen come una sorta di implementazione europea e cyber dell’articolo 4 della NATO – che permetterebbe la convocazione coordinata di tutti gli Stati membri quando uno di essi subisce un incidente sotto la soglia dell’aggressione armata ma comunque lesivo della sicurezza nazionale. A questo si affianca l’annuncio di un European Security Council, che coinvolgerebbe anche partner esterni all’Unione come Canada, Norvegia, Ucraina e Regno Unito.

Sul fronte della disinformazione, von der Leyen ha definito le teorie del complotto alimentate da deepfake virali una forma di “guerra cognitiva”, richiamando il lavoro del Centre for Democratic Resilience, annunciato lo scorso anno e ora, secondo la presidente, già operativo. Un capitolo che si intreccia direttamente con il settore difesa e spazio, non a caso incluso tra i cinque settori prioritari per l’AI industriale.

Competenze, venture capital e il rapporto speciale con il Canada

Il discorso ha toccato altri tre temi di interesse per il settore tech, in modo più marginale. Nell’ambito della proposta – anch’essa annunciata nel discorso – di rendere il Canada il primo “membro associato” dell’Unione, von der Leyen ha citato esplicitamente la costruzione di “un’alleanza tecnologica” con lavoro condiviso su intelligenza artificiale, quantum computing, cybersicurezza ed economia.

Sul fronte lavoro, è stato confermato per fine anno il Quality Jobs Act, pensato per rispondere alla distribuzione ineguale dei benefici dell’AI tra competenze, generazioni e territori (niente a che fare con l’omonima riforma italiana del mercato del lavoro del 2014-2015).

Infine, a testimonianza della strategia sul deep tech, von der Leyen ha citato il caso di ICEYE, azienda di tecnologie satellitari fondata da un imprenditore polacco e uno finlandese conosciutisi tramite un progetto Erasmus, oggi presente in quattro paesi europei e tra le prime beneficiarie dello Scaleup Europe Fund annunciato lo scorso anno.

Una storia sicuramente positiva, ma che evidenzia un problema: è così eccezionale da meritare un posto d’onore nel discorso più importante dell’anno al Parlamento Europeo. Ecco, abbiamo tutti bisogno che quella di ICEYE diventi una storia di successo tra le tante.

(Credit immagine di apertura: Unione Europea, licenza CC 4.0 BY)