L’Organizzazione Mondiale della Sanità (Oms) ha pubblicato un nuovo documento che elenca le principali considerazioni normative sull’intelligenza artificiale (IA) per la salute. La pubblicazione sottolinea l’importanza di stabilire la sicurezza e l’efficacia dei sistemi di IA, di rendere rapidamente disponibili i sistemi appropriati a chi ne ha bisogno e di promuovere il dialogo tra le parti interessate, compresi sviluppatori, autorità di regolamentazione, produttori, operatori sanitari e pazienti.

Con la crescente disponibilità di dati sanitari e il rapido progresso delle tecniche analitiche – che si tratti di apprendimento automatico, logico o statistico – gli strumenti di IA potrebbero trasformare il settore sanitario. L’Oms riconosce il potenziale dell’IA nel migliorare i risultati sanitari, rafforzando gli studi clinici, migliorando la diagnosi medica, il trattamento, l’autocura e l’assistenza incentrata sulla persona e integrando le conoscenze, le abilità e le competenze degli operatori sanitari. Ad esempio, l’IA potrebbe essere utile in contesti in cui mancano medici specialisti, a cominciare dall’interpretazione di scansioni della retina e immagini radiologiche.

I rischi dell’IA per pazienti e operatori sanitari

Un dato di fatto è che le tecnologie di IA – compresi i modelli linguistici di grandi dimensioni – sono in rapida diffusione, a volte senza una piena comprensione dei loro impatti, che potrebbero essere vantaggiosi o dannosi per gli utenti finali, compresi gli operatori sanitari e i pazienti. Quando utilizzano i dati sanitari, i sistemi di intelligenza artificiale potrebbero avere accesso a informazioni personali sensibili, rendendo necessari solidi quadri giuridici e normativi per la salvaguardia della privacy, della sicurezza e dell’integrità, che questa pubblicazione intende contribuire a istituire e mantenere.

“L’intelligenza artificiale è molto promettente per la salute, ma comporta anche serie sfide, tra cui la raccolta di dati non etici, le minacce alla sicurezza informatica e l’amplificazione dei pregiudizi o della disinformazione“, ha dichiarato Tedros Adhanom Ghebreyesus, Direttore generale dell’Oms. “Questa nuova guida aiuterà i Paesi a regolamentare l’Ia in modo efficace, per sfruttarne il potenziale, che si tratti di curare il cancro o di individuare la tubercolosi, riducendo al minimo i rischi“.

Le 6 aree di regolamentazione dell’IA per la Sanità secondo l’OMS

Il documento delinea sei aree di regolamentazione dell’IA per la salute: trasparenza e documentazione, risk management, validazione esterna dei dati e chiarezza sugli utilizzi, qualità dei dati, privacy e data protection, collaborazione tra gli stakeholder.

Per promuoverne la fiducia, l’OMS sottolinea l’importanza della trasparenza e della documentazione, ad esempio documentando l’intero ciclo di vita del prodotto e tracciando i processi di sviluppo. Per la gestione del rischio, devono essere affrontate in modo esaustivo questioni come l’uso previsto, l’apprendimento continuo, gli interventi umani, i modelli di formazione e le minacce alla sicurezza informatica, rendendo i modelli il più semplici possibile. La convalida esterna dei dati e la chiarezza sull’uso previsto dell’IA contribuiscono a garantire la sicurezza e a facilitare la regolamentazione.

L’impegno per la qualità dei dati, ad esempio attraverso una rigorosa valutazione dei sistemi prima del rilascio, è fondamentale per garantire che i sistemi non amplifichino pregiudizi ed errori. Le sfide poste da normative importanti e complesse, come il Gdpr in Europa e l’Health insurance portability and accountability act (Hipaa) negli Stati Uniti, vengono affrontate ponendo l’accento sulla comprensione dell’ambito di competenza e dei requisiti di consenso, al servizio della privacy e della protezione dei dati.

Il rischio di amplificazione dei bias

I sistemi di intelligenza artificiale sono complessi e dipendono non solo dal codice con cui sono costruiti, ma anche dai dati su cui vengono addestrati, che provengono ad esempio da contesti clinici e interazioni degli utenti. Una migliore regolamentazione, spiega l’OMS, può aiutare a gestire il rischio che l’IA amplifichi i pregiudizi nei dati di addestramento.

Ad esempio, può essere difficile per i modelli di IA rappresentare accuratamente la diversità delle popolazioni, con conseguenti pregiudizi, imprecisioni o addirittura fallimenti. Per contribuire a mitigare questi rischi, è possibile utilizzare le normative per garantire che gli attributi – come sesso, razza ed etnia – delle persone presenti nei dati di addestramento siano riportati e che i set di dati siano intenzionalmente resi rappresentativi. La nuova pubblicazione dell’Oms mira a delineare i principi chiave che i governi e le autorità di regolamentazione possono seguire per sviluppare nuove linee guida o adattare quelle esistenti sull’Ia a livello nazionale o regionale.

Il documento dell’OMS, che non vuole essere una guida ma ha più l’aspetto di una base di discussione per il settore IA e gli utilizzatori nella sanità, è frutto di una collaborazione con l’Unione internazionale delle telecomunicazioni (Uit) con la quale è stato istituito un gruppo di lavoro sull’Ia per la salute (Fg-AI4H). Per supportare il suo lavoro, Fg-AI4H ha creato diversi altri gruppi tra cui uno sulle considerazioni normative (Working group on regulatory considerations, Wg-Rc).

Il Wg-Rc è composto da membri che rappresentano molteplici parti interessate, tra cui autorità regolatorie, responsabili politici, università e industria, che hanno esplorato concetti normativi e di valutazione delle tecnologie sanitarie e le best practices emergenti per lo sviluppo e l’uso dell’Ia nell’assistenza sanitaria e nello sviluppo terapeutico.

Fondamentale la collaborazione internazionale sulle normative

Il documento conclude affermando che l’Oms riconosce il potenziale dell’intelligenza artificiale nel migliorare i risultati sanitari attraverso il miglioramento degli studi clinici, della diagnosi medica, del trattamento, dell’autogestione delle cure e dell’assistenza alla persona, trattamento, l’autogestione delle cure e l’assistenza incentrata sulla persona, nonché la creazione di conoscenze, abilità e competenze più basate sulle evidenze conoscenze, abilità e competenze dei professionisti a supporto dell’assistenza sanitaria.

Inoltre, con la crescente disponibilità di dati sanitari e il rapido progresso delle tecniche di analisi, l’IA ha il potenziale di trasformare il settore sanitario per soddisfare le esigenze di diversi stakeholder nell’assistenza sanitaria e nello sviluppo terapeutico. Fondamentale è la collaborazione internazionale che permette la condivisione delle conoscenze e delle migliori pratiche relative all’evoluzione delle considerazioni normative. In questo modo sarebbe possibile aumentare la velocità di sviluppo del panorama normativo e ridurre il divario tra l’avanzamento della tecnologia e la regolamentazione visto che molti strumenti sono destinati ad attraversare le frontiere.

La coerenza delle considerazioni normative per i sistemi e le tecnologie di IA, inoltre, potrebbe migliorare gli standard e consentirne una diffusione più rapida sostenendo anche paesi con minore capacità normativa, garantendo che anche loro possano utilizzare strumenti con standard elevati.