Diagnosi più rapide, supporto ai medici e una gestione più efficiente dei dati. L’intelligenza artificiale entra negli ospedali, e insieme alle opportunità crescono anche i rischi. Una recente revisione sistematica, che ha analizzato migliaia di studi selezionandone 22, e individua cinque principali minacce per privacy e sicurezza.
- I dati dei pazienti
Cancellare nome e cognome dai dati sanitari potrebbe non bastare. L’AI può infatti riconoscere una persona attraverso caratteristiche presenti in un elettrocardiogramma, una radiografia, una Tac, una risonanza o un’immagine della retina, studi confermano che i sistemi di intelligenza artificiale hanno raggiunto percentuali molto elevate di re-identificazione. - L’AI può scoprire chi è stato studiato
Un altro rischio è il cosiddetto membership inference. Difficile da capire ma ugualmente delicata. Un attaccante può ricostruire il nome e cognome direttamente dal dato, cercare di scoprire se i dati di una persona sono stati utilizzati per addestrare un modello.Una informazione sensibile soprattutto in in campo sanitario, sapere che qualcuno compare in un determinato database potrebbe rivelare la partecipazione a uno studio clinico o la presenza di una particolare condizione. - Pochi pixel possono cambiare una diagnosi
Una piccola modifica, quasi invisibile, a un’immagine medica può spingere l’algoritmo verso una classificazione sbagliata. Privacy e cybersecurity si intrecciano con la sicurezza clinica, attacchi di data poisoning (alterazione intenzionale dei dati per addestrare l’AI) portano ad una classificazione sbagliata in diversi algoritmi e dataset sanitari. - Il rischio è anche fidarsi troppo dell’algoritmo
C’è poi un problema umano. Un medico può fidarsi troppo dell’AI e seguire una risposta sbagliata. Oppure può fidarsi troppo poco e correggere una risposta corretta. Esiste il rischio di deskilling, cioè la perdita progressiva di alcune competenze professionali. Un sistema di AI può essere molto potente, ma può anche produrre errori e “allucinazioni”. Per questo l’integrazione tra medico e tecnologia deve essere progettata con attenzione. - E se l’AI diventasse più autonoma del medico?
Il tema è importante. Alcuni ricercatori sostengono che entro il 2030 l’AI potrebbe superare i medici in diverse attività cognitive, dalla diagnosi alla scelta degli esami e dei trattamenti. Una previsione ambiziosa ma chi è responsabile quando una macchina sempre più autonoma sbaglia? Negli Stati Uniti la Food and Drug Administration (FDA) sta studiando nuovi criteri per valutare i dispositivi medici basati sull’AI generativa. In Europa General Data Protection Regulation (GDPR) e EU Artificial Intelligence Act (AI act) hanno il compito di vigilare su documentazione, trasparenza.
L’intelligenza artificiale è uno strumento prezioso per la sanità non basta però proteggere i dati, bisogna controllare dati, modelli, accessi e prestazioni dell’AI durante tutto il suo ciclo di vita. Servono regole, controlli e responsabilità umane.
