Intelligenza artificiale, gli esperti: attenzione al rischio Gender Gap

Diagnosi non accurate, disparità nel riconoscimento di immagini diagnostiche, rischio maggiore di reazioni avverse a farmaci o trattamenti, farmacologia di precisione sbilanciata: queste alcune delle conseguenze dell’utilizzo in medicina dell’intelligenza artificiale (IA) sulla salute di genere portate a galla da Fondazione Onda Ets all’interno di un appello intersocietario firmato dal Centro di riferimento per la Medicina di genere dell’Iss -Istituto Superiore di Sanità, dal Centro studi nazionale su Salute e Medicina di genere, dal Giseg -Gruppo italiano salute e genere e dalla Sit - Società italiana per la Salute digitale e la telemedicina. Nell’era della rivoluzione tecnologica, l’applicazione dell’IA in settori cruciali come la biomedicina e l’assistenza sanitaria sta offrendo opportunità senza precedenti per migliorare la prevenzione, la diagnosi e il trattamento delle malattie. Tuttavia, il crescente utilizzo di queste tecnologie solleva preoccupazioni legate alle disuguaglianze legate al sesso e al genere, che rischiano di divenire sistematicamente radicate negli algoritmi stessi dell’IA.
Il tema è stato al centro dell’VIII Congresso di Fondazione Onda Ets, che si è tenuto dal 24 al 26 settembre. Secondo una ricerca condotta da Elma Research su 433 medici la conoscenza dell’IA in campo medico si sta gradualmente facendo strada, rimanendo tuttavia ancora a livello superficiale, tanto che viene collegata soprattutto al supporto alla diagnosi (48 per cento) nonostante le molte altre possibilità di utilizzo, come il supporto alla decisione terapeutica e alla ricerca clinica, allo sviluppo di device e alla chirurgia robotica. Allo stesso modo, emerge un forte senso di incertezza per più della metà dei medici (52 per cento), soprattutto in merito a trasparenza, sicurezza e utilizzo etico dei dati, e la necessità di disporre di uno strumento di qualità, che sia certificato e che rassicuri in termini di privacy e sicurezza dei dati. Dall’indagine emerge, dunque, come ci sia ancora molta strada da fare per informare e rendere i medici consapevoli delle importanti applicazioni tecniche dell’IA nel loro ambito.
Regolamentare l’utilizzo di questo strumento tanto utile quanto rischioso è fondamentale, come ricorda Francesca Merzagora, Presidente Fondazione Onda ETS: «L’intelligenza artificiale sta sempre più prendendo piede in diverse aree della nostra vita, diventando protagonista indiscussa del discorso sull’innovazione tecnologica nella maggior parte dei settori, tra cui anche la medicina. Se da un lato è innegabile che l’utilizzo dell’IA possa dare una spinta non indifferente al settore della ricerca, dall’altro è necessario che vengano posti dei paletti. Infatti, il suo utilizzo in ambito medico può essere associato a disuguaglianze di genere, scatenando a loro volta conseguenze sul piano sociale e della salute stessa delle persone coinvolte, in primis le donne. Il rischio è che parte della popolazione riceva cure meno efficaci o subire ritardi diagnostici, con un conseguente peggioramento delle condizioni mediche e, in alcuni casi, un aumento della mortalità. Attraverso questo appello, vogliamo promuovere un approccio di genere nella progettazione e applicazione dell’Intelligenza artificiale a garanzia di equità e pari opportunità nella salute. In tal senso, come Fondazione Onda Ets, ringrazio tutti i partner firmatari di questo appello, i quali ci hanno permesso di continuare il lavoro iniziato in concomitanza con il nostro congresso, a dimostrazione dell’importanza di questo tema al fine della tutela della salute di genere».
Dello stesso parere Elena Ortona, Direttrice del Centro di riferimento per la Medicina di genere, Istituto superiore di sanità: «La considerazione dei determinanti di sesso e genere nella salute è una necessità di metodo e analisi che deve diventare anche strumento di programmazione sanitaria. Con l’avvento delle nuove tecnologiche che si basano sull’intelligenza artificiale si è resa subito evidente una nuova sfida per la ricerca scientifica: la necessità di superare i bias di genere. Infatti, nonostante l’efficacia e i benefici di queste tecnologie nell’aumentare l’efficienza dell’assistenza sanitaria, comincia a essere chiara la scarsa rappresentatività femminile nei database su cui si costruiscono gli algoritmi alla base dei sistemi di machine learning».
In tal senso, si rivela necessario incorporare nei modelli dell’IA dati sempre più inclusivi che tengano conto delle differenze biologiche di genere al fine di addestrare l’intelligenza artificiale con dati equilibrati e realistici: «Oggi il concetto di Medicina di genere è notevolmente evoluto ed è passato dalla considerazione dei parametri biologici (sesso, età etnia, comorbilità, reazioni a farmaci) alla valutazione, sicuramente più complessa, di indicatori di contesto quali condizioni sociali, economiche, culturali, religiose, ambientali e delle relative fonti di informazione. La definizione di corretti indicatori di genere e un’attenta valutazione di essi nella pratica clinica, è fondamentale per la costruzione di un percorso assistenziale condiviso fra medico, operatori sanitari e paziente e per la programmazione di linee di indirizzo di tipo normativo e di governance, utili per il miglioramento della qualità dell’assistenza», aggiunge Anna Maria Moretti, Presidente Nazionale GISeG, Gruppo italiano salute e genere e Presidente Internazionale IGM, International Gender Medicine.
«Nell’era della medicina di precisione siamo di fronte ad un baratro. L’IA che attendiamo come la soluzione di molti problemi scientifici e clinici in medicina, si basa su database in cui non sono inserite le donne! Questo peggiorerà l’ignoranza della necessità assoluta di una medicina genere-specifica. La ricerca di base e clinica è incentrata su casistiche maschili, la farmacologia si è sviluppata su animali da esperimento maschi ed i farmaci sono stati sperimentati su uomini. Dobbiamo assolutamente lanciare un allarme affinché le conoscenze sulle differenze di genere in medicina ed in farmacologia non siano annullate da dati provenienti da un’IA che non le considera», sottolinea Giovannella Baggio, Presidente Centro Studi Nazionale su Salute e Medicina di Genere -Professore Ordinario, Studioso Senior, Università di Padova e Scientific Editor del Journal of Sex and Gender-specific Medicine.
Tuttavia, la sola raccolta di dati più inclusivi e più completi non è sufficiente al fine di garantire un approccio gender-based nella progettazione e nell’utilizzo dell’IA in medicina: questa deve essere accompagnata da rigidi controlli di qualità, come revisioni periodiche per identificare e correggere eventuali bias di genere.
«L’adozione dell’intelligenza artificiale in ambito sanitario rappresenta una straordinaria opportunità per migliorare diagnosi, trattamenti e prevenzione delle malattie. Tuttavia, se non affrontiamo le disuguaglianze di sesso e genere presenti nei dati utilizzati per addestrare questi algoritmi, rischiamo di amplificare pregiudizi storici che hanno penalizzato le donne per decenni. Le disuguaglianze di sesso e genere nella sanità digitale rappresentano una sfida urgente da affrontare. È imperativo che la progettazione e l’implementazione dell’IA riflettano equamente la diversità tra uomini e donne e maschi e femmine. Solo così potremo garantire un’assistenza sanitaria più precisa, personalizzata ed equa, evitando diagnosi errate o ritardate e migliorando la diagnosi e il trattamento per tutte le persone, indipendentemente dal loro sesso o genere», conclude Maria Grazia Modena, Centro P.A.S.C.I.A., Programma Assistenziale Scompenso Cardiaco, cardiopatie dell’Infanzia e a rischio, AOU Policlinico di Modena, Università degli Studi di Modena e Reggio Emilia