.png)
FemTech e AI al servizio di una salute più equa e rappresentativa
a cura di Rosie Audino, esperta in filosofia e comunicazione della scienza e della salute
Alte, bionde e con una mitragliatrice al posto delle poppe: così sono le Fembot, le intelligenze artificiali dalle sembianze femminili in Austin Powers, parodia dei film di spionaggio degli anni ’60. Si fa per scherzare, eppure alcuni stereotipi e bias di genere nella AI possono esserci davvero.
Quando parliamo di FemTech invece, non parliamo di robot ipersessualizzati, ma di un settore della tecnologia in grande crescita. FemTech è tecnologia pensata a partire dalle caratteristiche delle persone, che riconosce le differenze di genere e promuove equità e inclusività nel mondo della salute e del benessere. Le FemTech nascono da un’esigenza molto concreta: la mancanza di dati sulla salute riproduttiva e sessuale di donne, persone non-binary genera una mancanza di prodotti, trattamenti, servizi, e tecnologie adeguate per donne e persone sottorappresentate. L’obiettivo è colmare questo divario e sfruttare la tecnologia per rendere la salute più accessibile e rappresentativa di tuttə.
Ed è qui che arriva il punto cruciale.
Le intelligenze artificiali sia quelle generiche, che quelle che iniziano ad essere utilizzate in ambito sanitario rischiano di riprodurre gli stessi pregiudizi che già esistono nella medicina tradizionale (Cirillo, D., Catuara-Solarz, S., Morey, C. et al. Sex and gender differences and biases in artificial intelligence for biomedicine and healthcare. npj Digit. Med. 3, 81 (2020). https://doi.org/10.1038/s41746-020-0288-5)
Perché?
Perché vengono addestrate su dati che quei bias li contengono già. Insomma: proprio come le Fembot di Austin Powers riproducono gli stereotipi di genere, anche molte AI in salute finiscono, senza volerlo, per fare la stessa cosa.
Però prima di affrontare la questione facciamo un passo indietro, cerchiamo prima di capire, come si utilizza, quali sono le potenzialità in ambito sanitario, che cosa vuol dire addestrare un’AI
L'intelligenza artificiale sta rivoluzionando la medicina
Immagina di arrivare al pronto soccorso di sabato sera, con la sala d’attesa talmente piena che speri di non ritrovarci pure tua zia. Ti siedi, stringi la borsa, aspetti il triage. “Mi dica…” “Ho un dolore qui, alla mandibola… forse ho dormito male.” Intorno a te il caos: qualcuno chiama unə medicə, un computer si blocca, un paziente chiede per la quarta volta dov’è il bagno. Ora immagina che accanto all’infermierə ci sia un sistema di intelligenza artificiale che, mentre tu cerchi ancora di capire dove sia esattamente la tua mandibola, analizza tutti i tuoi sintomi in due secondi e segnala: “Attenzione: questo insieme di sintomi potrebbe indicare un rischio maggiore di quanto sembri. Codice rosso.” Così chi ti aveva accolto al triage guarda lo schermo, guarda te, e in un attimo passa dalla modalità “ho 300 cose da fare” a “ok, la facciamo passare subito”. È fantascienza? Un assistente virtuale al triage non esiste? Non proprio, sistemi capaci di supportare il personale nella valutazione dei rischi esistono già, e in alcune regioni italiane sono in fase di sperimentazione.
La differenza la fa la velocità. L’AI analizza in pochi istanti informazioni che a un essere umano richiederebbero molto più tempo, incrociando sintomi, parametri vitali, pressione, saturazione, frequenza cardiaca e confrontandoli con milioni di casi simili. Dove il personale sanitario si affida all’esperienza, l’AI pesca da un serbatoio potenzialmente infinito e processa queste informazioni molto velocemente, più veloce di Beep Beep col coyote alle calcagna.
Ma c’è un ma …
L’AI dipende dai dataset con i quali viene addestrata, e meno sono rappresentativi più possono riprodurre bias e stereotipi di genere (anche in medicina)
Quando si parla di salute i dati sulle donne e sulle persone trans o non binarie sono spesso insufficienti o totalmente assenti, si chiama Gender Data Gap. Per questo molti sistemi di AI medica non considerano affatto sesso e genere come variabili fondamentali, nonostante queste influenzino le differenze di salute tra individui (Cirillo, D., Catuara-Solarz, S., Morey, C. et al. Sex and gender differences and biases in artificial intelligence for biomedicine and healthcare. npj Digit. Med. 3, 81 (2020). https://doi.org/10.1038/s41746-020-0288-5). Un esempio chiarissimo: se in questo serbatoio di dati dai quali l’algoritmo attinge, l’infarto appare quasi sempre associato al “dolore al petto”, (su questo argomento ti rimando all’articolo sul blog “Siamo così dolcemente complicate … anzi ignorate!”) l’AI imparerà a riconoscerlo come sintomo principale. Ma se sintomi più comuni nelle donne (dolore alla mandibola, nausea, mal di testa) compaiono raramente accanto alla parola “infarto”, l’algoritmo non li considererà rilevanti, anche se lo sono eccome.
È già successo. Negli Stati Uniti, l’algoritmo dell’azienda sanitaria Optum usato per identificare i pazienti che in futuro avrebbero sviluppato patologie gravi e quindi bisogno di interventi più costosi, si è rivelato discriminatorio nei confronti delle persone nere. Per stimare il bisogno di cure, l’algoritmo usava la spesa sanitaria passata. Chi aveva speso di più era considerato più “a rischio”. Ma poiché le persone nere, per motivi economici e sociali, spendono mediamente meno per curarsi, il sistema sottovalutava la loro condizione. Questo fatto non riguarda stereotipi di genere, ma mostra come bias nei dati generi discriminazione nei risultati (Obermeyer, Ziad, et al. “Dissecting Racial Bias in an Algorithm Used to Manage the Health of Populations.”).
Chatbot e salute: l’AI nella nostra quotidianità
I chatbot (o meglio: assistenti conversazionali basati su un modello linguistico, tipo Chat GPT e Gemini) sono probabilmente l’AI più riconoscibile perché ci parliamo davvero e la usiamo attivamente nel quotidiano. Chi non ha mai chiesto a ChatGPT un consiglio sulla propria salute? Ok, purché poi si consulti un medico. A ricordarcelo è un caso pubblicato su Annals of Internal Medicine: un uomo di 60 anni ha sviluppato un’intossicazione da bromo dopo aver chiesto al chatbot con che cosa poteva sostituire il sale. Dopo aver assunto il bromuro di sodio per tre mesi, è finito in ospedale con nausea, acne, disturbi gastrointestinali, depressione e allucinazioni (Annals of Internal Medicine: Clinical Cases (2025). “A case of bromism influenced by use of artificial intelligence.”).
I chatbot generici che trovi online sono comodi, ma non possono sostituire un medico o una medica: non interpretano la complessità clinica, non leggono esami, non conoscono la persona, il suo corpo o la sua storia, le risposte che ti danno sono frutto di un calcolo statistico basato su quel serbatoio infinito di dati che riescono a processare alla velocità della luce.
Ma soprattutto come tutte le AI rischiano anche di riprodurre i bias di genere già presenti nei dati con cui sono stati addestrati o derivanti proprio dai gap di rappresentatività dei dati che vengono utilizzati.
E quindi Geen?
In questo scenario nasce Geen, con un obiettivo chiaro: utilizzare l’AI per facilitare l’incontro tra persone e servizi di salute e benessere. Lo fa, costruendo e addestrando i suoi modelli su data set il più rappresentativi possibile, che tengano davvero conto delle differenze e diversità tra le persone. Geen raccoglie e analizza dati disaggregati per sesso, genere, età, etnia e contesto di vita e lavoro, evitando di riprodurre quel modello “neutro” che nella pratica coincide con il corpo di un maschio di mezza età di etnia causasica (guarda caso).
L’AI di Geen impara così a riconoscere come le esperienze di salute si manifestano nei diversi corpi, in più analizza i dati di provider e servizi sanitari e di salute e li incrocia con quelli degli utenti per indirizzarli verso percorsi di diagnosi e cura più adeguati.. Geen può essere integrata in altri sistemi, come piattaforme di ASL, Ospedali, Cliniche e servizi di welfare, aiutando le persone a trovare il servizio più adeguato all'interno della struttura, riducendo tempi e costi sanitari. Pensa quanto potrebbe essere più facile cercare tra i servizi a tua disposizione sul territorio, con l’aiuto di Geen.
.png){kind=small}
.png)
