L'AI non deciderà da sola di diventare più equa. Lo diventerà solo se chi la costruisce sceglie, consapevolmente, di non accontentarsi dello specchio così com'è.
Un'intelligenza artificiale addestrata su grandi quantità di testo e immagini prodotte dalla società umana non nasce neutra — nasce specchio. E gli specchi, si sa, riflettono anche ciò che preferiremmo non vedere.
Uno specchio, non un bug
Diversi studi hanno documentato come i modelli di AI generativa tendano a riprodurre stereotipi di genere già presenti nei dati di addestramento: professioni associate prevalentemente a un genere, rappresentazioni fisiche stereotipate, persino risposte mediche calibrate su un paziente implicito maschile quando il genere non viene specificato.
Il problema non è tecnico in senso stretto: se i dati con cui un modello impara riflettono decenni di disparità, il modello imparerà quelle disparità come pattern statisticamente validi, a meno che qualcuno non intervenga deliberatamente per correggerle.
Una scelta di progettazione
Usare l'intelligenza artificiale per colmare il gender data gap, invece di perpetuarlo, richiede una scelta attiva: costruire dataset che rappresentano davvero la varietà dei corpi, e testare i sistemi specificamente per individuare dove riproducono pregiudizi.
