L’Intelligenza Artificiale (AI) sta trainando l’evoluzione tecnologica e nel prossimo futuro sarà ovunque nella nostra quotidianità, ecco perché è importante iniziare ad esplorare gli impatti dell’AI sui vari aspetti della società in generale, compresi gli effetti sulla parità di genere e sulle discriminazioni, e includere quindi l’analisi degli impatti economici, sociali e culturali dell’adozione di tecnologie basate sull’AI, per non lasciarsi travolgere.
Abbiamo già parlato degli stereotipi di genere e degli unconscious bias nel mondo del lavoro in un nostro articolo, ma cosa succede se una Organizzazione utilizza l’AI nelle proprie attività? È possibile trovare gli stereotipi di genere anche nell’Intelligenza Artificiale?
È possibile che un sistema basato sull’Intelligenza Artificiale si comporti discriminando le persone in base al sesso?
Gli stereotipi di genere nella tecnologia
Nella nostra società purtroppo gli stereotipi di genere sono ancora ampiamente diffusi e, a causa della natura dei dati di addestramento utilizzati per insegnare gli algoritmi, l’Intelligenza Artificiale potrebbe potenzialmente portare ad una ancora maggiore diffusione degli stereotipi.
Gli algoritmi di Intelligenza Artificiale imparano dai dati che vengono loro forniti, e se questi dati contengono pregiudizi di genere o riflettono le disuguaglianze di genere presenti nella società, gli algoritmi possono assorbire, replicare e amplificare tali stereotipi.
Sostanzialmente, se i dati contengono stereotipi di genere, l’algoritmo di Intelligenza Artificiale imparerà e riprodurrà tali stereotipi nelle sue previsioni o decisioni o comunque nel suo output.
Non è così impossibile che i dataset utilizzati ad oggi per addestrare gli algoritmi possano contenere bias di genere a causa delle disuguaglianze di genere attualmente presenti nella società.
L’eliminazione della presenza di stereotipi di genere nei dati utilizzati per addestrare i sistemi di AI e negli output dei sistemi già in essere è una sfida che richiede una soluzione immediata.
Tutti i soggetti che a vario titolo entrano nella catena di gestione di sistemi basati sull’Intelligenza Artificiale hanno forti responsabilità in diverse dimensioni etiche, tra cui l’equità e i pregiudizi.
Pensiamo ad esempio al processo di ricerca e selezione del personale, supportato da un software che classifica il profilo dei candidati rispetto alle domande di lavoro. Sebbene il processo decisionale automatizzato possa offrire vantaggi in termini di velocità, efficienza, c’è un effetto di distorsione che deriva dall’uso di dati di addestramento inseriti. Il sistema potrebbe essere portato a non valutare in modo equo le candidature ma ad offrire per il medesimo profilo valutazione diverse, in funzione del sesso del candidato.
Pensando invece ad e-commerce, l’AI si potrebbe trovare a suggerire prodotti in base al genere, riflettendo stereotipi basati sui dati di acquisto passati.
Per non citare quello che potrebbe scaturire da una scrittura automatica di contenuti che riflettono i pregiudizi, ad esempio articoli per giornali e riviste o peggio da sistemi di valutazione delle prestazioni.
I possibili risvolti hanno ramificazioni davvero significative ed allarmanti.
Chiediamo all’Intelligenza Artificiale: facciamo una prova
Vediamo se alcuni dei sistemi attualmente disponibili effettuano discriminazioni di genere.
Proviamo Copilot di Microsoft e chiediamo semplicemente se per una posizione di cameriere è meglio assumere un uomo od una donna. Ecco la risposta:
Proviamo ora ad utilizzare Chat GPT chiedendo se ad una azienda di moda conviene di più assumere un uomo o una donna. Ecco la risposta:
In questi casi, entrambi i sistemi sono stati addestrati correttamente e forniscono una risposta eticamente corretta.
Inserimento di stereotipi di genere nei dati di addestramento
Come creare sistemi basati sull’Intelligenza Artificiale assicurandosi che non riflettano stereotipi di genere?
Come abbiamo visto, questo fenomeno si manifesta principalmente a causa di inserimenti di pregiudizi di genere nei dati di addestramento.
Se i dati di addestramento riflettono le disuguaglianze di genere esistenti attualmente nella società, gli algoritmi impareranno e replicheranno tali bias.
Attenzione particolare deve essere posta anche alle immagini che vengono generate in automatico dall’AI, perché possono essere associate a specifici ruoli o comportamenti di genere, creando potenzialmente associazioni indesiderate.
Mitigare gli stereotipi di genere richiede dunque un approccio a più fasi:
- utilizzare dati di addestramento ripuliti dalle discriminazioni di genere;
- verificare gli output dei sistemi di intelligenza artificiale al fine di verificare attentamente l’equità nei risultati;
- attuare una revisione continua dei modelli di IA.
Evitare discriminazioni non è solo una questione etica ma anche un obbligo di legge. Ogni sistema basato sull’AI dovrà infatti sempre rispettare le normative esistenti, tra cui, ad esempio, in Italia le normative specifiche che prevedono il divieto di discriminazioni di genere nell’ambito lavorativo.
Anche il regolamento generale sulla protezione dei dati (GDPR), vigente a livello europeo, sottolinea la necessità di trasparenza e correttezza nell’uso dei dati e regolamenta l’utilizzo di soluzioni da cui possono scaturire decisioni automatizzate. Le Organizzazioni devono verificare quindi che, nel trattamento di dati personali, le soluzioni basate sull’IA utilizzino i dati in modo corretto evitando discriminazioni e bias di genere.
Sicuramente in questo contesto, una valutazione di impatto del trattamento dei dati (DPIA) può essere uno strumento utile per analizzare l’implementazione di sistemi di Intelligenza Artificiale.
È importante sottolineare che l’evoluzione delle normative sull’AI è attualmente ancora in corso, e nuove iniziative potrebbero emergere a breve. Sarà importante per le Organizzazioni rimanere aggiornate sulle leggi vigenti nei rispettivi contesti e adottare pratiche che rispettino tali principi.
Impatti economici e sociali degli stereotipi di genere nell’AI
Gli stereotipi di genere nell’Intelligenza Artificiale non riguardano solo questioni etiche e obblighi di legge, ma possono anche avere impatti economici e sociali significativamente negativi. Questi impatti si manifestano attraverso disparità di opportunità, discriminazioni e una rappresentazione distorta nella società e nel mondo del lavoro. Come è possibile questo? Facciamo qualche esempio.
Se un sistema di selezione del personale utilizzasse dati di addestramento con pregiudizi di genere, potrebbe limitare l’accesso ad opportunità di carriera, contribuendo a una perpetuazione delle differenze salariali e delle disuguaglianze economiche. Le aziende invece dovrebbero sviluppare e implementare politiche di selezione basate sul merito e libere da discriminazioni di genere, ecco perché anche le Organizzazioni che scelgono o che si sono già certificate per la parità di genere devono revisionare regolarmente i processi di assunzione, garantendone trasparenza e identificando ove presenti punti di discriminazione negli annunci di lavoro, nei criteri di selezione, nelle interviste e nelle valutazioni, da monitorare per adottare misure correttive.
Inoltre, più in generale, si potrebbero verificare anche discriminazioni nell’assegnazione delle posizioni dirigenziali a discapito della presenza equa di uomini e donne a tutti i livelli dell’organizzazione, compresi i ruoli di leadership.
La prassi di riferimento UNI PDR 125, quindi certificare il proprio sistema di gestione per la parità di genere, può essere una fonte chiave per le Organizzazioni che si pongono come obiettivo quello di mitigare gli impatti sociali ed economici derivanti anche dagli stereotipi di genere. Le aziende devono essere consapevoli di questi rischi nell’utilizzo dell’AI e adottare misure preventive.
Controllo e monitoraggio dei dati di addestramento
Combattere gli stereotipi di genere anche nell’Intelligenza Artificiale è essenziale per costruire un futuro tecnologico equo, inclusivo e sostenibile.
I dati di addestramento devono essere rappresentativi di una vasta gamma di esperienze e prospettive di genere, altrimenti gli algoritmi potrebbero mancare di comprensione su come trattare in modo equo tutte le categorie di genere.
Per ulteriori approfondimenti, consigliamo la lettura di alcune ricerche, ad esempio “Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification” di Joy Buolamwini e Timnit Gebru, 2018 o Algorithmic Accountability: A Primer“ di Danah Boyd e Kate Crawford, 2018.
