Intelligenza artificiale e bias cognitivi: il ruolo delle donne nel tech ne risente?

Le domande che riguardano AI e donne

Che ruolo può avere l’AI in una visione paritaria e inclusiva a livello di genere? E le donne, in questo momento, come sono collocate rispetto alle posizioni di vertice nei progetti non solamente di implementazione e gestione ma anche di ideazione e sviluppo dell’intelligenza artificiale: tradotto, sono presenti nelle posizioni che contano oppure si parla di un settore prettamente maschile? Sono due tematiche che si intrecciano nelle riflessioni e nei lavori di Alessia Canfarini, che sarà relatrice al Festival AI Svizzera e Italia.

Bias cognitivi, un rischio presente

A novembre a Lugano porterà il tema dei bias cognitivi che possono essere connessi a programmi di intelligenza artificiale soprattutto generativa, un argomento di cui si parla troppo poco e che però, nell’ottica di un uso massivo dei sistemi, va considerata. Infatti, se non si attenziona il fatto che determinate visioni possono essere amplificate da programmi generativi, da ChatGPT e Gemini in poi, ci si potrebbe trovare di fronte a contenuti prodotti ex novo che però portano con loro idee mediate da posizioni politiche o da visioni discriminatorie. Secondo Alessia Canfarini, infatti, nello sviluppo dell’AI c’è un “rischio per le minoranze ed anche per le donne: non lo vedo come un problema futuro, remoto, da osservare con curiosità. Lo vedo come un rischio già presente ogni volta che un sistema automatizzato entra in processi di selezione, valutazione, accesso al credito, welfare, formazione, sanità, sicurezza, comunicazione”. Insomma, è qualcosa di già presente, che potrebbe, se non considerato, portare a effetti al momento inattesi.

Donne pioniere o presenze numericamente e qualitativamente importanti?

Equity Partner di Bip e Guida del Centro di Eccellenza Human Capital, da un quarto di secolo si occupa di trasformazione e innovazione aziendale, con una visione molto simile a quella di noi di Ated, con le persone al centro dei processi, verso un business che abbia un impatto etico e sostenibile, con l’AI quindi al servizio delle persone e non al posto. È particolarmente sensibile alla tematica della presenza e del ruolo delle donne e spesso divulga contenuti relativi al contesto in cui operano. Sottolinea come delle donne tech, come le definisce, ovvero che abbiano posizioni importanti nel lavoro con l’intelligenza artificiale, che progettano, studiano, governano e interrogano, siano ormai presenti, ma al tempo stesso siano viste ancora come delle pioniere o come delle eccezioni. “Il problema è proprio questo: quando una presenza deve essere continuamente celebrata come eccezionale, significa che non è ancora percepita come normale”, afferma.

Non quote rosa ma quesiti diversi per un sistema AI più intelligente

Chi le vede quindi come marginali, quando non lo sono? Alessia Canfarini allarga il campo in un’analisi sociologica: “Da un immaginario collettivo che associa ancora la tecnologia a un codice maschile; da alcune culture organizzative che confondono competenza tecnologica e stile di leadership dominante; da percorsi educativi che orientano troppo presto bambine e ragazze lontano da matematica, ingegneria, informatica; a volte anche dai processi di carriera, che riconoscono più facilmente il potenziale quando assomiglia a quello già visto”. Come spesso accade quando si parla di presenza femminile, ci tiene a far notare come non si tratti semplicemente di quote rosa, ma di un approccio differente, che possa rendere il sistema non “più gentile”, come può passare in alcune visioni della società, ma “più intelligente. Perché un sistema costruito da sguardi omogenei vede meno mondo. E un’intelligenza artificiale che vede meno mondo decide peggio”.

Il ruolo dell’AI nell’amplificazione di bias cognitivi

Dato come funziona l’AI, che genera nuovi contenuti non partendo totalmente da zero ma utilizzando i dati con cui è stata istruita, paradossalmente alcuni bias cognitivi legati alla parità di genere e ad altre minoranze possono essere amplificati anziché cancellati. Alessia Canfarini parla di “un’eredità culturale che entra nel sistema”, che usa una storia che non è neutra bensì “piena di gerarchie, esclusioni, stereotipi e asimmetrie di potere”. L’intelligenza artificiale non discrimina di sua volontà, non avendo intenzioni proprie, ma può “automatizzare discriminazioni già esistenti e renderle più difficili da vedere”. Tra cui quelle relative alle donne, che già vengono ancora viste come marginali nei processi di sviluppo dell’AI quando non lo sono. E se una decisione umana può essere contestata e messa in discussione, secondo Alessia Canfarini è più difficile che ciò venga fatto con l’intelligenza artificiale: “una decisione algoritmica rischia di apparire oggettiva solo perché è mediata da una macchina”, quando in realtà può rendere ancor più diffuso dei bias cognitivi.: una problematica non del futuro, ma già presente, su cui ci si deve chinare oggi.

Gli impatti dei bias cognitivi per le donne

Quali sono i biasi cognitivi che possono essere amplificati dall’intelligenza artificiale, se non vi è una profonda riflessione sui dati con cui viene addestrata (che a suo avviso non possono essere solo “puliti”, ma serve interrogare la cultura che rappresentano, un lavoro dunque più profondo e concettuale)? In primis quelli relativi al genere, che vedono le donne associate a ruoli di cura e relazionali e meno a leadership e tecnologia, appannaggio degli uomini. Per Alessia Canfarini un potenziale rischio è che tra i profili dei candidati per un determinato ruolo lavorativo l’AI selezioni un uomo, non perché glielo si dica esplicitamente ma perché ha ricevuto una storia che forniva quelle indicazioni. Al tempo stesso, vede un intreccio tra bias cognitivi e la visione secondo cui le donne nel tech sono ancora pioniere: “Una donna che usa l’AI rischia di essere letta come meno competente, come se lo strumento servisse a compensare una mancanza. Un uomo che usa lo stesso strumento può essere percepito come più strategico, più efficiente, più capace di valorizzare le risorse disponibili. Questa è una credenza sottilissima e molto pericolosa: lo stesso comportamento viene interpretato in modo diverso a seconda del corpo che lo compie”.

Una discriminazione meno visibile ma presente

L’AI potrebbe rendere alcune discriminazioni, tra cui non solo quelle di genere ma anche razziali, generazionali, linguistici, legati a disabilità e origine sociale, meno visibili: Non vengono più pronunciate da una persona, vengono incorporate in un punteggio, in una raccomandazione, in una soglia, in una priorità. Questo rende la discriminazione più elegante, quasi amministrativa. Ed è proprio per questo che può diventare più insidiosa”, con duplice rischio per le donne.

Le possibili soluzioni

Cosa fare, quindi? Per Alessia Canfarini si deve operare in più direzioni: interrogarsi sui dati forniti all’intelligenza artificiale, con domande specifiche, alfabetizzare e formare le persone sul funzionamento dei meccanismi dell’AI (come sosteniamo noi di Ated per non esserne dominati), puntare su governance, audit, team plurali, trasparenza nei criteri, procedure di contestazione, metriche di impatto, formazione continua, cultura che mostri anche alle ragazze che una carriera nel tech è possibile (in merito, organizziamo quattro corsi APF). Infine, incoraggia alleanze tra istituzioni, imprese, università, ricerca e società civile in merito allo sviluppo dell’intelligenza artificiale.

Prossimi eventi Ated

16 luglio AIPerIthink