IA e razzismo, al lavoro per sconfiggere i pregiudizi

Il digitale e in particolare l’intelligenza artificiale, innescano molte nuove riflessioni. A volte infatti, i pregiudizi degli esseri umani vengono trasferiti anche alle macchine, generando discriminazioni. D’altronde ciò che diamo in pasto all’intelligenza artificiale, influenzerà le risposte della macchina: se le diamo pregiudizi, ci restituirà pregiudizi, spesso indicati con il termine inglese bias.

Proprio a questo proposito, Il Quotidiano ha seguito un’attività organizzata da USI e SUPSI, in collaborazione con Zona Protetta e Centro per la prevenzione delle discriminazioni, nell’ambito della settimana contro il razzismo.

“Abbiamo pensato e preparato quest’attività per cercare di fare capire come si origina il bias all’interno di un’intelligenza artificiale – spiega ai microfoni della RSI il ricercatore SUPSI Alberto Termine –, ma anche per mostrare come a volte sia difficile per chi costruisce questi strumenti o chi li utilizza in maniera professionale arginare questo problema”.

Ed è proprio così che capita che alcuni sistemi diventino razzisti o discriminatori. Come spesso è il caso, torna utile pensare a un esempio concreto, quello della consulenza per un prestito bancario, in cui l’intelligenza artificiale userà i dati a disposizione per guidare le proprie decisioni. “Se le persone di genere femminile guadagnano tendenzialmente di meno – spiega ancora Alberto Termine – e l’IA utilizza questa informazione per negare maggiormente i prestiti alle donne, ecco che poi nella società le persone di genere femminile avranno un minore accesso ai prestiti e quindi meno opportunità. In questo modo la differenza di reddito non andrà ad appianarsi, anzi potrebbe addirittura venire amplificata”.  

Ma chi decide cosa è giusto e cosa è sbagliato? E quali sono i dati pericolosi o invece quelli utili al sistema? “Ognuno di noi ha una propria etica, dei valori e dei principi – afferma da parte sua la professoressa alla facoltà informatica dell’USI Monica Landoni –, e una società di solito si identifica come tale proprio quando condivide valori e principi. Quello che è etico e giusto in realtà è quindi quello che viene definito dalla comunità a cui apparteniamo. In questo caso si presume che certi valori siano universali, penso in particolare al benessere dell’individuo che deve restare al centro. Anche noi come informatici abbiamo un codice etico che dice che dobbiamo utilizzare quello che facciamo per il benessere degli utenti, delle persone e della comunità”.