La discriminació per raons de gènere, procedència o aparença física és quelcom palpable a les societats occidentals. Un equip de la unitat de dades d’Eurecat, juntament amb la Universitat Pompeu Fabra i la Universitat Tècnica de Berlín, han creat un algoritme per evitar justament la discriminació en la recerca de persones online. Però, com funciona?
“FA*IR fa un reordenament una llista de candidats”, explica el director del projecte, Carlos Castillo. “D’entrada es rep el llistat, un atribut, per exemple, gènere femení, i una proporció mínima, per exemple, 50%. Després es realitza una avaluació estadística de si la llista, a cada punt de tall, respecta la proporció suggerida, dins d’uns marges de tolerància estadístics”.
“Si no ho és, es fa un reordenament minimalista de la llista, en el qual dos candidats amb qualificacions similars són intercanviats, si és necessari, per poder mantenir les proporcions desitjades”, detalla Castillo a Revista Mirall.
La discriminació en les cerques
El que es vol evitar amb aquest algoritme són situacions on, per exemple, en un llistat de candidats amb exactament el 50% d’homes i 50% de dones, els homes apareguin en la seva gran majoria al principi de la llista i les dones al final.
Preguntat pel tipus de discriminacions més freqüents amb les que es troben, Castillo detalla que hi ha “una distorsió, en alguns casos, de la proporció observada d’homes i dones al començament d’una llista. Per exemple, pot haver-hi una professió en què el 30% siguin dones, però si jo busco a professionals d’aquesta professió, i miro els 10 primers, hi ha només 1 dona i 9 homes, és a dir un 10%, que no correspon a la proporció global”.
“En el cas de la recerca de feina, la idea és promoure als portals que fa servir la gent de recursos humans per trobar candidats, com per exemple, LinkedIn o Xing, d’algoritmes per tal d’evitar que totes les persones del mateix grup ‘aclaparin’ les primeres posicions del llistat”. “La voluntat és la de buscar que grups sub-representats o històricament o actual desavantatjosos puguin tenir una oportunitat”.
Lligar online
Però a l’hora de lligar per internet passa una cosa similar. I aquest algoritme també hi vol dir la seva. Quan es busca parella també es fa a través d’un filtre ordenat “i les persones que apareixen primer tenen moltes més oportunitats i opcions que les que apareixen després”.
Castillo detalla que el grant del Digital Transparency Lab que han guanyat, de 50 mil euros, té com a principal objectiu finançar el desenvolupament d’una implementació real, robusta i usable d’aquest algoritme.
Malgrat tot, comenta que encara queda feina per fer. “A més a més, de la implementació de l’algoritme en una plataforma real, l’objectiu de la investigació és també veure casos en els quals hi ha múltiples atributs de discriminació, com per exemple, ser dona i pertànyer en una minoria ètnica o ser jove i immigrant” i afegeix que “en aquests casos el problema resulta molt més complex perquè hi ha molts més criteris de justícia algorítmica dels que per ara podem satisfer”.