Twitter je objavil rezultate svojega odprtega natečaja za iskanje pristranskosti v svojem sistemu za obrezovanje fotografij.
Izziv nagrad se je začel julija, potem ko so uporabniki Twitterja pokazali, da avtomatizirano orodje za obrezovanje spletnega mesta daje prednost obrazom ljudi s svetlejšo poltjo pred tistimi s temnejšo poltjo. Sprožilo je nekaj vprašanj o tem, kako je programska oprema dala prednost barvi kože in nekaterim dejavnikom pred drugimi.
Izziv je bil namenjen odkrivanju drugih napak in pristranskosti sistema za obrezovanje, da bi odpravili težave.
Prvo mesto je pripadlo Bogdanu Kulynychu, čigar prispevek je pokazal, kako lahko lepotni filtri izenačijo model točkovanja algoritma, kar posledično krepi tradicionalne lepotne standarde. Predložitev je pokazala, da algoritem daje prednost mladim in vitkim obrazom s svetlim ali toplim tenom kože. Kulynych je osvojil 3500 $.
Drugo mesto je pripadlo HALT AI, tehnološkemu startupu iz Toronta, ki je odkril, da so bile slike starejših in invalidov izrezane iz fotografij. Ekipa je prejela 2000 $ za drugo mesto.
Tretje mesto in 500 $ je prejela Roya Pakzad, ustanoviteljica Taraaz Research, ki je odkrila, da algoritem daje prednost obrezovanju latiničnih pisav namesto arabskih, kar bi lahko škodilo jezikovni raznolikosti.
Podrobne rezultate je na DEF CON 29 predstavil Rumman Chowdhury, direktor Twitterjeve ekipe META. Ekipa META proučuje nenamerne težave v algoritmih in izloča kakršno koli spolno in rasno pristranskost, ki jo imajo takšni sistemi.
Podatki, pridobljeni s tem natečajem, bodo uporabljeni za blaženje napak in pristranskosti v algoritmu za obrezovanje ter pomoč pri zagotavljanju bolj vključujočega okolja.
