Twitter maakte de resultaten bekend van de open competitie om vooroordelen te vinden in het fotobijsnijdsysteem.
De bounty-uitdaging begon in juli nadat Twitter-gebruikers hadden laten zien dat de geautomatiseerde bijsnijdtool van de site de voorkeur gaf aan de gezichten van mensen met een lichtere huidskleur dan die met een donkere huidskleur. Het riep enkele vragen op over hoe de software de voorkeur gaf aan huidskleur en bepaalde factoren boven andere.
De uitdaging was om te achterhalen welke andere bugs en vooroordelen het bijsnijdsysteem kan hebben om de problemen op te lossen.
De eerste plaats ging naar Bogdan Kulynych, wiens inzending liet zien hoe schoonheidsfilters het scoremodel van het algoritme konden spelen, dat op zijn beurt de traditionele schoonheidsnormen versterkt. Uit de inzending bleek dat het algoritme de voorkeur gaf aan jonge en slanke gezichten met een lichte of warme huidskleur. Kulynych won $3.500.
De tweede plaats ging naar HALT AI, een tech-startup in Toronto, die ontdekte dat afbeeldingen van ouderen en gehandicapten uit foto's waren geknipt. Het team kreeg $ 2.000 voor de tweede plaats.
De derde plaats, en $500, ging naar Roya Pakzad, oprichter van Taraaz Research, die ontdekte dat het algoritme de voorkeur gaf aan het bijsnijden van Latijnse schriften boven Arabische schriften, wat de taalkundige diversiteit zou kunnen schaden.
De gedetailleerde resultaten werden gepresenteerd op DEF CON 29 door Rumman Chowdhury, de directeur van het META-team van Twitter. Het META-team bestudeert de onbedoelde problemen in algoritmen en verwijdert elke vorm van gender- en raciale vooroordelen die dergelijke systemen kunnen hebben.
De gegevens die uit deze wedstrijd zijn verkregen, zullen worden gebruikt om bugs en vooroordelen in het bijsnijdalgoritme te verminderen en te helpen zorgen voor een meer inclusieve omgeving.
