Javított arc­felismerési technológiáján a Microsoft

A rendszernek korábban elsősorban a sötétebb bőrszínek okoztak problémákat, ami még az illető nemének meghatározását is akadályozta.

A Microsoftnak továbbfejlesztette az arcfelismerő technológiáját. A megoldás korábban nagy hibaaránnyal dolgozott, ugyanis nehezen tudta azonosítani a sötétebb bőrű felhasználókat és meghatározni a pontos nemüket. Mindez arra is visszavezethető volt, hogy a fejlesztőcsapat tagjai saját magukon tesztelték a technológiát, és a csoportnak alapvetően fehér férfiak a tagjai. A magas hibaszázalék azonban nagyon beszűkítette a felhasználási területet, ezért a társaság a problémák megoldására összpontosított. Ennek köszönhetően sikerült a nagyon sötét bőrtípusok esetében a pontosságot a 20-szorosára javítani. Ez oda vezetett, hogy a rendszer a lakosság teljes demográfiai átlagát tekintve is jobb eredményeket ért el, mint a kereskedelmi forgalomban kapható megoldások.

Miután az alkalmazott eljárás mögött öntanuló mesterséges intelligencia algoritmusok vannak, ezért a programkód finomítása nem ér túl sokat. Egy ilyen rendszer csak annyira jó, mint az az adatmennyiség, amellyel képezik, ezért a Microsoft is ez utóbbi területre koncentrált. Kiemelt figyelmet kaptak például a szemüvegek, az ékszerek és az ilyen kiegészítőket viselő személyek azonosítása. A technológiának ugyanis már az is problémákat okozott, ha valaki szemüveges volt vagy egy ékszert viselt.

Arra már tavaly decemberben felhívta a figyelmet egy szakember, hogy az algoritmusok előítéletesek. Joy Buolamwini, az MIT Media Lab kutatója és az Algorithmic Justice League vezetője kiemelte, hogy kutatásaik szerint a sötét bőrrel rendelkező emberek nincsenek megfelelően reprezentálva azokban az adatbázisokban, amelyekkel az automatikus arcfelismerő szoftvereket képezik. Az algoritmusokat nem tanítják meg megfelelően arra, hogy változatos arcokat ismerjenek fel és ez nagyon pontatlan eredményekhez vezet. Pedig fontos az, hogy a technológia megfelelően működjön - különösen akkor, ha olyan döntéseket hoz, amelyeknek komoly következményei lehetnek.