Gondot okoznak a nők az Amazon arcfelismerő rendszerének

Újabb problémák merültek fel a kifejlesztett megoldással kapcsolatban.

Az már tavaly júliusban ismertté vált, hogy az Amazon által megalkotott Rekognition nevű arcfelismerő rendszernek vannak hiányosságai. Az American Civil Liberties Union (ACLU) megvásárolta a szoftver licencét, majd mind az 535 amerikai kongresszusi képviselő fotóját összehasonlította egy adatbázissal, amely 25 000 bűnöző fényképét tartalmazta. A Rekognition 3 szenátorról és 25 képviselőről állította azt, hogy a portréjukat fellelte a rendőrség által rabosításkor készített fotók között, vagyis bűnözőkként azonosította őket. A program a bőrszínt fontos összehasonlítási paraméterként használta, a 28 bűnözőként azonosított képviselő közül 11 volt színesbőrű.


Most egy újabb hiányosságra derült fény: a rendszernek problémát jelent a nők és a férfiak megkülönböztetése - különösen akkor, ha a nők színesbőrűek. A Rekognition az esetek 19 százalékában a nőket férfinek tartotta. A színesbőrű nők esetében még rosszabb volt a helyzet, 31 százalék volt ez az arány - minderre az MIT kutatói mutattak rá. Joy Buolamwini, az MIT illetékes kutatója már tavaly júniusban tájékoztatta Jeff Bezost, az Amazon vezetőjét az eredményekről, de azóta sem választ nem kapott a felvetésekre, sem az arcfelismerő rendszer kijavítása vagy továbbfejlesztése nem történt meg.


Matt Wood, az Amazon Web Services mesterséges intelligencia részlegének vezetője megvédte a megoldást, mondván: az MIT munkatársai csak a Rekognition arcelemző funkcióját tesztelték, az arcfelismerő funkcióját nem. Az előbbi azonosítja a digitális képeken és a videókon az arcokat, s olyan dolgokra figyel fel, mint a szemüveg. Csak az arcfelismerésnél hasonlítják össze az adott arcot más arcokról készült fotókkal. Emellett a kutatók egy régebbi szoftververziót teszteltek, miközben tavaly november óta már elérhető egy új változat is. Az utóbbi belső tesztjein semmilyen különbséget sem találtak a különböző nemek felismerésekor.