Bűnözőnek ismert fel képviselőket az Amazon arcfelismerő szoftvere

Még komoly hiányosságokkal küzd a kereskedelmi cég megoldása.

Az American Civil Liberties Union (ACLU) egy érdekes kísérlet keretében tesztelte az Amazon által kifejlesztett Rekognition arcfelismerő programot. A szervezet megvásárolta a szoftver licencét, majd mind az 535 kongresszusi képviselő fotóját összehasonlította egy adatbázissal, amely 25 000 bűnöző fényképét tartalmazta. A Rekognition 3 szenátorról és 25 képviselőről állította azt, hogy a portréjukat fellelte a rendőrség által rabosításkor készített fotók között, vagyis bűnözőkként azonosította őket.

A Rekognition célja az ügyfelek segítése nagy adatbázisok kezelésében. Az orlandói rendőrség egy projekt keretében már használta a megoldást és a nyugati parton lévő hatóságok is érdeklődtek a Rekongnition iránt. (A Williamette Week regionális újság azt írta, hogy az oregoni Washington megye seriffi hivatala előkészíti a program alkalmazását.) A program összeköthető egy felhőkörnyezetben lévő adattárolóóval, a havidíja 12 dollár. Az arcfelismerés valós időben történik, ezáltal a rendőrök azonnal felismerhetik és őrizetbe vehetik a bűnözőket.

A The Verge arról számolt be, hogy a Rekognition a bőrszínt fontos összehasonlítási paraméterként használta. A 28 bűnözőként azonosított képviselő közül 11 volt színes bőrű. Érdekesség, hogy más cégek arcfelismerő szoftverei is hasonló eredményeket produkáltak az egyik szövetségi hivatal tesztjein. Ezzel szemben az ALCU munkatársai úgy vélték, hogy a Rekognition egy igazán veszélyes alkalmazás és túl nagy a veszélye annak, hogy a tévedései miatt ártatlanokat is őrizetbe vehetnek és a járőrök is téves információkat kaphatnak a rendszertől.

Az Amazon úgy reagált a hírre, hogy az adatbázis az összehasonlításhoz nem volt megfelelő mértékben feltöltve képekkel, és a tűrési határ is túl alacsonyra volt állítva (ők 95 százalékos egyezést tartanak jónak) így az eredményt sem lehet elég megbízhatónak minősíteni. A politikusok felszólították a céget arra, hogy hozza nyilvánosságra az összes olyan biztonsági szolgálatnak a nevét, amely a Rekongnition alkalmazza, emellett a vállalat adjon felvilágosítást a programfejlesztéseiről. Jeff Bezosnak, az Amazon vezetőjének augusztus 20-ig van lehetősége reagálni a felvetésekre.