A mesterséges intelligencia rendszerekre épülő profilkészítést ellenzi 40 szervezet

A szoftvereket elsősorban a bűnüldöző hatóságok alkalmazzák, hogy létrehozzák a különböző személyek és területek profiljait.

Az Európa Tanács egy olyan nemzetközi megállapodáson dolgozik, amely garantálná a mesterséges intelligencia rendszerek esetében is az emberi jogokat, a jogállamiságot és a demokratikus munkavégzést. A szerződés sokkal szigorúbb szabályokat vezetne be az olyan mesterséges intelligencia rendszerek esetében, amelyek konfliktusba kerülhetnek az emberi jogokkal. Ilyen megoldások lehetnek például a biometriai azonosítótechnológiák.

Az Európa Tanácshoz, az Európai Parlamenthez és az európai uniós tagállamokhoz eljuttatott nyílt levélben az Access Now, az AlgorithmWatch, a European Digital Rights (EDRi), a Fair Trials, a Human Rights Watch, a Statewatch és a többi szervezet arra mutatott rá, hogy a profilok alapján letartóztatások, büntetőjogi üldözések következhetnek be, továbbá felerősödhet bizonyos személyek és csoportok diszkriminálása is az etnikai hovatartozásuk, a társadalmi-gazdasági státuszuk, a migrációs hátterük és a nemzetiségük alapján. Az ilyen eljárások sértik a tisztességes eljáráshoz, a magán- és a családi élethez, valamint az adatvédelemhez fűződő jogokat.

A rendőrségek és az igazságügyi szervek birtokába kerülő adatok, amelyeket a mesterséges intelligencia rendszerek fejlesztésére, képzésére és működtetésére használnak fel, gyakran a történeti, szisztematikus, intézményi és társadalmi diszkriminációt tükrözik vissza. Ez oda vezet, hogy bizonyos kisebbségek és földrajzi területek Európában folyamatosan és túlzott mértékben ellenőrzésre kerülnek. Éppen ezért a szervezetek a bűnüldözésben és az igazságszolgáltatásban alkalmazott profilkészítő mesterséges intelligencia rendszerek betiltását követelték, illetve egy ilyen tilalom integrálását az európai uniós jogrendbe.