Gyakran ellenkező hatást váltanak ki a diszkrimináció­ellenes mesterséges intelligenciák

A területen nem túl hatékonyak az algoritmusok.

Egyre több mesterséges intelligencia által vezérelt eszköz van a piacon, amelyeket a nagyobb társaságok a munkaerő-toborzási folyamatban is használnak. A cégek ezekkel a megoldásokkal az emberi előítéletek és a megkülönböztetések ellen akarnak harcolni. Az ilyen rendszereket kínáló szolgáltatók jelentős része azt állítja, hogy a fejlesztése megakadályozza az esetleges diszkriminációt a felvételi eljárás során. Ezzel szemben a Cambridge-i Egyetem kutatói a témában készített tanulmányukban azt taglalták, hogy ezek az eszközök "triviális adatpontokká redukálják az etnikai hovatartozást és a nemet, és gyakran olyan személyiségelemzésekre támaszkodnak, amelyek "automatizált áltudományok".

A tanulmány elkészítéséhez az akadémikusok informatikus hallgatókkal fogtak össze azért, hogy felfedjék, hogy az érintett mesterséges intelligencia hogyan dönt. Ennek megállapítására egy olyan szoftvert fejlesztettek ki, amely hasonlít a HR-csapatok által egyre gyakrabban használt szoftverekhez. Az eredmények azt mutatták, hogy az önéletrajzokhoz csatolt fényképeken lévő öltözködés vagy a világítás véletlenszerű megváltoztatása gyökeresen eltérő személyiségértékeket eredményez, amelyek döntő hatással lehetnek arra, hogy egy jelentkezőt meghívnak-e egy interjúra vagy már előre kiválogatják.

A tudósok a jelentésükben megállapították, hogy a mesterséges intelligencia alkalmazása a jelöltek körének szűkítésére végső soron inkább az uniformizációt, mint a sokszínűséget növelheti, mivel a technológia úgy van beállítva, hogy a munkáltató ideális jelöltjét keresse. Ez oda vezethet, hogy a megfelelő végzettséggel és háttérrel rendelkező személyek "győznek az algoritmusok felett" azáltal, hogy a mesterséges intelligencia által felismert viselkedésformákat utánozzák, majd ezeket a viselkedésformákat veszik át a munkahelyen. Ráadásul azt sem szabad elfelejteni, hogy az alkalmazott algoritmusokat minden esetben a múltból származó adatokkal táplálják. Ez viszont azt jelentheti, hogy a legmegfelelőbbnek ítélt jelöltek valószínűleg azok, akik a leginkább hasonlítanak a jelenlegi munkatársakhoz.