Túlzottan megbíznak a cégek az algoritmusokban

A cégek egyre inkább szoftverekre bízzák az adatok előszűrését, mielőtt egy munkatárs foglalkozna vele, de az automatizált eljárások számos hátránnyal járnak.

"Napjainkban az algoritmusok egyre több olyan feladatot vesznek át, amelyet korábban emberek végeztek. Ez azt jelenti, hogy döntéseket hozhatnak például arról, hogy kit kell behívni egy állásinterjúra, ki utazhat be egy adott országba vagy ki kaphat hitelt a banktól. Vagyis az életünk egyre több területét ellenőrzik, de arra csak kevesen kíváncsiak, hogy hogyan működnek és valóban tisztességesek-e. Az algoritmusok az álláshirdetéseknél kiszűrhetik a leginkább megfelelő jelentkezőket, míg a hiteleknél azokat az ügyfeleket adják meg, akik az ismert adatok alapján a legmegbízhatóbban törlesztenek."

A Xerox és a Bosch már évek óta szoftverrel segíti telefonos ügyfélszolgálata munkatársainak kiválasztását, így végeznek előszűrést az önéletrajzok között.

"Ebből a szempontból először semlegesek, de előfordulhat, hogy később mégis diszkriminatívvá válnak. Ahhoz, hogy egy algoritmus jól működjön, eleinte adatokkal kell trenírozni. Ezáltal mutatják meg neki, hogy mire kell rákeresnie és megpróbál optimális döntést hozni, mint ahogy az emberek. Viszont nem mindegy, hogy milyen adatokkal edzettek egy algoritmust" - jelentette ki Andreas Dewes fizikus, a 7scientists nevű startup létrehozója.

Példája szerint ha egy állásra fele-fele arányban jelentkeznek férfiak és nők, és egy munkaügyi szakember a férfiak 30, míg a nőknek csak 15 százalékát hívta be, akkor a szoftver is eltanulja ezt, mint helyes működést, és később maga is így fog cselekedni. Ez a működési mód természetesen nincs benne a programsorok között, csupán a korábbi tapasztalatai alapján így automatizál. A döntési tényezők természetesen üzleti titkot képeznek, és a szakember szerint az algoritmusokat gyakran nem is tesztelik, de az alkalmazottak ennek ellenére megbíznak bennük és abban, hogy a legjobb döntést hozzák meg.

Természetesen vannak pozitív példák is, így például a biztosítótársaságok sokkal célzottabb ajánlatokat kínálhatnak az ügyfeleiknek. A személyre szabott gyógyításnál szoftverek segíthetnek abban, hogy - a páciensek kortörténetét is figyelembe véve - gyorsabban és biztonságosabban legyenek felismerhetők a betegségek. A probléma tehát nem a számítógép bevonásával van, hanem azzal, hogy túl nagy mértékben ellenőrzik az életünket és a szakemberek nem vizsgálják meg, hogy valójában mi is történik. Ezért Andreas Dewes azt szeretné, hogy létrejöjjön egy minőségbiztosítási rendszer a hasonló megoldások számára, vagy ki lennének jelölve olyan biztosok, akik felügyelnék a működésüket. Fontos lenne az is, hogy az emberek a hasonló döntéstámogató programok ajánlásait ne fogadják el alapból, hanem folyamatosan megkérdőjelezzék az eredményeket.