Nagyon egyszerűen befolyásolhatók az emberek algoritmusok segítségével

A módszer működik, legyen szó akár választásokról vagy partnerkeresésről.

Ujué Agudo és Helena Matut, a De Deusto Egyetem munkatársai a tanulmányukban kimutatták, hogy az emberek nagyon egyszerű módon befolyásolhatók az algoritmusokkal és hajlanak arra, hogy azt tegyék, amit a szoftverek javasolnak nekik. A dolog tárgya mindegy, azaz hogy éppen egy választásról van-e szó vagy a randijelöltek megítéléséről.

A két szakember összesen négy kísérletet végzett önkéntesek bevonásával és mindegyik esetben arra a következtetésre jutott, hogy rendkívül fontos lenne a felhasználókat felvilágosítani arról, hogy miként működnek az algoritmusok, azok hogyan alkalmazhatók a megtévesztésükre és végül rámutatni arra, hogy nem bízhatnak meg vakon azokban.

A kísérlet során a résztvevőknek először egy hamis személyiségtesztet kellett kitölteniük, amelynek kiértékelése után különböző csoportokba osztották be őket, hogy célzott üzeneteket kapjanak. Volt egy ellenőrzőcsoport, amelynek tagjainál nem végeztek személyiségtesztet. Mind a két csoport tagjainak olyan politikusok fényképeit mutatták meg, amelyek a személyiségük alapján a legjobban illettek hozzájuk. A személyiségteszttel rendelkezők általában azokat a politikusokat választották, akiket számukra az algoritmusok javasoltak.

A valóságban nem volt semmilyen egyedi személyiségprofil. Minden résztvevő ugyanazt a hamis profilt kapta, amely úgy volt megfogalmazva, mint a horoszkópok, azaz bárkire igaz lehet. Az emberek egyszerűen vakon megbíztak a gép választásában. A kutatók hangsúlyozták, hogy nagyon nehéz a mesterséges intelligencia fejlődésével lépést tartani. Az ipar naponta több millió személy bevonásával végez kísérleteket a világhálón, ezáltal szinte minden elmélet tesztelhető. Ezzel párhuzamosan ugyanakkor gyorsabban nő az algoritmusok manipulálásának a veszélye is annál, mint hogy ezt a jelenséget meg lehetne vizsgálni.