Ha a rendszer 99.9%-os pontosságú és az USA-ban lakik 300 millió ember, akkor ha mindenkin lefuttatják, az 300 ezer hibás találatot eredményez, azaz 300 ezer ártatlan embert kezelnek csalóként, bűnözőként, nem kapja meg a járandóságát, stb.
De ha csak 1 millió emberen futtatják le, akkor is lesz 1000 hibás találat, ami ha médiafigyelmet kap nagyon sok, mert százával szólalnak meg a felháborodott emberek és azt a benyomást keltik, mintha a rendszer sokkal többet hibázna, mint a valóságban így aláássa a társadalom rendszer iránti bizalmát.
Ezért nem lenne szabad algoritmusok alapján bármilyen hátrányos jogkövetkezményt bevezetni.
Informatika és tudomány
