A nagyobb gond nem a vallas, mert az nehezen programozhato. Hanem amikor teljes mertekben racionalis, de hibas peremfeltetelu kovetelmenyeket adunk meg. MI feladata: szuntesse meg a gyerek sirasat. Az MI legegyszerubb valasza: a gyerek megszuntetese megszunteti a sirast is. Igen, illett volna megadni, hogy feltetel, hogy a gyereket nem banthatja. Azaz se o, se rajta keresztul mas valaki, tehat nem kerhet meg senkit, hogy bantsa a gyereket es igy tovabb...
Egy altalanos, tisztan logikus MI, az emberekre jellemzo tanult vilagkep nelkul nagyon veszelyes lehet az egesz emberisegre. A tanult vilagkepunk pedig a tarsadalom korabbi tapasztalataibol felepult es szuletes utan, kommunikacio segitsegevel atadott, "milyen viselkedes a helyes es milyen a rossz" tipusu utasitas lista. Sok helyen ezt vallasoknak hivjak, de eredetileg csak a komplex tarsadalom fennmaradasahoz szukeges szabalyok gyujtemenyei voltak, keso kokorszaki, kora bronzkori szinten megalkotva.
Egy vallasos MI ezert valoszinuleg kevesbe lenne veszelyes mint egy tisztan racionalis, de teljes mertekben szociopata MI.
Informatika és tudomány
