"akik a gépeket képesek megalkotni és a helyes működésük fenntartásáról gondoskodni"
Alapvetően a helyzet amiről írtam az a gép->felhasználó viszony nem a programozó->gép viszony. A lényeg pedig az hogy felhasználóként hajlunk arra hogy elfogadjuk a működési logikát amivel szembesülünk, inkább mintha közvetlenül egy másik ember mondaná meg mit csináljunk.
"hogy a gépek bizony rohadtul nem azt csinálják, ami jó, meg ami a programjukban van"
Olyan ugye nem lehet hogy nem azt csinálja mint ami a programjában van, a (számító)gép nem 'szeszélyes' mint egy ember, az AI nyilván a nem az átláthatóság irányába tolja a rendszert de attól még az is egzaktul azt csinálja amit a programjában szerepel, ha kihagytak egy releváns inputot az alkotói/tanítói akkor persze anélkül fog döntéseket hozni.
"gép csinálja amit az ember mond, nem fordítva, mert ez a világ rendje, egyedül így van értelme a létezésüknek"
Valójában négy reláció létezik. van hogy a gép mondja mit csináljon a user, van hogy a programozó mondja mit csináljon a gép, és van hogy a gép mondja gépnek(vagy ember->ember) mit csináljon. A gép természetesen (jelenleg még) nem dönt 'tudatosan', de ez csak komplexitás kérdése, az AI neurális hálózatában benne van a potenciál hogy a jövőben akár teljesen 'emberszerűvé' váljon a működése, persze praktikusan az érzelmi csapongásaink nélkül. Az emberi érzelmek/motivációk elvileg eddig a pontig kellenek a rendszer fejlődéséhez, innen képes lenne önállóan(gépek útján) is fejlődni, de persze párhuzamosan lesz jelen mindkét hajtóerő.