Pontosan, mert magával az állításoddal egyet is tudok érteni, a különbség csupán ott van, hogy ez szerinted esetleg probléma, szerintem meg a természet törvényeinek elkerülhetetlen megnyilvánulása, az egyensúly törvénye, avagy rossz nélkül nincs jó (és fordítva), mert a vonatkoztatási rendszernek nem lenne skálája, tengelye.
"nem holnap, de mondjuk 100 év távlatában"
Köszönöm.
"Mi köze az anyagcsere folyamatnak az intelligenciához?"
Az, hogy az emberek élőlények és ha egy idegen intelligencia megpróbál föléjük kerekedni veszélyes mértékben, akkor azt szélsőséges esetben akár ki is írthatják. Namost ez ellen pedig akkor van csak esélye védekeznie ennek az intelligenciának, ha rendelkezik minimum velünk egyenértékű túlélési és alkalmazkodási képességekkel. A gépek viszont nem ilyenek. Ha átlépnek egy határt és úgy érezzük, hogy ellenünk fordultak, akkor van miből válogatni: kalapács, gyufa, vödör víz, mágnes, EMP, vagy akár csak "kihúzzuk a konnektorból" őket. Az egésszel csak oda akartam kilyukadni, hogy a gépek szempontjából az, ha az emberek döntései fölé akarnak kerekedni, nagyon könnyen válhat egy öngyilkos stratégiává.
"Ez azonban nem a fejlődés motorja csak a fennmaradást segíti."
"helyettesíthető pl. elérhetetlenül optimális célok megfogalmazásával ami ugyanúgy biztosítja a hosszú távú fejlődést."
Szerintem meg helyettesíthető egy kiterjedt öndiagnosztikai és prediktív, spekulatív szoftverréteggel, ami az érzelmekhez hasonlóan a feladatok végrehajtásának logikájába interruptokat tud küldeni, mert az élőlények esetén is kb. ez a mechanizmus elve.
És a két téma itt kapcsolódik össze: itt már kezdhetnénk lassan tényleg kellően széleskörű intelligenciáról beszélni és ez pl. segíthetne némileg védekezni is a gépeknek az emberi szabotázs ellen, viszont egyben ez lenne a fejlődésüknek is pontosan az a szakasza, ahol a legtöbb embernél szintén felugrana az interrupt a kalapács és vödör víz kézhezvétele érdekében, ha a kérdéses gépek rendelkeznének olyan output csatornákkal, amelyek által az emberek életébe számottevően be tudnak avatkozni.