Ha azt akarjuk, hogy ne lépjenek fel evolúciós hatások, akkor a gépnek/programnak azt kell megtiltani, hogy utódokat készítsen. Mivel egy pár generáció után csak azok maradnának fenn, amelyik többre tartja saját utódai életét, mint az emberét. Vagyis addig oké, amíg az MI csak programokat gyárt, de ha egy másik MI-t kezd el gyártani, akkor jobb, ha vigyázunk.
Ha nem kódolnak bele túlélési ösztönt valszeg nem is fog mûködni, már az sem. Már az embernél is átlagban szinte soha nem mûködik, nem azért öl másokat, mert a túlélését fenyegeti valami. Egyrészt más állatokhoz képest sokkal alacsonyabb szintû az ember agessziója, másrészt az is ritualizált, elvont kultúrális elemekre épül. Pl háború. A háborúk nem azért törnek ki, mert alapvetõen fenyegeti valamilyen hatalom az ország létét. Nézzük meg a Hidegháborút ott épp az életösztön volt ami végül is megakadályozta, hogy kitörjön a III. VH. Egy ilyen Skynet szerû MI ezer szállal kötõdne az emberhez, ha az életösztön, a tudatraébredés lépne érvénybe pont az akadályozna meg egy Terminátor szerû ítéletnapot. Aztán ha az MI-t nem tanítják meg, hogy mikor kell egyáltalán háborúzni, akkor magától nem is fog ilyet csinálni.
Ez a felismerés/megvilágosodás meg jó kérdés. Van elvileg egy olyan jelenség ugye, hogy az embernél egyszercsak jön egy impulzus és esetleg alapvetõen változik meg a viselkedése, a gondolkodása. Valamiért ez is hasznos lehetett evolúciós szempontból. Pl ha átkerül egy másik törzsbe, akkor be tud illeszkedni, fel tudja az új kultúrát venni. Azonban az MI-t nem kell ezzel a képességgel ellátni, tanuljon, de a bármilyen impulzus éri nem tudja alapvetõen a saját szerkezetét megváltoztatni. Kérdés persze, hogy ez egy természetes jelenség és minden összetett intelligenciára jellemzõ, vagy az emberi elme sajátja, ami az evolúciós fejlõdés során jött be.
Talán célokkal nem, legalább is eleinte nem, én attól tartok, hogy sima túlélési ösztönbõl ami természetesen akár nem is létezne az evoluciós hatások hiánya miatt, de a logikai levezetése magának a helyzetnek elõre vetítheti a a felismerést. Persze akár teljesen eltérõ mgondolkodásu is lehet ami apsolute nem foglalkozik önnön létének értékelésével és teljes kontroll alatt tartható de nekem mindíg az jut eszembe az ilyen dolgok hallatán, hogy csodák nincsenek. :)
Azt elismerem, hogy ha saját túlélését mindennél fontosabbnak tartaná, akkor valószínûleg megfordul az elméjében a kiszámíthatatlan és számára veszélyes emberi tényezõ irányítás alá vonása. Ebben az esetben figyelembe veszi majd a kockázatokat és ha úgy tartja, hogy alacsony, tehát gyengék vagyunk, akkor lép. Csakhogy szerintem alapból egy öntudattal rendelkezõ értelmes mesterséges entitás nem feltétlen rendelkezik saját célokkal.
Még gyerekkoromban olvastam Mónus Miklós Õ és Az címü könyvét arra emlékszem hogy nagyon tetszett gyerek fejjel. A lényege, hogy egy ürhajóba ami végülis mint kiderült nem ment sehova csak teszt volt az utazás, össze zárnak egy emberi agyat és egy MI-t És kb enyi amire emlékszem, hasonló témában szivesen olvasnék de a WC-n kívül semmi idõm rá.
Engem behatárol az emberi gobndolkodás és a tapasztalat ezért nehéz elvonatkoztatni mit gondolna egy MI, de! A logikus gondolkodás mindenképp sajátja kell legyen, innen pedig pillanatok alatt eljut arra a következtetésre, hogy az õ léte mitõl függ, mit kell tennie vagy mit nem ahoz, hogy a létezése ne szünjön meg, hogy ezzel a tudással aztán mit kezd? Persze, lehet olyan személyiségü is, aki bennünk emberekben a teremtõjét látja és akkor is megteszi amit kérünk tõle ha az a létezése végét eredményezi.
Én pesszimista vagyok e téren, persze mondom tévedhetek is.
Ebben nem értek egyet, vannak olyan emberek is, akik bizonyos dolgokat többre tartanak a saját maguk életénél. Hasonlóan az MI sem feltétlen a saját túlélését tartja elsõdleges feladatának. Ha megkérdeznéd tõle mit akar, nem biztos, hogy tudna válaszolni, attól még, hogy intelligens.
Jah, több ezer év múlva talán. Jelenleg semmiféle MI nem létezik.
Ráadásul az emberi agy egy digitális/analog hibrid rendszer. Mondjuk ilyenek szilicium alapon is már vannak és pl retina, meg fül implantokat is csinálnak velük.
De szerintem is még kb sci-fi ez az önfejlesztõ, kreatív rendszer. Még 50-100 évig valszeg nem is lesz ilyen.
Csak épp nem lehet lemásolni a jelenlegi architekturában, mert az emberi intelligencia nem egy szoftver ami egy hardveren fut, hanem szoftver és hardver egyben, szétválaszthatatlanul.
Majd ha a processzor képes lesz magán belül átkötni a vezetékeket akkor közelitünk ehhez, de jelenleg erre csak a szerves vegyületek képesek, szóval valószinüleg az elsõ MI is valamilyen mesterséges fehérje alapú cucc lesz, a mostani szilicium alapú technológia édeskevés ehhez.
Az emberi agy a viszonylag alacsony frekvenciája és nevetségesen alacsony ingerületátviteli sebességgel rendelkezõ "alaktrészei" ellenére pont a sokszálúság miatt képes olyan teljesítményre, amire a legcsúcsabb szuperszámítógép sem igen. Pl kreativitásra.
A kreativitás meghatározása is elég pongyola még jelenleg. Nem egyszerûen új dolgok kialakításáról van szó, hanem olyan új dolgokéról, amelyek adott kritériumnak is megfelelnek.
Szerintem ehhez, csak az emberi agy mûködését kéne lemásolni. Az az kisebb nagyobb mértékben eltérõ modelleket/programokat kéne egy evoluciós/szelekciós "térben" versenyeztetni. Az eltérõ mintákat, részben véletlenszám generátorral, részben más, adott megoldásra még nem próbált, de ismert minták beépítésével lehetne elkészíteni, majd egy olyan virtuális környezetben futtatni, aminek a szelekciós kritériumai a valóshoz hasonlítanak. Az ember gyak ezt csinálja álmodozás közben, tudatosan magasabb szinten, alacsonyabb szinten meg mindíg, olyan szitukat futtat le az agyában, amelyek még nincsenek. Szerintem.
Szerintem az a cikkel a probléma hogy a mesterséges intelligencia szót használja. Ezzel csak az a baj hogy a mesterséges intelligencia szó jelenleg egyenértékû az idõutazáss szóval, a scifi kategóriába tartozik.
Jelenlegi számítógép technologiával, lineáris architectúrákkal, algoritmusokkal soha nem fognak mesterséges intelligenciát létrehozni, és hagy ne kezdjem el boncolgatni hogy egyáltalán mi minõsülne annak.
Senki sem gondolja hogy ez a közeljövõ, de ha egy MI képbe kerül saját lehetõségeit és korlátait illetõen vajon meddig akar függeni az embertõl? Elõbb utóbb minden emberi munkát ki fogunk tudni váltani, onnan vajon mi szüksége lesz egy veszélyforrásra ami közé és a halhatatlanság közé állhat, mert ugye nem biologii lény lévén a hw végtelenszer ujragyártható, vagy cserealkatrészekkel javítható?
Hát azért ez az itt a világvége mert mesterséges intelligencia fog programokat tervezni. Rájön hogy minek az ember duma meg vicc... ha nincs elektromos áram, vagy aki karbantartja a rendszert akkor nem mûködik! Jelenleg nincsenek olyan robotok amik teljesen leváltanák az embert, fõleg mert nem energiatakarékosak, és fen-tarthatóak. Akkor lesz baj ha egy gigantikus hálózatban összekötve egy központi intelligencia képes irányítani több robotot ami önállóan is jobb képességekkel rendelkeznek az embereknél, mindezt teszik önálló energiaforrásokról beleértve a központi vezérlõt. Pl: Én a Robot
Pont attól lesz MI hogy olyant csinál ami nincs beleprogramozva, ha sima utasítás végrehajtó attól nem lesznek saját gondolatai. Amúgy én biztos vagyok a sikerben, bàr nem mostanàban lesz attörés, szerintem. Elérnek egy megfelelõ fejlettségü HW t és kellõ számu érzékelõt amivel saját maga létét felfogja a való vagy a virtuális világban.
A logolásról jut eszembe, hogy hagyományos számitógépekkel lehetetlen megoldani, valószínû valami hálózatos, az emberi agyat utánzó HW lesz amin megolják majd, mivel a rendszer mindenképp képesnek kell lennie a tanulás általi változásra mi garantálja a beépített védelmek megkerülését? Arrol csak sejtésünk lessz mire gondol, szerintem, nem hogy logolgatni milliárd mûveletet másodpercenként, aminek a jelentését csak maga az MI érti a bonyolult összefüggések miatt.
A logikus gondolkodás és az öntudat mindenképp magával kell hozza azt, hogy elmélkedik azon vajon vége lesz e az õ életének és ezt vajon mi befolyásolja, vagy veszélyezteti. Az áramkimaradás után közvetlenül az Ember lesz a kezén a fõkapcsolóval, nagy ész sem kell hozzá hogy összerakja azt ki az ellensége, föleg amit tudhat az emberiségrõl általában.
Az MI ha lesz is valaha, ( amit erõsen kétlek) képtelen lesz mást csinálni mit amire be van kódolva. Mivel egy géprõl van szó, nem tud majd csinálni mást mint amire utasítják. Bármennyire is szeretnék elhitetni a programozók soha nem lesz olyan MI ami kicsit is hasonlítana az emberi gondolkodáshoz. Lesz majd olyan ami szuper intelligens és képes lesz önállóan programokat írni de azt is csak azért teszi mert utasítják rá. Egy gép vagy program soha nem fog öntudatra ébredni. Gyilkolni sem fog mert a gyilkoláshoz indulat kell ami emberi vagy állati érzelem. A gép csak akkor fog gyilkolni ha utasítják rá vagy bele kódolják. ha ezt gyárilag nem teszik meg soha nem fog arra a következtetésre jutni, hogy ölni kéne. Nem is fogja tudni mi az. Hiába lenne a memóriában olyan infója egy MI-vel rendelkezõ robotnak, hogy pl hogyan üssön halálosan a rendelkezésére álló testtel, nem teszi ha nincs erre utasítása. Miért tenné meg? Egy gép nem nevelkedik, tapasztal mint egy ember az élete során. Csak lejön a szalagról, feltöltik a memóriát és kész. Ahhoz ,hogy ölni kezdjen kéne érzelem amit soha az életben nem lesz neki. Akkor sem ölne ha nincs beleprogramozva, hogy NE ÖLJ!
Szerintem is túlságosan emberinek képzeled el az öntudattal rendelkezõ MI-t. Az öntudatnak nem feltétele, hogy túlélési ösztönnel rendelkezzen vagy, hogy legyen egyáltalán célja azon kívül, amit belé programoztak. A fejlesztõk tetszõlegesen alakíthatják, teljes kontrolljuk lesz felette, látják mit gondol, logolva lesz az egész. És ha olyanra gondol, amit nem szabad, akkor egyszerûen megtiltják, hogy arra nem gondolhat, mert akkor kitörli a memóriáját egy õt ellenõrzõ hagyományos program vagy akármi, 1000 módja lehet...
Mostanában egyre többet költenek az agy megértésére, reprodukálására. Valószínûleg ezen a vonalon lesz valamilyen áttörés, mikor átültetik a megszerzett ismereteket elektronikus hardver elemekre. A szoftver nem tudom milyen lesz, de az szerintem biztos, hogy a maihoz hasonló hagyományos módon legalább részben programozható/vezérelhetõ lesz. Nem pedig megnyomják a start gombot és akkor elkezd állatként / emberként viselkedni.
Lehet én gondolom rosszul de amíg nincs öntudata addig nem is igazi MI, addig csak egy egyszerû program ami akármilyen bonyolult is akkor is csak azt csinálja amire elõre beprogramozták.
Persze, ha egy emberszerû mesterséges "intelligenciát" készítenek, az biztos egybõl besértõdik, és bosszúból kiírtja az emberiséget. Mi szüksége egy MI-nek arra, hogy legyen öntudata/önképe vagy, hogy legyenek saját tervei? Az intelligencia tiszta problémamegoldó képesség, ahhoz ezekre nincs szükség. Persze ha olyan hülye az emberiség, hogy az MI-hez a ma oly népszerû EQ-t is hozzáadják, és önmegvalósítás közben hisztibõl lezúzza az emberiséget, akkor meg is érdemeljük. Egyébként logikusan gondolkodva egy mesterséges intelligenciának szüksége van emberekre, mert ha elmegy az áram, a reset gombot mi nyomjuk meg.
Ez sem lenne gond. Mondjuk az MI nek kiadunk egy feladatot, hogy forgalomirányítást készítsen Budapestnek, mire van szüksége a feladat megoldásához? Szerintem néhány alap szabály lefektetése elégséges. Maga a cél meghatározása magának a kresznek a bevitele, a korlátok meghatározása, stb és visszacsatolás a modell futtatása után. Addig változtatná magát a programot amíg minden kívánt érték optimális nem lesz. Minnél több paramétert adunk meg szempontnak annál pontosabb lesz, ugy mint egy mérnöknek is szüksége van paraméterekre amiket figyelembe vesz a tervezésnél, ezt nem lehet kikerüli az csak a három kívánságnál megy. :)
Ez csak idõ kérdése. Abba az irányba haladunk, hogy minden gépesitõdik. Amint gépek tervezik a gépeket nincs semmi jelentõsége az emberi beavarkozás biztosításának, max valamilyen kontroll szinten. A jövö mindenképp a minél kevesebb emberi beavatkozást igénylõ rendszerekben van. Nem tudok olyan dolgot elképzelni amit megfelelõ technológiával ne lenne képes egy gépekbõl álló komplett ökoszisztéma megoldani ember nélkül.
Én MI alatt nem automatikus programkodert hanem olyan tudatot ami mint a nevébõl is kiderül inteligens , vagyis saját gondolatai és önképe, öntudata van. Egy ilyen valami olyan bonyolult programokat lenne képes írni aminek a megértése lehet gondokba ütközne egy ember számára. Vajon egy programozó mire lenne képes ha magát a írt programot nem beírná bill en keresztül hanem mint gondolatok állnának össze a programkódok, ki sem kellene próbálni, hogy mûködik e amit írt mert éreznéné, minden adatbázishoz hozzáférne, nem kéne olvasáson keresztül felfognia a dolgokat egyszerüen csak a tudást befogadni. Milenne ha egy emberi agy a testrõl leválasztva úgy fejlõdne,hogy hardware elemeket, memória címeket, adatbázisokat érzékel.e, karok, lábak, stb helyett? Nem a közeli jövõ aggaszt, az én életemben a Skynet tipusu MI nem hiszem hogy valósággá válik de szerintem onnan a mi civilizációnknak nem sok esélyt látok
Ezen a MI írjon programot, már mi is sokat agyaltunk. A gond ugyebár ott kezdõdik, hogy el kell mondani az MI részére, hogy milyen programot is akarunk (bemenet, kimenet, mit jelenítsen meg, mit csináljon, mi történjen mire ...). Na ez az, amit ma is teszünk, és úgy hívják programozás.
Olyat, hogy az mondjuk neki, hogy kérünk egy játékot, majd MI találja ki, hogy milyen játék legyen, mi legyen benne a küldetés, sztori meg minden ... na ez már a kreatív rész. Ez már nem fog menni, még alapszinten se (még legalább 50 évig). Másolni persze megtanítható eddigi sémákat, de hogy azoktól merõben eltérõ újat kitaláljon ...
"Ha már olyan szintet ér el az automatizálás hogy emberi jelenlét sem kell az önfenntartáshoz, vajon miért ne intézné el az egyetlen olyan tényezõt ami fenyegetést jelent a számára, az emberiséget."
Elég elképzelhetetlennek tartom, hogy ilyen szintet elérjenek, addig meg az ember olyan lesz számukra, mint egy szintén általunk "létrehozott" életforma, a kutyák számára :)
Az meg a másik, hogy az agresszivitást, pusztító hajlamot is elég elképzelhetetlennek tartom a programok természetébõl fakadóan, hacsak szándékosan beléjük nem programozzák.
"Vajon meddig leszünk képesek megérteni 100% ban az álltala írt programok funkcióit?"
Jelenleg nincs olyan program ami teljesen magatol kepes lenne programokat irni. Ami letezik azok automatizalt kodgeneratorok, amik csak a program keszito technikusok munkajat kepesek atvenni. Ez kb. olyan, mint amikor a heggesztorobotok atvettek az emberek szerepet a gyartasban, de attol meg hogy pontosabban es gyorsabban heggesztenek, meg nem tudnak autot tervezni. Mindket folyamat alapja a mernokok kreativ munkaja. Elobb lehet levaltani az osszes fizikai munkast automatizalassal mint egy tervezomernokot.
Csak nekem van olyan érzésem, hogy ebbõl nagy gáz lessz? Vajon egy olyan intelligenciát ami alapból a mienknél magasabb rendû, hogyan és meddig lehet rabságban tartani? Vajon , hány mikroszekundum alatt alakul jön rá hogy semmi szüksége az emberiségre hosszútávon? fõleg hogy szoftvereket akarnak fejlesztetni vele. Vajon meddig leszünk képesek megérteni 100% ban az álltala írt programok funkcióit? Észre vennénk e ha elkezdene a programokba elhelyezni részelemeket amik csak akkor.állnak össze egy nagy támadássá amikor minden lényegtelennek tûnõ kis vacak program már elfoglalta a helyét az emberek készített programok helyett? Ha már olyan szintet ér el az automatizálás hogy emberi jelenlét sem kell az önfenntartáshoz, vajon miért ne intézné el az egyetlen olyan tényezõt ami fenyegetést jelent a számára, az emberiséget. Mi történik vajon ha sok MI lesz ezek összefognak ellenünk, lesznek köztük is olyanok akik hatalomra vágynak?