Elérhetetlen álom lehet az 5. szintű önvezetés

#19:
Tudok veled vitatkozni 1-2 dolgon, de amúgy összességében korrekt amiket írtál, végre valaki nem a tipikus csőlátású "dögöljön meg minden autós, minek nekik az" mentalitástól elvakulva próbál meg érvelni, hanem a technológia bizalomgerjesztőbb oldalát bemutatva kellően hiteles részletességben <#eljen>

De viszont:
"bekoxolva 150-el a körúton, hogy aztán egy buszmegállóba csapódva meggyilkoljon 2 embert"
Erre én azt mondom, hogy Prius padlószőnyeg. Ott asszem 160-180 körül csavarodtak fel egy fára az utasok. Két önmagában aprónak tűnő tervezési hiba együttállása kellett: a padlószőnyeg, illetve padlógeometria kialakítása és becsúszási hajlama, illetve a brake-by-wire rendszer azon sajátossága, hogy a főfékhengert csak a pedál (közel) padlóig nyomásakor kezdte el direkt fizikai összeköttetés útján vezérelni a mechanika, ahová a padlószőnyeg már nem engedte lemenni a pedált, plusz ugye közben a gázpedál meg beakadt alá és kuplungpedál sem volt a megszokott helyen oldani a hajtást.

Szóval engem az ilyenek után az zavar / aggaszt nagyon, amikor ezeket a technológiákat a jelenlegi technológiákat övező botrányos közhangulatban egyesek túl nagy mellel próbálják propagálni, mielőtt azok már hosszú távon bizonyítottak volna. Ez nagyon visszás, sokkal szerényebb és előzékenyebb módon, a technológia iránti bizalom kierdemlése érdekében előbb meg kellene mutatni a világ színe előtt, hogy ebben a biztonsági szempontból kritikus szektorban elutasítják a 21. századra jellemző gyilkos kapkodást a fejlesztésnél / tesztelésnél és nem engednek teret a műszaki alaposságot pénzügyi érdekek miatt elnyomó agyatlan határidőknek, illetve költségkereteknek.

Aki ezt megelőzve már rögtön azzal jön, hogy tiltsuk is ki amint lehet az emberi sofőröket, az jelen pillanatban csak keresztbetesz ennek a bizalom kialakulásának, vagy inkább visszaszerzésének (lásd 90-es, 2000-es évek amikor még a minőség verseny tárgya volt és nem pedig szerencse kérdése). Tisztelet a kivételt képező gyártóknak, akad még egynéhány, de konkrétan ott tartunk, hogy megveszel valamit háromszor annyiért, ami fele olyan jó az előzőnél és negyed annyi időt sem bír ki, mialatt havi szinten válik használhatatlanná a folyamatos beta, de lassan már inkább alpha verziós szoftverfrissítésektől. Ez nem állapot, amíg az emberi hanyagság / kapzsiság virít a legtöbb mai műszaki termékből, addig nagyon nehéz egy új technológiát elfogadtatni a folyamatosan megbotránkoztatott társadalom körében.

Persze, mert elerhetetlen alom a programot modositani ugy hogy ilyen helyeken ne parkoljon le...

LOL, ki irja ezeket a cikkeket? Ezek mind megoldhato problemak, csak tesztelesre kell ido hogy megtalaljak a problemakat. Es most epp ezen folyamat kozepen jarnak, nyilvan talalnak uj problemakat, mert ez a celja az egesz valos forgalomban torteno tesztelesnek.

#18 Azért az általad felhozott példa morálisan sem ennyire fekete-fehér, hogy a részeg fiatalokból álló tömegbe hajtáskor nagyobb eséllyel ússzák meg kisebb sérülésekkel.
Nézzük ezt a példát első sorban sima statisztikai alapon, először kizárva az itasságot: 2 vs 20 fő. Utóbbi 10x több, tehát statisztikailag 10x nagyobb az esélye egy súlyos balesetnek. Ha belevesszük az ittasság miatt írt lazább izomzatot is és emiatt azt mondjuk, hogy 5x kisebb az esélye a sérülésnek, akkor is 2x nagyobb a valószínűsége a súlyos balesetnek.
Ha morálisan nézzük, akkor az én értékrendem szerint (és ez szigorúan csak az én nézőpontom): Inkább haljon meg két 70 éves idős (jó eséllyel már eltartottak, vagyis aktívan nem dolgozó nyugdíjasok), mint egy életerős fiatal, aki jó eséllyel még hozzájárul a gazdasági növekedéshez (dolgozik, adózik, esetleg 2-3 utódot is hozzátesz még).
Részemről tehát gazdasági, morális és statisztikai szempontból is a két idős járna rosszul (szívtelenül hangzik, de ők már leélték az életüket, a részeg fiatalok előtt viszont még ott az egész élet).
Természetesen változna a megítélésem, ha egy részeg fiatalokból álló 20 fős csoport és egy csecsemőt toló anyuka között kellene választanom. Ekkor már morálisan részemről sem fogadható el a csecsemőgázolás és itt azt mondom, hogy a részeg csapat vesszen (részegség nélkül valószínűleg elugrálnának az autó elől, így baleset sem lenne).

#13:
Az a probléma az okfejtéseddel, hogy az egész kérdést egyénre vetítve vizsgálod.

Egy AI-t egy minden helyzetben maximálisan jól teljesítő szuperemberhez hasonlítod, aki mindig józan, mindig minden közlekedési szabályt betart, ellenben váratlan helyzetekben képes morális szempontokat figyelembe véve, intelligens és autonóm módon, tudása maximumát felhasználva helyesen dönteni.
Az átlag sofőr viszont nagyon nem ilyen.
(Csak viszonyításként, true stroy: a Yellowstone parkban a medvék rendszeresen kirámolták a kukákat, ezért olyan szemeteseket terveztettek, amik kinyitásához emberi logika kellett. A projekt kudarcba fulladt, mert túl nagy volt az átfedés a legokosabb medvék és a leghülyébb látogatók között. :) )

Tehát lehet, hogy egy AI a példádban nem a részegek közé hajtana és ezzel a rosszabb lehetőséget választaná, na de garantáltan nem is száguldana végig bekoxolva 150-el a körúton, hogy aztán egy buszmegállóba csapódva meggyilkoljon 2 embert. (És utána a bevont vezetői engedélye dacára nem követne el további közúti bűncselekményeket mert egy korrupt bíróság szabadlábra helyezte.)

Azaz lehet ezeket a kérdéseket elméleti alapon kezelni, de a gyakorlatban csak az számít, hogy az önvezetéssel _statisztikailag_ javul-e a közúti biztonság, vagy sem.
Ehhez pedig nem kell az AI-nak elérnie az emberi gondolkodás összetettségét, elég ha random közlekedési szituációkban meghaladja az emberi átlagot.

Hasonló elméleti viták lezajlottak már korábban is pl. a biztonsági övvel kapcsolatban: számtalan (jellemzően autógyártók által szponzorált) értekezés született a témában, hogy a biztonsági övet kötelezővé tenni beavatkozás az egyén szabadságjogaiba, mivel azzal csak a saját személyes biztonságát veszélyezteti, amihez szíve joga.
A szabályozók viszont azt nézték, hogy ha törvényileg kötelező a biztonsági öv, akkor X%-al kevesebb a közúti haláleset, így ignorálták az elméleti okfejtéseket.

A másik, hogy az AI számára nem is a döntéshozatal a valódi kihívás. Eleve magának a közlekedésnek a szabályozása is algoritmikus: a kresz pontosan előírja, hogy ha fedezékből eléd ugrik egy nyugdíjas, akkor el kell kerülnöd az ütközést. Valójában tehát az AI döntéshozatala alapvetően szabályozási kérdés: pontsítani kell, hogy adott helyzeteken, amiket jelenleg gumiszabályok írnak le ("közúti viszonyoknak megfelelő", stb.) konkrétan mit kell érteni és onnantól az AI is képes lesz azokat betartani.

Az egész AI logika eleve nem az emberi gondolkodást akarja szimulálni, hanem arra épül, hogy a gép előre végigszámol rengeteg döntési lehetőséget különböző szenzor-infó kombinációkra, és amikor befut az adat, akkor milliszekundumok alatt képes kiválasztani a legmegfelelőbb verziót. (A SpaceX boosterek is így tudnak maguktól visszanavigálni a leszállóhelyre.)

Az AI számára valójában az érzékelés az igazi kihívás, tehát nem az, hogy ne üsse el a szuicid nyugdíjast, hanem hogy egyáltalán időben észrevegye.
Ehhez pedig nem kell az emberi psziché mélyére ásni, elég ha az autó a közlekedési szituációt helyesen méri fel, azaz el tudja különíteni lényeges elemeket a lényegtelenektől.

Ezen folyik most ezerrel a fejlesztés és jóval előrébb tartanak, mint hinnénk.
Az önvezető autónak pl. már van vizuális memóriája, azaz a döntésnél figyelembe veszi, hogy ott a stoptábla akkor is, ha azt a kanyarodás pillanatában éppen eltakarja egy teherautó. Ugyanígy megjegyzik az útfestéseket, vagy hogy 5 másodperccel előtte láttak egy zebránál toporgó gyereket, aki bármikor leléphet, stb.

Ami viszont az igazán durva, hogy idővel az AI az embernél akár jóval többre is képes lehet, mivel egymást is képesek tanítani.
Pl. ha az egyik önvezető autó elé éjszaka kiugrik egy szarvas és alig tudja elkerülni az ütközést, akkor a következő arra haladó AI már számol a lehetőséggel és felkészül a szarvas átkelésekre.
Ezzel szemben jelenleg ahhoz, hogy kirakjanak egy "vigyázz szarvas" táblát, minimum 3-4 halálesetnek kell történnie, hogy elérje a hatóságok ingerküszöbét.

#16: Nem a részeg fiatalokkal van bajom, szoktam én is az lenni néha :) Hanem hogy a tapasztalatok szerint alkoholos befolyásoltság alatt az ember néha megdöbbentően enyhe sérülésekkel meg tud úszni 1-1 gázolást, mert nem feszülnek meg az izmai annyira, mint akit jó reflexekkel ér az ütközés. Ettől függetlenül persze rég rossz ha már kivédhetetlen egy ilyen, de az is tény, hogy pl. egy fékhiba képes pont a legrosszabbkor felfedni magát.

Amúgy egy autonóm járműnek megvan az az előnye az emberekkel szemben, hogy univerzálisan "tanítható" Vegük azt az esetet mikor egy kretén felhajt szembe az autópályán a forgalommal. Úgye normál esetben erre nem számít egy emberi vezető. Az mondjuk aki már szembe találkozott egyszer egy ilyen szituban egy szemből érkező kocsival az valahol utána számítani fog már rá vagy legalább is kevésbé bénul le egy ilyen szituban. Már ha az előzőt túl élte. Viszont ez csak egy vezető.... A másik 789 milliónak nincsen ilyen személyes tapasztalata. Így ők egy ugyan ilyen szituban vélhetően szintén összezavarodnak, hogy mit csináljanak növelve a baleset bekövetkezési esélyét. Ezzel szemben ha egy a jármű kerül ilyen helyzetbe, akkor már belelehet írni a következő program frissítésbe pár olyan dolgot, ami felkészíti a programot ilyen helyzetre és beiktat bár ellenintézkedést, amivel elkerülhető vagy mérsékelhetőek a következmények. lassítás, a forgalom függvényében valamilyen irányba lehúzódás stb. Aztán lehet, hogy a következő program frissitést 79 millió jármű kapja meg 3 hónap múlva és akkor csökken az esély a balesetre vagy annak súlyosságára. Azért nem mindegy, hogy 5 autóvezető szerez tapasztalatot vagy 78 millió autóba tesznek valamiféle következmény csökkentést. Az önvezető autonóm járművek tömegesen "taníthatok" egy nem várt szitura, amig az emberi vezetők csak egyesével leginkább saját tapasztalat alapján. Az emberek egyesével maguktól maradnak hülyék az autonóm járművek meg csoportosan "okosodnak" a rendkivüli helyzetek utáni tapsztalatok során, amikor azok részei lesznek már a vezérlő program lehetőségeinek.

Azért ha neked egy váratlan közlekedési szituban van időd felmérni balra két gyalogos korát és jobbra egy 20 fős csoport alkoholos befolyását, akkor illett volna időben tenni is valamit a baleset elhárításában. Sokkal nagyobb gond, hogy egy éles közlekedési szituban, amikor 10-ed másodpercek alatt kell döntést hozni nem jut idő semmi féle morális döntés meghozatalára. Az igazság az, hogy pár 10-ed másodperces döntési helyzetekben nem ér rá az ember moralizálni. Magunk közt szólva ha nekem kell dönteni én a 2 öreget ütném el nem a 20 részeget. 20 élet mégis csak több mint kettő. Olyan ez, mint mikor egy éles helyzetben mondjuk egy rendőr a fegyver használat mellett dönt fél másodperc alatt... aztán jönnek a szakértők és vitáznak róla 3 évet, hogy jogos volt-e a fegyverhasználat. Ja nyilván ha a rendőrnek lett volna 3 éve átgondolni a döntést előre lehet egészen mást dönt. :) A közlekedési szituk pont ilyenek akkor és ott kell dönteni pár 10-ed másodperc alatt nem igazán van 3 napja átgondolni a döntés morális, szociális, történelmi vallási és logikus aspektusait.

#12: Valószínűleg egyébként az lehet a cikk kontextusa, hogy a felsorolt esetekben érintett járművek tudását / fejlettségét a gyártó ennél jóval magasabbra hype-olta fel a nyilvánosság előtt és most rém kellemetlen mód becsengetett az ajtón a valóság.

Egyébként én sem zárom ki, hogy egyszer egy AI megközelítheti egy ember képességeit, de ahhoz nem ártana előtte saját magunkat sokkal mélyebben megértenünk, mert amennyire én most belelátok ezekbe a fejlesztésekbe abból nekem az tűnik fel, hogy a technika kb. maximum egy földigiliszta idegrendszerének a szintjén állhat, csak jól be van idomítva a célfeladatokra. A gondolkodástól, főleg attól a rendkívül komplex és sokrétű gondolkodástól amire az ember képes, ez még nagyon messze van.
Utoljára szerkesztette: Dodo55, 2022.06.30. 14:07:36

A dolog ennél sajnos összetettebb. Ha el is indul az őnvezető járművek kora lesz egy viszonylag hosszabb időszak, amíg párhuzamosan kell müködni az automata járműveknek az ember vezette járművekkel. Aztán komoly kérdés, hogy mennyire van felkészülve az váratlan emberi baromságokra egy automatikus rendszer. Hiszen mi emberek se vagyunk képesek mindig reagálni megfelelően mások baromságára az úton. Például amikor vakegér 5 figyelmeztető tábla ellenére is felhajt szembe egy autópályára aztán csak a szerencsén múlik, hogy ki hal meg vagy ki nem....

"A kérdés tehát nem az, hogy az AI minden létező szituációban megfelelően reagál-e, hanem hogy a nagy számok szintjén jobban reagál-e egy átlag emberi vezetőnél."

De, az is, vannak helyzetek, amit csak ember tud kivédeni (mert a gondolkodása jó esetben korlátlanul szabad). Igaz ezek talán ritkábbak, de ez a lehetséges következményeik kiterjedését nem gátolja. Tehát pl. egy ember tudhatja, hogy ha csak két idős néni + bácsi elgázolása és egy részegekből álló 20 fős csoport elgázolása között lehet választani (mert ennyire reménytelen helyzet alakul ki, mondjuk elmegy a fék és a duda is egy lejtős gyalogátkelőhely előtti szakaszon miközben egy fél gondolatra még pont marad idő), akkor a részegek közé lehet szerencsésebb célozni, mert hiába vannak többen, kisebb eséllyel sérülhetnek meg súlyosan egy még kibírható ütközésnél (köztudottan nem feszülnek be annyira az izmaik a lelassult idegi reakcióidő miatt), mint az idős néninek + bácsinak, akiknek nagy eséllyel szilánkosra törik minden csontja. Egy AI viszont itt szinte garantáltan rosszul döntene, mert nem gondolkodnak ilyen mélységekben, a logikát csak sorban tudják végig venni, a tapasztalataikhoz nem társulnak száraz logikával utólag már mindegynek, jó ideig teljesen feleslegesnek tűnő, pusztán kíváncsiságból felkutatott információk, illetve párhuzamosan több eltérő és egymástól távoli ponton születő gondolat szembetalálkozása által létrejövő interferenciákból nem képesek döntéseket hozni, ellenben az ember agya nagyon is rá van állva erre a fajta intuitív működésmódra.

Ez így hülyeség..... Nyilván ahogy telik az idő egyre erősebb számítási kapacitás épül be a járművekbe. egyre jobb érzékelők, kamerák és egyéb eszközök társaságában. Ami egyre több adat egyre gyorsabb feldolgozását jelenti egyre összetettebb és kifinomultabb szofverek társaságában. Így egyre több tényezőt fog tudni figyelembe venni és kezelni az automatikus járművek. Ahogy egy mai PC és operációs rendszer képeségei se összevethetőek igazán a 30 évvel ezelőtti harverekkel és programokkal. Azt senki nem állította eddig se, hogy jövőre itt a tuti mindent megoldó ónvezető jármű... Legfeljeb Elan Musk célozgatott valami hasonlóra a Tesla okán... De mint tudjuk a fickó egy nagy álmodozó egy csomó ötlettel és elképzeléssel, amik gyakran a hamvukba hullanak. Más dolgokat meg sikerül neki megcsinálni. Egy dolgot biztosan tudunk, hogy 5-10 év múlva sokkal erősebb, jobb érzékelökkel felszerelt és sokkal több mindenre figyelő programokkal felszereltebbek lesznek a maihoz képest az őnvezetésre tervezett járművek. Aztán, hogy azok mennyire fogják beváltani a reményeket akkor az majd kiderül. Nyilván minden hibából lehet tanulni. Nem áll meg a jármű magától a rendöröknek vagy rossz helyen parkol le? ezek egy olyan tényezők, amit ki lehet küszöbölni a fejlesztéssel. Amikor meg elindul valamikor az ténylegesen őnvezető járművek kora, akkor se fog leállni a fejlődés, hanem egy folyamatos megújulás lesz a tapasztalatok alapján. És persze a hardverek teljesítménye se fog megállni. A trend egyértelmű biztosan lesznek önvezető járművek. Azt mondjuk nem tudjuk, hogy 5 év múlva 10 év múlva vagy 20 év múlva , de lesznek.

El kell tüntetni az összes manuális autót és meg van oldva a probléma.

"míg emberi sofőrökből folyamatosan újratermelődik a tapasztalatlan, friss jogsis réteg."

És? Legrosszabb esetben a példában szereplő tűzoltó odamegy, kitessékeli a leblokkolt vagy béna sofőrt és arrébb áll ő maga, vagy ha nincs sofőr, akkor beveri az ablakot, kiengedi a kéziféket / kiveszi üresbe a váltót / eltöri a kormányzárat és eltolják / letolják az autót.

Egy önvezetővel, főleg ha lesz olyan amiben nincs direkt mechanikus kezelőszerv mit csinálsz, ha a tegyük fel egyébiránt bugmentes szoftver egy hardverhiba miatt telibe lefagy? Hátratolatsz és lendületből megpróbálod tank módjára félrelökni? Épp emiatt minimum kívülről könnyen hozzáférhető, jól láthatóan jelölt mechanikus vészhelyzeti hajtásleválasztó, fékkioldó és áramtalanító kapcsolót kell minél hamarabb kötelezővé tenni, illetve a mechanikus kormányzás lehetőségét meghagyni szintén kötelező jellegűként.

Mert az ember sok téren helyettesíthető, de amikor baj van, akkor az élettelen dolgok feletti irányítást azonnal át kell tudnunk venni, ennek mindig a #1 szempontnak kell lennie, bármit is tervezzen / gyártson valaki.

+1

"azt is segítik megmagyarázni, hogy az iparban miért vallják ma már sokan, hogy soha senki nem fog olyan autót építeni, amely minden úton, minden körülmények között működni tudna"

Soha senki nem fog olyan emberi sofőrt találni, aki minden járművet minden úton, minden körülmények között el tudna vezet.
Ergo senkit se engedjünk vezetni?

A fenti tűzoltós sztori napi rendszerességgel fordul elő tudatlan, tapasztalatlan, vagy csak szimplán faszparaszt sofőrökkel, akik nem húzódnak le a tűzoltó vagy mentő elől vagy egyenesen szívatják őket.

A kérdés tehát nem az, hogy az AI minden létező szituációban megfelelően reagál-e, hanem hogy a nagy számok szintjén jobban reagál-e egy átlag emberi vezetőnél.
Azaz ha az önvezető autók általában - adott megtett kilométerre viszonyítva - biztonságosabban vezetnek, mint az emberek, akkor valójában nincs racionális oka nem önvezető autókat használni, mert minden más megoldással csak nőne a balesetek száma.

Ezt hívják tapasztalatnak. Az AI-nak is lesz ilyen ha engedik vezetni. Ha nem engedik akkor soha sem lesz. Az az utasítás, hogy a kreszt megszegve de balasetmentesen engedjen utat a szirénázó autónak a többi feladathoz képest nem nagy fejlesztés. Nyilván lesz még ezer kivétel amikor meg kell szegni a kreszt, sőt olyan helyzet is lehet amikor a nagyobb baleset helyett egy kisebbet kell okozni.
Viszont AI esetében mindig vissza lehet nézni, hogy miért volt hülye, és kijavítani. Ember esetében soha nem fogod megtudni, és soha nem fogod kijavítani.

Jó példa arra, hogy nem minden közlekedési szituációnak az a megoldása, hogy megállsz és vársz. És szoftverfejlesztői szempontból ezt nehéz kezelni, mert ilyenkor adott esetben akár aktívan meg kell szegni a KRESZ-t.

Ha a Cruise önvezető autója és a Cruise másik önvezető autója megáll és nem engedi el a tűzoltó autót akkor kit büntetnek meg? Ki a felelőse az önvezető autónak? Eddig a sofőrt, vagy legalább az üzembentartót lehetett elővenni és valamelyikre mindenképp ráverték a szabályszegést.

Sajnos ez nem így van, mert a helyzet sosem ugyanolyan, így az "AI" sem ismeri azt fel biztosan.

Szerintem az ilyen helyzetek felismerése egyáltalán nem triviális, és még jópár év lesz amíg használhatót alkotnak.

De megírta a cikkben, hogy elérhetetlen, akkor az. Neki.

Oké, de az ai-nak elég egyszer elmagyarázni egy ilyen helyzetet, és onnantól az összes következő generáció tudni fogja, míg emberi sofőrökből folyamatosan újratermelődik a tapasztalatlan, friss jogsis réteg.