Az a probléma az okfejtéseddel, hogy az egész kérdést egyénre vetítve vizsgálod.
Egy AI-t egy minden helyzetben maximálisan jól teljesítő szuperemberhez hasonlítod, aki mindig józan, mindig minden közlekedési szabályt betart, ellenben váratlan helyzetekben képes morális szempontokat figyelembe véve, intelligens és autonóm módon, tudása maximumát felhasználva helyesen dönteni.
Az átlag sofőr viszont nagyon nem ilyen.
(Csak viszonyításként, true stroy: a Yellowstone parkban a medvék rendszeresen kirámolták a kukákat, ezért olyan szemeteseket terveztettek, amik kinyitásához emberi logika kellett. A projekt kudarcba fulladt, mert túl nagy volt az átfedés a legokosabb medvék és a leghülyébb látogatók között. :) )
Tehát lehet, hogy egy AI a példádban nem a részegek közé hajtana és ezzel a rosszabb lehetőséget választaná, na de garantáltan nem is száguldana végig bekoxolva 150-el a körúton, hogy aztán egy buszmegállóba csapódva meggyilkoljon 2 embert. (És utána a bevont vezetői engedélye dacára nem követne el további közúti bűncselekményeket mert egy korrupt bíróság szabadlábra helyezte.)
Azaz lehet ezeket a kérdéseket elméleti alapon kezelni, de a gyakorlatban csak az számít, hogy az önvezetéssel _statisztikailag_ javul-e a közúti biztonság, vagy sem.
Ehhez pedig nem kell az AI-nak elérnie az emberi gondolkodás összetettségét, elég ha random közlekedési szituációkban meghaladja az emberi átlagot.
Hasonló elméleti viták lezajlottak már korábban is pl. a biztonsági övvel kapcsolatban: számtalan (jellemzően autógyártók által szponzorált) értekezés született a témában, hogy a biztonsági övet kötelezővé tenni beavatkozás az egyén szabadságjogaiba, mivel azzal csak a saját személyes biztonságát veszélyezteti, amihez szíve joga.
A szabályozók viszont azt nézték, hogy ha törvényileg kötelező a biztonsági öv, akkor X%-al kevesebb a közúti haláleset, így ignorálták az elméleti okfejtéseket.
A másik, hogy az AI számára nem is a döntéshozatal a valódi kihívás. Eleve magának a közlekedésnek a szabályozása is algoritmikus: a kresz pontosan előírja, hogy ha fedezékből eléd ugrik egy nyugdíjas, akkor el kell kerülnöd az ütközést. Valójában tehát az AI döntéshozatala alapvetően szabályozási kérdés: pontsítani kell, hogy adott helyzeteken, amiket jelenleg gumiszabályok írnak le ("közúti viszonyoknak megfelelő", stb.) konkrétan mit kell érteni és onnantól az AI is képes lesz azokat betartani.
Az egész AI logika eleve nem az emberi gondolkodást akarja szimulálni, hanem arra épül, hogy a gép előre végigszámol rengeteg döntési lehetőséget különböző szenzor-infó kombinációkra, és amikor befut az adat, akkor milliszekundumok alatt képes kiválasztani a legmegfelelőbb verziót. (A SpaceX boosterek is így tudnak maguktól visszanavigálni a leszállóhelyre.)
Az AI számára valójában az érzékelés az igazi kihívás, tehát nem az, hogy ne üsse el a szuicid nyugdíjast, hanem hogy egyáltalán időben észrevegye.
Ehhez pedig nem kell az emberi psziché mélyére ásni, elég ha az autó a közlekedési szituációt helyesen méri fel, azaz el tudja különíteni lényeges elemeket a lényegtelenektől.
Ezen folyik most ezerrel a fejlesztés és jóval előrébb tartanak, mint hinnénk.
Az önvezető autónak pl. már van vizuális memóriája, azaz a döntésnél figyelembe veszi, hogy ott a stoptábla akkor is, ha azt a kanyarodás pillanatában éppen eltakarja egy teherautó. Ugyanígy megjegyzik az útfestéseket, vagy hogy 5 másodperccel előtte láttak egy zebránál toporgó gyereket, aki bármikor leléphet, stb.
Ami viszont az igazán durva, hogy idővel az AI az embernél akár jóval többre is képes lehet, mivel egymást is képesek tanítani.
Pl. ha az egyik önvezető autó elé éjszaka kiugrik egy szarvas és alig tudja elkerülni az ütközést, akkor a következő arra haladó AI már számol a lehetőséggel és felkészül a szarvas átkelésekre.
Ezzel szemben jelenleg ahhoz, hogy kirakjanak egy "vigyázz szarvas" táblát, minimum 3-4 halálesetnek kell történnie, hogy elérje a hatóságok ingerküszöbét.