Néhány területen már elveszítette az ellenőrzést az ember

A technikai fejlődés egyre több félelmet szül, éppen ezért szükség van arra, hogy az etikát is bevonják a folyamatokba.

Armin Grunwald fizikus és filozófus a német parlament technikai következmény-becslő irodájának a vezetője és egyben a német digitalizálás etikai tanácsadója. A szakember 1999 óta vezeti a világ legnagyobb technikai következmény-becslő létesítményét (ITAS), amely Karlsruhe városában működik, emellett a helyi egyetemen műszaki filozófiát és műszaki etikát tanít. Minden héten két napra Berlinbe utazik, ahol 2012 óta vezeti a német parlament technikai következmény-becslő irodáját. A csapatának tíz tagja van és a fő feladatuk az új technológiákban rejlő lehetőségek és veszélyek feltérképezése. A mesterséges intelligencia a lista elején található.

"Világszerte eltérő értékek és társadalmi normák vannak, s az emberről alkotott kép is mindenhol különböző. Ezek az eltérések természetesen megmutatkoznak az új technológiák használatában is. Európában az egyén és a magánélete évszázadok óta kiemelt téma, s ezt megerősítette a május 25. óta hatályos új adatvédelmi rendelet is, amely nemzetközi szinten is jelzésértékű. Az új rendelet azt szimbolizálja, hogy az adatok megfelelő kezelése közfeladat, amelyet nem lehet egyszerűen a piacra bízni. Ezen a területen a társadalmi értékek fontos szerepet játszanak. Az új európai adatvédelmi rendelet megmutatta, hogy befolyásolni lehet a műszaki fejlődést és ugyanezt támasztották alá Mark Zuckerberg meghallgatásai is a Cambridge Analytica-botrány után. Bebizonyosodott, hogy a társadalom nem tehetetlen."

"Az etika ebben a folyamatban segítség lehet a társadalom számára, sokan ugyanis feszült nyugtalansággal tekintenek az új technológiákra. Egyrészt nagy lelkesedéssel várják az új eljárásokat és eszközöket, másrészt azt kérdezik maguktól, hogy hová vezet mindez. Pedig a folyamat nem új, a digitalizálás már körülbelül 60 éve tart, de csak mostanában, a mesterséges intelligencia előtérbe kerülése kapcsán merül fel egyre többször a kérdés, hogy vajon nálunk van-e még az ellenőrzés. A mesterséges intelligencia miatt felerősödtek azok a félelmek, hogy csak a Szilícium-völgy szakértői látják át a technológiát, s annak segítségével és a tudásukkal irányíthatják a világot. Nem kell, de persze nem is tudnánk minden átlagpolgárt bonyolult algoritmusokat megérteni tudó programozóvá képezni."


"A mesterséges intelligenciánál fontos tényező az öntanulás képessége. A hagyományos termékek nem változtatják meg magukat, ha használjuk azokat, míg az ezzel kiegészített dolgok igen. Leginkább amiatt aggódom, hogy egyszer majd a szakértők sem fogják tudni, hogy mi történik. Fontos feladatok elvégzését bízzuk az algoritmusokra, de egy idő után már nem tudjuk majd, hogy miként működik ez a technológia, viszont együtt kell élnünk az intelligens gépek döntéseivel. A technológia nemsokára egy olyan feketedobozzá válik, amelynek hinnünk kell - mint ahogy a középkorban a sorscsapásokat fogadták az emberek -, s eközben ott bujkál bennünk az ellenőrzés elvesztésének félelme is."

"Néhány területen már elveszítettük az ellenőrzést, így például az internetet nem lehet egyszerűen csak lekapcsolni, mert a világgazdaság azonnal összeomlana. Néhány napra rá már halottak is lennének, mert fontos ellátási láncok szakadnának meg, például az élelmiszer-kiszállítás sem működne. Fontos, hogy aggódjunk és kérdéseket tegyünk fel. Többet kellene tudnunk a piaci szereplőkről. A mesterséges intelligencia esetében elsősorban a nemzetközi konszernek a mérvadók. Még biztosan nem jutottunk el ahhoz a ponthoz, ahol az intelligens gépek átveszik a világ irányítását, én ehelyett sokkal nagyobb veszélynek gondolom azt, hogy a mesterséges intelligenciát néhányan kihasználják a profitszerzés vagy a politikai hatalomszerzés céljaira" - mondta Armin Grunwald.

A fizikus és filozófus hozzátette, hogy az emberiség történetében mindig is az volt a jellemző, hogy aki a legújabb technológiákat ellenőrizte azé volt a hatalom és a politikai befolyás. A demokráciában élő polgárok számára éppen ezért az a legfontosabb, hogy a társadalom fektesse le az új technológiák alkalmazásával kapcsolatos szabályokat. Erre azonban a jelenlegi demokrácia nincs felkészülve. Ez kiderült abból is, hogy a meghallgatások során az Európai Parlamentben nem igazán sikerült Mark Zuckerberget megizzasztani. Az informatikában dolgozók készek a párbeszédre az etikai szakemberekkel, például a szoftverek kapcsán, de a gazdaság még nem ért el erre a szintre.

Fontos tudni és tudatosítani, hogy a fejlődésnek mindig két oldala van, az emberi történelemben soha nem volt negatív következmények nélküli találmány. Nagyon lényeges, hogy miként tekintünk magunkra: gépként, amelyet optimalizálni lehet és szükség esetén megjavítani, vagy sérülékeny élőlényként, amelyben van valami különlegesen emberi? A szakember véleménye szerint el kellene fogadnunk azt, hogy nem vagyunk tökéletesek, még akkor is, ha a tökéletesség iránti vágy lenyűgöző. A tapasztalatok ugyanis azt mutatják, hogy ez a vágy csak hamis reményeket kelt. Természetesen a technikai fejlődést nem lehet megállítani, de bizonyos dolgokat annál inkább, elég például csak a klónozással vagy a nukleáris erőművek németországi betiltásával kapcsolatos vitákra gondolni.


"Több időre van szükség, azért, hogy tanuljunk és hogy megtartsuk az ellenőrzést a technológia fölött. S az időre azért is szükségünk van, hogy egyben tartsuk a társadalmat. Amikor az 1980-as években megéltünk egy automatizálási hullámot és csak Nyugat-Németországban ötmillióra nőtt a munkanélküliek száma, akkor komoly szociális kérdéseket kellett megválaszolnunk. A súlyos társadalmi helyzeteket úgy lehet elkerülni, ha időben gondoskodunk a munkavállalók képzéséről és továbbképzéséről, s nem csupán akkor, amikor már munkanélkülivé váltak."

"Emellett el kell gondolkodni új modelleken is, például az alapjövedelmen, bár én nem rajongok ezért az ötletért. Nem mondhatjuk millióknak, hogy nincs már rátok szükségünk, és pénzt adnunk nekik, hogy elfogadják ezt. Szerintem sokkal jobb lenne, ha többre értékelnénk a közösségi tevékenységeket. Ha a klasszikus bevételi források, például a jövedelemadók elapadnak, akkor bizony elképzelhetőnek tartom a robotadó kivetését is, hogy finanszírozni lehessen az alapvető szolgáltatások további működtetését. De ha ebben a kérdésben Németország egyedül döntene, akkor visszaesne a nemzetközi versenyben."

"A technológiai változás hozzájárul az általános elbizonytalanodáshoz, az emberek azt érzékelik, hogy vége a régi szép időknek. Az embereknek érezniük kell, hogy biztonságban vannak, de azt is érzékelniük kell, hogy az új technológiák bizonyos fokú szabadságot kínálnak nekik. De a legfontosabb, hogy az embereket nem bízhatjuk csak a piacra" - szögezte le a német parlament technikai következmény-becslő irodájának vezetője.