Ma már nem feltétlen tudjuk, hogy egy számítógép mit miért csinál

Az IBM vezető szakembere szerint a számítógépek hamarosan többet fognak tudni annál, mint amit az emberek megtanítanak nekik.

"Mit jelent az, hogy intelligensnek lenni? Amennyiben valaki gondolkodni kezd azon, hogy vajon mi az intelligenciahányados, akkor gyorsan észre fogja venni, hogy mennyire nem megfelelő dolog valakiről azt állítani, hogy okosabb másoknál. Különböző típusú intelligenciák léteznek és a gépek intelligenciáját is ennek tükrében kell megvizsgálnunk. Az intelligenciák nem hasonlítanak egymásra, még a gépeké sem. A gépek bizonyos szempontból már most többet tudnak az embereknél és erősödnek mentálisan, éppúgy, ahogy mi is. Megtanulnak majd olyan dolgokat is, amiket nem mi tanítottunk meg nekik. De ennek ellenére mindig létezni fog szimbiózis az ember és a gép között, csak ki kell találnunk, hogy miként akarjuk alakítani ezt a párbeszédet." - fejtette ki John Cohn, aki több, mint negyven éve foglalkozik a mesterséges intelligenciával.

Az 1970-es években az MIT-n tanult, amely már akkor is a világ egyik legfontosabb tudományos intézménye volt. Ott tanított például Marvin Lee Minsky, az MI-témakör egyik legzseniálisabb gondolkodója. A terület már akkor is pezsgett a felfedezésektől, de akkoriban még a számítógépek túl lassúak voltak tényleges problémák megoldásához. Azonban az elmúlt 40 évben a chipek rengeteget fejlődtek, olcsóvá és gyorssá váltak, ráadásul keveset is fogyasztanak. A számítógépek közötti kommunikáció is annyira feljavult, hogy az 1970-es évek víziói egyszerre valósággá válhatnak.


De nem csupán a technikai lehetőségek javulásáról van szó, hiszen a szakemberek az 1970-es években szabályokon alapuló rendszerekre támaszkodtak. Számos folyamatot nagyon világos törvényszerűségek uralnak, mint például ha felkapcsoljuk a villanyt akkor világítani kezd a lámpa. Mindez nagyon egyszerű: az ember beprogramoz egy számítógépet annak az elvnek az alapján, hogy ha ez és ez történik, akkor tegye ezt és ezt. Ez ma is működik, és a kapott eredmény helyes, azonban nem alkalmazható összetettebb problémák esetében. Például az IBM Watson Kutatóközpontjának a 27. emeletén mintegy 1000 adatpont van, ezek mérik a hőmérsékletet, a páratartalmat, a ventilátorok sebességét stb. Azonban gyakorlatilag lehetetlen olyan programot írni, amely ezt az összes lehetséges összefüggést figyelembe veszi. Megpróbálták, de nagyon bonyolult volt. A legrosszabb esetben a szoftver egyáltalán nem azt csinálta, amit elvártak tőle.

"A technika tinédzseréveiben az emberek megpróbálták modellezni az intelligenciát, szinte végtelen mennyiségű szabályt alkottak meg. Mi inkább megpróbáltunk lazítani a szabályokon és eljutni a javaslatokig. Ez úgy hangzott a számítógép számára, hogyha ez történik, akkor próbálja ki ezt. Ez az elv sok dolgot rugalmasabbá tett. A probléma csak az, hogy vagy annyi variánst épít be az ember egy rendszerbe, hogy idővel keresztezni fogják egymást vagy rengeteg szabályt dolgoz ki, de azok ennek ellenére nem fednek majd le mindent. A szabályokon alapuló mesterséges intelligencia még ma is nagyon népszerű és használják, mert probléma esetén nem kell újraírni, hanem bármikor ki lehet egészíteni újabb dolgokkal. De nem különösebben robusztus és nem tud új helyzeteket kezelni."

"Az áttörés a gépi tanulással érkezett el, ami nem varázslat, pusztán a minták felismeréséről szól. A számítógépek most már képesek önállóan megtanulni, hogyan ismerhetik fel az arcokat és a hangokat. Elég megadni nekik egy példát azzal kapcsolatban, hogy valami miként néz ki normálisan és megmutatni, hogy egy tárgy miként néz ki a különböző szituációkban. Ezután kezdik maguktól is megkülönböztetni az egyes dolgokat. Először még meg kell mondani, hogy: igen, ez stimmel, vagy nem, az nem jó, de fokozatosan egyre jobbá válik a felismerés. Ez a technika nagyon jó, ha például arról van szó, hogy egy repülőt vagy egy autót önállóan kell irányítani."


"40 éve dolgozom ebben az ágazatban és még semmi olyat nem láttam, amely csak megközelítően is ennyire széleskörűen lenne használható. Például sok vezetői asszisztensrendszer van, amelyek segítenek a parkolásban vagy gondoskodnak a sávtartásról. Ezek tipikus szabályokon alapuló rendszerek. De időközben már a gépi tanulást is alkalmazzák ezen a területen, például a fékezésnél, a gyorsításnál és a kormányzásnál. A tesztvezető feladata, hogy beavatkozzon, ha a gépkocsi hibás döntést hoz. Egy ilyen rendszer három nap alatt megtanulhat egészen jól vezetni és ehhez nincs szükség több ezer parancsra, hanem elegendő az adatokat kiértékelnie és szelektálnia. A számítógép eleinte borzalmas döntéseket hozott, de a sofőrnek elég volt csak nemet mondania, azt nem kellett megindokolnia, hogy a döntés miért volt rossz. Persze műszakilag nem ennyire egyszerű ezeket a modelleket megalkotni, de mindez nem varázslat és ilyen rendszerek szinte bárhol alkalmazhatók" - emelte ki a kutató.

A szakember hangsúlyozta, hogy természetesen nem lehet elmenni a költségek mellett sem. A fejlesztések drágák és szükség van egy különleges infrastruktúrára. Amennyiben a rendszernek egy repülőgépet, egy közúti járművet vagy egy robotot kell irányítania, akkor az adatok nem kerülhetik meg a fél világot. Ezért az autóknak kis szuperszámítógépekké kell válniuk, de ezzel párhuzamosan szükség van gyors hozzáférésre a felhőkörnyezetben lévő szerverekhez is, hogy ne csak egy robot tanuljon, hanem az összes.

A kihívást az jelenti, hogy ezek a megoldások emberek által nem átláthatók. Régen az volt a gyakorlat, hogyha valaki megírt egy kódot, akkor futás közben akár sorról-sorra léptetve végignézhette, hogy az a kód mit tesz. Minden egyes alkalommal, amikor probléma merült fel, pontosan látni lehetett, hogy mi volt az ok és értettük mi okozza azt. Ez ma már nem működik, most már nem tudjuk, hogy a gépek bizonyos dolgokat miért tesznek. De ez az embereknél is így van: amennyiben valakinek azt mondják, hogy gondoljon a nagymamája süteményére, akkor adott esetben még az illatát is fel tudja idézni, de azt nem tudja megmondani, hogy miért. Ez azt jelenti, hogy nagyon óvatosaknak kell lennünk és tudnunk kell, hogy miért tesz egy gép valamit. Ezért kell nagyon világosan meghatározni a felelősségeket és azt is, hogy mikortól veheti át az irányítást a számítógép.

"Nagyon óvatosnak kell lennünk annál a kérdésnél, hogy mely feladatok elvégzését bízzuk gépekre. Az IBM-nél nagyon ügyelünk arra, hogy továbbra is az ember maradjon a középpontban. Ez több dolgot is jelent: az embernek mindig meg kell tartania az ellenőrzést és egy adott dolog kapcsán tudnia kell, hogy miről van szó. A nehéz döntéseket mindig embereknek kell meghozniuk. Viszont nagy feladat annak eldöntése, hogy kritikus helyzetekben mennyi teret hagyunk a gépnek" - mondta végül John Cohn.