Maven projekt - a Google könnyen pótolható

A társaság nemrég kivonult a Pentagon programjából. Bármennyire is érthető a lépés, mindez a háborúk jövőbeli lebonyolításán aligha fog bármit is változtatni.

Március elején derült ki, hogy a keresőcég az amerikai védelmi minisztériumot segíti. A Maven projekt már tavaly április óta fut. Az Algorithmic Warfare Cross-Functional Teamnek (AWCFT) nevezett program célja az, hogy a gépi tanulás segítségével kutassa át a drónok által készített digitális fotókat és videókat, ugyanúgy, ahogy a röntgenképeken vagy a bőrelváltozásokon a rákra utaló homályos foltokat. Jelen esetben az álló- és a mozgóképeken szereplő objektumok - például az autók - azonosítása a feladat. A Google néhány munkatársa már akkor felháborodással fogadta, hogy az óriáscég komoly erőforrásokat fordít a fegyveres erők megfigyelési műveleteinek a támogatására.

Április elején a vállalat több mint 3000 dolgozója írta alá azt a Sundar Pichainak címzett nyílt levelet, amelyben a katonai fejlesztésekben való részvétel ellen tiltakoztak. A projekt ellenzőinek száma május közepére meghaladta a négyezret. Néhány napja ismertté vált, hogy a Google a közeljövőben nem hosszabbítja meg a Pentagonnal folytatott együttműködést a mesterséges intelligencia területén. A két fél közötti szerződés kevesebb, mint tízmillió dolláros és jövőre jár le.


Emberek által feldolgozhatatlan mennyiségű adatot állítanak elő a drónok
Paul Scharre amerikai biztonsági szakértő, a washingtoni Center for a New American Security (CNAS) munkatársa nemrég könyvet írt a háborúk jövőjéről. A mű címe Army of None: Autonomous Weapons and the Future of War és áprilisban jelent meg az Amerikai Egyesült Államokban. "A Maven projekttel kapcsolatban mindenekelőtt azt kell tudni, hogy az amerikai védelmi minisztériumon belül elsősorban a beszerzés megújításáról szól. Ehhez eltüntetik a bürokratikus akadályokat, hogy ne csupán a megszokott hadiipari konszernekkel lehessen együtt dolgozni, hanem az olyan techóriásokkal is, mint a Google és ezáltal viszonylag gyorsan lehessen az olyan technológiákat a katonaság számára használhatóvá tenni, mint a mesterséges intelligencia és a felhőkörnyezet."

"A drónok által szállított felvételmennyiség olyan nagy, hogy azzal a humán elemzők már nem tudnak megbirkózni. Ezért alkalmazzák erre a célra a mesterséges intelligenciát, amely a gépi tanulásnak köszönhetően egyre jobb lesz a tárgyak felismerésében és osztályozásában. A mesterséges intelligencia ebben már évek óta hatékonyabb az embereknél. A Google ebben a projektben elsősorban a TensorFlow nevű mesterséges intelligencia szoftverével vesz részt, amely szabadon elérhető és nyílt forráskódú, így elvileg bárki használhatja. A megoldást az amerikai fegyveres erők nem a fegyverrendszerekben alkalmazzák és főleg nem az automata fegyverrendszerekben. De már önmagában az a tény, hogy a Google az amerikai fegyveres erőkkel együtt dolgozik, tiltakozásokhoz vezetett és azt eredményezte, hogy nem hosszabbítják meg a jelenlegi szerződést" - fejtette ki Paul Scharre.


Osztályozni kell a felvételeket és azonosítani, hogy melyiken mi látható
A szakember elmondta, hogy a mesterséges intelligencia-alkalmazásokat a katonai feladatok esetén nem is kell nagy mértékben módosítani, és ugyanolyan egyszerűen beépíthető a fegyverrendszerekbe, mint a civil megoldásokba. Ráadásul a társaság néhány hónappal ezelőtt megnyitotta Pekingben a kínai mesterséges intelligencia központját, annak ellenére, hogy még Kína nem katonai célú mesterséges intelligencia terveinek is aggályosaknak kellene lenniük az óriáscég számára - például az emberek biometriai jellemzőinek felismerése tekintetében. Ezért úgy tűnik, mint ha a vállalat a saját etikai szabványait - ne légy gonosz! - is az adott helyzetekhez igazítaná.

"A Google esetében zajló folyamatokat nem lehet csupán a Donald Trump kontra Szilícium-völgy vitára szűkíteni. Ennél sokkal nagyobb léptékű dolgokról van szó. Attól tartok, hogy a Maven-ügy miatt még nehezebbé válik majd a két fél közötti konstruktív párbeszéd a mesterséges intelligencia biztonságával kapcsolatban. Holott a kutatóknak és a biztonsági szakértőknek sürgősen beszélniük kellene arról, hogy mely bevetések alkalmával észszerű és elfogadható a technológia használata, s melyek esetében nem."

"Minden olyan gondolat finoman szólva butaság, amely szerint a Pentagon a Google kivonulása miatt leállítja majd a mesterséges intelligenciával kapcsolatos projektjeit. Bőven vannak olyan magántulajdonban lévő vállalkozások, amelyek készek együtt dolgozni az amerikai védelmi minisztériummal ezen a területen. Azáltal, hogy a Pentagon komoly összegeket fektet be a technológiába, megteremti a keresletet és a piacot, s az utóbbit akár új startupok is uralhatják. A Google-t egész egyszerűen más cégekkel pótolják" - hangsúlyozta a biztonsági szakértő.


A nagy kérdés az, hogy a kommunikáció megszakadása esetén mit fognak tenni a drónok
A CNAS munkatársa hozzátette, hogy a Pentagon hasonló projektjeinél általában 7-12 év telik el a tervezéstől az adott rendszer bevethetőségéig - de van, amikor még ennél is hosszabb időre van szükség. Ebből a szempontból tehát a Maven nagyon gyorsan bevethető lett. Ehhez nem elsősorban a már elért technológiai fejlődésre volt szükség, hanem a szervezéssel kapcsolatos újításokra. A drónok által szállított adatok feldolgozásával kapcsolatos problémák voltak a fő okai annak, hogy a Pentagon az elmúlt években ezen a területen nem igazán folytatott komoly tevékenységet. Azonban most már a mesterséges intelligencia és az automatizálás használata lehetővé teszi, hogy az információkat ne csupán hatékonyabban elemezzék ki, hanem az adatgyűjtési tevékenységet is kiépítsék.

Alapvetően az jó dolog, ha egy harci cselekmény tervezése esetén minél több információ gyűlik össze, és különösen igaz ez az aktuális harctéri helyzetek kapcsán. Scharre megjegyezte, hogy őt személy szerint irritálták a Google munkatársának tiltakozásai, mert azt valójában senki sem várhatja el, hogy az amerikai fegyveres erők egy háborúban sötétben tapogatózzanak. Amennyiben ez megtörténik, akkor sokkal több téves döntés születhet, amelyek még több nem várt következménnyel járhatnak. Minél pontosabbak az információk, annál valószínűbb, hogy valódi katonai célpontokat sikerül találni és leküzdeni.

Természetesen mindig fennáll a polgári áldozatok kockázata. A Maven projekt kapcsán az volt a fő érv, hogy belépőt jelent az önálló fegyverrendszerek világába, ez azonban nem igaz, hiszen továbbra is az emberek hozzák meg a döntéseket arról, hogy egy célpontot le kell-e küzdeni vagy sem. Amennyiben valaki objektív módon tekint a Maven esetében alkalmazott technológiára, akkor ezáltal jelentős mértékben lecsökken a polgári áldozatok valószínűsége azért, mert a rendelkezésre álló információállomány nagyobb.


Az amerikai és a kínai hadseregnek biztosan van lopakodó drónja
"A Pentagon illetékesei azt hangsúlyozzák, hogy ma még az emberek hozzák meg a döntéseket. De ezzel párhuzamosan azt is elismerik, hogy más államok a jövőben valószínűleg másként gondolkozhatnak és az amerikai védelmi minisztérium átgondolja majd az álláspontját, ha más nemzetek valóban megépítik az autonóm fegyverrendszereiket. Elvileg napjainkban már vannak viszonylag egyszerű autonóm fegyverrendszerek, amelyek támadhatják a radarokat, a hadihajókat és a tengeralattjárókat. Ezekben az esetekben a célpontok egyértelműen katonaiak. De megváltozhat a helyzet, ha megjelennek az álcázott támadódrónok."

"Számos ország dolgozik ilyen robotrepülőgépek kísérleti változatain, köztük van az USA mellett Nagy-Britannia, Franciaország, Izrael, Oroszország és Kína. Ezért abból lehet kiindulni, hogy 10-15 éven belül valóban bevethetők lesznek az ilyen álcázott légi járművek és akkor a fegyveres erőknek fel kell majd tenniük a kérdést, hogy mi legyen, ha például egy harci helyzetben megszakad a kommunikáció egy ilyen drónnal" - ecsetelte az amerikai biztonsági szakértő.

A CNAS munkatársa végül leszögezte: a jövő harcterein a harcoló felek elsőként az ellenségeik kommunikációs rendszereit támadják majd, hogy használhatatlanná tegyék azok hálózatba kötött fegyverrendszereit. Amennyiben ez utóbbiakat nem lehet távvezérelni, akkor jön majd a következő kérdés, hogy miként lehet biztosítani a gépeknek ilyen helyzetekben a célpontok önálló leküzdésének döntési jogát. Ebben a kérdésben az Amerikai Egyesült Államok és a nyugati szövetségesei nagyon visszafogottak. Magas rangú orosz katonai vezetők viszont azt mondták, hogy olyan robotegységeket terveznek, amelyek a hadműveleteket önállóan hajtják végre. Ezt a piros vonalat a mostani NATO-tagállamok valószínűleg nem fogják elsőként átlépni. De a világ afelé a pont felé halad, amikor mindenkinek döntenie kell majd arról, hogy milyen álláspontot képvisel.