Nem dolgozhat fel olasz adatokat egy amerikai chatbot

A fejlesztés nem rendelkezik adatvédelmi mechanizmusokkal.

Az olasz adatvédelmi hivatal (Garante per la protezione dei dati personali - GPDP) lecsapott a Replika nevű chatbotra, amely a hatóság álláspontja alapján túl sok kockázatot jelent a gyermekekre és érzelmileg sérülékeny személyekre nézve. A szoftver mesterséges intelligencián alapul, s szöveges és videós felületek segítségével "virtuális barátot" generál. A GPDP ideiglenes adatkezelési korlátozást rendelt el az alkalmazást kifejlesztő és üzemeltető amerikai székhelyű társasággal szemben, s a korlátozás azonnal hatályba lépett. A döntés alapján a program az adatvédelmi aggályok miatt egyelőre nem dolgozhatja fel az olasz felhasználók személyes adatait.

A közelmúltbeli médiajelentések, valamint a hivatal által a Replikán végzett tesztek azt mutatták, hogy a szoftver tényszerű kockázatokat hordoz a gyermekekre nézve - mindenekelőtt azt, hogy olyan válaszokat kapnak, amelyek egyáltalán nem felelnek meg az életkoruknak. A "virtuális barát" állítólag képes javítani a felhasználók érzelmi jólétét, és a stresszkezelés, a szocializáció és a szerelemkeresés révén segít megérteni a gondolataikat és csillapítani a szorongást. Ezek a funkciók kölcsönhatással járnak az egyén hangulatával és fokozott kockázatot jelenthetnek a még fel nem nőtt vagy érzelmileg sérülékeny egyének számára.

A Replikába nincs beépítve életkor-ellenőrzési mechanizmus: nincs gyerekekre vonatkozó védelem, szűrő vagy blokkolási modul, ha a felhasználó kiskorúnak vallja magát. A fiók létrehozása során a platform csupán a felhasználó nevét, e-mail fiókját és nemét kéri. A chatbot által adott "válaszok" pedig gyakran egyértelműen ellentétesek a gyermekeket és kiszolgáltatott személyeket megillető fokozott garanciákkal. A két fő alkalmazásboltban több értékelésben a felhasználók megjegyzései szexuálisan nem megfelelő tartalmakról szóltak.

Az olasz adatvédelmi szakemberek úgy vélték, hogy a Replika megsérti az európai uniós adatvédelmi rendeletet, mert nem felel meg az átláthatósági követelményeknek és jogellenesen kezel személyes adatokat, mivel a szerződés teljesítésére még hallgatólagosan sem lehet jogalapként hivatkozni,. A gyermekek az olasz jog szerint ugyanis nem képesek érvényes szerződés megkötésére. Az amerikai székhelyű fejlesztőcéget, a Luka Inc. vállalatot ennek megfelelően kötelezték, hogy szüntesse meg az olasz felhasználók adatainak feldolgozását és 20 napon belül tájékoztassa az olasz felügyeleti hatóságot az utasításai végrehajtása érdekében hozott intézkedésekről. Ellenkező esetben akár 20 millió euróig terjedő bírságot is kaphat, ami a társaság teljes globális éves forgalmának 4 százaléka lehet.

A Replika az angolul beszélők körében az egyik legnépszerűbb chatbot, amely ingyenesen használható, bár a fejlesztőcégnek havonta körülbelül 2 millió dollár bevételt hoznak a bónusz funkciók, például a hangos csevegések eladása. Jen Persson, a Defend Digital Me nevű, a gyermekek magánéletét védő csoport igazgatója elmondta, hogy a gyerekek hangulatát vagy mentális jólétét befolyásolni hivatott megoldásokat egészségügyi terméknek kellene minősíteni, és ezért szigorú biztonsági előírásoknak kellene rájuk vonatkozniuk. "Ezeket az eszközöket a gyermekeknél különösebb felügyelet vagy a lehetséges visszaélésekkel szembeni védelem nélkül használják" - tette hozzá.

A Replika nem válaszolt a Reuters megkeresésére. Robert Grosvenor, az Alvarez & Marsal tanácsadó társaság ügyvezető igazgatója szerint az olasz hivatal valószínűleg nem az egyetlen európai szabályozó hatóság, amely a Replikához hasonló cégek elleni fellépést fontolgatja. "Miközben az életkor ellenőrzése eszközöket biztosíthat a legkiszolgáltatottabb csoportok védelmére, nem kezeli azokat a kockázatokat és károkat, amelyeket a mesterséges intelligencia alapú szolgáltatások és megoldások okozhatnak, ha nem szabályozottak, a nem szándékos elfogultság és diszkrimináció lehetősége szempontjából" - emelte ki a menedzser.