Betiltotta a rossz célokra alkotott deepfake-videókat Kína

Az ázsiai állam harcot indított a felvételek ellen.

Az úgynevezett deepfake-anyagok számítógéppel generált álló- és mozgóképek, amelyeket meglévő fotókból és videókból készítenek. Csupán 500 képre vagy 10 másodperc felvételre van szükség ahhoz, hogy létre lehessen hozni egy teljesen valósághű hamis tartalmat. Ilyen anyagok gyakorlatilag bárkiről készíthetők, aki valaha feltöltött magáról legalább egy képet a közösségi oldalakra. Az Europol Innovációs Laboratóriumának Facing reality? - Law enforcement and the challenge of deepfakes című anyaga szerint az a veszély fenyeget, hogy a deepfake-videók a bűnözők szabvány eszközévé válnak. Különösen a szervezett bűnözés használja egyre inkább a számítógépekkel generált manipulációkat.

A The Register írta meg, hogy a kínai állami internethatóság (CAC) iránymutatásokat adott ki a "rossz célú" deepfake-felvételekkel kapcsolatban és minden be fog vetni azért, hogy azokat kiszűrje a világhálóról, mert az indoklás alapján "illegálisak és károsak". Az iránymutatások és előírások között van, hogy a hivatal megtiltja a technológia alkalmazását akkor, ha a tartalom keretében ábrázolt személyek az anyag nyilvánosságra hozatalához nem járulnak hozzá. A deepfake-videók nem használhatók olyan dolgok vagy kijelentések ábrázolására, amelyek ellentétesek lehetnek a nemzeti érdekekkel. A nyilvántartás hangsúlyozza, hogy ez magában foglalja a jogellenes és káros információk minden formáját, illetve a mesterséges intelligencia által generált karakterek megtévesztésre és rágalmazásra való felhasználását.

A CAC kifejezetten az emberek szintetikus hasonmásainak használatára összpontosít. Tehát bár engedélyezi az ilyen másolatok használatát, például chatbotként, egyúttal kikötötte azt is, hogy azokat digitális alkotásként kell megjelölni. A hatóság ezzel párhuzamosan büntethetővé tette a címkézés törlésére, manipulálására vagy elrejtésére irányuló kísérleteket. A deepfake-felvételekre vonatkoznak azok a szabályok, amelyeket Kína a helyi internetes forgalom szabályozására hozott létre. A további rendeletek kötelezettségeket írnak elő a deepfake-szolgáltatók számára, amelyeknek biztosítaniuk kell, hogy a mesterséges intelligencia- és gépi tanulási modellek és algoritmusok pontosak legyenek, s rendszeresen ellenőrizniük kell azokat.

Az új szabályok értelmében a deepfake-szolgáltatások minden felhasználójának regisztrálnia kell a valódi nevén. Szükség van továbbá "szilárd mechanizmusokra" a dezinformációval szemben, valamint panasz- és jelentési rendszerekre. A biztonságért a terjesztési platformok felelnek. A CAC egyrészt segítséget nyújt ebben, másrészt azonban olyan intézkedésekre is utal, amelyeket hivatalként megtehet. Az új iránymutatások 2023. január 10-én lépnek hatályba.