SG.hu·
Az Európai Unió be fogja tiltani a meztelenítést lehetővé tevő alkalmazásokat
Az Európai Unióban betilthatják azokat a mesterséges intelligencia rendszereket, amelyek valós személyekről képesek szexualizált deepfake felvételeket készíteni. A tiltás akár már idén nyáron hatályba léphet.
A kezdeményezés azt követően indult el, hogy az X közösségi platform MI eszköze, a Grok lehetővé tette a felhasználók számára, hogy valódi emberekről milliószámra készítsenek olyan képeket, amelyeken bikiniben vagy teljesen meztelenül jelennek meg. A képek között gyermekekről készült felvételek is voltak. Egy az uniós nagykövetek elé kerülő javaslat szerint illegális lenne Európában bármilyen olyan mesterséges intelligencia rendszer forgalmazása, amely képes valódi embereket ábrázoló, beleegyezés nélkül készült szexualizált videók, képek vagy hangfelvételek létrehozására. Az Európai Parlament képviselői szerdán külön tárgyalások során támogatták a tilalmat.
A tervek - amelyek akár már ezen a nyáron életbe léphetnek az uniós tagállamok és az Európai Parlament közötti egyeztetések lezárása után - kérdéseket vetnek fel számos olyan alkalmazás jövőjével kapcsolatban, amelyek lehetővé teszik, hogy a felhasználók valódi fényképekből hamis meztelen képeket készítsenek emberekről, köztük Elon Musk eszközéről is. Az Európai Unió már vizsgálja azt is, hogy az X platform megfelelően kezelte-e a Grok integrálásából fakadó kockázatokat, és megtette-e a szükséges lépéseket a szexuálisan explicit képek okozta károk megelőzésére. „Ez nem csak a Grokról szól” - mondta Sergey Lagodinsky német zöldpárti európai parlamenti képviselő, aki azok között van, akik támogatják a tilalmat. „Arról is szól, hogy mennyi hatalmat vagyunk hajlandók adni az MI-nek ahhoz, hogy embereket megalázzon.”
A Grok képgeneráló képességei 2025 végén váltak széles körben ismertté az interneten. Egy civil szervezet becslése szerint a chatbot akár 3 millió olyan szexuális jellegű képet is generálhatott, amelyek valódi személyeket ábrázoltak beleegyezés nélkül, valamint mintegy 20 ezer gyermekekkel kapcsolatos szexuális visszaélést bemutató képet abban a 11 napban, amely a funkció terjedésének megállítását célzó módosítások előtt telt el. A platform január 9-én, majd január 14-én is lépéseket tett a funkció korlátozására. A változtatások bejelentésekor az X így fogalmazott: „Továbbra is elkötelezettek vagyunk amellett, hogy az X mindenki számára biztonságos platform legyen, és zéró toleranciát alkalmazunk a gyermekek szexuális kizsákmányolásának minden formájával, a beleegyezés nélküli meztelenséggel és a nem kívánt szexuális tartalommal szemben.” Az Európai Unió most azt vizsgálja, hogy ezek az intézkedések elegendőek voltak-e.
Több tucat európai parlamenti képviselő először január közepén szólított fel az MI alapú meztelenítő alkalmazások és eszközök betiltására. Az uniós jogalkotók most azt tervezik, hogy ezt az elképzelést az EU mesterséges intelligenciára vonatkozó szabálykönyvének módosításával valósítják meg. Az Európai Bizottság által novemberben bemutatott javaslat eredetileg azt a célt szolgálta, hogy csökkentse a mesterséges intelligenciával foglalkozó vállalatokra nehezedő korlátozásokat és mérsékelje a szabályozási terheket. Ez azonban megváltozott, miután kiderült, hogy a Grok felhasználói nőket és gyermekeket „vetkőztettek le” digitálisan, ami azonnal az uniós jogalkotók egyik kiemelt témájává vált. A kérdés még olyan korábban érzékenynek tartott ügyeket is háttérbe szorított, mint a magas kockázatú mesterséges intelligencia rendszerekre vonatkozó korlátozások elhalasztásának terve.
Ciprus, amely jelenleg az Európai Unió Tanácsának soros elnökségét tölti be, és feladata az uniós tagállamok közös álláspontjának kialakítása, hetekig nem szerepeltette az MI alapú meztelenítő rendszerek betiltását a tervezetek több egymást követő változatában. Ez kedden változott meg, amikor a ciprusi elnökség egy majdnem végleges szöveget terjesztett elő, amely támogatja azoknak az MI rendszereknek a betiltását, amelyek képeket, videókat vagy hangfelvételeket tudnak létrehozni „egy azonosítható természetes személy intim testrészeiről, vagy egy azonosítható természetes személyről, aki szexuálisan explicit tevékenységet végez”. A tilalom beemelése győzelem azoknak az országoknak, például Spanyolországnak, amelyek határozottan szorgalmazták az intézkedést. Az uniós nagykövetek várhatóan már ma jóváhagyják a szöveget.
Az Európai Parlament képviselői abban is megállapodtak, hogy olyan rendelkezést is tartalmazzon a jogszabály, amely tiltja „az olyan MI rendszert, amely módosítja, manipulálja vagy mesterségesen hoz létre valósághű képeket vagy videókat annak érdekében, hogy egy azonosítható természetes személyt szexuálisan explicit tevékenységben vagy intim testrészeinek bemutatásával ábrázoljon, az adott személy beleegyezése nélkül”. A megállapodás ugyanakkor megjegyzi, hogy a tilalom nem vonatkozna azokra a vállalatokra, „amelyek hatékony biztonsági intézkedéseket vezettek be az ilyen ábrázolások generálásának megakadályozására és a visszaélések elkerülésére”.
A szöveg még nem végleges. Az Európai Parlament illetékes bizottságai március 18-án szavaznak róla. Ezt követően a Parlament és a Tanács tárgyalásokat folytat a végleges változatról, mielőtt a tilalom jogszabállyá válna. A Parlament a héten arra is felszólította az Európai Bizottságot, hogy „vizsgálja meg azokat az intézkedéseket, amelyek megvédik az egyéneket a manipulált és MI által generált digitális kép, hang vagy videótartalmak terjesztésével szemben”, egy külön jelentés részeként, amely a mesterséges intelligenciával és a szerzői joggal foglalkozik. „Ami valakinek tíz másodpercig talán csak vicc, az egy áldozat számára tartós károkat okozhat” - mondta Kim van Sparrentak holland zöldpárti európai parlamenti képviselő. „Itt az ideje, hogy minden ilyen alkalmazást betiltsunk.”
A kezdeményezés azt követően indult el, hogy az X közösségi platform MI eszköze, a Grok lehetővé tette a felhasználók számára, hogy valódi emberekről milliószámra készítsenek olyan képeket, amelyeken bikiniben vagy teljesen meztelenül jelennek meg. A képek között gyermekekről készült felvételek is voltak. Egy az uniós nagykövetek elé kerülő javaslat szerint illegális lenne Európában bármilyen olyan mesterséges intelligencia rendszer forgalmazása, amely képes valódi embereket ábrázoló, beleegyezés nélkül készült szexualizált videók, képek vagy hangfelvételek létrehozására. Az Európai Parlament képviselői szerdán külön tárgyalások során támogatták a tilalmat.
A tervek - amelyek akár már ezen a nyáron életbe léphetnek az uniós tagállamok és az Európai Parlament közötti egyeztetések lezárása után - kérdéseket vetnek fel számos olyan alkalmazás jövőjével kapcsolatban, amelyek lehetővé teszik, hogy a felhasználók valódi fényképekből hamis meztelen képeket készítsenek emberekről, köztük Elon Musk eszközéről is. Az Európai Unió már vizsgálja azt is, hogy az X platform megfelelően kezelte-e a Grok integrálásából fakadó kockázatokat, és megtette-e a szükséges lépéseket a szexuálisan explicit képek okozta károk megelőzésére. „Ez nem csak a Grokról szól” - mondta Sergey Lagodinsky német zöldpárti európai parlamenti képviselő, aki azok között van, akik támogatják a tilalmat. „Arról is szól, hogy mennyi hatalmat vagyunk hajlandók adni az MI-nek ahhoz, hogy embereket megalázzon.”
A Grok képgeneráló képességei 2025 végén váltak széles körben ismertté az interneten. Egy civil szervezet becslése szerint a chatbot akár 3 millió olyan szexuális jellegű képet is generálhatott, amelyek valódi személyeket ábrázoltak beleegyezés nélkül, valamint mintegy 20 ezer gyermekekkel kapcsolatos szexuális visszaélést bemutató képet abban a 11 napban, amely a funkció terjedésének megállítását célzó módosítások előtt telt el. A platform január 9-én, majd január 14-én is lépéseket tett a funkció korlátozására. A változtatások bejelentésekor az X így fogalmazott: „Továbbra is elkötelezettek vagyunk amellett, hogy az X mindenki számára biztonságos platform legyen, és zéró toleranciát alkalmazunk a gyermekek szexuális kizsákmányolásának minden formájával, a beleegyezés nélküli meztelenséggel és a nem kívánt szexuális tartalommal szemben.” Az Európai Unió most azt vizsgálja, hogy ezek az intézkedések elegendőek voltak-e.
Több tucat európai parlamenti képviselő először január közepén szólított fel az MI alapú meztelenítő alkalmazások és eszközök betiltására. Az uniós jogalkotók most azt tervezik, hogy ezt az elképzelést az EU mesterséges intelligenciára vonatkozó szabálykönyvének módosításával valósítják meg. Az Európai Bizottság által novemberben bemutatott javaslat eredetileg azt a célt szolgálta, hogy csökkentse a mesterséges intelligenciával foglalkozó vállalatokra nehezedő korlátozásokat és mérsékelje a szabályozási terheket. Ez azonban megváltozott, miután kiderült, hogy a Grok felhasználói nőket és gyermekeket „vetkőztettek le” digitálisan, ami azonnal az uniós jogalkotók egyik kiemelt témájává vált. A kérdés még olyan korábban érzékenynek tartott ügyeket is háttérbe szorított, mint a magas kockázatú mesterséges intelligencia rendszerekre vonatkozó korlátozások elhalasztásának terve.
Ciprus, amely jelenleg az Európai Unió Tanácsának soros elnökségét tölti be, és feladata az uniós tagállamok közös álláspontjának kialakítása, hetekig nem szerepeltette az MI alapú meztelenítő rendszerek betiltását a tervezetek több egymást követő változatában. Ez kedden változott meg, amikor a ciprusi elnökség egy majdnem végleges szöveget terjesztett elő, amely támogatja azoknak az MI rendszereknek a betiltását, amelyek képeket, videókat vagy hangfelvételeket tudnak létrehozni „egy azonosítható természetes személy intim testrészeiről, vagy egy azonosítható természetes személyről, aki szexuálisan explicit tevékenységet végez”. A tilalom beemelése győzelem azoknak az országoknak, például Spanyolországnak, amelyek határozottan szorgalmazták az intézkedést. Az uniós nagykövetek várhatóan már ma jóváhagyják a szöveget.
Az Európai Parlament képviselői abban is megállapodtak, hogy olyan rendelkezést is tartalmazzon a jogszabály, amely tiltja „az olyan MI rendszert, amely módosítja, manipulálja vagy mesterségesen hoz létre valósághű képeket vagy videókat annak érdekében, hogy egy azonosítható természetes személyt szexuálisan explicit tevékenységben vagy intim testrészeinek bemutatásával ábrázoljon, az adott személy beleegyezése nélkül”. A megállapodás ugyanakkor megjegyzi, hogy a tilalom nem vonatkozna azokra a vállalatokra, „amelyek hatékony biztonsági intézkedéseket vezettek be az ilyen ábrázolások generálásának megakadályozására és a visszaélések elkerülésére”.
A szöveg még nem végleges. Az Európai Parlament illetékes bizottságai március 18-án szavaznak róla. Ezt követően a Parlament és a Tanács tárgyalásokat folytat a végleges változatról, mielőtt a tilalom jogszabállyá válna. A Parlament a héten arra is felszólította az Európai Bizottságot, hogy „vizsgálja meg azokat az intézkedéseket, amelyek megvédik az egyéneket a manipulált és MI által generált digitális kép, hang vagy videótartalmak terjesztésével szemben”, egy külön jelentés részeként, amely a mesterséges intelligenciával és a szerzői joggal foglalkozik. „Ami valakinek tíz másodpercig talán csak vicc, az egy áldozat számára tartós károkat okozhat” - mondta Kim van Sparrentak holland zöldpárti európai parlamenti képviselő. „Itt az ideje, hogy minden ilyen alkalmazást betiltsunk.”