A hírekben valódi képként jelennek meg MI generált fotók Gázáról

Tele van mesterséges intelligencia által generált erőszakos, a jelenlegi Izrael-Hamász konfliktust fikcionáló képekkel az Adobe képkönyvtára. Ezeket egyes hírszerkesztők megvásárolják és online cikkekben úgy használják, mintha valódiak lennének.

Tavaly a Photoshop titán bejelentette, hogy az Adobe Stock könyvtárán keresztül fogadja és értékesíti az emberek gépi tanulási eszközökkel készített képeit. Az Adobe 33 százalékos részesedést ad a művészeknek az a tartalmakból származó bevételből, ami azt jelenti, hogy az alkotók 33 cent és 26,40 dollár között kereshetnek minden egyes alkalommal, ha képüket engedélyezi a cég és azokat valaki letölti. Azóta a generatív mesterséges intelligencia technológia rengeteget fejlődött, hozzáférhetőbbé és könnyebben használhatóvá vált. Bárki kipróbálhatja a különböző szövegből képeket készítő eszközöket, hogy valósághű fotókat készítsen. Néhányan most úgy döntöttek, hogy ezeket felhasználva hamis képeket készítenek az Izrael és a Hamász közötti gázai háborúról, és ezeket az Adobe Stockon árulják.


Bár ezeket a képeket a képkönyvtárban "mesterséges intelligencia által generáltként" jelölik meg, ez a különbségtétel sokszor már nem történik meg, amikor azokat letöltik és valahol közzéteszik az interneten, főként kisebb kiadványok hírei mellett. Erre először egy ausztrál hírmagazin figyelt fel, amely szerint az "Izrael és Palesztina közötti konfliktus generált MI" című Adobe Stock kép - melyen épületekből felszálló fekete füstfelhők vannak - számos internetes cikkben úgy jelent meg, mintha valódi lenne. Az Adobe Stock-on háborús MI-generált képekre keresve számos hasonlót találhatunk, amelyek légicsapásokat, égő járműveket és lerombolt épületeket ábrázolnak Gázában.


Az Adobe azzal hárítja el a felelősséget, hogy ők egyértelműen jelzik, ha egy fotó MI-generált
Szakértők már többször figyelmeztettek arra, hogy a mesterséges intelligenciát félretájékoztatás terjesztésére használják az interneten, és egyre nehezebb kezelni a problémát, mivel egyre több valósághűnek tűnő szintetikus tartalom kerül fel és kerül megosztásra az interneten. Számos szervezet próbálkozik különböző módon vízjelekkel ellátni a mesterséges intelligenciával létrehozott tartalmakat, hogy a netezők meg tudják állapítani, mi a valódi és mi a hamisítvány. A Content Authenticity Initiative keretében olyan technológiai és újságíró szervezetek, mint az Adobe, a Microsoft, a BBC és a New York Times próbálják bevezetni és népszerűsíteni a Content Credentials (tartalomhitelesítési tanúsítvány) elnevezésű rendszert, amely a fájl metaadatait használja a kép forrásának kiemelésére, legyen az emberi vagy gépi tanuló szoftver.


A Google képkeresője megmutatja, hogy mely híroldalakon szerepel az Adobe-től letöltött generált kép
A Content Credentials azonban még nem került gyakorlati alkalmazásra, és a közösségi hálózatok, kiadók, művészek, valamint az alkalmazások, böngészők és generatív MI fejlesztők együttműködésére van szükség ahhoz, hogy a remélt módon működjön. "Az Adobe Stock egy olyan piactér, amely megköveteli, hogy minden generatív MI-tartalmat ekként jelöljünk meg, amikor licencelésre benyújtjuk" - mondta az Adobe szóvivője. "Ezeket a konkrét képeket generatív MI-ként jelöltük meg, és e követelményeknek megfelelően kerültek mind benyújtásra, mind pedig licencelésre. Úgy gondoljuk, hogy az ügyfelek számára fontos, hogy tudják, mely Adobe Stock képek készültek generatív MI eszközökkel."

"Az Adobe elkötelezett a félretájékoztatás elleni küzdelem mellett, és a Content Authenticity Initiative (Tartalomhitelesítési kezdeményezés) keretein belül együttműködünk a kiadókkal, a fényképezőgépgyártókkal és más érdekelt felekkel az ilyen tanúsítványok elfogadásának előmozdítása érdekében, és ezt többek között saját termékeinkben is megtesszük. A Content Credentials lehetővé teszi, hogy az emberek láthassák a digitális tartalom rögzítésének, létrehozásának vagy szerkesztésének létfontosságú összefüggéseit, beleértve azt is, hogy a digitális tartalom létrehozása vagy szerkesztése során használtak-e mesterséges intelligencia-eszközöket."