2024. április 11. 11:02, Csütörtök
Tavaly a ChatGPT és az hasonló, mesterséges intelligenciával működő chatbotok hirtelen népszerűségétől megijedve az iskolák mindenütt igyekeztek megfékezni a szöveggeneráló botokat, hogy megelőzzék a diákok csalását. Most egy sokkal riasztóbb, képeket generáló MI jelenség ütötte fel a fejét.
Több amerikai iskolában a fiúk széles körben elérhető "meztelenítő" alkalmazásokat használtak arra, hogy például iskolai eseményeken készült fotókat, amelyeken osztálytársaik beazonosíthatóan láthatók olyan grafikus, meggyőzően valódinak tűnő képekké változtassák, amelyeken a lányok MI-generált mellei és nemi szervei láthatóak. Egyes esetekben a fiúk a hamisított képeket az iskolai ebédlőben vagy az olyan platformokon, mint a Snapchat és az Instagram csoportos csevegéseken keresztül osztották meg egymással iskolai és rendőrségi jelentések szerint.
Az ilyen digitálisan megváltoztatott képek - amelyeket "deepfake"-nek vagy "deepnude"-nak neveznek - pusztító következményekkel járhatnak. A gyermekek szexuális kizsákmányolásával foglalkozó szakértők szerint a nem beleegyezésen alapuló, mesterséges intelligencia által generált képek alkalmasak a fiatal nők zaklatására, megalázására és megfélemlítésére, károsíthatja mentális egészségüket, jó hírnevüket és fizikai biztonságukat, valamint kockázatot jelenthet továbbtanulásukra és karrierlehetőségükre nézve. A Szövetségi Nyomozó Iroda, az FBI külön figyelmeztetést adott ki, miszerint illegális a számítógépen generált, gyermekek szexuális zaklatását bemutató anyagok terjesztése, beleértve az azonosítható kiskorúakról készült, valósághűnek tűnő, mesterséges intelligenciával generált képeket, amelyeken szexuálisan egyértelmű magatartást tanúsítanak.
A kizsákmányoló MI-alkalmazások iskolai használata annyira újdonság, hogy egyes intézmények teljesen felkészületlenül állnak a problémával szemben. A New Jersey állambeli Westfield középiskolájában néhány 10. osztályos lány - köztük Dorota Mani asszony 14 éves lánya, Francesca - figyelmeztette a vezetőséget, hogy az osztályukban tanuló fiúk mesterséges intelligencia szoftver segítségével szexuálisan egyértelmű képeket készítettek róluk, és a hamisított képeket terjesztették. A bejelentés ellenére az intézmény nem tett semmit, nyilvánosan nem foglalkozott a hamisított képekkel és nem frissítette az iskolai szabályzatot, hogy megakadályozza a mesterséges intelligencia kizsákmányoló használatát. "Úgy tűnik, mintha a Westfield High School vezetése és a kerület mesterkurzuson venné részt, hogy ezt az esetet eltüntessék a semmibe" - figyelmeztette a helyi önkormányzat tagjait Mani asszony, aki egy helyi óvoda alapítója.
Az iskolakörzet közleménye szerint az incidensről értesülve "azonnali vizsgálatot" indítottak, értesítették a rendőrséget és konzultáltak vele, valamint csoportos tanácsadást biztosítottak a másodikos osztály számára. "Minden iskola küzd a mesterséges intelligencia és más, a diákok számára bármikor és bárhol elérhető technológia kihívásaival és hatásaival" - írta Raymond González, a Westfield Public Schools felügyelője a közleményben.
Egy másik középiskolában, a Seattle melletti Issaquahban egy nyomozó, aki a 14 és 15 éves lányokról készült, mesterséges intelligencia által generált explicit képekről szóló szülői panaszokat vizsgálta, megkérdezte az igazgatóhelyettest, hogy az iskola miért nem jelentette az esetet a rendőrségnek - derül ki az Issaquah-i Rendőrkapitányság jelentéséből. Az iskolai tisztviselő ezután megkérdezte, hogy "mit kellett volna jelentenie" - áll a rendőrségi dokumentumban, aminek hatására a nyomozó tájékoztatta őt arról, hogy az iskoláknak a törvény szerint jelenteniük kell a szexuális visszaéléseket, beleértve a gyermekekkel kapcsolatos lehetséges szexuális visszaéléseket tartalmazó anyagokat is. Az iskola ezt követően jelentette az esetet a gyermekvédelmi szolgálatnak - áll a rendőrségi jelentésben.
A kaliforniai Beverly Hillsben található Beverly Vista középiskolában a vezetők februárban felvették a kapcsolatot a rendőrséggel, miután megtudták, hogy öt fiú mesterséges intelligencia által generált, explicit képeket készített és osztott meg osztálytársairól. A kerületi dokumentumok szerint két héttel később az iskolaszék jóváhagyta öt diák eltanácsolását. Michael Bregy iskolafelügyelő elmondta, hogy ő és más iskolai vezetők országos precedenst akartak teremteni arra, hogy az iskolák nem engedhetik meg a tanulóknak, hogy szexuális tartalmú képeket készítsenek és terjesszenek társaikról. "Ez szélsőséges zaklatás" - mondta Dr. Bregy, megjegyezve, hogy az explicit képek "zavaróak és erőszakosak" a lányok és családjaik számára. "Ez olyasvalami, amit mi itt egyáltalán nem fogunk tolerálni."
A Beverly Hills és Westfield kis, gazdag közösségekben található iskolák. Az esetek részletei - amelyeket a szülőkkel folytatott kerületi kommunikációban, iskolatanácsi üléseken, törvényhozási meghallgatásokon és bírósági beadványokban szerepelnek - jól szemléltetik az iskolai válaszok változatosságát. Dr. Bregy szerint az iskoláknak és a törvényhozóknak gyorsan kell cselekedniük, mert az MI-val való visszaélés miatt a diákok nem érzik magukat biztonságban az iskolákban. "Sokat hallani a fizikai biztonságról az iskolákban" - mondta. "De amiről nem hallani, az a diákok személyes, érzelmi biztonságának megsértése."
A cikkben szereplő képek illusztrációk, MI-vel generáltak
Informatika és tudomány