Hogyan ellenőrizhetők az algoritmusok?

A jogalap most már megvan rá, de mikor kockázatos egy algoritmus? Hogyan hasonlíthatók egymással össze, és hogyan lehet azokat rangsorolni?

Az EU új digitális szabálykönyve szerint az online platformoknak lehetővé kell tenniük, hogy az ellenőrök bepillanthassanak a motorháztető alá és osztályozhassák algoritmusaikat. E példátlan feladat körül azonban számos kérdés maradt. A digitális szolgáltatásokról szóló törvény (DSA) augusztustól a nagyon nagy online platformok számára külön szabályozást vezet be. Ezeknek a rendszerszintű platformoknak elemezniük kell majd a potenciális társadalmi kockázatokat, például a dezinformáció terjesztését, és kockázatcsökkentő intézkedéseket kell hozniuk. Ezeket a kockázatelemzéseket és kockázatcsökkentő intézkedéseket független ellenőrzéseknek vetik alá, amelyek során értékelik, hogy megfelelőek-e a DSA-nak való megfeleléshez. Ez az ellenőrzési folyamat tehát döntő szerepet fog játszani abban, hogy a platformok hogyan értelmezik az új uniós szabályokat és hogyan alkalmazkodnak azokhoz.

Az Európai Bizottság közzétette annak jogi szövegét hogyan határozzák meg az ilyen független auditok módszertanát, azonban az auditáló cégek, a technológiai vállalatok és a civil társadalom visszajelzései több kritikus pontra is rámutatnak ezen a még feltáratlan területen. Mivel az algoritmus-ellenőrzés viszonylag új és technikailag összetett, csak néhány vállalat rendelkezik a feladathoz szükséges szakértelemmel vagy a szükséges tehetségek megszerzéséhez szükséges mély zsebbel. De ez sem elég, ha nem egyértelmű a cél. "A tudományos keretrendszer nincs meg. Nincsenek válaszaink arra, hogy mit akar elérni ez a törvény. Hogyan definiáljuk a rendszerkockázatot? Hogyan mérjük azt?" - mondta Adriana Iamnitchi, a Maastrichti Egyetem számítástudományi társadalomtudományok professzora.

A könyvvizsgáló cégek visszajelzéseikben következetesen kiemelik, hogy nincsenek olyan iparági szabványok, amelyek alapján az algoritmusok ellenőrzése történhetne, és további iránymutatást kértek a Bizottságtól a végrehajtás tekintetében, hogy megfeleljenek a DSA kötelezettségeinek. A PwC tanácsadó óriáscég szerint "ha a könyvvizsgálót tesszük meg annak megítélőjévé, hogy mi minősül megfelelőségnek, az valószínűleg változékonyságot eredményez, és potenciálisan nézeteltéréseket okozhat az érdekeltek között, hogy ki állította fel a mércét a megfelelő szintre, és hogy a különböző jogalanyokat igazságosan kezelik-e". Ugyanez a problémája a Deloitte és az EY könyvvizsgáló cégeknek is.


A következetlenség és az összehasonlíthatóság hiánya nem meglepő, tekintettel arra, hogy a "nagyon nagy platformok" között van közösségi médiacég, keresővállalat, online lexikon és kereskedelmi platform is. Az érintett technológiai vállalatok úgy vélik, hogy a jogszabály túlságosan előíró jellegű, nem veszi figyelembe a felhasználási esetek sokféleségét, és nem kötelezi az ellenőröket arra, hogy értékelésük során arányosnak kell lenniük. "A (túlságosan) előíró szabványok bevezetésének hátránya, hogy korlátozza az ellenőrök választási lehetőségeit, és arra ösztönzi az ellenőröket, hogy szigorúan kövessék a törvény betűjét, ne pedig a szellemét" - olvasható a Wikimedia beadványában.

A könyvvizsgálók és a platformok egyetértenek abban, hogy az első évben némi rugalmasságot kell alkalmazni tekintettel a DSA összetettségére és az újdonságra. A digitális szereplők alapvető érve azonban az, hogy a könyvvizsgáló iparnak nincs meg a megfelelő szakértelme a platformok belső működésének értékeléséhez. "Ez mutatja, hogy milyen paradoxonban vagyunk. A sok átláthatatlan, adatvezérelt vállalat olyan bonyolultsághoz vezetett, amely még azok számára is érthetetlen, akiknek a feladata az lenne, hogy tanulmányozzák azokat, nevezetesen az akadémikusok számára" - mondta Catalina Goanta, az Utrechti Egyetem jog és technológia docense.

A civil társadalom képviselőinek visszajelzéseinek középpontjában a "ki őrzi az őrzőket", azaz hogy ki fogja ellenőrizni a könyvvizsgálókat? Közös válaszukban az Algorithm Watch és az AI Forensic nonprofit szervezetek rámutattak, hogy a könyvvizsgáló cégek arra lehetnek ösztönözve, hogy elnézőek legyenek az értékelésekben, hogy elnyerjék és megtartsák a szerződéseket. A "könyvvizsgálat-mosás" kockázata tovább fokozódik objektív szabványok nélküli környezetben. Eközben az auditált vállalatoknak bőséges mérlegelési jogkörük lesz arra, hogy a jelentésekben szereplő információkat bizalmasnak minősítsék, és így megakadályozzák azok közzétételét.

A civil társadalom tagjai számára a könyvvizsgálók és a platformok kordában tartásának legjobb módja az, ha ellenőrzött kutatók számára hozzáférést biztosítanak a könyvvizsgálói jelentések teljes változatához. A DSA értelmében az ellenőrzött kutatóknak lehetőségük van arra, hogy adatokat kérjenek a platformoktól, de az ellenőrzési mechanizmusban betöltött szerepük eljárási szempontból még mindig a levegőben lóg. Általánosságban véve a civil társadalom részéről szkepticizmus mutatkozik azzal kapcsolatban, hogy a nagy könyvvizsgáló cégek megfelelő helyzetben vannak-e a rendszerszintű kockázatok felmérésére, például arra vonatkozóan, hogy a közösségi média milyen hatással lehet a demokratikus folyamatokra.

Szerencsére már vannak olyan szereplők, akik megpróbálják betölteni ezt az űrt. Az egyik ilyen civil szervezet az Algorithm Audit, amelynek az a feladata, hogy etikusan értékelje az algoritmikus auditok kritériumait, és konkrét körülmények között jelezze az előnyöket és hátrányokat. Módszertanát "algoprudence"-nek nevezik, ami az algoritmus és a jogtudomány keveréke. "Kollektív tanulási folyamat lesz, amely három-öt évet vesz igénybe" - mondta Jurriaan Parie, az Algorithm Audit társalapítója, hozzátéve, hogy sok múlik majd azon, hogy a Bizottság és annak algoritmikus átláthatósággal foglalkozó új központja hogyan fog együttműködni az ellenőrökkel a legjobb gyakorlatok kialakítása érdekében. "Ez egy folyamat. Kezdetben nem lesz tökéletes, de valahol el kell kezdeni. A kérdés az, hogy ki fog erre figyelni" - mondta Iamnitchi professzor.