Etikai elvek alapján működő mesterséges intelligenciáját fejleszt az IBM

Az IBM egy olyan technológiát fejleszt, amely etikai és morális elveket követ.

Az amerikai cég munkatársai egy olyan öntanuló ajánlórendszeren dolgoznak, amely a mesterséges intelligencián alapul, s amely a különböző etikai és morális elveket és szabályokat akár nagy adatmennyiségek esetében is alkalmazni tudja. A kutatócsoport élén Francesca Rossi, az IBM mesterséges intelligencia etikarészlegének vezetője áll. Az új megoldás eldöntheti majd, hogy egy videót megtekinthetnek-e gyerekek vagy sem, illetve különböző szempontok alapján kereshet tartalmakat a világhálón a felhasználók számára. Egy ilyen rendszer megalkotásához egyébként nem feltétlenül van szükség gépi tanulásra.

Nicolas Mattel, az IBM kutatója hangsúlyozta, hogy egy szabálygyűjtemény elkészítése egyszerű feladat. A probléma sokkal inkább az, hogy a megadott szabályok nem alkalmazhatók általánosságban az internet összes tartalmára. A mesterséges intelligencia rendszer éppen ezért tanul a példákból, amelyeket aztán különböző kategóriákba - gyerekeknek ajánlott stb. - sorol be.

A kutatócsoport a megoldást egy videókat ajánló szoftverrel tesztelte, de az ugyanígy alkalmazható képeknél vagy irodalmi és zenei alkotásoknál, valamint más területeken is. A modellt egyelőre offline képezték. Az IBM emellett létrehozott egy szabályozót, amely egyensúlyt teremt az etikus értékek és a felhasználók preferenciái között. Erre azért van szükség, mert a szabályok és a preferenciák gyakran ütköznek egymással. Az etikai szabályok alapján kiadott ajánlások egyelőre az Igen/Nem válaszokra épülnek, tehát a rendszernek még szüksége van a felhasználókra és a szabályalkotókra.