Etikai elvek alapján működő mesterséges intelligenciáját fejleszt az IBM

Etikai elvek alapján működő mesterséges intelligenciáját fejleszt az IBM

2018. július 19. 15:12, Csütörtök
Az IBM egy olyan technológiát fejleszt, amely etikai és morális elveket követ.

Az amerikai cég munkatársai egy olyan öntanuló ajánlórendszeren dolgoznak, amely a mesterséges intelligencián alapul, s amely a különböző etikai és morális elveket és szabályokat akár nagy adatmennyiségek esetében is alkalmazni tudja. A kutatócsoport élén Francesca Rossi, az IBM mesterséges intelligencia etikarészlegének vezetője áll. Az új megoldás eldöntheti majd, hogy egy videót megtekinthetnek-e gyerekek vagy sem, illetve különböző szempontok alapján kereshet tartalmakat a világhálón a felhasználók számára. Egy ilyen rendszer megalkotásához egyébként nem feltétlenül van szükség gépi tanulásra.

Nicolas Mattel, az IBM kutatója hangsúlyozta, hogy egy szabálygyűjtemény elkészítése egyszerű feladat. A probléma sokkal inkább az, hogy a megadott szabályok nem alkalmazhatók általánosságban az internet összes tartalmára. A mesterséges intelligencia rendszer éppen ezért tanul a példákból, amelyeket aztán különböző kategóriákba - gyerekeknek ajánlott stb. - sorol be.

A kutatócsoport a megoldást egy videókat ajánló szoftverrel tesztelte, de az ugyanígy alkalmazható képeknél vagy irodalmi és zenei alkotásoknál, valamint más területeken is. A modellt egyelőre offline képezték. Az IBM emellett létrehozott egy szabályozót, amely egyensúlyt teremt az etikus értékek és a felhasználók preferenciái között. Erre azért van szükség, mert a szabályok és a preferenciák gyakran ütköznek egymással. Az etikai szabályok alapján kiadott ajánlások egyelőre az Igen/Nem válaszokra épülnek, tehát a rendszernek még szüksége van a felhasználókra és a szabályalkotókra.

Kapcsolódó linkek

Listázás a fórumban