Átláthatóbbá tenné a mesterséges intelligencia döntéseket az IBM

A társaság azt akarja megvizsgálni, hogy a technológia miként hoz döntéseket.

Az IBM egy új szoftver segítségével akarja átláthatóbbá tenni a mesterséges intelligencia alkalmazását. A cél az, hogy az átláthatóság miatt jobban megbízzanak az emberek a technológiára épülő megoldásokban. Az új program megnyitja az adott mesterséges intelligencia „feketedobozát” és automatikusan felismeri az annak eredményeit érintő lehetséges manipulációkat. Wolfgang Hildesheim, az IBM technológiáért felelős vezetője leszögezte, hogy minden döntés mögött, amelyet a mesterséges intelligencia hoz meg, ott vannak a háttérben a megadott adatok. S ilyen szempontból bármilyen jó is lehet az alkalmazott algoritmus, kiszolgáltatott ezeknek az adatoknak.

Az IBM technológiája megvizsgálja többek között, hogy rendelkezésre áll-e egy kiegyensúlyozott és jelentős adatbázis, s ennek köszönhetően valóban megbízható és értékes eredmények szállíthatók-e ilyen módon. Az új megoldás valós időben működik és rávilágíthat arra, hogy miként jut el a döntésekig egy mesterséges intelligencián alapuló szoftver. Tehát ha egy algoritmus például egy banki tanácsadócéget támogat és az ügyfelek hitelképességéről vagy a megfelelő pénzügyi termékekről dönt, akkor az adott adatbázisnak semlegesnek és kiegyensúlyozottnak kell lennie.

Hildesheim elmondta, hogy a szolgáltatást - az IBM felhőkörnyezeti ajánlatán belül - különböző gépi tanulási platformokhoz lehet használni. A megoldás egy részét a társaság a nyílt forráskódú közösség minden fejlesztője számára elérhetővé akarja tenni. Ezzel a lépéssel is a mesterséges intelligenciába vetett bizalmat akarják erősíteni. Ahogy a menedzser fogalmazott: átláthatóság nélkül nincs bizalom. Júliusban vált ismertté, hogy a vállalat munkatársai egy olyan öntanuló ajánlórendszeren dolgoznak, amely a mesterséges intelligencián alapul, s amely a különböző etikai és morális elveket, s szabályokat akár nagy adatmennyiségek esetében is alkalmazni tudja.