Ki a felelős, ha egy magától leparkoló autó elüt egy embert?

Azzal a legtöbb felhasználó tisztában van, hogy a mindennapi életünket gyakorlatilag az algoritmusok irányítják, függetlenül attól, hogy éppen a fogyasztói szokásainkról vagy a pénzügyi tranzakciókról van szó.

Felmerülnek komoly morális és jogi kérdések, ha olyan intelligens számítógépes programokat fejlesztünk ki, amelyek később felelősségteljes emberi feladatok oldanak meg. Egy mai autóban körülbelül 70 mikroprocesszor dolgozik, ezeknek egy hálózaton keresztül együtt kell működniük egymással, amit átfogóan kell megvizsgálni. Ugyan a térhangzás hibája még elviselhető, de egy a kormányt vagy a motorvezérlést érintő hiba már kritikus, de akár az is veszélyes lehet, ha például az elektromos ablakemelő nem működik. Amennyiben például hagyom, hogy a számítógép segítségével parkoljon le az autóm és eközben egy óvatlan gyalogosnak baja esik, de a program mindent helyesen csinált, akkor felmerül a kérdés, hogy ki hibázott, kié a felelősség? A programozó? Amennyiben egy bonyolult, tudományos-ipari folyamat balul üt ki, akkor a hibát már nem lehet egyetlen helyhez kötni.

A Bécsi Műszaki Egyetem két professzora, Stefan Szeider és Helmut Veith két éve kutatják az algoritmusokat, s azt, hogy milyen hatást gyakorolnak az életünkre. Napjainkban elmondható, hogy szinte mindent, ami online megjelenik részben vagy egészben kódsorok irányítanak. Ezek néha egészen egyszerű programocskák, máskor jóval bonyolultabbak. Azonban ezek nem csak a honlapok optimalizálására szolgálnak, hanem segítenek megtalálni a számítógépes programok hibáit vagy megtervezni egy útvonalat.

Az algoritmusokkal kapcsolatos felelősség óriási, elég csak a repülőgépgyártásra gondolni. A programozóknak mindent részletesen dokumentálniuk kell, egyetlen sor leírása akár egy órát is igénybe vehet, így hetente 40 sort lehet rögzíteni. Mindez rendkívül drága eljárás, de cserébe a repülőgépek biztonságosak is. De a többi iparágban olyan verseny van, hogy ez nem megvalósítható. Ellenőrző eszközök segítenek abban, hogy több hibára derüljön fény és felelősségteljesebb szoftvereket lehessen létrehozni.


Stefan Szeider, az új központ vezető professzora
A Bécsi Műszaki Egyetem az algoritmuskutatás egyik vezető intézménye, és nemrég megalapították a Vienna Center for Logic and Algorithms (VCLA) nevű központot, ahol összesen hat professzor dolgozik majd. A hivatalos megnyitón részt vett Edmund M. Clarke is. A VCLA kutatásai három területre összpontosítanak: ellenőrzés, tudásbemutatás és az úgynevezett korlátozás kielégítés (Constraint Satisfaction). Az ellenőrzés alatt a szoftverhibák felkutatását értik a szakemberek, míg a tudásbemutatás segítségével azt akarják elérni, hogy a számítógépek megtanulják önállóan megvizsgálni az információkat, majd azokat fel is használják. Végül a Constraint Satisfaction célja a különböző bonyolultabb problémák adott korlátok közötti megoldása.

"Minden mikroprocesszor algoritmusokra épül, melyek általában egyszerűek, de néha vannak bonyolultabbak is. A mindennapi munkánk során nem jutunk olyan közel az alkalmazásokhoz, hogy feltehessünk nehéz morális kérdéseket" - hangsúlyozta Stefan Szeider. A szakember elmondta, hogy a csoportjuk tudományos szempontból rendkívül sikeres, számos díjat nyertek el eddig. A cél az, hogy az új központ kiaknázza, felerősítse és még inkább láthatóbbá tegye ezeket a sikereket.

"A teljes információkezelésünket átszövi az internet. Miután egy globalizált információs világban élünk, ezért szűrőkre van szükségünk, hiszen nem tudunk mindent elkészített információt befogadni. A kérdés csak az, hogy mi magunk képesek vagyunk-e eldönteni, hogy miként szűrjük meg az információkat vagy sem, s akkor még a mesterséges intelligenciáról nem is beszéltünk. A mesterséges intelligencia legnagyobb kritikusai, például Hubert Dreyfus (What Computers can't do) rámutattak arra, hogy egy valóban emberszerű intelligenciának szüksége lenne egy emberszerű testre is, érzelmekkel és valódi emberi tapasztalatokkal. Nehéz elképzelni, hogy egy mesterséges intelligencia miként reagálna az irodalomra vagy a rockzenére, ha hiányzik belőle a szívdobogás és a szerelmi bánat érzése vagy az ütemérzék. A másik oldalon természetesen ugyanez a mesterséges intelligencia a természettudományi kutatásokban egy rendkívül fontos asszisztens lehet" - szögezte le Hannes Veith.