SG.hu·
A biztosítók nem akarnak védelmet adni MI-hibák és hallucinációk esetére
A nagy biztosítótársaságok igyekeznek kizárni a mesterséges intelligenciával kapcsolatos kockázatokat a vállalati biztosítási kötvényekből, mivel a gyorsan fejlődő technológiából több milliárd dolláros igények is felmerülhetnek.
Az AIG, a Great American és a WR Berkley is azok közé tartozik, amelyek nemrég engedélyt kértek a szabályozó hatóságoktól olyan kötvények kínálására, amelyek kizárják az MI-eszközöket - beleértve a chatbotokat és az MI-ügynököket - alkalmazó vállalkozások tevékenységéhez kötődő felelősségeket. A biztosítási ágazat ódzkodása a teljes körű fedezet nyújtásától egybeesik azzal, hogy a vállalatok tömegesen rohannak bevezetni a csúcstechnológiát. Ez pedig már most is kínos és költséges hibákhoz vezetett, amikor a modellek „hallucinálnak”, vagyis kitalálnak dolgokat. A WR Berkley egyik javasolt kizárása megtiltaná bármely olyan igény benyújtását, amely „a mesterséges intelligencia bármilyen tényleges vagy állítólagos használatával” függ össze, beleértve bármely olyan terméket vagy szolgáltatást, amelyet egy vállalat az MI-technológia „beépítésével” értékesít.
Az illinois-i biztosítási felügyelet által a kizárásokkal kapcsolatban feltett kérdésre az AIG egy beadványban azt válaszolta, hogy a generatív MI „rendkívül széles körű technológia”, és az olyan események lehetősége, amelyek a jövőben kártérítési igényekhez vezethetnek, „várhatóan idővel növekedni fog”. Az AIG elmondta, hogy bár generatív MI-kizárásokat nyújtottak be, „jelenleg nincs tervük ezek bevezetésére”. A kizárások engedélyezése ugyanakkor lehetőséget adna a társaságnak arra, hogy a későbbiekben bevezesse őket.
A biztosítók kiszámíthatatlannak és átláthatatlannak tartják az MI-modellek kimeneteleit ahhoz, hogy biztosítást nyújtsanak rájuk - mondta Dennis Bertram, a Mosaic európai kiberbiztosítási vezetője. „Túl nagy fekete doboz.” Még a Mosaic is - a londoni Lloyd’s piacán működő speciális biztosító, amely bizonyos MI-alapú szoftverekre kínál fedezetet - elutasította a nagy nyelvi modellek, például a ChatGPT kockázatainak aláírását. „Senki sem tudja, ki a felelős, ha valami elromlik” - mondta Rajiv Dattani, az Artificial Intelligence Underwriting Company, egy MI-biztosítási és auditáló startup társalapítója.
Ezek a lépések a növekvő számú, nagy nyilvánosságot kapott MI-eredetű hibák közepette történnek. A Wolf River Electric, egy napelemcég rágalmazás miatt beperelte a Google-t, és legalább 110 millió dollár kártérítést követelt, miután azt állította, hogy a Google MI összefoglaló funkciója hamisan állította, hogy a céget Minnesota főügyésze pereli. Egy tavalyi ítélet pedig arra kötelezte az Air Canadát, hogy tartsa be azt a kedvezményt, amelyet az ügyfélszolgálati chatbotja talált ki. Tavaly a brit Arup mérnöki csoport 200 millió hongkongi dollárt veszített, miután csalók egy digitálisan klónozott vezető beosztású menedzsert használtak fel, hogy pénzátutalásokat rendeljenek el egy videokonferencia során.
Az Aon kiberbiztosítási vezetője, Kevin Kalinich elmondta, hogy a biztosítási ágazat képes lenne kifizetni egy akár félmillárd dolláros veszteséget is, ha egyetlen vállalat egy hibás működésű MI-ügynöki rendszer miatt helytelen árképzést vagy orvosi diagnózist kapna. „Amit nem engedhetnek meg, az az, hogy egy MI-szolgáltató hibája ezer vagy tízezer esethez vezessen, azaz egy rendszerszintű, összefüggő, aggregált kockázathoz” - tette hozzá. Az MI-hallucinációk általában kívül esnek a hagyományos kiberbiztosítási fedezeten, amelyet biztonsági vagy adatvédelmi incidensek váltanak ki. Az úgynevezett technológiai „hibák és mulasztások” (errors and omissions) típusú kötvények nagyobb valószínűséggel fedezik az MI-hibákat, de az új kizárások ezeket is szűkíthetik.
A Zurich Insurance informatikai vezetője, Ericson Chan azt mondta, hogy amikor a biztosítók más technológiai eredetű hibákat értékelnek, „könnyen meg tudják határozni a felelősséget”. Ezzel szemben az MI-kockázat potenciálisan sok különböző szereplőt érint - fejlesztőket, modellépítőket, végfelhasználókat. Ennek eredményeként az MI-eredetű kockázatok piaci hatása „exponenciális” is lehet - tette hozzá. Néhány biztosító úgy próbálja tisztázni a jogi bizonytalanságot, hogy úgynevezett záradékokat - a kötvényt módosító kiegészítéseket - vezet be az MI-vel kapcsolatos kockázatokra. De a brókerek figyelmeztetnek, hogy ezeket alaposan meg kell vizsgálni, mert bizonyos esetekben kevesebb fedezetet eredményeznek.
Az egyik ilyen záradék, amelyet a QBE biztosító vezetett be, némi fedezetet nyújt a bírságokra és más büntetésekre az EU MI-rendelete alapján, amelyet a világ legszigorúbb, a technológia fejlesztését szabályozó keretrendszerének tartanak. De a záradék - amelyet más biztosítók is átvettek - egy nagy bróker szerint a kötvény teljes limitjének mindössze 2,5 százalékára korlátozta az MI használatából eredő bírságok kifizetését. A QBE azt mondta, hogy olyan „lehetséges fedezethiányt kezel, amelyet más biztosítási kötvények nem biztos, hogy lefednek”.
Brókeri tárgyalások során a zürichi Chubb beleegyezett olyan feltételekbe, amelyek bizonyos MI-kockázatokat fedeznének, de kizárta a „széles körű” MI-incidenseket, például egy olyan modell hibáját, amely egyszerre több ügyfelet érintene. Eközben mások szűken meghatározott MI-kockázatokra vezettek be kiegészítőket - például arra az esetre, ha egy chatbot megvadulna. Biztosítási brókerek és ügyvédek attól tartanak, hogy a biztosítók a jövőben bíróságon fogják megtámadni az igényeket, amikor az MI-eredetű károk jelentősen megnövekednek. Aaron Le Marquer, a Stewarts ügyvédi iroda biztosítási jogvitákkal foglalkozó csapatának vezetője azt mondta: „Valószínűleg egy nagy rendszerszintű esemény kell majd ahhoz, hogy a biztosítók azt mondják: álljunk meg, ezt a fajta eseményt mi soha nem akarjuk fedezni.”
Az AIG, a Great American és a WR Berkley is azok közé tartozik, amelyek nemrég engedélyt kértek a szabályozó hatóságoktól olyan kötvények kínálására, amelyek kizárják az MI-eszközöket - beleértve a chatbotokat és az MI-ügynököket - alkalmazó vállalkozások tevékenységéhez kötődő felelősségeket. A biztosítási ágazat ódzkodása a teljes körű fedezet nyújtásától egybeesik azzal, hogy a vállalatok tömegesen rohannak bevezetni a csúcstechnológiát. Ez pedig már most is kínos és költséges hibákhoz vezetett, amikor a modellek „hallucinálnak”, vagyis kitalálnak dolgokat. A WR Berkley egyik javasolt kizárása megtiltaná bármely olyan igény benyújtását, amely „a mesterséges intelligencia bármilyen tényleges vagy állítólagos használatával” függ össze, beleértve bármely olyan terméket vagy szolgáltatást, amelyet egy vállalat az MI-technológia „beépítésével” értékesít.
Az illinois-i biztosítási felügyelet által a kizárásokkal kapcsolatban feltett kérdésre az AIG egy beadványban azt válaszolta, hogy a generatív MI „rendkívül széles körű technológia”, és az olyan események lehetősége, amelyek a jövőben kártérítési igényekhez vezethetnek, „várhatóan idővel növekedni fog”. Az AIG elmondta, hogy bár generatív MI-kizárásokat nyújtottak be, „jelenleg nincs tervük ezek bevezetésére”. A kizárások engedélyezése ugyanakkor lehetőséget adna a társaságnak arra, hogy a későbbiekben bevezesse őket.
A biztosítók kiszámíthatatlannak és átláthatatlannak tartják az MI-modellek kimeneteleit ahhoz, hogy biztosítást nyújtsanak rájuk - mondta Dennis Bertram, a Mosaic európai kiberbiztosítási vezetője. „Túl nagy fekete doboz.” Még a Mosaic is - a londoni Lloyd’s piacán működő speciális biztosító, amely bizonyos MI-alapú szoftverekre kínál fedezetet - elutasította a nagy nyelvi modellek, például a ChatGPT kockázatainak aláírását. „Senki sem tudja, ki a felelős, ha valami elromlik” - mondta Rajiv Dattani, az Artificial Intelligence Underwriting Company, egy MI-biztosítási és auditáló startup társalapítója.
Ezek a lépések a növekvő számú, nagy nyilvánosságot kapott MI-eredetű hibák közepette történnek. A Wolf River Electric, egy napelemcég rágalmazás miatt beperelte a Google-t, és legalább 110 millió dollár kártérítést követelt, miután azt állította, hogy a Google MI összefoglaló funkciója hamisan állította, hogy a céget Minnesota főügyésze pereli. Egy tavalyi ítélet pedig arra kötelezte az Air Canadát, hogy tartsa be azt a kedvezményt, amelyet az ügyfélszolgálati chatbotja talált ki. Tavaly a brit Arup mérnöki csoport 200 millió hongkongi dollárt veszített, miután csalók egy digitálisan klónozott vezető beosztású menedzsert használtak fel, hogy pénzátutalásokat rendeljenek el egy videokonferencia során.
Az Aon kiberbiztosítási vezetője, Kevin Kalinich elmondta, hogy a biztosítási ágazat képes lenne kifizetni egy akár félmillárd dolláros veszteséget is, ha egyetlen vállalat egy hibás működésű MI-ügynöki rendszer miatt helytelen árképzést vagy orvosi diagnózist kapna. „Amit nem engedhetnek meg, az az, hogy egy MI-szolgáltató hibája ezer vagy tízezer esethez vezessen, azaz egy rendszerszintű, összefüggő, aggregált kockázathoz” - tette hozzá. Az MI-hallucinációk általában kívül esnek a hagyományos kiberbiztosítási fedezeten, amelyet biztonsági vagy adatvédelmi incidensek váltanak ki. Az úgynevezett technológiai „hibák és mulasztások” (errors and omissions) típusú kötvények nagyobb valószínűséggel fedezik az MI-hibákat, de az új kizárások ezeket is szűkíthetik.
A Zurich Insurance informatikai vezetője, Ericson Chan azt mondta, hogy amikor a biztosítók más technológiai eredetű hibákat értékelnek, „könnyen meg tudják határozni a felelősséget”. Ezzel szemben az MI-kockázat potenciálisan sok különböző szereplőt érint - fejlesztőket, modellépítőket, végfelhasználókat. Ennek eredményeként az MI-eredetű kockázatok piaci hatása „exponenciális” is lehet - tette hozzá. Néhány biztosító úgy próbálja tisztázni a jogi bizonytalanságot, hogy úgynevezett záradékokat - a kötvényt módosító kiegészítéseket - vezet be az MI-vel kapcsolatos kockázatokra. De a brókerek figyelmeztetnek, hogy ezeket alaposan meg kell vizsgálni, mert bizonyos esetekben kevesebb fedezetet eredményeznek.
Az egyik ilyen záradék, amelyet a QBE biztosító vezetett be, némi fedezetet nyújt a bírságokra és más büntetésekre az EU MI-rendelete alapján, amelyet a világ legszigorúbb, a technológia fejlesztését szabályozó keretrendszerének tartanak. De a záradék - amelyet más biztosítók is átvettek - egy nagy bróker szerint a kötvény teljes limitjének mindössze 2,5 százalékára korlátozta az MI használatából eredő bírságok kifizetését. A QBE azt mondta, hogy olyan „lehetséges fedezethiányt kezel, amelyet más biztosítási kötvények nem biztos, hogy lefednek”.
Brókeri tárgyalások során a zürichi Chubb beleegyezett olyan feltételekbe, amelyek bizonyos MI-kockázatokat fedeznének, de kizárta a „széles körű” MI-incidenseket, például egy olyan modell hibáját, amely egyszerre több ügyfelet érintene. Eközben mások szűken meghatározott MI-kockázatokra vezettek be kiegészítőket - például arra az esetre, ha egy chatbot megvadulna. Biztosítási brókerek és ügyvédek attól tartanak, hogy a biztosítók a jövőben bíróságon fogják megtámadni az igényeket, amikor az MI-eredetű károk jelentősen megnövekednek. Aaron Le Marquer, a Stewarts ügyvédi iroda biztosítási jogvitákkal foglalkozó csapatának vezetője azt mondta: „Valószínűleg egy nagy rendszerszintű esemény kell majd ahhoz, hogy a biztosítók azt mondják: álljunk meg, ezt a fajta eseményt mi soha nem akarjuk fedezni.”