Állítólag egy matematikai áttörés miatt rúgták ki Altmant

Az OpenAI vezérigazgatója, Sam Altman négy napos száműzetése előtt több kutató munkatárs levelet írt az igazgatótanácsnak, amelyben egy nagyhatású mesterséges intelligencia felfedezésre figyelmeztettek, amely szerintük veszélyeztetheti az emberiséget.

Máig nem tudjuk a hétvégi események kiinduló okát, és az igazgatótanács annak ellenére nem volt azt hajlandó elárulni, hogy nem csak a több száz dolgozó, hanem még az általuk kinevezett ideiglenes vezérigazgató is megfenyegette őket a kilépésével. Talán idővel kiderül a teljes igazság, mindenesetre pletykák már kezdenek szállingózni. A legfrissebb hír szerint egy korábban nem ismert levél és az MI-algoritmus fejlesztésének alakulása kulcsfontosságú lépcsőfokok voltak abban a döntésben, hogy az igazgatótanács menesztette Altmant, a generatív MI arcát. Két forrás újságíróknak elmondta, hogy a levél fontos tényező volt az Altman kirúgásához vezető sérelmek hosszabb listáján, amelyek között szerepeltek a kutatási áttörés kereskedelmi megjelenése miatti aggodalmak is. A Reuters hírügynökség nem tudott betekintést nyerni a levél másolatába, és a levelet író munkatársak nem válaszoltak a kommentárra irányuló megkeresésekre.

Az OpenAI a hétvégi események előtt egy belső üzenetben bemutatta a Q* nevű projektet (ejtsd: Q-csillag) a munkatársak számára, és egy levelet küldött az igazgatóságnak. Az üzenetet az egyik vezető munkatárs, Mira Murati küldte, és ebben bizonyos sajtóhírekre figyelmeztette a munkatársakat, anélkül, hogy azok pontosságát kommentálta volna. Az OpenAI-nál néhányan úgy vélik, hogy a Q* áttörést jelenthet az úgynevezett mesterséges általános intelligencia (AGI) kutatásában. Az OpenAI az AGI-t olyan autonóm rendszerekként definiálja, amelyek a legtöbb gazdaságilag értékes feladatban felülmúlják az embert. Az új modell hatalmas számítási erőforrások birtokában képes volt bizonyos matematikai problémák megoldására. Bár csak az általános iskolások szintjén szerepelt, a tesztek teljesítése nagyon optimistává tette a kutatókat a Q* jövőbeli sikereit illetően.

Ez azért különleges dolog, mert kutatók a matematikát tekintik a generatív mesterséges intelligencia fejlesztése egyik határterületének. Jelenleg a generatív mesterséges intelligencia az írás és a nyelvi fordítás terén teljesít jól: az általa adott válaszok statisztikai valószínűségen alapulnak, csak megjósolja a következő szót, így az ugyanarra a kérdésre adott válaszok nagyon eltérőek lehetnek. De a matematikai képesség meghódítása - ahol csak egy helyes válasz létezik - azt jelenti, hogy az MI nagyobb, az emberi intelligenciához hasonló következtetési képességekkel rendelkezne. Ezt például újszerű tudományos kutatásokban lehetne alkalmazni, vélik az MI-kutatók. Egy számológéppel ellentétben, amely korlátozott számú műveletet képes megoldani, az AGI képes általánosítani, tanulni és megérteni.

A testületnek írt levelükben a kutatók az MI képességeit és potenciális veszélyeit emelték ki - közölték a források anélkül, hogy pontosan meghatározták volna a levélben jelzett biztonsági aggályokat. Az informatikusok között már régóta folyik a vita a magas intelligenciájú gépek jelentette veszélyről, például arról, hogy esetleg úgy döntenének-e, hogy az emberiség elpusztítása az érdekükben áll. A kutatók egy újonnan létrehozott csapat munkáját is megjelölték, amelynek létezését több forrás is megerősítette. A csoport a korábbi "Code Gen" és "Math Gen" csapatok egyesítésével jött létre, és azt vizsgálta, hogyan lehet optimalizálni a meglévő MI-modelleket, hogy javítsák érvelésüket, és végül tudományos munkát végezzenek.

Altman vezette azokat az erőfeszítéseket, amelyek a ChatGPT-t a történelem egyik leggyorsabban növekvő szoftveralkalmazásává tették, és a Microsofttól megszerezte a szükséges tőkét és számítási erőforrásokat, hogy közelebb kerüljön az AGI-hoz. Altman a múlt héten a világ vezetőinek San Franciscóban tartott csúcstalálkozóján azt mondta, hogy jelentős előrelépések vannak kilátásban. "Az OpenAI történetében már négyszer, legutóbb éppen az elmúlt néhány hétben volt alkalmam ott lenni a teremben, amikor a tudatlanság fátylát hátrébb toltuk, és a felfedezés határát előretoltuk. Ezt megtenni életem szakmai megtiszteltetése" - mondta az Ázsiai-Csendes-óceáni Gazdasági Együttműködés csúcstalálkozóján.

Egy nappal később az igazgatótanács kirúgta Altmant.