A felhő helyett a PC-ken futtatná a Copilotot a Microsoft

Az Intel és a Microsoft a Copilot helyi futtatásán dolgozik, de az MI PC-k követelményei nincsenek meghatározva.

A Microsoft januárban azt mondta, hogy 2024 az "MI PC" éve lesz, melyekbe szerelni fognak néhány olyan hardverkomponenst, amelyet a legtöbb Windows rendszerben jelenleg nincs - nevezetesen egy beépített neurális feldolgozóegységet (NPU) és a Microsoft új Copilot billentyűjéről van szó. Arról azonban eddig nem sokat hallottunk, hogy az úgynevezett MI PC valójában mit fog nyújtani a felhasználóknak. A Microsoft és az Intel egy új fejlesztői programról szóló bejelentés részeként megosztott néhány részletet, amely arra ösztönzi majd a szoftverfejlesztőket, hogy a helyi hardver erejét kihasználva MI funkciókat építsenek be alkalmazásaikba.

A Microsoft chatbotja most még a kisebb kéréseknél is szerveroldali feldolgozásra támaszkodik, ami késleltetést eredményez. Ez elviselhető, ha széleskörű információkérésről van szó, de kevésbé, ha csak egy beállítást szeretnénk megváltoztatni vagy alapvető válaszokat kapni. A generatív MI-modellek helyi futtatása javíthatná a felhasználók adatvédelmét is, lehetővé téve az MI-alapú szoftverek használatát anélkül, hogy automatikusan elküldenénk az információkat egy olyan vállalatnak, amely azokat modelljeinek további képzésre használja fel.


Jelenleg a Windows nem sok mindenre használja a helyi NPU-kat, mivel a legtöbb jelenlegi PC-kben nincs is ilyen. Egyetlen ismert alkalmazás a Surface Studio, amelynél a webkamera funkció videoeffektjei és háttércseréje energiatakarékosabb a chip használatával. Az Apple és a Google operációs rendszerei egyaránt használnak NPU-kat a kép- és hangfeldolgozási funkciók szélesebb skálájához, beleértve az arc- és tárgyfelismerést, az OCR-t, az élő átírást és fordítást és még sok minden mást.

Az Intel közölte, hogy a "következő generációs mesterséges intelligencia PC-kben" az NPU-knak 40 billió művelet/másodperc (TOPS) sebességet kell elérniük, hogy megfeleljenek a követelményeknek. A chipgyártók a TOPS-t használják teljesítménymérőként az NPU-k összehasonlításakor; az Intel Meteor Lake laptopchip sebessége 10 TOPS, az AMD Ryzen 7040 és 8040 laptop chipjei pedig rendre 10, illetve 16 TOPS-t érnek el. Az Intel szerencsétlenségére az első cég, amelyik a Copilot helyi meghajtására alkalmas NPU-t dob ki, a Qualcomm lehet. A vállalat közelgő Snapdragon X processzorai - amelyeket régóta a Windows ökoszisztéma válaszaként tekintenek az Apple M-sorozatú Mac chipjeire - akár 45 TOPS-t ígérnek. Pletykák szerint a Microsoft a Surface táblagépének fogyasztói változatát a Qualcomm chipjeire állítja át, miután néhány évig mind az Intel, mind a Qualcomm elérhető volt. (A Microsoft a múlt héten jelentette be az Intel Meteor Lake chipjeivel ellátott Surface Pro frissítést, de azt csak vállalkozásoknak árulja.)


Mindezek alapján a TOPS csak egy egyszerűsített teljesítménymérő. A grafikus teljesítmény összehasonlításához használt FLOPS-okhoz hasonlóan ez is pontatlan, és nem ragadja meg az egyes NPU-k különböző feladatok megoldására tett eltéréseit. A Windows Arm verziójának pedig még mindig vannak szoftver- és hardverkompatibilitási problémái, amelyek továbbra is hátráltathatják. Fejlesztői programjának részeként az Intel egy "MI PC fejlesztőkészletet" is kínál, amelynek középpontjában egy Asus NUC Pro 14, az Intel Meteor Lake szilíciumára épülő mini PC áll. Az Intel tavaly hivatalosan leállította a NUC mini PC-k gyártását, a márkát és az összes tervét átadva az Asusnak. Az Asus kezeli az Intel által tervezett és értékesített régebbi NUC-ok garanciális szervizelését és szoftvertámogatását is. A NUC Pro 14 az egyik első új NUC, amelyet az átállás óta bejelentettek, a ROG NUC mini játék-PC-vel együtt.