A matekot ugynevezett aritmetikai es logikai egysegek szamoljak. Ezekbol van egesz es lebegopontos, mindenfele adatmerettel. Ezeket vezerloaramkorok vezerlik a program alapjan. A gpu-kban az volt a nagy ujitas, hogy egy vezerles egyszerre tobb ALU-t tud iranyitani, azonos parancsokkal, de eltero adatokkal. Ez akkor jo ha ugyanazokat a lepeseket kell elvegezni sok adaton, mert igy kisebb aramkor kell, tehat tobb fer beloluk egy chipre. A nagyon regi processzorokban csak integer ALU volt, mert sokkal egyszerubb. MI eseten is eleg az integer alapu fixpontos matek, igy tobb ALU fer egymas melle azonos tranzisztor szam eseten.
"Hol lehet releváns dolgokat olvasni?"
Szinte csak tudomanyos publikaciokban. A cegek raultek a sajat kutatasi eredmenyeikre, de az egyetemi anyagok szerencsere meg publikusak.
Köszi így már értem akkor nagyon naprakész vagy ezzel kapcsolatban. Hol lehet releváns dolgokat olvasni? Mert a bulvár nem érdekel, mélyebben érdekelne de azzal meg kb úgy találkoztam hogy van 56 programkönyvtár valami minimális dokumentációval és good luck :D
A klasszikus neuralis modellek lebegopontosak voltak, de viszonylag hamar elterjedtek a fixpontos megoldasok es most mar a 8, sot a 4 bites integer alapu modellekkel probalkoznak. Reszben hogy csokkentsek a rendszerek memoriaigenyet, reszben az integer muveletek gyorsabb vegrehajthatosaga miatt. Amennyiben a sulytenyezok egy adott kisebb es jol behatarolhato intervallumon belul vannak, akkor at lehet skalazni fixpontos vagy akar integer alapura oket. Ez azt jelenti, hogy pl. a +-2.147483647 kozti sulyok beskalazhatoak a +-2147483647 kozti tartomanyba es onnantol 32 bites integer egysegekkel kezelhetoek. (de pl. a +-2147.483648 kozotti is ugyanoda skalazhato, csak a fix tizedespont helye es a szamitasi precizitas valtozik) Ez a modszer csak a jelentos nagysagrendekkel eltero sulyokat es +-vegtelent zarja ki, de a legtobb neuralis matrix normalt, 0-ra levagva a precizitas miatt alul kieso sulyokat. Ez sokat segit, mivel igy sparse-a teheto a matrix, ami igy gyorsabban futtathato.
ps: A nagy memoriaigeny a pciexpress csatlasokon at kezelheto kulso tarolokkal is (ram, ssd, akar merevlemez is), de a leggyakoribb megoldas a cluster-ezes, amikor egy nagy matrixot tobb neuralis egyseg (kartya) kozott osztanak szet es igy csak az egysegek kozott atmeno kapcsolatok jeleit kell atvinni a feldolgozo kartyak kozott. Ezt a helyi csoportositast egyebkent az emberi agy is hasznalja. Az agyon belul jelentosen surubbek a helyi kapcsolatok mint a mas teruletekre atmenoek.
Én úgy tudtam lebegőpontos kell mert a vektor mátrixban is azok vannak, de végül is átalakítható az. A tárhely stb hiányát meg valahogy megoldják? Végül is itt akkora pénzekről van szó hogy valaki legyártja hogy futtatható legyen biztos, de érdekelne a folyamata is.
A hash-eleshez veszett gyors integer alu (egesz szamos matematikai) egysegek kellenek. Az MI minta betanitashoz is. Az altalanos gpu-k lebegopontosban jok, de az se a hash-eleshez, se a minta betanitashoz nem kell, igy kihagyhato.
Ami nem teljesen celhardver, hanem programozhato parhuzamos integer alu-kbol all, az pont jo neuralis halozatot tanitani vagy futtatni.
Raadasul kep, hang es videofelismereshez a hash generalashoz ugyancsak pont jok.
Nem varazslat egyik hardver sem, ugyanazok a vezerlo logikak csak a matematikai es logikai fuggvenykeszletek meg az elerheto adattipusok ternek el a kulonbozo celfeladatok kozott. Az integer neuralis matrix es a kripto veletlen pont azonost igenyel.
Nem igazán értem, mikor a BTC minerek külön hashelésben jó chipek fejlesztettek és a minerek azzal vannak tele MI-hez meg tenzor és CUDA chipek kellenének. Persze lehet, hogy valamilyen részfeladatot fel lehet úgy bontani hogy a nem standard mineren is lefusson, de azért vannak kételyeim ki szeretne ezzel szarakodni, meg hogy az egész betanítás lefutna minerparkon.
Informatika és tudomány
