Neuroniniai tinklai su šuoliais (Spiking neural networks, SNN) yra dirbtinio intelekto (DI) modeliai, įkvėpti to, kaip biologiniai neuronai bendrauja tarpusavyje. Nors biologiniai neuronai keičiasi informacija elektros impulsų forma, SNN remiasi trumpais signalais, vadinamais šuoliais.
Dvigubos atminties kelio abstrakcija. Algoritminiu lygmeniu kiekvienas sluoksnis palaiko bendrą, žemo matmens būseną, kuri fiksuoja lėtą kontekstinę dinamiką ir moduliuoja greitą šuolių aktyvumą. Aparatinės įrangos lygmeniu šį atskyrimą atspindi heterogeninis greitintuvas, kuris išlaiko kompaktišką būseną luste ir sujungia retus ir tankius skaičiavimus efektyviam vykdymui. Nuotrauka: Sun ir kt.
SNN pasirodė esą perspektyvūs mažinant energijos suvartojimą, nes kūrėjai gali užtikrinti, kad jie neapdoroja informacijos nuolat, o tik tada, kai įvyksta reikšmingų pokyčių. Tai galėtų būti labai naudinga, nes žinoma, kad dabartinės dirbtinio intelekto sistemos sunaudoja daug energijos.
Nors kai kurie anksčiau pristatyti SNN pasiekė daug žadančių rezultatų, jiems paprastai sunku ilgai išlaikyti naudingą informaciją (t. y. kontekstą). Tai pasirodė esanti ypač sudėtinga, kai modeliai turi tik ribotą duomenų saugyklos kiekį arba veikia esant energijos apribojimams.
Londono Imperatoriškojo koledžo ir Ciuricho ETH tyrėjai neseniai pristatė naują bendrai sukurtą aparatinę ir programinę įrangą, kuri galėtų įveikti šį SNN apribojimą. Jų siūloma architektūra, pristatyta žurnale „Nature Machine Intelligence“ paskelbtame straipsnyje, sėkmingai sprendžia ilgos sekos užduotis ir tuo pačiu sumažina duomenų saugojimo reikalavimus.
„Neuroniniai tinklai su šuoliais puikiai atlieka įvykių valdomą jutimą“, – savo straipsnyje rašė Pengfei Sun, Zhe Su ir jų kolegos. „Vis dėlto užduočiai aktualaus konteksto išlaikymas per ilgą laiką tiek algoritmiškai, tiek aparatine įranga, kartu atsižvelgiant į ribotus energijos ir atminties biudžetus, išlieka pagrindiniu iššūkiu šioje srityje. Šį iššūkį sprendžiame bendrai kurdami algoritmų ir aparatinės įrangos projektus.“
DMP architektūros aparatinės įrangos projektavimas. Šaltinis: „Nature Machine Intelligence“ (2026). DOI: 10.1038/s42256-026-01255-3
Nauja smegenų įkvėpta dvigubos atminties sistema
Ankstesni tyrimai parodė, kad nors kai kurie neuroniniai procesai yra itin greiti, kiti yra lėti ir leidžia smegenims ilgiau išsaugoti informaciją. Sun, Su ir jų kolegų sukurta architektūra buvo sukurta dirbtinai imituoti šį greitų ir lėtų neuroninių procesų, stebimų žmogaus smegenyse, derinį.
Komanda kartu sukūrė programinės ir aparatinės įrangos komponentus, kurie vienas kitą papildo, įtraukdami principus, įkvėptus greitos ir lėtos smegenų veiklos. Programinės įrangos komponentus sudaro daugiasluoksnis SNN, kuris sujungia lėtą atminties kelią su greitu impulsų aktyvumu.
„Algoritmo lygmeniu, įkvėpti smegenų žievės greitos ir lėtos organizacijos, pristatome neuroninį tinklą su aiškiai apibrėžtu lėtos atminties keliu, kuris kartu su greitu šuoliavimu įgalina dvigubos atminties kelio architektūrą, kurioje kiekvienas sluoksnis palaiko kompaktišką žemos dimensijos būseną, apibendrinančią naujausią veiklą ir moduliuoja šuoliavimo dinamiką“, – rašė autoriai.
„Ši aiškiai apibrėžta atmintis stabilizuoja mokymąsi, kartu išsaugant įvykių valdomą retumą, pasiekdama konkurencingą tikslumą ilgų sekų etalonuose su 40–60 % mažiau parametrų nei atitinkami modernūs neuroniniai tinklai.“
Pagrindinis komandos dvigubos atminties architektūros privalumas yra tas, kad ji gali efektyviai apdoroti gaunamus duomenis, kartu kompaktiškai išsaugodama svarbią, su užduotimi susijusią informaciją. Komanda taip pat sukūrė specializuotą aparatinę įrangą, optimizuotą jų SNN veikimui.
„Aparatinės įrangos lygmeniu pristatome atminties skaičiavimo architektūrą, kuri visapusiškai išnaudoja dvigubos atminties kelio architektūros privalumus, išlaikydama kompaktišką bendrą būseną ir optimizuodama duomenų srautą nevienalyčiuose retų smaigalių ir tankios atminties keliuose“, – rašė Sun, Su ir jų kolegos.
Pradiniai rezultatai ir galimi realaus pasaulio pritaikymai
Tyrėjai įvertino savo siūlomą SNN ir bendrai sukurtą aparatinę įrangą atlikdami seriją pradinių bandymų. Jie konkrečiai įvertino greitį, kuriuo jų architektūra atliko ilgos sekos užduotis (t. y. užduotis, apimančias ilgų duomenų srautų apdorojimą), jos energijos suvartojimą ir kiek duomenų ji galėjo apdoroti per nustatytą laiką.
„Eksperimentiniai rezultatai rodo daugiau nei keturis kartus padidėjusį pralaidumą ir daugiau nei penkis kartus pagerintą energijos vartojimo efektyvumą, palyginti su pažangiausiais įgyvendinimais“, – rašė autoriai. „Kartu šie indėliai rodo, kad biologiniai principai gali padėti kurti funkcines abstrakcijas, kurios yra ir algoritmiškai efektyvios, ir aparatinės įrangos požiūriu, sukurdami keičiamo mastelio bendro projektavimo sistemą realaus laiko neuromorfiniam skaičiavimui ir mokymuisi.“
Naujasis SNN ir techninė įranga, kurią sukūrė Sun, Su ir jų kolegos, netrukus galėtų būti toliau tobulinami ir išbandyti platesniame skaičiavimo užduočių spektre. Ateityje tai galėtų sudaryti sąlygas greitai analizuoti didelius duomenų kiekius realiuoju laiku ir esant energijos apribojimams. Tai galėtų būti vertinga įvairioms realaus pasaulio programoms – nuo robotikos iki nešiojamų įrenginių, dirbtinio intelekto ir kelių sujungtų jutiklių tinklų.
Algorithm–hardware co-design of neuromorphic networks with dual memory pathways. Nature Machine Intelligence(2026). DOI: 10.1038/s42256-026-01255-3.
Journal information:Nature Machine Intelligence
Dirbtinis intelektas ekonomikoje: augimo variklis ar naujas neapibrėžtumo šaltinis?