Nevronska omrežja (NN) so navdihnili možgani, uporaba nevroznanstvene terminologije (nevroni in sinapse) za razlago nevronskih omrežij pa je nevroznanstvenike vedno vznemirjala, saj je sedanja generacija nevronskih omrežij zelo različna od delovanja možganov.
Renesas Electronics
Avtor: Eldar Sido
Kljub navdihu se splošna struktura, nevronski izračuni in tehnike učenja med sedanjo drugo generacijo nevronskih mrež in možgani močno razlikujejo. Ta primerjava je nevroznanstvenike tako razburila, da so se začeli ukvarjati s tretjo generacijo omrežij, ki so bolj podobna možganom, imenovanih konična nevronska omrežja (angl. Spike Neural Networks SNN), s strojno opremo, ki jih lahko izvaja, to je nevromorfna arhitektura.
Igelna nevronska omrežja
SNN so vrsta umetnih nevronskih mrež (ANN), ki se bolj zgledujejo po možganih kot njihova druga generacija, s ključno razliko, da so SNN prostorsko-časovna nevronska omrežja, tj. da pri svojem delovanju upoštevajo čas. SNN delujejo na diskretnih konicah, ki jih določa diferencialna enačba, ki predstavlja različne biološke procese. Kritični trenutek je sprožitev po tem, ko je dosežen membranski potencial nevrona (“prožitveni” prag), kar se zgodi tako, da se v tem nevronu sprožijo konice v določenem časovnem zaporedju. Možgane sestavlja 86 milijard računskih enot, imenovanih nevroni, ki prek dendritov sprejemajo vhodne podatke iz drugih nevronov, ko vhodni podatki presežejo določen prag, se nevron sproži in prek sinapse pošlje električni impulz, sinaptična teža pa nadzoruje obseg impulza, poslanega naslednjemu nevronu. Za razliko od drugih umetnih nevronskih mrež se nevroni SNN v različnih plasteh omrežja sprožajo asinhrono in prihajajo ob različnih časih, medtem ko se po navadi informacije po plasteh širijo glede na sistemsko uro. Prostorsko-časovna lastnost SNN skupaj z diskontinuirano naravo konic pomeni, da so lahko modeli bolj redko razporejeni, saj se nevroni povezujejo le z ustreznimi nevroni in uporabljajo čas kot spremenljivko, kar omogoča gostejše kodiranje informacij v primerjavi s tradicionalnim binarnim kodiranjem ANN. Zaradi tega so SNN računalniško zmogljivejši in učinkovitejši.
Asinhrono obnašanje SNN in potreba po izvajanju diferencialnih enačb sta za tradicionalno strojno opremo računsko zahtevna, zato je bilo treba razviti novo arhitekturo. Tu nastopi nevromorfna arhitektura.
Nevromorfna arhitektura
Nevromorfna arhitektura je ne-von Neumanova arhitektura, ki jo navdihujejo možgani, sestavljeni iz nevronov in sinaps. V nevromorfnih računalnikih se obdelava in shranjevanje podatkov izvajata v istem območju, kar ublaži Von Neumanovo ozko grlo, ki upočasnjuje največjo zmogljivost, ki jo lahko dosežejo tradicionalne arhitekture, saj je treba podatke iz pomnilnika v procesne enote prenašati razmeroma počasi. Poleg tega nevromorfna arhitektura naravno podpira SNN in sprejema konice kot vhode, kar omogoča kodiranje informacij v času prihoda, velikosti in obliki konic. Ključne značilnosti nevromorfnih naprav so torej njihova inherentna skalabilnost, računanje na podlagi dogodkov in stohastičnost, saj ima lahko proženje nevronov občutek naključnosti, zaradi česar je nevromorfna arhitektura privlačna zaradi delovanja z izjemno nizko porabo energije, ki je običajno za več magnitud manjša kot pri tradicionalnih računalniških sistemih.
Napoved nevromorfnega trga
Tehnološko lahko nevromorfne naprave igrajo veliko vlogo v prihajajoči dobi umetne inteligence na robovih in končnih točkah. Za razumevanje pričakovanega povpraševanja v industriji je treba pogledati napovedi raziskav. V skladu s poročilom družbe Sheer Analytics & Insights se pričakuje, da bo svetovni trg za nevromorfno računalništvo do leta 2028 dosegel 780 milijonov dolarjev s 50,3-odstotno rastjo CAGR [1]. Družba Mordor Intelligence pa pričakuje, da bo trg do leta 2026 dosegel 366 milijonov dolarjev s 47,4-odstotno stopnjo rasti [2], na spletu pa je mogoče najti še veliko drugih tržnih raziskav, ki kažejo na podobno rast. Čeprav se številke napovedi med seboj ne ujemajo, pa je nekaj stalno – povpraševanje po nevromorfnih napravah naj bi se v prihodnjih nekaj letih drastično povečalo, podjetja za tržne raziskave pa pričakujejo, da bodo nevromorfne naprave za različne aplikacije sprejele različne industrije, kot so avtomobilska, mobilna in medicinska.
Nevromorfni TinyML
Ker gre pri TinyML (tiny machine learning) za izvajanje ML in NN na napravah z omejenim pomnilnikom/procesorjem, kot so mikrokontrolerji (MCU), je vključitev nevromorfnega jedra za primere uporabe TinyML naraven korak, saj ima več očitnih prednosti.
Nevromorfne naprave so procesorji, ki temeljijo na dogodkih in delujejo na neničelnih dogodkih. Konvolucija in točkovni produkti, ki temeljijo na dogodkih, so bistveno manj računsko potratni, saj se ničle ne obdelujejo. Učinkovitost konvolucije, ki temelji na dogodkih, se še izboljša z večjim številom ničel v filtrirnih kanalih ali jedrih. To skupaj z aktivacijskimi funkcijami, kot je Relu, ki so osredotočene okoli ničle, zagotavlja lastnost redkosti aktivacije, ki je lastna procesorjem, ki temeljijo na dogodkih, in tako zmanjšuje učinkovite MAC zahteve.
Nadalje se lahko pri procesiranju nevromorfnih naprav uporabljajo bolj omejene kvantizacije, kot so 1-, 2- in 4-bitne kvantizacije, v primerjavi z običajnimi 8-bitnimi kvantizacijami na ANN. Poleg tega imajo nevromorfne naprave (kot je Akida podjetja Brainchip) edinstveno zmožnost učenja na robu, saj so SNN vgrajene v strojno opremo. To pri običajnih napravah ni mogoče, saj le simulirajo nevronsko mrežo s Von Neumannovo arhitekturo, zaradi česar je učenje na robu računsko drago, z velikimi presežnimi stroški pomnilnika, kar je izven proračuna TinyML sistemov. Poleg tega za usposabljanje NN modela cela števila ne bi zagotovila zadostnega obsega za natančno usposabljanje modela, zato usposabljanje z 8 biti trenutno ni izvedljivo na tradicionalnih arhitekturah. Pri tradicionalnih arhitekturah je trenutno nekaj izvedb učenja na robu z algoritmi strojnega učenja (avtoenkoderji, odločitvena drevesa) doseglo proizvodno fazo za preproste primere uporabe za analitiko v realnem času, medtem ko so NN še vedno v fazi raziskav.
Če povzamemo, so prednosti uporabe nevromorfnih naprav in SNN sledeče:
- Izjemno nizka poraba energije (mili do mikrodžul na zaključek)
- Manjše zahteve glede MAC v primerjavi z običajnimi NN
- Manjša poraba pomnilnika parametrov v primerjavi z običajnimi NN
- Najsodobnejše učne zmožnosti
Primeri uporabe nevromorfnega TinyML
Po vsem povedanem lahko mikrokontrolerji z nevromorfnimi jedri izstopajo v primerih uporabe v celotni industriji s svojimi značilnostmi učenja na robu, kot so:
Pri aplikacijah za odkrivanje anomalij za obstoječo industrijsko opremo, kjer je uporaba oblaka za usposabljanje modela neučinkovita, bi dodajanje končne AI naprave na motor in usposabljanje na robu omogočilo enostavno razširljivost, saj se staranje opreme običajno razlikuje od stroja do stroja, tudi če gre za isti model.
V robotiki se sklepi robotskih rok sčasoma obrabijo, postanejo neusklajeni in prenehajo delovati, kot je predvideno. Ponovno nastavljanje krmilnika na robu brez človeškega posredovanja zmanjšuje potrebo po klicu strokovnjaka, zmanjšuje čas izpada ter prihrani čas in denar.
Pri aplikacijah za prepoznavanje obrazov bi moral uporabnik dodati svoj obraz v nabor podatkov in ponovno usposobiti model v oblaku. Nevromorfna naprava lahko z nekaj posnetki obraza osebe prepozna končnega uporabnika z učenjem na robu. To omogoča, da so podatki uporabnikov zavarovani v napravi in da je izkušnja bolj brezhibna. To se lahko uporablja v avtomobilih, kjer imajo različni uporabniki različne preference glede položaja sedeža, klimatske naprave itd.
V aplikacijah za iskanje ključnih besed je dodajanje dodatnih besed, ki jih naprava prepozna na robu. Uporablja se lahko v biometričnih aplikacijah, kjer oseba doda “skrivno besedo”, za katero želi, da je v napravi varna.
Zaradi ravnovesja med izjemno majhno močjo nevromorfnih končnih naprav in izboljšano zmogljivostjo so primerne za dolgotrajne aplikacije, ki se napajajo na baterije, in izvajajo algoritme, ki jih druge naprave z majhno močjo zaradi računskih omejitev ne omogočajo. Ali obratno, saj so zmogljivejše naprave s podobno procesorsko močjo preveč potratne. Primeri uporabe vključujejo:
Pametne ure, ki spremljajo in obdelujejo podatke na končni točki ter v oblak pošiljajo le ustrezne informacije.
Senzorji pametne kamere za zaznavanje ljudi za izvedbo logičnega ukaza. Na primer samodejno odpiranje vrat, ko se jim približuje oseba, saj trenutna tehnologija temelji na senzorjih bližine.
Območje brez možnosti povezovanja ali polnjenja, na primer v gozdovih za pametno sledenje živalim ali spremljanje morebitnih razpok pod oceanskimi cevmi z uporabo podatkov o vibracijah, vidu in zvoku v realnem času.
Za primere uporabe v spremljanju infrastrukture, kjer se lahko nevromorfni MCU uporablja za neprekinjeno spremljanje premikov, vibracij in strukturnih sprememb na mostovih (preko slik), da se ugotovijo morebitne okvare.
Sklepne ugotovitve
“Renesas kot vodilni proizvajalec polprevodnikov se zaveda velikega potenciala nevromorfnih naprav in SNN, zato smo pri Brainchipu [3], prvem komercialnem proizvajalcu nevromorfnega IP na svetu, licencirali nevromorfno jedro,” je dejal Sailesh Chittipeddi, izvršni podpredsednik in generalni direktor poslovne enote IoT in Infrastruktura pri podjetju Renesas. “Na zelo nizki ravni smo dodali ARM M33 MCU in nevronsko omrežje s konicami z licenčnim jedrom BrainChip za izbrane aplikacije – pri BrainChipu smo licencirali vse, kar je treba, vključno s programsko opremo, da bi lahko začeli delati.” [4]
Ker si podjetje Renesas prizadeva za inovacije in razvoj najboljših možnih naprav na trgu, z navdušenjem pričakuje, kako bo ta inovacija prispevala k lažjemu življenju.
O avtorju
Eldar Sido, strokovnjak za trženje izdelkov, Renesas Electronics
Eldar Sido dela v skupini za upravljanje trženja izdelkov za družino MCU, ki temeljijo na ARM, pri podjetju Renesas Electronics. Specializiran je za tehnični vidik implementacije umetne inteligence v končnih točkah na mikrokontrolerjih. Na Univerzi v Tokiu je magistriral iz nanotehnologije.
Viri
[1] “Neuromorphic computing market –industry analysis, size, share, growth, trends, and forecast, 2020-2028.,” sheeranalyticsandinsights.com. [Online]. Available: https://www.sheeranalyticsandinsights.com/market-report-research/neuromorphic-computing-market-21/ [Accessed: 23-Aug-2022].
[2] “Neuromorphic chip market growth, forecast (2022-27): Industry trends,” Neuromorphic Chip Market Growth, Forecast (2022-27) | Industry Trends. [Online]. Available: Neuromorphic Chip Market Growth, Forecast (2022-27) | Industry Trends (mordorintelligence.com) . [Accessed: 23-Aug-2022].
[3] “BrainChip’s Akida set for spaceflight via NASA as Renesas Electronics America signs First IP agreement,” Small Caps, 23-Dec-2020. [Online]. Available: BrainChip’s Akida set for spaceflight via NASA as Renesas Electronics America signs first IP agreement (smallcaps.com.au). [Accessed: 23-Aug-2022].
[4] ARM battles RISC-V at Renesas. [Online]. Available: ARM battles RISC-V at Renesas – eeNews Europe. [Accessed: 23-Aug-2022].
