Zlasti v industrijskem okolju se aplikacije in storitve z umetno inteligenco vedno bolj integrirajo na mikrokrmilniških platformah. Z mikrokrmilniško platformo za obrobno inteligenco (angl. Edge Intelligence) za sisteme IoT iz podjetja Rutronik imajo zdaj razvijalci strojne opreme in vgrajene programske opreme popolno rešitev za svoje obrobne aplikacije z umetno inteligenco.
Končni uporabniki in končne naprave na obrobju omrežja pogosto proizvajajo ogromne količine podatkov, vključno s takšnimi, ki so občutljivi s stališča varstva osebnih podatkov, na primer podatke o položaju, posnetke zdravstvenega stanja ter dejavnosti ali informacije o proizvodnji. Če jih analiziramo v oblaku ali na obrobnih strežnikih, je prisotno veliko tveganje kršenja varstva osebnih podatkov – tudi če so izpolnjene zakonske zahteve, na primer Splošna uredba o varstvu podatkov (SUVP/GDPR).
V industriji so avtomatizacijo in krmiljenje v realnem času pred leti razvijali kot pretežno neodvisne sisteme. Zdaj pa so medsebojno povezani z omrežji, ki omogočajo razkrivanje ali celo poseganje v občutljive podatke. Arhitektura sistemov največkrat nima primerne zaščite pred takimi napadi. Zaradi tega je varnost podatkov in algoritmov zelo visoka prioriteta industrijskih podjetij.
Sprememba paradigme s prehodom iz oblaka na obrobje
Obrobna inteligenca (angl. Edge Intelligence), tj. samostojno učenje na samih končnih napravah, je ena od možnosti za porazdeljeno strojno učenje, usklajeno s potrebo po varstvu podatkov. Izvirni zapisi podatkov ostanejo pri tem v napravah ali vozliščih, v katerih so nastali. Kljub temu pa je mogoče parametre modela umetne inteligence v obrobnih napravah uporabiti za več končnih naprav.
Za obrobno inteligenco mora digitalna obdelava signalov z umetno inteligenco potekati v čelnem delu sistema (I)IoT (angl. (Industrial) Internet of Things – (industrijski) internet stvari). To pomeni resnično spremembo paradigme, saj prehajamo iz umetne inteligence v oblaku na inteligentno digitalno obdelavo signalov na kraju samem v končni napravi.
Za zaupanja vredne storitve z umetno inteligenco različnih ponudnikov je zato potreben decentralizirani model zaupanja. Z novimi porazdeljenimi varnostnimi mehanizmi je mogoče zagotoviti overjanje uporabnikov, nadzor dostopa, celovitost modelov in podatkov ter vzajemno preverjanje platform. Če ni mogoče izključiti, da so v omrežju hkrati prisotna zaupanja vredna in »zlonamerna« obrobna vozlišča, so za zagotavljanje storitev z umetno inteligenco potrebne tudi sheme varnega usmerjanja in zaupanja vredne topologije omrežij. Vsi komunikacijski procesi z mikrokrmilnikom in pomnilnikom zahtevajo nove varnostne mehanizme z zaupanja vrednimi območji (angl. Trusted Zone) ter algoritmi, ki temeljijo na kriptografiji. To velja za celoten proces od programiranja in učenja algoritmov do praktične izvedbe na kraju samem.
Odločilna merila za sisteme, ki delujejo z obrobno inteligenco
Vsaj šest meril je odločilnih za delovanje sistemov, ki temeljijo na obrobni inteligenci. Ta imajo glavno vlogo tudi pri zasnovi mikrokrmilniške platforme za obrobno inteligenco v sistemih IoT RUTDevKit-STM32L5 podjetja Rutronik:
1. Zakasnitev
Zakasnitev je izraz za obdobje, ki vključuje procesa odločanja in sklepanja (postopek sklepanja), vključno s predhodno obdelavo, modelskim sklepanjem, prenosom podatkov ter naknadno obdelavo. Če predpostavimo zakasnitev 100 ms za celotni proces, mora biti na primer obdelava podatkov analognega tipala bistveno hitrejša. Stroge časovne omejitve veljajo predvsem za mobilne aplikacije v realnem času, kot so robotika, vzdrževanje s predvidevanjem (angl. Predictive Maintenance) ali združevanje podatkov iz tipal. Takrat so potrebne frekvence vzorčenja približno 100 kHz in ustrezna predhodna obdelava signala. V kompletu RUTDevKit-STM32L5 omogočajo upoštevanje predpisanih zakasnitev hitri analogno/digitalni pretvorniki (ADC) mikrokrmilnika STM32L05.
Na zakasnitev pa vplivajo tudi drugi dejavniki, na primer viri obrobnih naprav, način prenosa podatkov in način izvedbe nevronske mreže v programski opremi. Komplet RUTDevKit-STM32L5 ima vmesnik Octo-SPI za pomnilnik PSRAM in vmesnik Quad-SPI za bliskovni pomnilnik NOR, kar dodatno poveča primernost sistema za obdelavo v realnem času. S tem je zagotovljen najhitrejši možen prenos podatkov.
2. Točnost
Točnost se nanaša na model za učenje umetne inteligence in s tem tudi na rezultate modela umetne inteligence. Izhaja iz razmerja med številom vzorcev podatkov, pri katerih dobimo pravilne rezultate pri sklepanju, in skupnim številom vzorcev podatkov. Vplivni dejavniki vključujejo hitrost, s katero se vhodni podatki dovajajo v model umetne inteligence. Pri aplikaciji za analizo slike lahko pride na primer zaradi velike hitrosti vnosa podatkov in omejenih virov obrobne naprave do preskakovanja podatkov. To zmanjša točnost. Sistem brez kamer, na primer zaznavanje mrtvega kota v avtomobilu, ki temelji na impulznih infrardečih tipalih, bo v primerjavi s tem dal veliko hitrejši in točnejši rezultat odločitve. Ravno za take načine uporabe so mikrokrmilniške platforme z decentralizirano inteligenco kot nalašč.
Vrednotenje kretenj brez kamer na podlagi obrobne inteligence z zelo kratkimi zakasnitvami omogoča na primer družina Halios iz podjetja Elmos. Halios je kratica za angleški izraz High Ambient Light Independent Optical System (optični sistem, ki je zelo neodvisen od svetlobe okolja). Njegovi zelo občutljivi deli prepoznavajo geste brez mehanskih elementov in brez sistemov s kamerami ter se odlično kombinirajo s kompletom RUTDevKit-STM32L5.
3. Poraba energije
Potrebna računska in komunikacijska moč pri ocenjevanju z modelom umetne inteligence zahteva razmeroma veliko porabo energije. Če je model umetne inteligence izveden v končnih napravah, lahko to pomeni težavo, saj te, za razliko od obrobnih strežnikov in računalniških središč za storitve v oblaku, večinoma delujejo z baterijskim napajanjem. Za aplikacije z umetno inteligenco je zato pomembna energetska učinkovitost. Odvisna je od velikosti oz. zapletenosti modela umetne inteligence in virov obrobnih naprav. Porabo energije zmanjšajo učinkovita raba pomnilnika in komunikacije ter visokozmogljivi mikrokrmilniki z nizko porabo.
4. Varstvo podatkov
Aplikacije in naprave (I)IoT proizvajajo veliko podatkov, od katerih je treba številne varovati. Zato je treba v bližini vira podatkov za aplikacije z umetno inteligenco zagotoviti zasebnost in varstvo podatkov. Pri tem je odločilno, kako se obdelujejo izvorni podatki. Zato je nujno, da imamo »območje zaupanja« (angl. Trust Zone) v mikrokrmilniku in pomnilniku, torej navidezno območje s strojnim nadzorom dostopa. Pri tem sta odločilna upravljanje zavarovanih in nezavarovanih območij (zaupanja vredna in ostala) ter strogo načrtovanje procesa programiranja in delovanja z omejenimi pravicami dostopa.
Za varne postopke strojnega učenja s kvazi velikimi količinami podatkov ima komplet RUTDevKit-STM32L5 vtičnico za kartico SD. To omogoča uporabo kartice SD s šifriranjem za zaščito dragocenih podatkov.
5. Komunikacija
Zlasti zunanja komunikacija z drugimi sistemi obrobne inteligence močno vpliva na sposobnost sistema za delovanje v realnem času. Za minimalne zakasnitve je treba potrebno komunikacijo v fazi sklepanja čim bolj zmanjšati. To velja zlasti za obsežno uporabo pasovne širine omrežij WAN pri storitvah v oblaku.
Za komplet RUTDevKit-STM32L5 je v ta namen na voljo enota Anybus. Ta omogoča po vseh običajnih procesnih vodilih in industrijskih omrežjih Ethernet ter s tem razbremeni računsko moč mikrokrmilnika.
6. Pomnilnik
Zelo natančen model umetne inteligence običajno temelji na izredno velikem številu nizov podatkov. Pri mobilnih napravah in napravah, ki delujejo na baterije, pa je v ospredju varčna poraba pomnilniških virov. Da je mogoče na teh napravah varno shraniti velike količine podatkov in podatke za sklepanje, je treba pomnilniške periferne naprave optimizirati za izvajanje algoritmov umetne inteligence.
Komplet RUTDevKit-STM32L5 s 412 kB vgrajenega bliskovnega pomnilnika in 64 Mb pomnilnika PSRAM ter 128 Mb bliskovnega pomnilnika NOR in možnostjo kartice SD v zaščitenem območju zagotavlja optimalne pogoje za aplikacije s strojnim učenjem.
Zaključek
Za številne načine uporabe je smiselno, da se modeli umetne inteligence ne izvajajo v oblaku, ampak v končni napravi na obrobju. S svojo najnovejšo rešitvijo RUTDevKit-STM32L5 je podjetje Rutronik odločilno prispevalo k varnim avtonomnim sistemom z zadostno povezljivostjo. Celovita rešitev za načine uporabe z umetno inteligenco na obrobju, ki se izvajajo na mikrokrmilniški platformi, omogočajo razvijalcem strojne opreme in vgrajene programske opreme, da v zelo kratkem času izvedejo sisteme za potrditev konceptov. Z njo je mogoče izboljšati učinkovitost in razširljivost sistema s krajšimi razvojnimi časi ter nižjimi stroški.
Komplet RUTDevKit-STM32L5 je osnova za modularni nabor orodij. V razvoju so tudi vtične plošče, združljive z okoljem Arduino, s praktičnimi rešitvami za posebne načine uporabe.
Tehnologija ARM TrustZone zagotavlja zavarovano in nezavarovano okolje v istem procesorskem jedru.
Šest korakov od storitev v oblaku do obrobne inteligence
Mikrokrmilniška platforma za obrobno inteligenco v sistemih IoT – RUTDevKit-STM32L5
Komplet RUTDevKit-STM32L5 ponuja razvijalcem strojne opreme in vgrajene programske opreme celovito rešitev za lasten razvoj aplikacij z umetno inteligenco na obrobju. Kosovnica je sestavljena tako, da jo lahko v celoti dobavi podjetje Rutronik. Najdete ga na naslovu www.rutronik.com/development-stories/rutdevkit-stm32l5 in omogoča preprosto prilagajanje za vse načine uporabe. Pregled sestavnih delov:
Strojna oprema
• Mikrokrmilnik IoT z ultranizko porabo STM32L562ZET6Q (110 MHz) s tehnologijo ARM Cortex-M33 TrustZone in 512 kB bliskovnega pomnilnika, pomnilnikom PSRAM ter bliskovnim pomnilnikom NOR-Flash, povezanima z vmesnikom Octo-SPI, priključki za naprave Arduino, dostopom do V/I-priključkov mikrokrmilnika in razhroščevalnikom USB podjetja ST-Link
• Pomnilnik PSRAM APS6408L, 64 Mb, z vmesnikom Octo-SPI
• Bliskovni pomnilnik NOR EN25QH128A, 128 Mb, z vmesnikom Quad-SPI
• Vmesnik CAN FD z gonilnikom TLE9251VLE
• Napajalni sistem USB-C z zaščitnim integriranim vezjem TCPP01-M12
• Vmesnik RS-485 z gonilnikom ST3485EDBR
• Priključek za kartico micro SD
• Vmesnik Arduino
• 4-plastno tiskano vezje
Programska oprema
• Demonstracija preizkusnih načinov za vmesnik CAN-FD
• Demonstracija za RS-485 Modbus
• Demonstracija napajalnega sistema USB
• Demonstracija zagonskega nalagalnika iz bliskovnega pomnilnika z dvema nizoma
• Demonstracija tehnologije TrustZone
• Demonstracija odkrivanja nedovoljenih posegov
Celovita rešitev za razvoj aplikacij z umetno inteligenco na obrobju: RUTDevKit-STM32L5
Avtor: Andreas Mangler, direktor strateškega trženja v podjetju Rutronik
Slika: Rutronik
2021/296
