基于硬件加速的超低功耗邊緣智能，讓頭疼的“云端求助”走向本地自主化決策

知乎上有好事者對(duì)《西游記》的故事線做過(guò)統(tǒng)計(jì)，從保護(hù)唐僧遭遇各種艱難險(xiǎn)阻到最終取得真經(jīng)，神通廣大的孫悟空一路上遇到各種危險(xiǎn)，共求助22次，觀音菩薩和天庭諸神不斷出面幫大圣搞定各種凡間險(xiǎn)惡。每次惡斗不贏吃盡苦頭后，大圣總是會(huì)想法脫離妖魔圍困跳入云端，駕著跟斗云去尋求各路神仙，一番口舌糾纏之后，盡管總能及時(shí)出手相助化險(xiǎn)為夷，但師傅唐僧和師弟八戒、沙僧難免要苦熬一陣，或遭遇一番皮肉之苦。

這像極了人工智能日益普及的今天，越來(lái)越多的終端設(shè)備依靠云端的“大神”（中心算力）實(shí)現(xiàn)各種智能功能，盡管看起來(lái)方便，但其實(shí)很多場(chǎng)景難免面臨各種問(wèn)題和潛在隱患，甚至是各種事故風(fēng)險(xiǎn)?！斑吘壎嗽O(shè)備監(jiān)測(cè)的各種數(shù)據(jù)通過(guò)網(wǎng)絡(luò)傳輸?shù)皆贫?，不僅可能帶來(lái)很多應(yīng)用場(chǎng)景下不能容忍的延遲問(wèn)題，還可能因?yàn)殡[私數(shù)據(jù)的泄露導(dǎo)致嚴(yán)重的數(shù)據(jù)安全?！?a class="article-link" target="_blank" href="/tag/ADI/">ADI公司資深業(yè)務(wù)經(jīng)理李勇在最近的一次演講中表示。市場(chǎng)分析數(shù)據(jù)顯示，2020年中國(guó)邊緣計(jì)算市場(chǎng)規(guī)模為91億元，未來(lái)成長(zhǎng)空間非常廣闊，預(yù)計(jì)到2030年中國(guó)邊緣計(jì)算市場(chǎng)規(guī)模將接近2500億元。

算力下沉，亟待邊緣智能賦能多類(lèi)應(yīng)用場(chǎng)景
根據(jù)Gartner預(yù)測(cè)，2025年將有75%的數(shù)據(jù)產(chǎn)生在數(shù)據(jù)中心和云之外并在邊緣側(cè)進(jìn)行處理。邊緣計(jì)算在降低時(shí)延、帶寬需求、保護(hù)隱私數(shù)據(jù)等多方面的價(jià)值已經(jīng)被廣泛認(rèn)可，在產(chǎn)業(yè)數(shù)智化中的應(yīng)用也不斷涌現(xiàn)。邊緣計(jì)算作為靠近數(shù)據(jù)源頭，融合了網(wǎng)絡(luò)、存儲(chǔ)、計(jì)算與應(yīng)用能力的分布式計(jì)算平臺(tái)，可以對(duì)數(shù)據(jù)在本地進(jìn)行實(shí)時(shí)分析處理，數(shù)據(jù)不必實(shí)時(shí)回傳至云端，縮短延時(shí)，減少網(wǎng)絡(luò)帶寬資源需求，確保應(yīng)用安全高效運(yùn)行。

“失火而取水于海，海水雖多，火必不滅矣，遠(yuǎn)水不救近火也。”《韓非子·說(shuō)林上》上這句話，簡(jiǎn)單二十多字說(shuō)明了一個(gè)樸素而重要的道理，即使在科技發(fā)展日新月異的今天依然有其現(xiàn)實(shí)意義。在智能應(yīng)用中，因?yàn)闀r(shí)間敏感性而舍云端（遠(yuǎn)）智能而用邊緣（近）智能的應(yīng)用場(chǎng)景比比皆是。

例如森林火災(zāi)監(jiān)測(cè)，公路、鐵路或者是大壩塌方監(jiān)測(cè)，這些地方都普遍比較偏僻，通常沒(méi)有很好的通信網(wǎng)絡(luò)，但快速?zèng)Q策和預(yù)警非常關(guān)鍵，因此必須進(jìn)行邊緣端快速判定?！斑@種應(yīng)用時(shí)間敏感性非常高，傳統(tǒng)的云端監(jiān)測(cè)，可能需要發(fā)送一組圖片到云端，對(duì)網(wǎng)絡(luò)流量要求比較高。通過(guò)監(jiān)測(cè)端自主智能識(shí)別，在狀況發(fā)生時(shí)只需要發(fā)短信息就可以快速實(shí)現(xiàn)安全告警，避免更嚴(yán)重的災(zāi)害損失發(fā)生?！?李勇指出。

“這些應(yīng)用除了需要邊緣端快速智能決策，對(duì)功耗敏感性也決定了需要進(jìn)行邊緣端自主決策，任何一次更換電池的運(yùn)維成本可能比設(shè)備本身更貴?！崩钣碌莱隽肆硗庖粋€(gè)關(guān)鍵點(diǎn)。邊緣智能決策的好處是避免頻繁的數(shù)據(jù)傳輸、數(shù)據(jù)采集導(dǎo)致的高功耗，因此這也讓這些應(yīng)用場(chǎng)景對(duì)邊緣智能方案的低功耗特性提出更高的要求，當(dāng)前市場(chǎng)通用的MCU或FPGA的智能解決方案，在電池供電的低功耗邊緣端智能應(yīng)用中依然面臨挑戰(zhàn)，市場(chǎng)需要更具超低功耗特性的新一代解決方案。

今年3·15晚會(huì)暴露的“行走的追蹤器”——兒童智能手表被黑客入侵成為了竊聽(tīng)器；2021年，某品牌攝像頭事件數(shù)萬(wàn)條家庭偷拍視頻被傳播售賣(mài)；2021年家庭物聯(lián)網(wǎng)Pink事件，導(dǎo)致國(guó)內(nèi)受控智能家居設(shè)備超過(guò)百萬(wàn)......近年來(lái)，隨著具備音頻監(jiān)測(cè)和視頻監(jiān)測(cè)功能的智能設(shè)備的普及，類(lèi)似的信息安全事故層出不窮?！斑@些智能設(shè)備需要將邊緣端監(jiān)測(cè)的數(shù)據(jù)傳到云端進(jìn)行數(shù)據(jù)處理，沒(méi)有人希望家里有一個(gè)設(shè)備可能隨時(shí)通過(guò)畫(huà)面或語(yǔ)音監(jiān)測(cè)你家里活動(dòng)情況，你不能確定這些音頻和圖像數(shù)據(jù)是否會(huì)被別有用心的人所利用?！崩钣轮赋?。

讓智能從云端走向邊緣，這四大核心能力不可或缺?
AI技術(shù)使機(jī)器能夠以之前完全不可能的方式來(lái)觀察、聆聽(tīng)和感知世界。過(guò)去，將AI推理布置到邊緣意味著從傳感器、攝像機(jī)和麥克風(fēng)收集數(shù)據(jù)，然后將數(shù)據(jù)發(fā)送到云端實(shí)現(xiàn)推理算法，再將結(jié)果送回到邊緣。由于延遲和能耗較大，這種架構(gòu)對(duì)于邊緣智能的普及極具挑戰(zhàn)。作為替代方案，低功耗微控制器可用于實(shí)施簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)運(yùn)算，但延遲會(huì)受到影響，且只能在邊緣執(zhí)行簡(jiǎn)單任務(wù)，對(duì)于更加復(fù)雜的邊緣智能如何落地？ADI集成神經(jīng)網(wǎng)絡(luò)加速器的MAX78000低功耗微控制器通過(guò)獨(dú)特的架構(gòu)設(shè)計(jì)提供了新的選擇，在算力、功耗、延遲和集成度等方面實(shí)現(xiàn)了關(guān)鍵性能的平衡，為機(jī)器視覺(jué)、面部識(shí)別、目標(biāo)檢測(cè)和分類(lèi)、時(shí)序數(shù)據(jù)處理和音頻處理等應(yīng)用提供了一個(gè)理想選擇。

邊緣智能的典型應(yīng)用場(chǎng)景是聲音識(shí)別和圖像識(shí)別，而眾所周知，卷積神經(jīng)網(wǎng)絡(luò)（CNN）是廣泛重視的一種高效識(shí)別方法。卷積神經(jīng)網(wǎng)絡(luò)以其局部權(quán)值共享的特殊結(jié)構(gòu)在模式識(shí)別方面有著獨(dú)特的優(yōu)越性，CNN算法在人工智能之機(jī)器學(xué)習(xí)、語(yǔ)音識(shí)別、文檔分析、語(yǔ)言檢測(cè)和圖像識(shí)別等領(lǐng)域等有著廣泛應(yīng)用。MAX78000的核心即是神經(jīng)網(wǎng)絡(luò)加速器，它是針對(duì)語(yǔ)音和圖像識(shí)別專(zhuān)門(mén)設(shè)計(jì)的運(yùn)算加速硬件，可以最大限度地減少卷積神經(jīng)網(wǎng)絡(luò)的功耗和延遲。

“我們看到市場(chǎng)上有很多邊緣智能處理器實(shí)際上只是支持軟件的算法，而不是硬件實(shí)現(xiàn)加速。MAX78000采用了64個(gè)CNN處理器，并行的處理器可以支持最多的卷積預(yù)算層數(shù)和通道數(shù)?！崩钣轮赋觯癕AX78000的CNN加速器完全是專(zhuān)有的，而且非常新穎，它的設(shè)計(jì)目標(biāo)是最小化數(shù)據(jù)移動(dòng)，這是眾所周知的對(duì)芯片功耗的一個(gè)重大負(fù)擔(dān)，尤其是在處理CNN中復(fù)雜的配置時(shí)?！?/p>

此外，MAX78000還集成了兩個(gè)MCU核心用于系統(tǒng)控制，即Arm Cortex-M4處理器和32位RISC-V處理器，其中Arm Cortex-M4F處理器以100MHz運(yùn)行，客戶可以編寫(xiě)任何系統(tǒng)管理代碼，RISC-V處理器的獨(dú)特功能是支持以低功耗將數(shù)據(jù)快速加載到神經(jīng)網(wǎng)絡(luò)加速器，用戶可使用任何一種微控制器內(nèi)核將數(shù)據(jù)輸入到卷積神經(jīng)網(wǎng)絡(luò)的引擎中。而MAX78000具有432KB的權(quán)重存儲(chǔ)空間，與運(yùn)行在低功耗微控制器上的軟件解決方案相比，在配置并加載了數(shù)據(jù)后，MAX78000運(yùn)行AI推理的速度快了100倍，功耗還不到其1%。?

“低功耗是很多邊緣智能應(yīng)用場(chǎng)景的關(guān)鍵要求，MAX78000除了基于CNN加速器和雙核處理器架構(gòu)，還提供高效的片內(nèi)電源管理，集成單電感多輸出 (SIMO) 開(kāi)關(guān)模式電源，最大限度地延長(zhǎng)電池供電的物聯(lián)網(wǎng)設(shè)備的續(xù)航時(shí)間?！崩钣卤硎?，“很多應(yīng)用需要產(chǎn)品集成度高、體積小，基于MCU或GPU或FPGA的方案很可能放不進(jìn)去，這些方案通常還需要片外存儲(chǔ)器、PMIC，方案無(wú)論成本、尺寸還是功耗都具有很大挑戰(zhàn)性?！?/p>

優(yōu)化聲音識(shí)別和圖像識(shí)別應(yīng)用，聚焦邊緣智能主賽道
5G與物聯(lián)網(wǎng)的發(fā)展以及各行業(yè)的智能化轉(zhuǎn)型升級(jí)帶來(lái)了爆發(fā)式的數(shù)據(jù)增長(zhǎng)，而海量的數(shù)據(jù)將在邊緣側(cè)積累，建立在邊緣的數(shù)據(jù)分析與處理將成為智能市場(chǎng)增長(zhǎng)的主力?！盎?a class="article-link" target="_blank" href="/baike/492547.html">云計(jì)算的邊緣智能可能只適合一些大企業(yè)的應(yīng)用，例如幾萬(wàn)個(gè)、幾十萬(wàn)個(gè)客戶來(lái)支持一個(gè)服務(wù)器，能夠支撐云端的成本。很多基本的控制應(yīng)用，邊緣端的自主智能更具成本效應(yīng)，也符合隱私保護(hù)的考慮?！崩钣轮赋?。

隨著數(shù)據(jù)規(guī)模的不斷擴(kuò)大，云計(jì)算在時(shí)效性、傳輸距離、安全性等方面的不足使得其在工業(yè)制造、自動(dòng)駕駛、遠(yuǎn)程醫(yī)療等場(chǎng)景下明顯力不從心，邊緣側(cè)的重要性日益顯現(xiàn)。更靠近數(shù)據(jù)源的邊緣計(jì)算不僅能提供低時(shí)延、高可靠服務(wù)，還能同時(shí)保證數(shù)據(jù)安全、處理實(shí)時(shí)性。IDC預(yù)測(cè)，未來(lái)超過(guò)50%的數(shù)據(jù)需要在邊緣側(cè)進(jìn)行儲(chǔ)存、分析和計(jì)算，這就對(duì)邊緣側(cè)的硬件系統(tǒng)提出了更高的要求。

邊緣智能中，聲音智能識(shí)別和圖像智能識(shí)別是其中最主要的應(yīng)用領(lǐng)域，僅智能音箱2021年市場(chǎng)出貨量就達(dá)3896萬(wàn)臺(tái)，各種基于人臉識(shí)別的智能門(mén)禁、考勤機(jī)、閘機(jī)應(yīng)用層出不窮?！盎谡Z(yǔ)音與人臉識(shí)別的邊緣智能是當(dāng)前市場(chǎng)的重要領(lǐng)域，ADI的MAX78000針對(duì)這類(lèi)應(yīng)用從產(chǎn)品方案到工具優(yōu)化以及生態(tài)上提供了豐富的支持?！崩钣卤硎?，“智能識(shí)別數(shù)據(jù)的收集和數(shù)學(xué)模型的建立跟訓(xùn)練很重要，為此ADI提供了聲音識(shí)別和face ID 識(shí)別demo程序供客戶下載和學(xué)習(xí)，在其基礎(chǔ)上進(jìn)行修改。我們也有非常有經(jīng)驗(yàn)的第三方生態(tài)伙伴，提供數(shù)學(xué)模型的訓(xùn)練與數(shù)據(jù)的收集?！?/p>

據(jù)悉，MAX78000目前已經(jīng)在森林防火監(jiān)測(cè)、地質(zhì)災(zāi)害監(jiān)測(cè)以及智能家居等領(lǐng)域獲得廣泛應(yīng)用?！昂芏囝?lèi)似但并不涉及到公共安全的應(yīng)用也需要實(shí)現(xiàn)本地快速智能決策，比如有用戶就針對(duì)摩托騎行愛(ài)好者希望在騎行中能對(duì)頭戴攝像頭實(shí)現(xiàn)隨時(shí)隨地的語(yǔ)音控制開(kāi)發(fā)產(chǎn)品，類(lèi)似的還有助聽(tīng)器的語(yǔ)音控制、風(fēng)力發(fā)電設(shè)備的安全監(jiān)測(cè)這樣的預(yù)測(cè)性維護(hù)等等。”李勇補(bǔ)充道，“這種基于超低功耗硬件算力，高集成度、小尺寸且低成本的邊緣智能解決方案的推出，正在為越來(lái)越多的應(yīng)用領(lǐng)域提供真正可行的智能賦能方案，我們看到類(lèi)似的各種創(chuàng)新應(yīng)用正在層出不窮地推出。”
?