專訪Arm：關(guān)于“AIoT現(xiàn)狀和趨勢”的思考

“技術(shù)演進(jìn)的速度從來都不是線性的，回顧手機(jī)與物聯(lián)網(wǎng)的發(fā)展歷程，我們會(huì)發(fā)現(xiàn)第一部手機(jī)發(fā)明于1940年代，而手機(jī)市場的爆發(fā)式增長卻出現(xiàn)在2000年代后期，同樣的，我們看到了物聯(lián)網(wǎng)幾乎平行的趨勢，經(jīng)歷了自控、互連和智能三個(gè)階段。所以，人工智能物聯(lián)網(wǎng)（AIoT）一定是物聯(lián)網(wǎng)（IoT）未來發(fā)展的必然趨勢，也是促進(jìn)物聯(lián)網(wǎng)騰飛和使整個(gè)物聯(lián)網(wǎng)生態(tài)利益均沾的動(dòng)力?！?在今年的ELEXCON 深圳國際電子展上，Arm物聯(lián)網(wǎng)事業(yè)部業(yè)務(wù)拓展副總裁馬健如是說。

圖 | Arm物聯(lián)網(wǎng)事業(yè)部業(yè)務(wù)拓展副總裁 馬健

據(jù)悉，在2021年出貨的近300億顆基于Arm架構(gòu)的芯片中，有2/3 (近200億顆)被部署到了物聯(lián)網(wǎng)和嵌入式應(yīng)用中。

什么是AIoT？

從字面上看，AIoT可以拆解為“AI+IoT”，而IoT已經(jīng)提了那么多年，人們對它的概念已經(jīng)不陌生，所以要弄清楚AIoT，還得先了解AIoT與傳統(tǒng)IoT的區(qū)別。

事實(shí)上，AIoT與傳統(tǒng)IoT的區(qū)別在于云邊端協(xié)同的整個(gè)系統(tǒng)對于數(shù)據(jù)感知、采集、處理的能力，全鏈路安全可靠性，邊緣設(shè)備實(shí)時(shí)決策效率，以及創(chuàng)新迭代速度的顯著提升。與此同時(shí)，AIoT對系統(tǒng)算力的要求也會(huì)更高。

未來，AI算子的落地會(huì)根據(jù)應(yīng)用對延時(shí)、安全、帶寬的不同需求出現(xiàn)在傳感器側(cè)或控制端。

對此，馬健表示：“Arm產(chǎn)品將全面支持人工智能的部署，打造物聯(lián)網(wǎng)全面解決方案，助力AIoT智能視覺、智能語音/音頻，以及融合感知等用例的敏捷開發(fā)部署，給予客戶更靈活的選擇?！?/p>

在傳感器側(cè)，Arm Cortex-M嵌入式處理器是目前普遍的選擇方案。而Arm今年發(fā)布的最新款Cortex-M85處理器，不僅通過新增Helium技術(shù)，大幅度提高機(jī)器學(xué)習(xí)計(jì)算性能，同時(shí)也增強(qiáng)了安全性、系統(tǒng)可靠性等。此外，Arm也推出助力智能視覺的加速器Mali-C55圖像信號(hào)處理器，以及適于終端AI的加速器Ethos U系列，提升端側(cè)AI算力和效率。

在控制側(cè)，Arm 看到更多客戶選擇了Arm Cortex-A系列應(yīng)用處理器，因?yàn)樗邆涓S富的數(shù)據(jù)處理、更強(qiáng)大的AI與安全支持。Arm最新的Armv9架構(gòu)最重大的升級在于AI和安全，在兼容Armv8架構(gòu)的基礎(chǔ)上，提升了安全性，增加了矢量計(jì)算、機(jī)器學(xué)習(xí)和數(shù)據(jù)信號(hào)處理等多方面能力，性能表現(xiàn)也得到極大幅度的提升。

AIoT將在哪些領(lǐng)域率先落地？

根據(jù)GSMA發(fā)布的《The mobile economy 2020(2020年移動(dòng)經(jīng)濟(jì))》報(bào)告顯示，2019年全球物聯(lián)網(wǎng)總連接數(shù)達(dá)到120億，預(yù)計(jì)到2025年，全球物聯(lián)網(wǎng)總連接數(shù)規(guī)模將達(dá)到246億，年復(fù)合增長率高達(dá)13%。

此外，根據(jù)IDC發(fā)布的數(shù)據(jù)顯示，2019年全球AIoT市場規(guī)模達(dá)到2264億美元，預(yù)計(jì)到2022年將提升至4820億美元，2019-2022年復(fù)合增長率有望達(dá)到為28.65％。

根據(jù)以上兩組數(shù)據(jù)，可以看出，不論是IoT還是AIoT，全球市場規(guī)模的增長都相當(dāng)可觀，且AIoT的增長速度快于整體IoT市場。

那么到底在哪些細(xì)分領(lǐng)域，AIoT正在優(yōu)先落地呢？馬健告訴與非網(wǎng)：“從技術(shù)角度來講，利用AI/ML技術(shù)驅(qū)動(dòng)的智能視覺、智能音頻、智能語音以及融合感知應(yīng)用是人工智能物聯(lián)網(wǎng)落地的先發(fā)板塊。從應(yīng)用角度來講，延續(xù)智慧城市、智能樓宇和智慧家庭的用例，人工智能物聯(lián)網(wǎng)將在工業(yè)物聯(lián)網(wǎng)和醫(yī)療健康領(lǐng)域落地開花?！?/p>

同時(shí)，她用MediaTek、研華和Canonical在工業(yè)智能物聯(lián)網(wǎng)領(lǐng)域的聯(lián)合解決方案來舉例，表明AIoT正在朝著高端化的方向發(fā)展，市場對單板計(jì)算機(jī) (SBC)的需求正在擴(kuò)張。為此，MediaTek發(fā)布了基于Arm Cortex-A78、Cortex-A55 CPU、Mali-G57 GPU的AIoT 芯片產(chǎn)品組合Genio 。而作為更下游的研華，已經(jīng)針對以視覺應(yīng)用為主的IoT市場推出了基于Genio 1200芯片的RSB-3810 SBC。

國內(nèi)外AIoT產(chǎn)業(yè)的差距有多大？

我國的AIoT產(chǎn)業(yè)正從蓄力期過渡至高速發(fā)展期，國內(nèi)市場在人工智能物聯(lián)網(wǎng)方面的用例更豐富，消費(fèi)者的接受能力也很高。在智能視覺和語音/音頻方面，由于國內(nèi)有豐富的數(shù)據(jù)集支持人工智能訓(xùn)練，和諸如智慧城市等成熟的用例，國內(nèi)廠家在技術(shù)上也相對領(lǐng)先，生態(tài)系統(tǒng)也日趨成熟。

然而不得不承認(rèn)的是，我國的自動(dòng)化和聯(lián)網(wǎng)化程度還和國際發(fā)達(dá)水平有著不小的差距，尤其是在工業(yè)物聯(lián)網(wǎng)方面。

撇開基礎(chǔ)差距不談，僅從技術(shù)路線的角度來剖析，可以發(fā)現(xiàn)，國外歐美成熟市場在人工智能物聯(lián)網(wǎng)方面更注重軟件定義系統(tǒng)和敏捷開發(fā)迭代，將現(xiàn)代化的CI/CD、DevOps、MLOps、容器和微服務(wù)等云原生的概念應(yīng)用到端和邊緣。Arm在2021年底推出的Arm虛擬硬件 (Arm Virtual Hardware, AVH)，就在AWS、GitHub、Tensorflow CI/CD得到了應(yīng)用，促進(jìn)AIoT軟件和AI模型的敏捷開發(fā)迭代。同時(shí)，歐美市場對于人工智能物聯(lián)網(wǎng)安全也格外重視，以AWS為例，不僅將其主推的FreeRTOS通過了PSA Certified安全認(rèn)證，而且其IoT云服務(wù)督促接入的設(shè)備通過同一認(rèn)證。

從IoT向AIoT轉(zhuǎn)型過程中的挑戰(zhàn)有哪些？

“AIoT未來是由軟件定義系統(tǒng)，敏捷開發(fā)迭代理念及方法，和更開放擁抱合作的文化來支撐的。一個(gè)企業(yè)如果可以逐步完成創(chuàng)新文化的轉(zhuǎn)型，那么技術(shù)上的挑戰(zhàn)會(huì)迎刃而解。反之，如果不能跳出傳統(tǒng)的思維方式，在員工技能轉(zhuǎn)型、產(chǎn)品開發(fā)流程等方面進(jìn)行改革，單純評估技術(shù)有可能會(huì)事倍功半?！边@是馬健對IoT向AIoT轉(zhuǎn)型過程中挑戰(zhàn)的理解。這意味著，從某種程度上來說，文化挑戰(zhàn)大于技術(shù)挑戰(zhàn)。

而單講技術(shù)方面的挑戰(zhàn)，馬健又特別著重以下五個(gè)方面：

• 低功耗異構(gòu)計(jì)算設(shè)備的設(shè)計(jì)和實(shí)現(xiàn)：AIoT將使支持人工智能的算力分布到世界的每個(gè)角落，這樣的規(guī)模對能耗和計(jì)算效率有極高的要求，如何在AIoT部署的同時(shí)保證低碳、綠色計(jì)算，將是技術(shù)創(chuàng)新的一大方向；
• 軟硬件協(xié)同創(chuàng)新：AIoT和邊緣智能點(diǎn)燃了AI加速器硬件的創(chuàng)新熱潮，但是邊緣AI硬件加速能力能否完全釋放給應(yīng)用層，這還需要倚靠工具鏈、底層基礎(chǔ)軟件和AI框架模型的協(xié)同；
• 全鏈路安全：AIoT使數(shù)據(jù)和計(jì)算走出數(shù)據(jù)中心，失去物理安全的保護(hù)，增大了安全攻擊面。如何保證數(shù)據(jù)在靜止、傳輸和使用中的安全，是影響到AIoT發(fā)展的緊迫問題；
• 敏捷開發(fā)迭代：人工智能模型針對應(yīng)用的優(yōu)化依賴于使用真實(shí)數(shù)據(jù)對模型的重新訓(xùn)練以及分發(fā)，物聯(lián)網(wǎng)安全的提升也依賴于設(shè)備安全軟件的及時(shí)更新，這些需求意味著AIoT系統(tǒng)必須要使用敏捷開發(fā)迭代機(jī)制，包括將CI/CD、DevOps、MLOps、容器和微服務(wù)等云原生的概念應(yīng)用到端和邊緣；
• 擁抱開放、標(biāo)準(zhǔn)和生態(tài)系統(tǒng)合作：物聯(lián)網(wǎng)的碎片化會(huì)直接抑制AIoT的規(guī)模發(fā)展與部署，將非差異化的模塊標(biāo)準(zhǔn)化，以開放的模式合作開發(fā)，是減少碎片化，并提高整個(gè)生態(tài)系統(tǒng)發(fā)展速度的關(guān)鍵。

隨著市場規(guī)模的擴(kuò)張，“安全問題”將成為行業(yè)焦點(diǎn)？

根據(jù)《PSA Certified 2022安全性報(bào)告》預(yù)測，隨著全行業(yè)協(xié)力解決長久以來確保生態(tài)系統(tǒng)安全性速度滯后數(shù)字化轉(zhuǎn)型進(jìn)度的難題，2022年將成為確保物聯(lián)網(wǎng)安全的一大轉(zhuǎn)折點(diǎn)。物聯(lián)網(wǎng)安全性早已邁過了早期采用階段，其未來的演進(jìn)方向非常清晰——安全是根本基礎(chǔ)，而非可有可無。

對此，馬健表示：“Arm正在分別從認(rèn)證標(biāo)準(zhǔn)、架構(gòu)創(chuàng)新、IP實(shí)踐、軟件賦能等方向，助力產(chǎn)業(yè)安全達(dá)標(biāo)?！?/p>

在認(rèn)證標(biāo)準(zhǔn)方面，Arm 持續(xù)推動(dòng)安全性最佳實(shí)踐的共同標(biāo)準(zhǔn)，如PSA Certified與PARSEC 等。由 Arm 等公司牽頭構(gòu)建的PSA Certified是一個(gè)全球項(xiàng)目，并積極地將安全最佳實(shí)踐大規(guī)模地應(yīng)用于設(shè)備。得益于安全框架和認(rèn)證計(jì)劃，PSA Certified 為原本非常分散的市場帶來了針對物聯(lián)網(wǎng)安全解決方案的整合。PSA Certified 對安全的信任根 (RoT) 的含義進(jìn)行了標(biāo)準(zhǔn)化，目前，包括 70 款芯片在內(nèi)的100 余個(gè)產(chǎn)品均采用了這一標(biāo)準(zhǔn)，為全球物聯(lián)網(wǎng)開發(fā)者簡化了建立在 RoT 基礎(chǔ)上的物聯(lián)網(wǎng)安全開發(fā)。其中，包括阿里云、瑞芯微、恒玄、晶晨等多家中國企業(yè)都有產(chǎn)品通過PSA Certified安全認(rèn)證。安全的標(biāo)準(zhǔn)化對于生態(tài)系統(tǒng)的蓬勃發(fā)展是至關(guān)重要的，也是必不可少的。

在架構(gòu)創(chuàng)新方面，為了應(yīng)對保護(hù)全球數(shù)據(jù)的技術(shù)挑戰(zhàn)，Armv9 引入了 Arm機(jī)密計(jì)算架構(gòu) (Confidential Compute Architecture, CCA)。 CCA通過在基于硬件的安全環(huán)境中執(zhí)行計(jì)算，保護(hù)部分代碼和數(shù)據(jù)在使用時(shí)不被訪問或修改，甚至不受特權(quán)軟件的影響。CCA 還引入動(dòng)態(tài)創(chuàng)建機(jī)密領(lǐng)域 (Realms) 的概念，機(jī)密領(lǐng)域面向所有應(yīng)用，運(yùn)行在獨(dú)立于安全或非安全環(huán)境之外的環(huán)境中，是存儲(chǔ)數(shù)據(jù)和執(zhí)行代碼的動(dòng)態(tài)安全區(qū)域，與操作系統(tǒng)或管理程序的特權(quán)模式分離，以實(shí)現(xiàn)保護(hù)數(shù)據(jù)安全的目的。例如，在商業(yè)應(yīng)用中，機(jī)密領(lǐng)域可以保護(hù)系統(tǒng)中商用機(jī)密數(shù)據(jù)和代碼，無論它們正被使用、閑置或正在傳輸中。Arm機(jī)密計(jì)算架構(gòu)建立在Arm TrustZone技術(shù)之上，是軟件容器的硬件版本，允許應(yīng)用程序輕松地在不同的系統(tǒng)上運(yùn)行。例如在非安全區(qū)的運(yùn)行的應(yīng)用程序可以動(dòng)態(tài)申請機(jī)密領(lǐng)域，以保護(hù)自己的算法或數(shù)據(jù)。

在 IP 實(shí)踐方面，Arm通過包括適用于 Cortex-A 與Cortex-M 的 Arm TrustZone 等產(chǎn)品組合令最終客戶可以放心部署從云到端的物聯(lián)網(wǎng)應(yīng)用。TrustZone 旨在保護(hù)敏感程序代碼和數(shù)據(jù)在 CPU 中的硬件強(qiáng)制隔離。作為建立 PSA-RoT 的起點(diǎn)之一，它可在同

一芯片內(nèi)提供安全（可信）和非安全（不可信）區(qū)域。TrustZone 在 2004年就已應(yīng)用于應(yīng)用級處理器，并于 2016 年被添加到 Cortex-M 系列中，成為在簡單、低功耗的物聯(lián)網(wǎng)終端以及更復(fù)雜的設(shè)備中實(shí)現(xiàn)隔離的可行選擇。今年新推出的Arm Cortex-M85也搭載了 TrustZone 技術(shù)，以增強(qiáng)安全性。此外，它還包括了指針認(rèn)證和分支目標(biāo)識(shí)別 (Pointer Authentication and Branch Target Identification, PACBTI)，這一全新架構(gòu)功能具備增強(qiáng)的軟件攻擊威脅緩解能力，有助于實(shí)現(xiàn)物聯(lián)網(wǎng)部署的安全基線 PSA Certified Level 2。

在軟件賦能方面，Arm 在提供卓越的硬件安全功能的同時(shí)，也為一些關(guān)鍵的開源軟件項(xiàng)目做出了貢獻(xiàn)，從而確保軟件開發(fā)者能夠輕松且一致地訪問和集成 PSA Certified 規(guī)定的關(guān)鍵基礎(chǔ)安全功能，這些功能也充分利用了 TrustZone等類似功能。

馬健強(qiáng)調(diào)：“Arm助力物聯(lián)網(wǎng)的方法旨是協(xié)助Arm的合作伙伴取得成功，以確保他們能夠參與定義全新的市場和經(jīng)濟(jì)，而物聯(lián)網(wǎng)將為全球企業(yè)帶來巨大的數(shù)據(jù)和洞察力。信任和安全是這個(gè)機(jī)會(huì)的基礎(chǔ)——而 Arm的生態(tài)系統(tǒng)已經(jīng)步上正確的道路，為新的物聯(lián)網(wǎng)經(jīng)濟(jì)鋪墊基石?！?/p>

完善的生態(tài)系統(tǒng)是AIoT產(chǎn)業(yè)良性循環(huán)的基礎(chǔ)

只有把AIoT這些關(guān)鍵技術(shù)和千行百業(yè)的具體應(yīng)用場景結(jié)合起來，才能激發(fā)它的真正活力，從Arm的角度來看，開發(fā)者是促進(jìn)AIoT加速發(fā)展的關(guān)鍵因素之一。

目前由于物聯(lián)網(wǎng)硬件的碎片化，開發(fā)者被迫花費(fèi)大量的時(shí)間和精力去做不同硬件平臺(tái)之間的底層適配工作，這些其實(shí)是不利于他們把精力和資源去開發(fā)真正有價(jià)值和差異化的實(shí)際應(yīng)用。

為此，馬健表示：“Arm在大力推動(dòng)的物聯(lián)網(wǎng)全面解決方案、Arm虛擬硬件，以及生態(tài)系統(tǒng)項(xiàng)目，包括針對 Cortex-A應(yīng)用處理器的Project Cassini和針對Cortex-M嵌入式處理器的Project Centauri，就是呼吁大家一起合力促進(jìn)開放生態(tài)標(biāo)準(zhǔn)的建立，打通硬件平臺(tái)碎片化的壁壘，引進(jìn)更先進(jìn)的開發(fā)模式和示范樣例（CI/CD、DevOps、MLOps等等），助力行業(yè)的積極健康發(fā)展?！?/p>

寫在最后

新冠流行、全球變暖等全球或區(qū)域范圍的社會(huì)議題都在促使著各行各業(yè)不斷應(yīng)用最新的技術(shù)，來不斷加強(qiáng)與世界人民息息相關(guān)的安全支柱，包括：食物、醫(yī)療保健、環(huán)境保護(hù)、人身安全、社區(qū)安全等。

馬健認(rèn)為：“2023年將見證人工智能物聯(lián)網(wǎng)被應(yīng)用于解決最緊迫的全球挑戰(zhàn)，諸如智慧農(nóng)業(yè)、智慧醫(yī)療、智慧環(huán)保等方面?！?/p>

同時(shí)，她還強(qiáng)調(diào)：“人工智能物聯(lián)網(wǎng)的豐富應(yīng)用需要倚靠軟硬件技術(shù)棧提供的基本功能，而Arm已經(jīng)準(zhǔn)備就緒，從可支持各種AIoT芯片組合的豐富處理器與系統(tǒng)IP，到包括編譯器、工具鏈、操作系統(tǒng)，以及AI框架與模型算法優(yōu)化的強(qiáng)大生態(tài)系統(tǒng)，再到通過Arm虛擬硬件引入現(xiàn)代化的開發(fā)方式，提供友好的賦能開發(fā)者機(jī)制，Arm與生態(tài)伙伴正在共同推進(jìn)人工物聯(lián)網(wǎng)的加速落地，實(shí)現(xiàn)更豐富的應(yīng)用創(chuàng)新?！?/p>