Arm宣布推出Cortex-M55核心和Ethos-U55 microNPU，瞄準(zhǔn)低功耗Edge AI

昨天，Arm 宣布了其最新的 Cortex-M 系列產(chǎn)品，即新的 Cortex M55。除了新的 CPU 微體系結(jié)構(gòu)帶來(lái)了一些新的改進(jìn)之外，我們還看到了新的 Ethos-U55 NPU IP 的引入，該 IP 旨在與新的 M55 內(nèi)核集成在一起。Arm 的新 IP 旨在在未來(lái)幾年內(nèi)提高數(shù)十億低功率嵌入式設(shè)備的機(jī)器學(xué)習(xí)和推理能力，并擴(kuò)展其產(chǎn)品組合以適應(yīng)新的用例。

Edge AI 是芯片技術(shù)的最大趨勢(shì)之一。也就是說(shuō)有很多 AI 的功能，可以在沒(méi)有云端服務(wù)器連接的情況下本地運(yùn)行，最直接的就是提高了運(yùn)行速度與隱私性。恩智浦邊緣處理器高級(jí)副總裁 Geoff Lees 表示，“在新的 AI 要求以及成本，延遲，可靠性和隱私性等基于云的處理挑戰(zhàn)的推動(dòng)下，'Empowered Edge'成為一種新的大趨勢(shì)。Arm 的新型端點(diǎn) ML 技術(shù)將幫助 NXP 眾多的微控制器基礎(chǔ)開(kāi)發(fā)人員可以加速受尺寸和功率限制的設(shè)備的邊緣處理。”

先舉幾個(gè)例子：
物聯(lián)網(wǎng) AI 的其中一個(gè)應(yīng)用是已經(jīng)存在的東西，但是使用 Cortex-M55 和 Ethos-U55 可以將其提高到一個(gè)新水平。該設(shè)備并不是每個(gè)人都必須擁有的，但是對(duì)于那些需要它的人來(lái)說(shuō)，它可能會(huì)改變生活。以下是一些統(tǒng)計(jì)數(shù)據(jù)：在美國(guó)，有 1000 萬(wàn)人注冊(cè)為盲人或部分盲人。在全球范圍內(nèi)，這一數(shù)字接近 3 億。這里我想說(shuō)的設(shè)備是連接的手杖。早期版本已經(jīng)存在，我們發(fā)現(xiàn)是以下版本：WeWalk，這些設(shè)備使用感應(yīng)和導(dǎo)航功能來(lái)智能地指導(dǎo)人們避開(kāi)室內(nèi)和室外的危險(xiǎn)。新 AI 包括新的人工輔助，語(yǔ)音和手勢(shì)引導(dǎo)的機(jī)器交互以及預(yù)測(cè)性故障傳感器系統(tǒng)，將極大的改變生活。

與 Arm 醫(yī)療保健創(chuàng)新團(tuán)隊(duì)談到了我們新的 Cortex 和 Eth 操作系統(tǒng)處理器可能會(huì)進(jìn)行重大升級(jí)。他們告訴我，如今的連接開(kāi)發(fā)人員面臨的最大挑戰(zhàn)是對(duì)超聲定位的依賴(lài)。但是超聲波的射程和保真度有限，并且所需的傳感，處理和電源組件往往會(huì)使設(shè)計(jì)膨脹。

新處理器可以使開(kāi)發(fā)人員使用 360 度攝像頭將超聲換成支持 AI 的視覺(jué)傳感。除了無(wú)線(xiàn)通信和導(dǎo)航外，還將由能夠持續(xù)一整天的超薄電池供電。該設(shè)備看起來(lái)像傳統(tǒng)的設(shè)備，但卻是最終的視覺(jué)輔助工具。而且，由于 AI 計(jì)算是在本地執(zhí)行的，因此失去單元連接也沒(méi)關(guān)系。

接下來(lái)我們一起看看，新發(fā)布的 Cortex-M55 與 Ethos-U55 有哪些新的特性。

新型 Cortex-M55 是與 M33 更緊密相關(guān)的新一代 IP，但是它帶來(lái)了一些新的體系結(jié)構(gòu)改進(jìn)，在機(jī)器學(xué)習(xí)以及矢量指令方面有望實(shí)現(xiàn)較大的性能和靈活性改進(jìn)。

Ethos-U55 是專(zhuān)用的“ microNPU”專(zhuān)用推理加速器，可與 Cortex-M 類(lèi) CPU 結(jié)合使用，并提供專(zhuān)用 NPU 的性能和能效，或者通常由 MAC 引擎帶到桌面上–類(lèi)似的 M 級(jí) IP 占用空間小。

Cortex-M55：第一個(gè)具有 Helium 和自定義指令能力的 CPU 內(nèi)核

新的 Cortex-M55 非常重要，因?yàn)樗堑谝粋€(gè)同時(shí)具有 Helium（原諒我中文名還不知道怎么叫好）和自定義指令功能的 Arm CPU 內(nèi)核。Helium 的技術(shù)名稱(chēng)實(shí)際上是 MVE（用于 M-Profile Vector Extension），是 M 級(jí)處理器產(chǎn)品系列中的新矢量擴(kuò)展和專(zhuān)用矢量執(zhí)行單元，使其成為該范圍內(nèi)首款具有 SIMD 功能的 CPU 說(shuō)明。新增功能使新內(nèi)核的 DSP 性能提高了 5 倍，與 ML 相比，針對(duì) ML 工作負(fù)載的優(yōu)化指令與 MVE 相結(jié)合，性能提高了 15 倍。

在整體微架構(gòu)方面，它是 M33 和μarch 組合的繼任者，而且頻率的提高將使標(biāo)量工作負(fù)載的性能提高大約 20％，具體取決于供應(yīng)商的配置。該內(nèi)核的設(shè)計(jì)重點(diǎn)是帶寬，并啟用了需要帶寬的新 MVE 和新 ML 工作負(fù)載，因此對(duì)內(nèi)存子系統(tǒng)進(jìn)行了改進(jìn)，例如具有到 TCM（緊密耦合內(nèi)存）的 4 個(gè) 32 位接口。

Ethos-U55：Arm 的首款 microNPU

Arm 在 NPU 領(lǐng)域相對(duì)較晚一點(diǎn)，因?yàn)榇蠖鄶?shù)供應(yīng)商已在產(chǎn)品中采用了自己的第一方 IP 體系結(jié)構(gòu)，而如今大多數(shù)供應(yīng)商都在使用此類(lèi)實(shí)現(xiàn)。但是，嵌入式市場(chǎng)有些不同，因此需要一種面積和功耗比通常在“更大”的實(shí)現(xiàn)中（例如，在 Arm 的 Ethos-N 涵蓋的移動(dòng) SoC 中）所用的產(chǎn)品要小得多的產(chǎn)品， NPU IP。這是該公司用于微控制器的新型“ microNPU”神經(jīng)網(wǎng)絡(luò)加速器協(xié)處理器中的首個(gè)產(chǎn)品。Arm 聲稱(chēng)，結(jié)合新發(fā)布的 Cortex-M55，Ethos-U55 可以在公司現(xiàn)有的 Cortex-M 系列產(chǎn)品上將機(jī)器學(xué)習(xí)性能提高 480 倍。

新的 U55 是一種小型 NPU，可從 32 個(gè) MAC 擴(kuò)展到 256 個(gè) MAC，并且需要與 Cortex-M 類(lèi) NPU 耦合。Arm 并未涉及微體系結(jié)構(gòu)的主要細(xì)節(jié)，但它是一種非常精簡(jiǎn)的設(shè)計(jì)，著重于面積和功率效率，并且具有較小的內(nèi)存占用量，其中包括我們?cè)?N 系列產(chǎn)品中看到的一些功能，例如重量減壓。我們說(shuō)的是 U55 需要與 M 級(jí) CPU 耦合才能用作控制器，但是實(shí)際上，這與 N 系列的功能并沒(méi)有太大區(qū)別，因?yàn)樵?IP 已經(jīng)包含 M 級(jí) CPU，專(zhuān)門(mén)為低功耗用例設(shè)計(jì)的。

與上一代解決方案相比，使用 M55 和 U55 的此類(lèi)系統(tǒng)的性能改進(jìn)代表了非常重要的步進(jìn)功能提升。與基于 Cortex-M7 的系統(tǒng)相比，Arm 提供的數(shù)據(jù)最多可將性能提升 50 倍，同時(shí)可將能源效率提高 25 倍。

至于將在何處使用新 IP，則有各種各樣的嵌入式系統(tǒng)。在這里我們要明白，這類(lèi)系統(tǒng)的主要部分實(shí)際上將是當(dāng)前現(xiàn)有芯片的子系統(tǒng)。如果以移動(dòng)設(shè)備為例，您會(huì)看到子系統(tǒng)在電話(huà)的指紋傳感器中使用 IP，在語(yǔ)音助手功能中始終監(jiān)聽(tīng)音頻芯片，甚至在 RF 系統(tǒng)中使用子系統(tǒng)來(lái)優(yōu)化工作負(fù)載，例如天線(xiàn)調(diào)諧。當(dāng)今的移動(dòng)設(shè)備中有數(shù)百種 M 級(jí)處理器將從 ML 功能中受益，其中大多數(shù)功能對(duì)用戶(hù)完全透明。

Arm 目前已將 M55 和 U55 許可給其主要合作伙伴，并將在未來(lái)幾個(gè)月內(nèi)向其他客戶(hù)開(kāi)放更廣泛的許可。與 IP 一樣，如果供應(yīng)商曾經(jīng)公開(kāi)確認(rèn)他們是否在其產(chǎn)品中使用了這些設(shè)計(jì)，預(yù)計(jì)最早的芯片最早要到 2021 年初才能問(wèn)世。