邊緣是相對(duì)于數(shù)據(jù)中心或云計(jì)算而言,邊緣也有網(wǎng)絡(luò)的邊緣意思,即在一個(gè)網(wǎng)絡(luò)(如:互聯(lián)網(wǎng))的邊緣。相對(duì)于大模型(如:ChatGPT),邊緣人工智能(Edge AI)可以運(yùn)行在邊緣的設(shè)備上,甚至可以運(yùn)行在小的傳感器上。
邊緣人工智能(Edge AI)的發(fā)展一方面得益于微控制器(MCU)或微處理器(MPU)算力不斷地提升,為數(shù)據(jù)處理分析等軟件提供了計(jì)算的支持。另一方面,物聯(lián)網(wǎng)的發(fā)展也促進(jìn)了邊緣人工智能(Edge AI)的發(fā)展,可以利用現(xiàn)有的物聯(lián)網(wǎng)基礎(chǔ)設(shè)施部署邊緣人工智能(Edge AI),使得物聯(lián)網(wǎng)可以更高效地處理和傳輸數(shù)據(jù)。
邊緣人工智能(Edge AI)涉及到多個(gè)學(xué)科知識(shí),如數(shù)據(jù)分析、機(jī)器學(xué)習(xí)算法、編譯器等,一個(gè)人或公司難以有全面的知識(shí)來開發(fā)邊緣人工智能產(chǎn)品,這為邊緣人工智能(Edge AI)產(chǎn)品開發(fā)的工具鏈提供了創(chuàng)新發(fā)展機(jī)會(huì),工具鏈有助于邊緣人工智能(Edge AI)項(xiàng)目加速落地。同時(shí),針對(duì)邊緣人工智能(Edge AI)也出現(xiàn)了一些方案公司。
“工欲善其事,必先利其器”。本文就盤點(diǎn)幾家邊緣人工智能(Edge AI)的開發(fā)平臺(tái)。
Edge Impulse
Edge Impulse 是一家機(jī)器學(xué)習(xí)開發(fā)工具提供商,為企業(yè)團(tuán)隊(duì)提供了一套在嵌入式設(shè)備上構(gòu)建和部署機(jī)器學(xué)習(xí)模型的工具。Edge Impulse 提供強(qiáng)大的自動(dòng)化和低代碼功能,使為邊緣設(shè)備構(gòu)建有價(jià)值的數(shù)據(jù)集和開發(fā)高級(jí)人工智能變得更加容易。已為Oura、Know Labs和NOWATCH等健康可穿戴設(shè)備制造商、NASA等工業(yè)組織、頂級(jí)芯片供應(yīng)商以及超過25萬個(gè)ML項(xiàng)目的10萬多名開發(fā)人員的所使用,Edge Impulse已成為企業(yè)和開發(fā)人員值得信賴的平臺(tái)。
主要應(yīng)用:預(yù)測(cè)性維護(hù)、資產(chǎn)跟蹤&監(jiān)控、人&動(dòng)物感知等。
SensiML
SensiML 簡(jiǎn)化了 TinyML 代碼開發(fā)的軟件工具。SensiML Analytics Toolkit 提供了一個(gè)端到端的開發(fā)平臺(tái),涵蓋數(shù)據(jù)收集、標(biāo)記、算法和固件自動(dòng)生成及測(cè)試,通過獨(dú)特的數(shù)據(jù)收集和標(biāo)記方法解決了人工智能項(xiàng)目中最常見的失敗問題。SensiML 提供了最全面的功能,從簡(jiǎn)單的點(diǎn)選式用戶界面模型創(chuàng)建到模型構(gòu)建和測(cè)試工作流的完整流水線控制。
SensiML Toolkit支持多種Arm? Cortex?-M級(jí)及以上微控制器內(nèi)核、基于Intel? x86的CPU以及Quicklogic的S3平臺(tái)等異構(gòu)內(nèi)核SoC,并對(duì)FPGA進(jìn)行了優(yōu)化。
主要應(yīng)用:預(yù)測(cè)性維護(hù)、異常檢測(cè)、行為識(shí)別、手勢(shì)識(shí)別、運(yùn)動(dòng)分析、智能照明控制、智能城市和城市道路、可穿戴設(shè)備、生物識(shí)別、聲學(xué)特征檢測(cè)、多設(shè)備傳感器融合、過程控制和檢測(cè)等。
Stream Analyze
Stream Analyze 為開發(fā)邊緣人工智能解決方案提供了一個(gè)端到端平臺(tái),能夠高效地開發(fā)、訓(xùn)練、部署和協(xié)調(diào)分析、計(jì)算和人工智能模型。該平臺(tái)針對(duì)資源有限的邊緣設(shè)備,包括基于 Arm Cortex-M 和 Cortex-A 的 MCU。該平臺(tái)結(jié)合了實(shí)時(shí)流分析和設(shè)備邊緣人工智能的功能。所使用的實(shí)時(shí)數(shù)據(jù)流架構(gòu)專為邊緣設(shè)備和微控制器而設(shè)計(jì),可在資源非常有限的設(shè)備上進(jìn)行流式分析。該平臺(tái)易于學(xué)習(xí)和使用,適合數(shù)據(jù)科學(xué)家、工程師、領(lǐng)域?qū)<液推渌麤]有較深編碼技能的群體。Stream Analyze 的主要目標(biāo)客戶是大型工業(yè)和汽車公司,可實(shí)現(xiàn)以下領(lǐng)域的廣泛用例:實(shí)現(xiàn)新服務(wù)的產(chǎn)品智能化、產(chǎn)品開發(fā)中的產(chǎn)品使用分析、改進(jìn)運(yùn)營(yíng)、預(yù)測(cè)性維護(hù)等。
Stream Analyze 還提供了免費(fèi)社區(qū)版工具,在邊緣設(shè)備上進(jìn)行實(shí)時(shí)數(shù)據(jù)流管理和分析,交互式環(huán)境大大縮短了模型開發(fā)流程,實(shí)現(xiàn)了從概念到部署的快速、高效進(jìn)展。
主要應(yīng)用:礦用裝載機(jī)、自動(dòng)駕駛汽車、割草機(jī)
221e
221e 是全球領(lǐng)先的智能設(shè)備智能精密傳感解決方案供應(yīng)商。人工智能傳感器融合算法提供了卓越的準(zhǔn)確性和一致的結(jié)果,具有顯著的成本優(yōu)勢(shì)。自2012年以來,一直在提供創(chuàng)新的傳感解決方案,為各種產(chǎn)品提供動(dòng)力,包括可穿戴設(shè)備、運(yùn)動(dòng)設(shè)備和工業(yè)應(yīng)用。
主要應(yīng)用:健身和運(yùn)動(dòng)科學(xué)、個(gè)人防護(hù)裝備、娛樂和VR、健康與生物醫(yī)學(xué)、汽車和移動(dòng)出行、自動(dòng)化和機(jī)器人技術(shù)、環(huán)境質(zhì)量監(jiān)測(cè)、建筑和土木工程、設(shè)備和機(jī)械等。
Octonion
Octonion公司提供在網(wǎng)絡(luò)邊緣連續(xù)診斷和預(yù)測(cè)機(jī)器壽命的工業(yè)機(jī)器智能解決方案。早在五年前開始投資嵌入式人工智能研發(fā)活動(dòng),Octonion專注于開發(fā)為低功耗微控制器優(yōu)化的傳感器數(shù)據(jù)分析軟件,在無監(jiān)督機(jī)器學(xué)習(xí)、AI模型個(gè)性化和工業(yè)設(shè)備行為預(yù)測(cè)方面積累了深厚的專業(yè)知識(shí)。
主要應(yīng)用:工業(yè)預(yù)測(cè)性維護(hù)等
Qeexo AutoML
Qeexo是一家為嵌入式邊緣設(shè)備(Cortex M0-M4)提供機(jī)器學(xué)習(xí)自動(dòng)化解決方案的公司,一鍵式全自動(dòng)Qeexo AutoML平臺(tái)讓客戶能夠利用傳感器數(shù)據(jù)為限制很多的環(huán)境快速創(chuàng)建機(jī)器學(xué)習(xí)解決方案,適用于工業(yè)、物聯(lián)網(wǎng)、可穿戴設(shè)備、汽車、移動(dòng)設(shè)備等應(yīng)用領(lǐng)域。全世界超過3億臺(tái)設(shè)備裝備了基于Qeexo AutoML的人工智能。
2023年1月4日,TDK 株式會(huì)社收購(gòu)了 Qeexo 公司。Qeexo 將成為 TDK 的全資子公司。
主要應(yīng)用:工業(yè) & 制造業(yè)、交通運(yùn)輸 & 汽車、智慧樓宇、能源 & 發(fā)電
Archetype AI
Archetype AI是一家專注于開發(fā)Physical AI基礎(chǔ)模型的前沿AI公司。Physical AI是一種能夠感知、理解和推理周圍世界的新型人工智能。Archetype AI開發(fā)的 “大型行為模型” (Large Behavior Model, LBM) 是一個(gè)融合實(shí)時(shí)傳感器數(shù)據(jù)和自然語言的多模態(tài) AI 基礎(chǔ)模型,融合了實(shí)時(shí)傳感器信號(hào)和自然語言,能夠揭示非結(jié)構(gòu)化傳感器數(shù)據(jù)中隱藏的行為模式。
主要應(yīng)用:電視、智能音箱和智能家電等
NanoEdge AI Studio
意法半導(dǎo)體公司的NanoEdge? AI Studio*(NanoEdgeAIStudio)是一種新型機(jī)器學(xué)習(xí)(ML)技術(shù),可以讓終端用戶輕松享有真正的創(chuàng)新成果。只需幾步,開發(fā)人員便可基于最少量的數(shù)據(jù)為其項(xiàng)目創(chuàng)建最佳ML庫(kù)。
NanoEdge? AI Studio的一大優(yōu)勢(shì)是無需專門的數(shù)據(jù)科學(xué)技能即可使用。任何使用Studio的軟件開發(fā)人員無需人工智能(AI)技能,即可通過其用戶友好的環(huán)境創(chuàng)建最佳ML庫(kù)。
主要應(yīng)用:預(yù)測(cè)性維護(hù)、環(huán)境感知、人類活動(dòng)、資產(chǎn)追蹤、人機(jī)接口、目標(biāo)檢測(cè)、生物識(shí)別、圖像分類等。
Imagimob
Imagimob 是一家快速發(fā)展的初創(chuàng)公司,致力于推動(dòng)邊緣人工智能和tinyML 領(lǐng)域的創(chuàng)新,為未來的智能產(chǎn)品提供支持。公司總部位于瑞典斯德哥爾摩,自 2013 年以來一直為汽車、制造、醫(yī)療保健和生活方式行業(yè)的全球客戶提供服務(wù)。2020 年,Imagimob 推出了 IMAGIMOB Studio,用于為資源有限的設(shè)備快速、輕松地開發(fā)端到端Edge AI應(yīng)用程序。IMAGIMOB Studio 可在整個(gè)開發(fā)過程中為用戶提供指導(dǎo)和支持,從而提高生產(chǎn)力,加快產(chǎn)品上市速度。
2023 年 5 月,英飛凌科技公司收購(gòu)了 Imagimob 100% 的股份。Imagimob 屬于互聯(lián)安全系統(tǒng) (CSS) 部門。
主要應(yīng)用:音頻分類、預(yù)測(cè)性維護(hù)、手勢(shì)識(shí)別、信號(hào)分類、墜落檢測(cè)、材料檢測(cè)等
Reality AI
Reality AI廣泛的嵌入式AI和TinyML解決方案,可用于汽車、工業(yè)及消費(fèi)類產(chǎn)品的高級(jí)非視覺傳感,完美適配瑞薩嵌入式處理及物聯(lián)網(wǎng)產(chǎn)品。它們可為機(jī)器學(xué)習(xí)提供先進(jìn)的數(shù)學(xué)方法進(jìn)行信號(hào)處理,從而實(shí)現(xiàn)快速、高效的機(jī)器學(xué)習(xí)推理,可適用于小型MCU及強(qiáng)大MPU。使用Reality AI Tools?這一個(gè)可以支持完整產(chǎn)品開發(fā)生命周期的軟件環(huán)境,用戶可自動(dòng)探索傳感器數(shù)據(jù)并生成優(yōu)化的模型。Reality AI Tools包含分析功能,能夠找到最佳傳感器或傳感器組合、傳感器放置的位置并自動(dòng)生成組件規(guī)格,并且以時(shí)域/頻域的方式完全解釋模型函數(shù)。
2022 年 7 月,瑞薩電子收購(gòu)了嵌入式AI解決方案優(yōu)秀供應(yīng)商Reality Analytics, Inc.(Reality AI),成為了瑞薩電子的間接全資子公司。
主要應(yīng)用:電機(jī)控制(預(yù)測(cè)性維護(hù)、異常檢測(cè)及智能控制反饋)、HVAC、汽車安全警告(警笛、檢測(cè)距離、定位)等
eIQ? ML
eIQ是恩智浦公司的機(jī)器學(xué)習(xí)工具。恩智浦?eIQ?機(jī)器學(xué)習(xí)(ML)軟件開發(fā)環(huán)境支持在恩智浦EdgeVerse?微控制器和微處理器(包括i.MX RT跨界MCU和i.MX系列應(yīng)用處理器)上使用ML算法。eIQ ML軟件包括稱為eIQ Toolkit的ML工作流工具以及推理引擎、神經(jīng)網(wǎng)絡(luò)編譯器和優(yōu)化庫(kù)。
eIQ Toolkit使用直觀的GUI (eIQ Portal)、開發(fā)工作流工具以及命令行主機(jī)工具選項(xiàng)(作為eIQ ML軟件開發(fā)環(huán)境一部分)支持機(jī)器學(xué)習(xí)開發(fā)。eIQ Portal是與Au-Zone Technologies獨(dú)家合作開發(fā)的,它是一個(gè)直觀的圖形用戶界面(GUI),簡(jiǎn)化了ML開發(fā)。
eIQ Portal提供的輸出軟件,可無縫輸出到DeepViewRT?、TensorFlow?Lite、TensorFlow Lite Micro、Glow、Arm NN和ONNX運(yùn)行時(shí)推理引擎。
主要應(yīng)用: 物體檢測(cè)和識(shí)別、語音命令和關(guān)鍵詞識(shí)別、異常檢測(cè)、圖像和視頻處理、其他(智能可穿戴設(shè)備、智能工廠和智能建筑、醫(yī)療保健和診斷、增強(qiáng)現(xiàn)實(shí)、物流、公共安全)
小結(jié)
邊緣人工智能(Edge AI)的工具鏈主要是用于人工智能軟件算法的開發(fā),包括數(shù)據(jù)分析處理、模型訓(xùn)練、模型轉(zhuǎn)換、模型部署等。由于邊緣人工智能(Edge AI)開發(fā)的專業(yè)性和復(fù)雜性,出現(xiàn)了面向AI開發(fā)的軟件平臺(tái),簡(jiǎn)化了開放流程,易于開發(fā)邊緣人工智能(Edge AI)相關(guān)產(chǎn)品。由于邊緣人工智能模型訓(xùn)練、迭代、升級(jí)等需求,有了面向邊緣人工智能的SaaS平臺(tái),軟件即服務(wù)。借助已部署的物聯(lián)網(wǎng)基礎(chǔ)設(shè)施,邊緣人工智能將會(huì)賦能更多設(shè)備的自主智能。