加入星計(jì)劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴(kuò)散
  • 作品版權(quán)保護(hù)
  • 300W+ 專(zhuān)業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長(zhǎng)期合作伙伴
立即加入
  • 正文
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

晶心科技推出全新產(chǎn)品線AndesAIRE? 對(duì)邊緣與終端設(shè)備人工智能推理提供極高效率解決方案

2023/05/16
1662
閱讀需 7 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

32/64位、高效能低功耗RISC-V處理器核心領(lǐng)導(dǎo)供貨商暨RISC-V國(guó)際協(xié)會(huì)創(chuàng)始首席會(huì)員晶心科技今日宣布全新產(chǎn)品線 AndesAIRE? 或 Andes AI Runs Everywhere 正式上市,該解決方案為邊緣及終端設(shè)備人工智能推理提供極高的計(jì)算效率。AndesAIRE? 包含首代人工智能和機(jī)器學(xué)習(xí)(AI/ML)硬件加速器IP AndesAIRE? AnDLA? I350(Andes Deep Learning Accelerator),以及神經(jīng)網(wǎng)絡(luò)軟件開(kāi)發(fā)工具包 AndesAIRE? NN SDK。

隨著人工智能和機(jī)器學(xué)習(xí)(AI/ML)應(yīng)用的爆炸性成長(zhǎng),高效能與高效率深度學(xué)習(xí)解決方案的需求不斷增加。在此需求下,由于邊緣和終端運(yùn)作環(huán)境嚴(yán)格的功耗限制,使得僅僅依賴(lài)CPU架構(gòu)變得困難。針對(duì)這樣特別的挑戰(zhàn),晶心科技推出AndesAIRE? AnDLA? I350,提供行業(yè)領(lǐng)先的高效率、低功耗和小面積,非常適合廣泛應(yīng)用于邊緣推理應(yīng)用,包括智能物聯(lián)網(wǎng)設(shè)備智能相機(jī),到智能家電機(jī)器人等應(yīng)用。

AndesAIRE? AnDLA? I350 建立在晶心科技過(guò)去18年來(lái)CPU 技術(shù)中累積的計(jì)算加速經(jīng)驗(yàn),并提供了一個(gè)高效能的AI/ML加速平臺(tái)。該解決方案支持主流的深度學(xué)習(xí)框架,例如 TensorFlow Lite、PyTorch 和 ONNX,以及在 int8 數(shù)據(jù)類(lèi)型中執(zhí)行多種神經(jīng)網(wǎng)絡(luò)算子,例如convolution, fully-connect, element-wise, activation, pooling, channel padding, upsample, concatenation等。此外,AnDLA? I350 內(nèi)部設(shè)備直接內(nèi)存訪問(wèn)(DMA)和本地內(nèi)存(local memory),以發(fā)揮硬件計(jì)算引擎的最佳計(jì)算能力。而operator fusion技術(shù)也是其特色之一,能更有效地執(zhí)行常見(jiàn)的計(jì)算序列。AnDLA? I350主要可配置參數(shù)包括從 32 到 4096 MAC 計(jì)算能力, 16KB 到 4MB 的SRAM 大小,為廣泛的應(yīng)用提供64 GOPS 到 8 TOPS(在1 GHz下)靈活計(jì)算能力。

AndesAIRE? NN SDK 是一套全面的軟件開(kāi)發(fā)工具包,可用于端到端(end-to-end)的開(kāi)發(fā)與部署。它包括以下部分:

  • AndesAIRE? NNPilot?: 神經(jīng)網(wǎng)絡(luò)優(yōu)化工具套件
  • AndesAIRE? TFLM for AnDLA?:專(zhuān)為 AnDLA? 優(yōu)化的TensorFlow Lite for Microcontrollers框架
  • AnDLA? driver and runtime
  • NNPilot? 可自動(dòng)分析輸入的神經(jīng)網(wǎng)絡(luò)模型,進(jìn)行模型剪枝(pruning)和模型量化(quantization),根據(jù)硬件配置產(chǎn)生 AnDLA? 可執(zhí)行文件,并于 TFLM 框架下進(jìn)行模型推論。
  • NNPilot? 還會(huì)生成樣本 C 代碼,在主機(jī)的裸機(jī)環(huán)境中調(diào)用 AnDLA? 驅(qū)動(dòng)程序。

為因應(yīng)不斷進(jìn)展與快速發(fā)展的人工智能技術(shù),晶心科技致力于開(kāi)發(fā)可擴(kuò)展的人工智能子系統(tǒng),能完美結(jié)合AndesAIRE? AnDLA?、AndesCore? RISC-V CPU和Andes Custom Extension? (ACE)。在此子系統(tǒng)中,人工智能工作負(fù)載中大部分結(jié)構(gòu)化與計(jì)算耗時(shí)的部分將有效率地在 AnDLA? 中計(jì)算,而如非線性函數(shù)等較不結(jié)構(gòu)化的計(jì)算可以通過(guò)RISC-V DSP/SIMD或Vector指令擴(kuò)展的處理器中進(jìn)行計(jì)算。其中ACE 是 CPU 和 AnDLA? 之間進(jìn)行高效數(shù)據(jù)傳輸的重要關(guān)鍵,能減少海量存儲(chǔ)器帶寬和功耗,并同時(shí)大幅提高硬件利用率。ACE 還可以針對(duì)特定領(lǐng)域計(jì)算設(shè)計(jì)客制化指令,例如數(shù)據(jù)的前與后處理,來(lái)進(jìn)一步提升處理效能。除了硬件IP 的可擴(kuò)展性外,晶心科技不斷投入開(kāi)發(fā)軟件 AndesAIRE? NN SDK 和 AndesAIRE? NN Library,使得已量產(chǎn)的SoCs可以因應(yīng)未來(lái)人工智能算法的演進(jìn)。自 2021 年以來(lái),晶心科技每年于其計(jì)算函式庫(kù)中增加了超過(guò)一百個(gè)函數(shù),并且將持續(xù)優(yōu)化和擴(kuò)展新功能到 NN SDK 和 NN library 中。

「晶心科技非常高興推出我們?nèi)斯ぶ悄芎蜋C(jī)器學(xué)習(xí)( AI/ML )解決方案的新產(chǎn)品系列,包括 AndesAIRE? AnDLA? I350 和 AndesAIRE? NN SDK 。這是一款包含杰出效能的硬件以及專(zhuān)為邊緣和端點(diǎn)人工智能推理設(shè)計(jì)的端到端軟件解決方案,」晶心科技總經(jīng)理暨技術(shù)長(zhǎng)蘇泓萌博士表示?!竿高^(guò) AndesAIRE? ,我們賦予開(kāi)發(fā)人員和創(chuàng)新者打造高擴(kuò)展性和面向未來(lái)的 AI/ML 的芯片和應(yīng)用。」

「 AndesAIRE? 產(chǎn)品線展現(xiàn)了我們對(duì)于 AI/ML 的市場(chǎng)愿景?!?晶心科技市場(chǎng)處資深技術(shù)經(jīng)理王庭昭表示,「透過(guò)融合 RISC-V 處理器、 AnDLA? 和 ACE 的優(yōu)勢(shì)而成的一個(gè)人工智能子系統(tǒng),可充分平衡效能、功耗和面積,提供客戶極具競(jìng)爭(zhēng)力的解決方案。不僅如此, RISC-V 處理器和 NN 軟件棧確保了彈性,而豐富的擴(kuò)展性也讓客戶為其 AI/ML 特定應(yīng)用建立出獨(dú)特的價(jià)值?!?/p>

 

AndesAIRE? AnDLA? I350和AndesAIRE? NN SDK現(xiàn)在正開(kāi)放早鳥(niǎo)授權(quán)項(xiàng)目。

晶心科技

晶心科技

晶心科技股份有限公司于2005年之上半年成立于新竹科學(xué)園區(qū)的硅導(dǎo)竹科研發(fā)中心。晶心科技全力投入創(chuàng)新架構(gòu)高效能/低功耗的32/64位嵌入式處理器及相對(duì)應(yīng)系統(tǒng)芯片發(fā)展平臺(tái)的設(shè)計(jì)與發(fā)展,以便對(duì)全球快速成長(zhǎng)的嵌入式系統(tǒng)應(yīng)用提供服務(wù)。

晶心科技股份有限公司于2005年之上半年成立于新竹科學(xué)園區(qū)的硅導(dǎo)竹科研發(fā)中心。晶心科技全力投入創(chuàng)新架構(gòu)高效能/低功耗的32/64位嵌入式處理器及相對(duì)應(yīng)系統(tǒng)芯片發(fā)展平臺(tái)的設(shè)計(jì)與發(fā)展,以便對(duì)全球快速成長(zhǎng)的嵌入式系統(tǒng)應(yīng)用提供服務(wù)。收起

查看更多

相關(guān)推薦

電子產(chǎn)業(yè)圖譜