愛芯元智榮登2024福布斯中國人工智能科技企業(yè)TOP50，端側算力引領智能未來

福布斯中國在上海浦東香格里拉大酒店隆重舉辦了2024福布斯中國人工智能科技企業(yè)峰會。在此次盛會上，愛芯元智憑借其卓越的技術創(chuàng)新和市場影響力，從眾多競爭者中脫穎而出，成功登上福布斯中國人工智能科技企業(yè)TOP50榜單。這一殊榮不僅是對愛芯元智在人工智能領域所取得成就的高度肯定，也標志著其在推動智能科技進步和普惠方面的領先地位。

公開資料顯示，愛芯元智半導體股份有限公司成立于2019年5月，致力于打造世界領先的人工智能感知與邊緣計算芯片，擁有愛芯智眸AI-ISP和愛芯通元混合精度NPU兩大核心自研技術，廣泛服務于智慧城市、智能駕駛、機器人以及AR/VR等巨大的邊緣和端側設備市場。

其中，愛芯元智混合精度NPU“愛芯通元”正式亮相于去年7月，其第三代人工智能芯片AX650N在端側和邊緣側部署Transformer的領先優(yōu)勢公之于眾。這款NPU采用多線程異構多核設計，專為高效支持混合精度算法而打造，原生支持Transformer網(wǎng)絡結構，為大模型在邊緣側和端側的應用提供了堅實的基礎。愛芯通元混合精度NPU以算子為原子指令集，可編程數(shù)據(jù)流架構，實現(xiàn)算子、網(wǎng)絡微結構、數(shù)據(jù)流和內(nèi)存訪問的優(yōu)化，大幅提升了能效比。其在運行SwinT模型時，量化精度達到了高于市面平均水平的80.45%，并且具有416 FPS的高性能和199 FPS/W的低功耗表現(xiàn)，顯著領先于同類產(chǎn)品。此外，愛芯通元NPU還提供了成熟易用的編譯器，極大降低了AI軟件的開發(fā)和部署成本，使客戶能夠在一小時內(nèi)快速上手，推動AI計算的蓬勃發(fā)展。

愛芯元智自研的愛芯智眸AI-ISP結合愛芯通元混合精度NPU，顛覆了傳統(tǒng)圖像處理技術，不僅極大提高了AI識別率，還解決了低照和寬動態(tài)成像的難題，實現(xiàn)了黑光全彩成像，并顯著降低了設備的綜合成本。

截至目前，愛芯通元NPU完成了多個主流大語言模型的適配，包括Llama 3、Phi-3-mini、Llama 2、TinyLlama、Phi-2、Qwen1.5和ChatGLM3等，在高效支持復雜AI任務的同時，確保了大模型技術在端側和邊緣側的普及。AX650N對Llama 3 8B Int8版本的適配以及Int4量化處理進一步提升了每秒token處理數(shù)，滿足了流暢的人機交流需求。這一系列突破源自愛芯元智團隊對NPU工具鏈的持續(xù)優(yōu)化，確保了大語言模型在其平臺上的高效運行。

作為AI處理器，愛芯通元NPU通過在不同精度級別上分配計算任務，提升硬件利用率和計算吞吐量，縮短AI-ISP在圖像信號處理中的推理時間，實現(xiàn)實時或近實時的圖像分析和理解。其系統(tǒng)級集成設計簡化了架構，減少了數(shù)據(jù)傳輸開銷，提高了整體系統(tǒng)的集成度和效率。愛芯通元NPU還支持混合精度計算，使高精度模型可以經(jīng)過量化后在低精度模式下運行，增強了AI-ISP對預訓練模型的兼容性，便于快速部署和更新算法。

愛芯通元NPU不僅實現(xiàn)了在端側和邊緣側高效部署AI大模型的目標，還通過減少內(nèi)存墻和功耗墻的阻礙，在有限的面積和功耗下提供了更高的有效算力。這一突破性進展將大大降低AI部署成本，使更多行業(yè)能夠受益于先進的人工智能技術，加速智能助手在終端設備上的普及，推動AI技術在智慧城市、智能駕駛和AIoT等領域的廣泛應用。愛芯元智的創(chuàng)新不僅體現(xiàn)了其在AI芯片領域的領導地位，也展示了其助力各行各業(yè)實現(xiàn)智能化轉型的堅定承諾。

愛芯元智的創(chuàng)新不僅體現(xiàn)在技術上，也體現(xiàn)在其市場應用中。愛芯元智的前端IPC芯片已成功移植并優(yōu)化了市場上主流算法，實現(xiàn)了與后端芯片的無縫對接，并與成熟的算法廠商深度合作，打造出易于復制、快速部署的解決方案。

在創(chuàng)新的征途上，愛芯元智將繼續(xù)秉承“普惠AI造就美好生活”的理念，深耕AI技術，不斷推動端側和邊緣側的智能化、精準化和高效化。隨著5G技術的普及和物聯(lián)網(wǎng)（IoT）設備的增多，端側AI的應用場景也在不斷擴展。從智能家居到工業(yè)自動化，從智能交通到智慧城市，端側AI正在成為連接物理世界和數(shù)字世界的橋梁。愛芯元智也將致力于構建開放、合作、共贏的生態(tài)系統(tǒng)，與各方伙伴攜手，共同開拓AI技術的無限可能，為各種智慧應用場景提供強大的底層技術支持，助力全社會智慧愿景的實現(xiàn)。