芯片產(chǎn)業(yè)新賽點(diǎn)：端側(cè)AI與生態(tài)破局

| 聚沙成塔，同舟共濟(jì)???????????

應(yīng)用爆發(fā)、終端牽引，是近兩年國(guó)內(nèi)芯片產(chǎn)業(yè)邁向高質(zhì)量發(fā)展的呼吁與共識(shí)。外部復(fù)雜環(huán)境，消費(fèi)電子市場(chǎng)疲軟，這些都在考驗(yàn)著終端產(chǎn)業(yè)的韌性，更深刻影響著上游的芯片行業(yè)。

進(jìn)入2024年，終端市場(chǎng)嶄露復(fù)蘇跡象，根源在于AI技術(shù)，尤其是生成式AI在終端應(yīng)用上開創(chuàng)了新局面。AI手機(jī)、AI PC、智能汽車、具身智能、智能家居、智能穿戴等，生成式AI正在為終端市場(chǎng)乃至芯片產(chǎn)業(yè)注入新的活力。

中國(guó)擁有豐富多樣的終端品牌，是全球最大的半導(dǎo)體應(yīng)用市場(chǎng)。在端側(cè)AI時(shí)代下，國(guó)內(nèi)眾多芯片企業(yè)相繼重兵投入，先發(fā)優(yōu)勢(shì)已然顯現(xiàn)。但半導(dǎo)體行業(yè)分工細(xì)，產(chǎn)業(yè)鏈環(huán)節(jié)多，如何讓半導(dǎo)體產(chǎn)業(yè)在AI上的資源“聚沙成塔”，發(fā)揮1+1＞2的效果？成為目前事關(guān)端側(cè)AI產(chǎn)業(yè)高質(zhì)量發(fā)展和企業(yè)商業(yè)化前景的重中之重。

日前，芯謀研究出席了由安謀科技主辦的端側(cè)AI生態(tài)研討會(huì)，期間眾多先鋒企業(yè)高管和資深技術(shù)專家云集，覆蓋了芯片、OEM/ODM、大模型、AI解決方案等國(guó)內(nèi)AI產(chǎn)業(yè)全鏈路，現(xiàn)場(chǎng)深入探討產(chǎn)業(yè)技術(shù)趨勢(shì)與落地案例，或許為上述設(shè)問(wèn)提供了新的解題思路。

終端AI時(shí)代已開啟，Arm架構(gòu)正持續(xù)引領(lǐng)

算法、數(shù)據(jù)和算力是驅(qū)動(dòng)AI技術(shù)發(fā)展的三駕馬車。2007年之前，AI技術(shù)處于起步階段，受限于算法和數(shù)據(jù)量，對(duì)芯片算力的需求并不迫切，通用CPU芯片尚且可滿足需求。而后的十幾年，隨著互聯(lián)網(wǎng)的普及，數(shù)據(jù)量噴涌，算法百家爭(zhēng)鳴，代表算力的芯片產(chǎn)業(yè)，也隨之演進(jìn)，從GPU到專用AI芯片，再到當(dāng)下的多元異構(gòu)計(jì)算方案。

2023年以來(lái)，生成式AI引爆行業(yè)，開啟了AI在應(yīng)用上的新篇，也為AI在終端上的全面滲透帶來(lái)機(jī)遇。未來(lái)十年，大模型將牽引AI，從數(shù)字世界走向物理世界，在手機(jī)、PC、智能汽車、機(jī)器人等智能終端落地，全面開啟大模型的端側(cè)AI時(shí)代。據(jù)Counterpoint預(yù)測(cè)，生成式AI手機(jī)滲透率有望從2023年的不到1%增長(zhǎng)至2027年的43%。其次是AI PC，Canalys預(yù)測(cè)2024年AI PC滲透率約19%，到2027年滲透率將超60%。穿戴設(shè)備、醫(yī)藥、高端制造等行業(yè)也開始積極采用AI技術(shù)。

算法更多樣、迭代更快速，然而在生產(chǎn)部署上大模型還面臨著模型壓縮、修正與對(duì)齊的挑戰(zhàn)，這是算法與場(chǎng)景結(jié)合上的典型表現(xiàn)。本次研討會(huì)現(xiàn)場(chǎng)，據(jù)智源人工智能研究院副院長(zhǎng)兼總工程師林詠華分享，大模型領(lǐng)域已經(jīng)呈現(xiàn)明顯的兩極分化，數(shù)百億級(jí)以上的強(qiáng)大稠密模型，或10B以下的小模型更受歡迎。即模型要么更強(qiáng)更大，要么更小更精。越來(lái)越多的小模型被發(fā)布和下載，10B以下的小模型成為現(xiàn)在整個(gè)開源社區(qū)下載量的主力。

端側(cè)AI的一大亮點(diǎn)是本地計(jì)算，數(shù)據(jù)避免了上傳云端，降低了通信帶寬，但對(duì)隱私保護(hù)和低延遲要求更高。這意味著在作為計(jì)算底層支持的芯片，在架構(gòu)上要更快速、靈活地適配各種AI模型，應(yīng)對(duì)帶寬、存儲(chǔ)的新挑戰(zhàn)，同時(shí)還要滿足終端產(chǎn)品低功耗、安全性、輕量化的市場(chǎng)要求。

在芯片架構(gòu)上，Arm架構(gòu)由于高性能、低功耗的特性，被終端芯片廠商廣泛認(rèn)可，超過(guò)99%的智能手機(jī)建立在Arm架構(gòu)基礎(chǔ)上。即便是在PC領(lǐng)域，近年來(lái)Arm架構(gòu)也憑借生態(tài)企業(yè)闖出一片天地，高通與微軟合作使Windows系統(tǒng)開始支持高通開發(fā)的Arm架構(gòu)處理器，基于Arm架構(gòu)的PC市占率連年攀升。

而在端側(cè)AI時(shí)代，對(duì)于芯片側(cè)的要求更多聚焦于算力、內(nèi)存、功耗、工藝、面積、散熱等關(guān)鍵詞上，如何在這些核心要素之間尋找最佳平衡點(diǎn)，成為AI芯片技術(shù)突破的關(guān)鍵。得益于完善的硬件IP產(chǎn)品、通用且應(yīng)用廣泛的軟件生態(tài)和平臺(tái)級(jí)的解決方案，Arm架構(gòu)正持續(xù)為AI在云側(cè)和端側(cè)的落地提供計(jì)算基礎(chǔ)，這意味著端側(cè)AI芯片的創(chuàng)新，有望延續(xù)Arm技術(shù)生態(tài)在終端和嵌入式設(shè)備的技術(shù)積累和生態(tài)優(yōu)勢(shì)。

國(guó)內(nèi)終端AI產(chǎn)業(yè)進(jìn)展，模型和算力“雙向奔赴”

終端AI體量最大，最貼近消費(fèi)者即最貼近應(yīng)用端的就是智能手機(jī)。作為終端代表，手機(jī)廠商也在積極擁抱終端AI時(shí)代的到來(lái)。2023年國(guó)內(nèi)手機(jī)廠商vivo發(fā)布了自研的藍(lán)心大模型BlueM-3B，成為國(guó)內(nèi)第一個(gè)發(fā)布大模型的手機(jī)廠商。據(jù)vivo?AI規(guī)劃高級(jí)總監(jiān)孟祥育表示，3B數(shù)據(jù)量大小的模型即可達(dá)到云端70B 80%以上的效果，并預(yù)測(cè)未來(lái)手機(jī)峰值算力將突破100TOPS，而目前大模型架構(gòu)對(duì)算力利用率在10%～20%。針對(duì)大模型架構(gòu)進(jìn)行算力優(yōu)化，提升利用率刻不容緩。

國(guó)內(nèi)模型明星公司面壁智能發(fā)布的MiniCPM 3.0，以其4B參數(shù)量在性能上逼近GPT-3.5水平, 在端側(cè)部署上實(shí)現(xiàn)了技術(shù)突破，其旗艦多模態(tài)產(chǎn)品將在端側(cè)全面對(duì)標(biāo)GPT-4V，讓端側(cè)實(shí)時(shí)視頻理解、長(zhǎng)圖難圖文本精準(zhǔn)識(shí)別成為可能。

另一方面，我們也看到諸多芯片企業(yè)正在加速針對(duì)端側(cè)AI的算力革新，以應(yīng)對(duì)當(dāng)下終端智能化躍遷的產(chǎn)業(yè)需求。從芯片上游的IP領(lǐng)域來(lái)看，安謀科技作為國(guó)內(nèi)該領(lǐng)域的頭部企業(yè)，基于自身的本土創(chuàng)新能力，在成立之初便推出了“周易”自研NPU，其正在研發(fā)的最新一代“周易”NPU針對(duì)Transformer算法，從軟硬協(xié)同角度進(jìn)行優(yōu)化，在功耗、面積、性能方面進(jìn)一步提升優(yōu)勢(shì)，并已成功與國(guó)內(nèi)外多款主流大模型完成兼容適配，賦能高性能AI計(jì)算。此外，安謀科技自研IP還可以與Arm通用IP組成異構(gòu)計(jì)算平臺(tái)，進(jìn)一步滿足AI計(jì)算任務(wù)對(duì)于多元算力的需求，以加速端側(cè)AI的落地。

而在芯片設(shè)計(jì)領(lǐng)域，作為安謀科技異構(gòu)計(jì)算平臺(tái)的最新實(shí)例成果，此芯科技的首款A(yù)I PC芯片“此芯P1”異構(gòu)集成了“周易”NPU以及Arm架構(gòu)CPU、GPU等，通過(guò)將各個(gè)計(jì)算單元應(yīng)用在不同應(yīng)用負(fù)載中，實(shí)現(xiàn)端側(cè)AI的高能效異構(gòu)計(jì)算。此芯科技還推出了AI PC開發(fā)套件新品Radxa Orion 06，搭載了“此芯P1”高能效Armv9處理器，可以基于異構(gòu)算力支持主流端側(cè)生成式AI大模型和傳統(tǒng)CNN模型。

國(guó)內(nèi)頭部手機(jī)芯片廠商紫光展銳則基于Arm架構(gòu)和生態(tài)，搭建起CPU、GPU、NPU以及整合的SoC底層算力平臺(tái)，覆蓋全場(chǎng)景通用AI算力（端側(cè)AI智能體）、多媒體專用AI算力和低功耗輕量AI算力等三大AI典型場(chǎng)景。讓AI手機(jī)能理解機(jī)主需求并主動(dòng)服務(wù)，完成整理會(huì)議紀(jì)要、提供郵件回復(fù)建議等個(gè)性化服務(wù)。

在端側(cè)AI中，CPU、GPU、NPU、VPU等多種算力單元的異構(gòu)計(jì)算，可以更充分地利用端側(cè)算力，是端側(cè)AI設(shè)備部署大模型的最優(yōu)解。然而,一方面我們看到的是基于端側(cè)AI所蘊(yùn)含的產(chǎn)業(yè)機(jī)遇的共識(shí)，終端設(shè)備和算力廠商，與下游的模型廠商正在相向而行，雙向奔赴。另一方面，則是多元異構(gòu)的AI算力卻面臨著巨大的技術(shù)挑戰(zhàn)，生態(tài)割裂與適配困難尤為突出。各廠商私有的、碎片化的軟件生態(tài)已經(jīng)成為用戶嘗試其他硬件時(shí)的最大障礙。芯片廠商在追趕AI算法和快速演進(jìn)的AI技術(shù)方面存在著明顯差距，軟件系統(tǒng)的遷移工作也給開發(fā)者帶來(lái)巨大的工作量以及高額的遷移代價(jià)。

對(duì)齊需求，打通端口，高效研發(fā)與迭代，快速推動(dòng)終端AI產(chǎn)業(yè)向前發(fā)展，是產(chǎn)業(yè)當(dāng)務(wù)之急。在本次活動(dòng)上，“AIPC和EdgeAI聯(lián)合實(shí)驗(yàn)室”正式揭牌。這是一個(gè)由安謀科技牽頭、聯(lián)合產(chǎn)業(yè)多方的人工智能平臺(tái)，囊括了IP和SoC芯片設(shè)計(jì)、OEM/ODM制造、操作系統(tǒng)/BIOS、AI大模型、AI應(yīng)用等產(chǎn)業(yè)全鏈路企業(yè)，專注于國(guó)內(nèi)本土AI生態(tài)建設(shè)、社區(qū)發(fā)展以及技術(shù)運(yùn)營(yíng)。

當(dāng)前，大模型在AIPC、AI手機(jī)、機(jī)器人等端側(cè)計(jì)算場(chǎng)景快速演進(jìn)，亟待整個(gè)產(chǎn)業(yè)鏈協(xié)力共建產(chǎn)業(yè)生態(tài)。據(jù)介紹，該聯(lián)合實(shí)驗(yàn)室的成立正是為了解決當(dāng)前產(chǎn)業(yè)鏈所面臨的共性問(wèn)題，加速端側(cè)AI在跨領(lǐng)域場(chǎng)景中的創(chuàng)新落地。后續(xù)，該聯(lián)合實(shí)驗(yàn)室將從硬件和芯片、軟件和算法、社區(qū)運(yùn)營(yíng)等層面全面發(fā)力，攜手包括芯片合作伙伴在內(nèi)的端側(cè)AI生態(tài)伙伴，對(duì)接Arm全球生態(tài)，打造中國(guó)本土兼容的AI生態(tài)系統(tǒng)，通過(guò)增強(qiáng)對(duì)AI市場(chǎng)的直接影響力，積極探索并推動(dòng)實(shí)際AI應(yīng)用的落地。

據(jù)公開消息顯示，目前已有智源人工智能研究院、紫光展銳、愛(ài)芯元智、六聯(lián)智能、系微軟件、此芯科技、億道數(shù)碼、輝羲智能、面壁智能、零一萬(wàn)物、中科加禾、瑞莎計(jì)算機(jī)等十幾家單位作為首批發(fā)起成員正式加入該聯(lián)合實(shí)驗(yàn)室，覆蓋國(guó)內(nèi)AI產(chǎn)業(yè)全鏈路。不難看出，由安謀科技牽頭組局的本土端側(cè)AI生態(tài)在成立伊始既已頗具規(guī)模。

值得一提的是，該聯(lián)合實(shí)驗(yàn)室由漕河涇開發(fā)區(qū)管理公司提供產(chǎn)業(yè)支撐。作為上?？苿?chuàng)中心重要承載區(qū)，漕河涇開發(fā)區(qū)目前已有上萬(wàn)家企業(yè)進(jìn)駐，其人工智能產(chǎn)業(yè)生態(tài)集聚，應(yīng)用場(chǎng)景豐富，將為AIPC和EdgeAI聯(lián)合實(shí)驗(yàn)室的發(fā)展提供創(chuàng)新沃土。

政策規(guī)劃提供宏觀指引，生態(tài)協(xié)同加速“AI+”發(fā)展

根據(jù)中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心發(fā)布的《生成式人工智能應(yīng)用發(fā)展報(bào)告（2024）》，截至2024年6月，我國(guó)生成式AI產(chǎn)品用戶規(guī)模已達(dá)2.3億人，備案產(chǎn)品超過(guò)309個(gè)，AI核心產(chǎn)業(yè)規(guī)模接近6000億元，相關(guān)企業(yè)超過(guò)4500家。產(chǎn)業(yè)鏈覆蓋芯片、算法、數(shù)據(jù)、平臺(tái)、應(yīng)用等關(guān)鍵環(huán)節(jié)，AI產(chǎn)業(yè)蓬勃發(fā)展。

今年政府工作報(bào)告首次強(qiáng)調(diào)“人工智能+”，標(biāo)志著人工智能與實(shí)體經(jīng)濟(jì)的深度融合被提升至國(guó)家戰(zhàn)略層面。四部門聯(lián)合發(fā)布的《國(guó)家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南（2024版）》進(jìn)一步明確了AI產(chǎn)業(yè)的發(fā)展方向，旨在推動(dòng)產(chǎn)業(yè)高質(zhì)量發(fā)展。

在應(yīng)用端，軟件工具正逐步整合生產(chǎn)式AI功能。相信在2025年，AI將更深入地融入人們的日常生活，AI終端將無(wú)處不在，覆蓋衣食住行，極大提升生活質(zhì)量和效率。隨著5G、物聯(lián)網(wǎng)和邊緣計(jì)算的普及，端側(cè)AI的應(yīng)用空間將進(jìn)一步擴(kuò)大，為終端設(shè)備帶來(lái)新一輪的創(chuàng)新周期。芯片產(chǎn)業(yè)作為AI的底層硬件，應(yīng)把握這一時(shí)機(jī)，加速技術(shù)創(chuàng)新和產(chǎn)品升級(jí)。

芯片和AI產(chǎn)業(yè)的發(fā)展早已超越國(guó)界，形成了全球性的市場(chǎng)和產(chǎn)業(yè)鏈。為了在終端市場(chǎng)獲得持久的競(jìng)爭(zhēng)優(yōu)勢(shì)，芯片和AI產(chǎn)業(yè)必須積極融入全球生態(tài)，通過(guò)國(guó)際合作與競(jìng)爭(zhēng)，實(shí)現(xiàn)技術(shù)、資本和市場(chǎng)的深度融合。終端AI呼喚著終端芯片的迭代與創(chuàng)新，這是芯片產(chǎn)業(yè)前所未有的機(jī)遇。

作為底層架構(gòu)與生態(tài)的技術(shù)基石，Arm架構(gòu)是整個(gè)終端生態(tài)的根系之源，安謀科技是國(guó)內(nèi)芯片產(chǎn)業(yè)接軌全球標(biāo)準(zhǔn)的關(guān)鍵紐帶。相信借助安謀科技這一生態(tài)窗口，憑借國(guó)產(chǎn)終端市場(chǎng)與AI產(chǎn)業(yè)先發(fā)優(yōu)勢(shì)，國(guó)產(chǎn)終端AI芯片會(huì)實(shí)現(xiàn)彎道超車，在生成式AI與終端設(shè)備的蝶變浪潮中占據(jù)有利身位。

結(jié)語(yǔ)

國(guó)內(nèi)產(chǎn)業(yè)鏈完整、市場(chǎng)規(guī)模龐大，加之應(yīng)用側(cè)的多元化發(fā)展和終端側(cè)的同步創(chuàng)新，是本土產(chǎn)業(yè)鏈在全球AI產(chǎn)業(yè)中的顯著優(yōu)勢(shì)。這些優(yōu)勢(shì)不僅推動(dòng)了國(guó)內(nèi)產(chǎn)業(yè)的快速發(fā)展，也為國(guó)際合作提供了堅(jiān)實(shí)的基礎(chǔ)。

在芯片和AI產(chǎn)業(yè)的共同促進(jìn)下，通過(guò)緊密合作和資源共享，國(guó)內(nèi)產(chǎn)業(yè)鏈正在快速成長(zhǎng)與強(qiáng)大。在安謀科技等生態(tài)型企業(yè)的牽引下，AI?PC和邊緣智能等產(chǎn)業(yè)生態(tài)的創(chuàng)新發(fā)展，將為端側(cè)AI產(chǎn)業(yè)協(xié)同創(chuàng)新樹立良好典范。隨著芯片、AI以及終端產(chǎn)業(yè)通過(guò)共建生態(tài)，協(xié)同發(fā)力，相信本土芯片產(chǎn)業(yè)將借助端側(cè)AI的創(chuàng)新力量，把握技術(shù)變革帶來(lái)的產(chǎn)業(yè)機(jī)遇，釋放廣闊的增長(zhǎng)潛力。